OPINIÃO – Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe

A inteligência artificial (IA) é um campo da ciência da computação focado no desenvolvimento de sistemas e programas capazes de realizar tarefas que normalmente exigem inteligência humana, como reconhecimento de fala, visão computacional, tomada de decisões, aprendizado e resolução de problemas. Embora seu uso possa ser extremamente benéfico, também levanta diversas questões que precisam ser abordadas com urgência.

Por exemplo, a transformação do trabalho e a desigualdade digital representam desafios profundos, especialmente em regiões como a América Latina e o Caribe, onde as desigualdades estruturais já são acentuadas. A automação impulsionada pela inteligência artificial está remodelando o mercado de trabalho, eliminando empregos em setores tradicionalmente ocupados por trabalhadores menos qualificados e concentrando oportunidades em áreas de alta especialização tecnológica. Isso reforça as lacunas existentes, uma vez que o acesso a treinamento avançado e recursos digitais permanece limitado para grandes segmentos da população. Além disso, a desigualdade digital não se limita ao acesso à tecnologia, mas também se estende às habilidades necessárias para utilizá-la de forma significativa, perpetuando padrões históricos de exclusão com base em gênero, etnia e condição socioeconômica.

Além disso, as mudanças e os impactos da IA ​​na privacidade e na vigilância são preocupantes. Por exemplo, o uso intensivo de algoritmos para coletar, analisar e utilizar dados pessoais levanta sérias preocupações sobre como os direitos individuais são garantidos em um contexto no qual essas tecnologias operam como "caixas-pretas". Isso pode levar a práticas discriminatórias, como o racismo algorítmico ou a vigilância desproporcional de certos grupos sociais. Casos como a identificação incorreta de pessoas em sistemas de reconhecimento facial ou o uso de algoritmos para prever "riscos" com base em dados tendenciosos ilustram os perigos da implementação da IA ​​sem controles éticos e regulatórios adequados.

Nesse contexto, a Recomendação da UNESCO sobre a Ética da Inteligência Artificial , adotada em novembro de 2021 por 193 Estados-Membros, representa o primeiro marco ético global a abordar esses desafios. Seus objetivos incluem assegurar equidade, transparência e responsabilidade no desenvolvimento e uso da IA, com foco especial na prevenção da perpetuação de desigualdades estruturais, usos discriminatórios com base em cor da pele, gênero, idade, nacionalidade e outros fatores, e na proteção de grupos vulneráveis. Além disso, a Recomendação destaca a necessidade de regulamentar as "caixas-pretas" algorítmicas para garantir que os processos de tomada de decisão sejam auditáveis ​​e compreensíveis, e para promover a inclusão de diversas perspectivas no desenvolvimento dessas tecnologias.

À medida que a IA transforma setores-chave como saúde, educação e segurança, seu desenvolvimento deve estar alinhado a sólidos princípios éticos. Isso não apenas mitigará os riscos de discriminação e exclusão, mas também garantirá que os benefícios da IA ​​sejam distribuídos de forma equitativa, contribuindo para o bem-estar global e uma sociedade mais inclusiva.

Assim, a CLACSO e a UNESCO Equador lançaram a chamada de propostas "Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe ", cujo principal objetivo é a produção de documentos de políticas públicas que promovam a sinergia entre a pesquisa acadêmica e a tomada de decisões públicas informadas, por meio do desenvolvimento de análises, recomendações de políticas e ações de intervenção social baseadas no uso ético e responsável da IA.

Foram abertos 75 formulários e recebidas 35 candidaturas que, após a análise técnica e formal, puderam ser avaliadas qualitativamente pelo Comité Internacional, que considerou a qualidade, a relevância e a coerência das propostas de acordo com o Edital.

O processo de avaliação foi realizado por um Comitê Internacional composto por nove especialistas de quatro países: Marco Benalcázar (Equador), Marta Bianchi (Argentina), Carolina Hevia (Equador), Silvia Lago Martínez (Argentina), Fernando Laredo (Argentina), Graciela Nathanson (Argentina), Isabel Ramos (Equador), Carla Texeira (Brasil) e Stephane Vinolo (França). Este comitê conduziu a primeira fase de avaliação dos projetos submetidos.

Numa segunda fase, a equipa organizadora, composta pela CLACSO e pela UNESCO, analisou as propostas tendo em conta os critérios do concurso, a qualidade técnica das propostas, a relevância dos temas a serem trabalhados no âmbito da Recomendação da UNESCO sobre a Ética da Inteligência Artificial , o equilíbrio das áreas de desenvolvimento da investigação, entre outros critérios técnicos e metodológicos.

Após todo o processo de avaliação, que reconheceu a excelente qualidade, relevância e rigor da maioria das candidaturas, foram selecionadas cinco (5) propostas para o desenvolvimento dos documentos de política , em pelo menos 3 delas, a presença de investigadores com trabalho no Equador e/ou sobre o Equador.

A lista das propostas selecionadas no Edital de Propostas é a seguinte:

Esta decisão é irrevogável e não pode ser contestada.

Buenos Aires e Quito, 3 de dezembro de 2024