OPINIÃO – Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe

A inteligência artificial (IA) é um campo da ciência da computação focado no desenvolvimento de sistemas e programas capazes de realizar tarefas que normalmente exigem inteligência humana, como reconhecimento de fala, visão computacional, tomada de decisões, aprendizado e resolução de problemas. Embora seu uso possa ser extremamente benéfico, também levanta diversas questões que precisam ser abordadas com urgência.

Por exemplo, a transformação do trabalho e a desigualdade digital representam desafios profundos, especialmente em regiões como a América Latina e o Caribe, onde as desigualdades estruturais já são acentuadas. A automação impulsionada pela inteligência artificial está remodelando o mercado de trabalho, eliminando empregos em setores tradicionalmente ocupados por trabalhadores menos qualificados e concentrando oportunidades em áreas de alta especialização tecnológica. Isso reforça as lacunas existentes, uma vez que o acesso a treinamento avançado e recursos digitais permanece limitado para grandes segmentos da população. Além disso, a desigualdade digital não se limita ao acesso à tecnologia, mas também se estende às habilidades necessárias para utilizá-la de forma significativa, perpetuando padrões históricos de exclusão com base em gênero, etnia e condição socioeconômica.

Além disso, as mudanças e os impactos da IA ​​na privacidade e na vigilância são preocupantes. Por exemplo, o uso intensivo de algoritmos para coletar, analisar e utilizar dados pessoais levanta sérias preocupações sobre como os direitos individuais são garantidos em um contexto no qual essas tecnologias operam como "caixas-pretas". Isso pode levar a práticas discriminatórias, como o racismo algorítmico ou a vigilância desproporcional de certos grupos sociais. Casos como a identificação incorreta de pessoas em sistemas de reconhecimento facial ou o uso de algoritmos para prever "riscos" com base em dados tendenciosos ilustram os perigos da implementação da IA ​​sem controles éticos e regulatórios adequados.

Neste contexto, o Recomendação da UNESCO sobre a Ética da Inteligência ArtificialAdotada em novembro de 2021 por 193 Estados-Membros, a Estrutura de Inteligência Artificial para o Desenvolvimento dos Direitos Humanos representa o primeiro quadro ético global a abordar esses desafios. Seus objetivos incluem assegurar equidade, transparência e responsabilização na concepção e utilização da IA, com foco especial na prevenção da perpetuação de desigualdades estruturais, usos discriminatórios com base em cor da pele, gênero, idade, nacionalidade e outros fatores, e na proteção de grupos vulneráveis. Além disso, destaca a necessidade de regulamentar as "caixas-pretas" algorítmicas para garantir que os processos de tomada de decisão sejam auditáveis ​​e compreensíveis, e para promover a inclusão de diversas perspectivas no desenvolvimento dessas tecnologias.

À medida que a IA transforma setores-chave como saúde, educação e segurança, seu desenvolvimento deve estar alinhado a sólidos princípios éticos. Isso não apenas mitigará os riscos de discriminação e exclusão, mas também garantirá que os benefícios da IA ​​sejam distribuídos de forma equitativa, contribuindo para o bem-estar global e uma sociedade mais inclusiva.

Portanto, a CLACSO e a UNESCO Equador lançaram o apelo. Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe, cujo principal objetivo é a produção de Resumos de política que promovam a sinergia entre a pesquisa acadêmica e a tomada de decisões públicas informadas, por meio do desenvolvimento de análises, recomendações políticas e ações de intervenção social baseadas no uso ético e responsável da IA.

Eles abriram 75 formulários e foram finalmente recebidos 35 candidaturas que, após a análise técnica e formal, estavam em condições de serem avaliadas qualitativamente pelo Comité Internacional, a fim de considerar a qualidade, a relevância e a coerência das propostas, de acordo com o Concurso. 

O processo de avaliação foi realizado por um Comitê Internacional composto por 9 especialistas 4 Os membros do comitê foram: Marco Benalcázar (Equador), Marta Bianchi (Argentina), Carolina Hevia (Equador), Silvia Lago Martínez (Argentina), Fernando Laredo (Argentina), Graciela Nathanson (Argentina), Isabel Ramos (Equador), Carla Texeira (Brasil) e Stephane Vinolo (França). Este comitê realizou a primeira fase de avaliação dos projetos apresentados.

Como segunda fase, a equipe organizadora, composta pela CLACSO e pela UNESCO, analisou as propostas levando em consideração as diretrizes da chamada, a qualidade técnica das propostas e a relevância dos temas a serem abordados no âmbito do projeto. Recomendação sobre a Ética da Inteligência Artificial O equilíbrio das áreas de desenvolvimento da investigação da UNESCO, entre outros critérios técnicos e metodológicos. 

Após todo o processo de avaliação, que reconheceu a excelente qualidade, relevância e rigor da maioria das candidaturas, cinco (5) propostas foram selecionadas para o desenvolvimento do resumos de políticaEm pelo menos 3 delas, há a presença de pesquisadores que trabalham no Equador e/ou sobre o Equador.

A lista das propostas selecionadas no Edital de Propostas é a seguinte:

Esta decisão é irrevogável e não pode ser contestada.

Buenos Aires e Quito, 3 de dezembro de 2024