Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe

CHAMADA PARA EQUIPES DE PESQUISA OU INDIVÍDUO

– com ênfase no Equador –

Plataformas para o Diálogo Social

Encerramento das inscrições: 2 setembro 2024

REGISTRO

A inteligência artificial (IA) é um campo da ciência da computação que se concentra no desenvolvimento de sistemas e programas de computador capazes de executar tarefas que normalmente exigem inteligência humana; por exemplo, reconhecimento de fala, visão computacional, tomada de decisões, aprendizado e resolução de determinados problemas.

Embora seu uso possa ser muito útil, vários problemas que ele pode acarretar devem ser considerados. Por exemplo, a transformação do trabalho e a exclusão digital, que estão intrinsecamente ligadas a múltiplas desigualdades que se reproduzem na região. Além disso, as mudanças e os impactos que produz na privacidade e na vigilância, visto que, por exemplo, o uso de algoritmos de IA para coletar, analisar e utilizar dados pessoais levanta preocupações nesse sentido.

Inevitavelmente, seu uso acarreta mudanças na interação social, pois a integração de sistemas de IA em nosso cotidiano está transformando a maneira como interagimos com a tecnologia e com outras pessoas. De chatbots de atendimento ao cliente a assistentes virtuais em casa.

Por isso, é crucial considerar a ética e a responsabilidade ao usar IA, o que levanta importantes questões éticas sobre quem é responsável quando sistemas automatizados tomam decisões com implicações significativas para as pessoas. Isso inclui questões de viés algorítmico, transparência e imparcialidade no projeto e uso de sistemas de IA.

Em resumo, a inteligência artificial tem o potencial de gerar benefícios significativos, mas também apresenta desafios sociais importantes que devem ser abordados com cuidado e atenção para garantir que seu desenvolvimento e aplicação contribuam para o bem-estar humano e a justiça social.

É nesse sentido que a presente iniciativa, realizada pelo Escritório da UNESCO em Quito e sua Representação no Equador, e pela CLACSO, busca assegurar que o uso da IA ​​esteja direcionado para o enfrentamento de desafios sociais, promovendo soluções éticas e inovadoras que fomentem a justiça e a equidade.

O projeto está em estreita consonância com a "Recomendação sobre a Ética da Inteligência Artificial" da UNESCO. A importância desta Recomendação reside no seu papel como guia para garantir que os avanços na IA beneficiem toda a sociedade, com especial enfoque nos grupos mais vulneráveis.

Ao aderir a esses princípios, este Apelo busca não apenas promover o avanço da tecnologia de IA, mas fazê-lo de uma forma que respeite e promova a dignidade humana, a justiça social e a inclusão.

Esta é uma oportunidade significativa para promover o uso ético e responsável da inteligência artificial (IA), abordando diretamente problemas sociais críticos no Equador, na América Latina e no Caribe. Este esforço concentra-se no desenvolvimento e na adoção de soluções inovadoras de políticas públicas baseadas em IA, concebidas para enfrentar diretamente os desafios sociais. Por meio de colaboração estratégica e um firme compromisso com a ética na implementação da IA, o projeto visa promover soluções sociotécnicas que beneficiem a sociedade de forma abrangente, com ênfase especial no apoio aos grupos mais vulneráveis. Essencialmente, este projeto busca ser um catalisador para o progresso tecnológico que não apenas aprimore as capacidades da IA, mas também promova justiça social, equidade e inclusão, garantindo que os benefícios da IA ​​se estendam por toda a sociedade e contribuam para a solução de problemas sociais fundamentais.

Por sua vez, a CLACSO promove o desenvolvimento de Plataformas para o Diálogo Social (PDS), concebidas como espaços de trabalho, troca de ideias e propostas multissetoriais e multidimensionais. Da mesma forma, a rede CLACSO tem fomentado espaços e iniciativas para a produção participativa e colaborativa de conhecimento sobre esses temas, por meio de chamadas de pesquisa anteriores, grupos de trabalho, programas de formação e publicações.

O principal objetivo da Chamada é a produção de Resumos de política que promovam a sinergia entre a pesquisa acadêmica e a tomada de decisões públicas informadas, por meio do desenvolvimento de análises, recomendações políticas e ações de intervenção social baseadas no uso ético e responsável da IA.

Esses documentos devem ser dirigidos a tomadores de decisão e outras partes interessadas importantes, propondo soluções baseadas em IA para desafios sociais específicos. Entre as principais propostas estão:

• Promover a inclusão e a equidade: Utilizar a IA para combater as desigualdades e promover a inclusão social de grupos vulneráveis.
• Garantir transparência e ética: Contribuir para o desenvolvimento de soluções de IA que respeitem os princípios de transparência, ética, não discriminação e sustentabilidade ambiental.
• Promover uma transformação digital positiva das indústrias culturais e criativas.
• Divulgar os princípios éticos da implementação da IA ​​de acordo com a UNESCO: Ampliar o conhecimento considerando a "Recomendação da UNESCO sobre a Ética da Inteligência Artificial" na América Latina e no Caribe, promovendo sua integração em políticas e projetos de IA.
• Promover o conhecimento sobre os usos éticos e aplicados da IA ​​na educação.

Tópicos de interesse para a chamada de candidaturas e o resumos de política, relacionados aos OBJETIVOS DE DESENVOLVIMENTO SUSTENTÁVEL (ODS) promovidos pela UNESCO

1. Prevenção de preconceitos discriminatórios com base na cor da pele, etnia, gênero, idade e quaisquer outros motivos de discriminação.Este objetivo alinha-se principalmente com o ODS 10, "Redução das Desigualdades". Este ODS busca reduzir a desigualdade dentro e entre os países, e seu foco na promoção da inclusão social, econômica e política de todos, independentemente de idade, sexo, deficiência, raça, etnia, origem, religião ou qualquer outra condição, o torna o mais adequado para esta linha de trabalho.
2. luta contra as alterações climáticasEste objetivo está relacionado ao ODS 13, "Ação contra a Mudança Global do Clima". Este ODS exige ações urgentes para combater as mudanças climáticas e seus impactos. A aplicação da IA ​​para desenvolver estratégias que neutralizem os efeitos das mudanças climáticas é fundamental para alcançar esse objetivo.
3. Prevenção de discurso de ódio e AMIEste trabalho está relacionado ao ODS 16, “Paz, Justiça e Instituições Eficazes”. Este objetivo promove sociedades pacíficas e inclusivas para o desenvolvimento sustentável, proporciona acesso à justiça para todos e constrói instituições eficazes, responsáveis ​​e inclusivas em todos os níveis. Combater o discurso de ódio é crucial para promover a paz, a não violência e a justiça.
4. EducaçãoEsta linha de trabalho está ligada ao ODS 4, que preconiza "educação inclusiva, equitativa e de qualidade ao longo da vida". Este ODS busca garantir educação inclusiva, equitativa e de qualidade, promovendo oportunidades de aprendizagem ao longo da vida para todos, assegurando que a educação aborde os principais desafios do mundo contemporâneo. A IA pode ser uma ferramenta valiosa para personalizar o ensino e tornar a educação mais acessível, especialmente para grupos historicamente excluídos. Além disso, é importante considerar como aproveitar as novas tecnologias e inovações digitais para garantir uma aprendizagem mais integrativa, inclusiva, eficaz e relevante no mundo contemporâneo, a partir de uma perspectiva ética e educacional sobre inteligência artificial.
5. Direitos autorais e conhecimento aberto na esfera culturalEste objetivo está relacionado ao ODS 9, "Indústria, Inovação e Infraestrutura", especificamente por seu foco na promoção da inovação e infraestrutura sustentável, a partir de uma perspectiva que valoriza o equilíbrio entre a promoção do acesso aberto ao conhecimento e à cultura por meio de licenças Creative Commons e a proteção dos direitos de propriedade intelectual, destacando, assim, sua importância na inovação e na infraestrutura sustentável.
6. Promoção da diversidade cultural: Este objetivo está alinhado com o ODS 11, “Cidades e Comunidades Sustentáveis”, particularmente com sua meta de fortalecer os esforços para proteger e salvaguardar o patrimônio cultural mundial. Promover a diversidade cultural por meio da IA ​​pode contribuir para tornar as cidades e os assentamentos humanos inclusivos, seguros, resilientes e sustentáveis.

O projeto “Justiça Algorítmica” representa uma oportunidade significativa para promover o uso ético e responsável da inteligência artificial (IA), abordando diretamente problemas sociais críticos no Equador, na América Latina e no Caribe. Este esforço concentra-se no desenvolvimento e na adoção de soluções inovadoras de políticas públicas baseadas em IA, concebidas para enfrentar diretamente os desafios sociais. Por meio de colaboração estratégica e um firme compromisso com a ética na implementação da IA, o projeto visa promover soluções sociotécnicas que beneficiem a sociedade de forma abrangente, com ênfase especial no apoio aos grupos mais vulneráveis. Essencialmente, este projeto busca ser um catalisador para o progresso tecnológico que não apenas aprimore as capacidades da IA, mas também promova a justiça social, a equidade e a inclusão, garantindo que os benefícios da IA ​​se estendam por toda a sociedade e contribuam para a solução de problemas sociais fundamentais.

REGRAS DO CONCURSO

REGISTRO

Data limite para envio de propostas: 2 de setembro de 2024
Os vencedores serão anunciados em outubro de 2024.
desenvolvimento Resumo de PolíticaOutubro de 2024 a fevereiro de 2025
apresentação Resumo de Política Data final: 28 de fevereiro de 2025

Os resultados serão publicados no site da CLACSO. Os vencedores serão contatados por e-mail.
Consultas: [email protected]
Bases e formas neste link.

---

OPINIÃO – Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe

A inteligência artificial (IA) é um campo da ciência da computação focado no desenvolvimento de sistemas e programas capazes de realizar tarefas que normalmente exigem inteligência humana, como reconhecimento de fala, visão computacional, tomada de decisões, aprendizado e resolução de problemas. Embora seu uso possa ser extremamente benéfico, também levanta diversas questões que precisam ser abordadas com urgência.

Por exemplo, a transformação do trabalho e a desigualdade digital representam desafios profundos, especialmente em regiões como a América Latina e o Caribe, onde as desigualdades estruturais já são acentuadas. A automação impulsionada pela inteligência artificial está remodelando o mercado de trabalho, eliminando empregos em setores tradicionalmente ocupados por trabalhadores menos qualificados e concentrando oportunidades em áreas de alta especialização tecnológica. Isso reforça as lacunas existentes, uma vez que o acesso a treinamento avançado e recursos digitais permanece limitado para grandes segmentos da população. Além disso, a desigualdade digital não se limita ao acesso à tecnologia, mas também se estende às habilidades necessárias para utilizá-la de forma significativa, perpetuando padrões históricos de exclusão com base em gênero, etnia e condição socioeconômica.

Além disso, as mudanças e os impactos da IA ​​na privacidade e na vigilância são preocupantes. Por exemplo, o uso intensivo de algoritmos para coletar, analisar e utilizar dados pessoais levanta sérias preocupações sobre como os direitos individuais são garantidos em um contexto no qual essas tecnologias operam como "caixas-pretas". Isso pode levar a práticas discriminatórias, como o racismo algorítmico ou a vigilância desproporcional de certos grupos sociais. Casos como a identificação incorreta de pessoas em sistemas de reconhecimento facial ou o uso de algoritmos para prever "riscos" com base em dados tendenciosos ilustram os perigos da implementação da IA ​​sem controles éticos e regulatórios adequados.

Neste contexto, o Recomendação da UNESCO sobre a Ética da Inteligência ArtificialAdotada em novembro de 2021 por 193 Estados-Membros, a Estrutura de Inteligência Artificial para o Desenvolvimento dos Direitos Humanos representa o primeiro quadro ético global a abordar esses desafios. Seus objetivos incluem assegurar equidade, transparência e responsabilização na concepção e utilização da IA, com foco especial na prevenção da perpetuação de desigualdades estruturais, usos discriminatórios com base em cor da pele, gênero, idade, nacionalidade e outros fatores, e na proteção de grupos vulneráveis. Além disso, destaca a necessidade de regulamentar as "caixas-pretas" algorítmicas para garantir que os processos de tomada de decisão sejam auditáveis ​​e compreensíveis, e para promover a inclusão de diversas perspectivas no desenvolvimento dessas tecnologias.

À medida que a IA transforma setores-chave como saúde, educação e segurança, seu desenvolvimento deve estar alinhado a sólidos princípios éticos. Isso não apenas mitigará os riscos de discriminação e exclusão, mas também garantirá que os benefícios da IA ​​sejam distribuídos de forma equitativa, contribuindo para o bem-estar global e uma sociedade mais inclusiva.

Portanto, a CLACSO e a UNESCO Equador lançaram o apelo. Justiça Algorítmica: Uma Inteligência Artificial Ética para a América Latina e o Caribe, cujo principal objetivo é a produção de Resumos de política que promovam a sinergia entre a pesquisa acadêmica e a tomada de decisões públicas informadas, por meio do desenvolvimento de análises, recomendações políticas e ações de intervenção social baseadas no uso ético e responsável da IA.

Eles abriram 75 formulários e foram finalmente recebidos 35 candidaturas que, após a análise técnica e formal, estavam em condições de serem avaliadas qualitativamente pelo Comité Internacional, a fim de considerar a qualidade, a relevância e a coerência das propostas, de acordo com o Concurso. 

O processo de avaliação foi realizado por um Comitê Internacional composto por 9 especialistas 4 Os membros do comitê foram: Marco Benalcázar (Equador), Marta Bianchi (Argentina), Carolina Hevia (Equador), Silvia Lago Martínez (Argentina), Fernando Laredo (Argentina), Graciela Nathanson (Argentina), Isabel Ramos (Equador), Carla Texeira (Brasil) e Stephane Vinolo (França). Este comitê realizou a primeira fase de avaliação dos projetos apresentados.

Como segunda fase, a equipe organizadora, composta pela CLACSO e pela UNESCO, analisou as propostas levando em consideração as diretrizes da chamada, a qualidade técnica das propostas e a relevância dos temas a serem abordados no âmbito do projeto. Recomendação sobre a Ética da Inteligência Artificial O equilíbrio das áreas de desenvolvimento da investigação da UNESCO, entre outros critérios técnicos e metodológicos. 

Após todo o processo de avaliação, que reconheceu a excelente qualidade, relevância e rigor da maioria das candidaturas, cinco (5) propostas foram selecionadas para o desenvolvimento do resumos de políticaEm pelo menos 3 delas, há a presença de pesquisadores que trabalham no Equador e/ou sobre o Equador.

A lista das propostas selecionadas no Edital de Propostas é a seguinte:

Autores	Central do Associado	País	Título da proposta
Lisbeth Moya González, José Antonio Figueroa	Instituto de Pesquisa Econômica da Universidade Central do Equador – IIE/UCE	Equador	O uso da Inteligência Artificial (IA) para a reconstrução de centros de memória afrodescendentes em Cuba e no Equador.
Ezequiel Alexander Rivero, Helena Martins do Rêgo Barreto, Angy Floremma Mora Noguera	Centro de Estudos Avançados – FCS/UNC – Faculdade de Ciências Sociais – Universidade Nacional de Córdoba	Argentina	Inteligência Artificial nas Indústrias Culturais: Proteção do trabalho, promoção da diversidade cultural e justiça algorítmica
Isabel Ponce	Centro Internacional de Estudos Superiores em Comunicação para a América Latina – CIESPAL	Equador	Adaptação de professores à IA GenAI no sistema educacional equatoriano por meio de métodos mistos
Saudia Levoyer, Lila Luchessi, Fernando José Barrio	Programa de Estudos Latino-Americanos – PEL/UASB – Universidade Andina Simón Bolívar	Equador	Inteligência Artificial para Ação Climática: Soluções Éticas e Inovadoras para Mitigar as Mudanças Climáticas na América Latina e no Caribe
Alexandra Gualavisí, Ángel Gutiérrez, María Belén Albornoz	Faculdade Latino-Americana de Ciências Sociais, Equador – FLACSO	Equador	Rumo a uma Política de Proteção Social inclusiva, transparente e ética baseada em Inteligência Artificial no Equador

Esta decisão é irrevogável e não pode ser contestada.

Buenos Aires e Quito, 3 de dezembro de 2024