Justice algorithmique : une intelligence artificielle éthique pour l’Amérique latine et les Caraïbes

APPEL À ÉQUIPES DE RECHERCHE O INDIVIDUAL

– con énfasis en Ecuador –

Plateformes pour le dialogue social

Clôture des inscriptions : 2 Septembre 2024

S'INSCRIRE

La inteligencia artificial (IA) es un campo de la informática que se centra en el desarrollo de sistemas y programas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana; por ejemplo, el reconocimiento de voz, la visión por computadora, la toma de decisiones, el aprendizaje y la resolución de determinados problemas.

Si bien su uso puede ser de gran ayuda, se deben considerar diversas problemáticas que el mismo pueden traer aparejadas. Por ejemplo, la transformación del trabajo y la desigualdad digital, que se entraman con desigualdades múltiples que se reproducen en la región. También, los cambios e impactos que producen sobre la privacidad y vigilancia, ya que, por ejemplo, el uso de algoritmos de IA para recopilar, analizar y utilizar datos personales plantea preocupaciones en ese sentido.

Inevitablemente, su uso reviste cambios en la interacción social, porque la integración de sistemas de IA en nuestras vidas cotidianas está cambiando la forma en que interactuamos con la tecnología y con las otras personas. Desde chatbots de atención al cliente hasta asistentes virtuales en el hogar.

Es por esto que es central pensar en una ética y responsabilidad a la hora de su uso, hecho que plantea preguntas éticas importantes sobre quién es responsable cuando los sistemas automatizados toman decisiones con implicaciones significativas para las personas. Esto incluye cuestiones de sesgo algorítmico, transparencia y equidad en el diseño y uso de sistemas de IA.

En resumen, la inteligencia artificial tiene el potencial de generar importantes beneficios, pero también plantea desafíos sociales significativos que deben ser abordados de manera cuidadosa y reflexiva para garantizar que su desarrollo y aplicación contribuyan al bienestar humano y a la justicia social.

Es en este sentido que la presente iniciativa, llevada a cabo por la Oficina de UNESCO en Quito y Representación en Ecuador, y CLACSO, busca que la utilización de la IA esté orientada a abordar desafíos sociales, promoviendo soluciones éticas a la vez que innovadoras, que fomenten la justicia y la equidad.

El proyecto se alinea estrechamente con la «Recomendación sobre la Ética de la Inteligencia Artificial» de la UNESCO. La importancia de esta Recomendación radica en su papel como guía para asegurar que los avances en IA beneficien a toda la sociedad, enfocándose especialmente en los grupos más vulnerables.

Al adherir estos principios, esta Convocatoria busca no solo avanzar en la tecnología de IA, sino hacerlo de una manera que respete y promueva la dignidad humana, y la justicia y la inclusión sociales.

Es una oportunidad significativa para avanzar en el uso ético y responsable de la inteligencia artificial (IA), abordando de frente los problemas sociales críticos en Ecuador, en América Latina y en el Caribe. Este esfuerzo se centra en el desarrollo y la adopción de soluciones de política pública innovadoras, basadas en la IA, diseñadas para enfrentar desafíos sociales de manera directa. A través de una colaboración estratégica y un compromiso firme con la ética de la implementación de la IA, el proyecto aspira a promover soluciones sociotécnicas que beneficien integralmente a la sociedad, poniendo un énfasis particular en el apoyo a los grupos más vulnerables. En esencia, este proyecto busca ser un catalizador para el progreso tecnológico que no solo avance en la capacidad de la IA, sino que también lo haga de manera que fomente la justicia social, la equidad y la inclusión, asegurando así que los beneficios de la IA se extiendan por toda la sociedad y contribuyan a la solución de problemas sociales fundamentales

A su vez, CLACSO promueve el despliegue de Plataformas para el Diálogo Social (PDS), concebidas como espacios de trabajo, intercambio y propuestas multiactorales y multidimensionales. Asimismo, en la red CLACSO se han producido espacios e iniciativas de producción participativa y colaborativa de conocimiento acerca de estos temas, sea desde Convocatorias de investigación anteriores, Grupos de Trabajo, propuestas de formación y publicaciones.

El principal objetivo de la Convocatoria es la producción de Notes de politique qui favorisent la synergie entre la recherche universitaire et la prise de décision publique éclairée, grâce à l'élaboration d'analyses, de recommandations politiques et d'actions d'intervention sociale fondées sur une utilisation éthique et responsable de l'IA.

Estos documentos deberán dirigirse a tomadores de decisiones y otros actores clave y partes interesadas, proponiendo soluciones basadas en IA para desafíos sociales específicos. Entre los principales, se proponen:

• Fomentar la inclusión y la equidad: Utilizar la IA para combatir desigualdades y promover la inclusión social de grupos vulnerables.
• Garantizar la transparencia y la ética: Contribuir a que el desarrollo de soluciones de IA se adhiera a principios de transparencia, ética, no discriminación, y sostenibilidad ambiental.
• Promover una transformación digital positiva de las industrias culturales y creativas.
• Difundir los principios éticos de la implementación de la IA según la UNESCO: Ampliar el conocimiento considerando la «Recomendación sobre la Ética de la Inteligencia Artificial» de la UNESCO en América Latina y el Caribe, promoviendo su integración en políticas y proyectos de IA.
• Impulsar el conocimiento sobre usos éticos aplicados de la IA en materia de Educación.

Temas de interés para la convocatoria y los notes d'orientation, relacionados con los OBJETIVOS DE DESARROLLO SOSTENIBLE (ODS) impulsados por UNESCO

1. Prevención de sesgos discriminatorios en materia de color de la piel, etnia, género, edad y cualquier otra causal de discriminación: Este objetivo se alinea principalmente con el ODS 10, «Reducción de las Desigualdades». Este ODS busca reducir la desigualdad dentro de y entre los países, y su foco en la promoción de la inclusión social, económica y política de todos, independientemente de la edad, sexo, discapacidad, raza, etnia, origen, religión o cualquier otra condición, hace que sea el más adecuado para esta línea de trabajo.
2. lutter contre le changement climatique: Este objetivo está relacionado con el ODS 13, «Acción por el Clima». Este ODS insta a tomar medidas urgentes para combatir el cambio climático y sus impactos. La aplicación de la IA para desarrollar estrategias que contrarresten los efectos del cambio climático es fundamental para alcanzar este objetivo.
3. Prevención de discursos de odio y AMI: Este trabajo se relaciona con el ODS 16, «Paz, Justicia e Instituciones Sólidas». Este objetivo promueve sociedades pacíficas e inclusivas para el desarrollo sostenible, proporciona acceso a la justicia para todos y construye instituciones efectivas, responsables e inclusivas a todos los niveles. La lucha contra los discursos de odio es crucial para promover la paz, la no violencia y la justicia.
4. Éducation: Esta línea de trabajo se vincula con el ODS 4 que plantea una «educación inclusiva, equitativa y de calidad a lo largo de la vida». Este ODS busca garantizar una educación inclusiva y equitativa de calidad y promover oportunidades de aprendizaje durante toda la vida para todos y que la educación se relacione con los grandes desafíos del mundo contemporáneo. La IA puede ser una herramienta valiosa para personalizar la enseñanza y hacer la educación más accesible, especialmente para grupos históricamente excluidos. Además, resulta importante reflexionar cómo aprovechar las nuevas tecnologías e innovaciones digitales para garantizar un aprendizaje más integrador, inclusivo, eficaz y pertinente en el mundo contemporáneo desde una mirada ética y educativa de la inteligencia artificial.
5. Derechos de autor y conocimiento abierto en el ámbito cultural: Este objetivo se relaciona con el ODS 9, «Industria, Innovación e Infraestructura», específicamente por su foco en la promoción de la innovación y la infraestructura sostenible, desde un prisma que valora el equilibrio entre el fomento del acceso abierto al conocimiento y la cultura mediante licencias Creative Commons, a la vez que la protección de los derechos de propiedad intelectual, resaltando así su importancia en la innovación y la infraestructura sostenible.
6. Promoción de la diversidad cultural: Este objetivo está alineado con el ODS 11, «Ciudades y Comunidades Sostenibles», especialmente en su objetivo de fortalecer los esfuerzos para proteger y salvaguardar el patrimonio cultural del mundo. La promoción de la diversidad cultural a través de la IA puede contribuir a hacer que las ciudades y los asentamientos humanos sean inclusivos, seguros, resilientes y sostenibles.

El proyecto «Justicia Algorítmica» representa una oportunidad significativa para avanzar en el uso ético y responsable de la inteligencia artificial (IA), abordando de frente los problemas sociales críticos en Ecuador, en América Latina y en el Caribe. Este esfuerzo se centra en el desarrollo y la adopción de soluciones de política pública innovadoras, basadas en la IA, diseñadas para enfrentar desafíos sociales de manera directa. A través de una colaboración estratégica y un compromiso firme con la ética de la implementación de la IA, el proyecto aspira a promover soluciones sociotécnicas que beneficien integralmente a la sociedad, poniendo un énfasis particular en el apoyo a los grupos más vulnerables. En esencia, este proyecto busca ser un catalizador para el progreso tecnológico que no solo avance en la capacidad de la IA, sino que también lo haga de manera que fomente la justicia social, la equidad y la inclusión, asegurando así que los beneficios de la IA se extiendan por toda la sociedad y contribuyan a la solución de problemas sociales fundamentales.

RÈGLEMENT DU CONCOURS

S'INSCRIRE

Cierre de inscripción para el envío de propuestas: 2 de septiembre de 2024
Publicación de ganadores/as: octubre de 2024
Développement de note politique: octubre de 2024 a febrero de 2025
présentation note politique final: 28 de febrero de 2025

Les résultats seront publiés sur le site web de CLACSO. Les gagnants seront contactés par courriel.
Consultas: [email protected]
Bases et formes dans cette lien.

---

OPINION – Justice algorithmique. Une intelligence artificielle éthique pour l'Amérique latine et les Caraïbes

L'intelligence artificielle (IA) est un domaine de l'informatique qui vise à développer des systèmes et des programmes capables d'accomplir des tâches qui requièrent généralement l'intelligence humaine, comme la reconnaissance vocale, la vision par ordinateur, la prise de décision, l'apprentissage et la résolution de problèmes. Si son utilisation peut s'avérer extrêmement bénéfique, elle soulève également plusieurs questions qui doivent être traitées de toute urgence.

Par exemple, la transformation du travail et la fracture numérique constituent des défis majeurs, notamment en Amérique latine et dans les Caraïbes, où les inégalités structurelles sont déjà très marquées. L’automatisation pilotée par l’IA remodèle le marché du travail, supprimant des emplois dans les secteurs traditionnellement occupés par des travailleurs moins qualifiés et concentrant les opportunités dans des domaines de haute spécialisation technologique. Ce phénomène accentue les inégalités existantes, l’accès à la formation continue et aux ressources numériques restant limité pour une grande partie de la population. De plus, la fracture numérique ne se limite pas à l’accès à la technologie, mais concerne également les compétences nécessaires pour l’utiliser efficacement, perpétuant ainsi des schémas d’exclusion historiques fondés sur le genre, l’origine ethnique et le statut socio-économique.

Par ailleurs, les changements et les impacts de l'IA sur la vie privée et la surveillance sont préoccupants. Par exemple, le recours intensif aux algorithmes pour collecter, analyser et utiliser les données personnelles soulève de sérieuses questions quant à la garantie des droits individuels dans un contexte où ces technologies fonctionnent comme des « boîtes noires ». Cela peut engendrer des pratiques discriminatoires, telles que le racisme algorithmique ou la surveillance disproportionnée de certains groupes sociaux. Des cas comme l'identification erronée de personnes par les systèmes de reconnaissance faciale ou l'utilisation d'algorithmes pour prédire les « risques » à partir de données biaisées illustrent les dangers d'une mise en œuvre de l'IA sans contrôles éthiques et réglementaires adéquats.

Dans ce contexte, le Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielleAdopté en novembre 2021 par 193 États membres, le Cadre d’action pour l’IA au service du développement des droits humains constitue le premier cadre éthique mondial destiné à relever ces défis. Ses objectifs comprennent la garantie d’équité, de transparence et de responsabilité dans la conception et l’utilisation de l’IA, avec une attention particulière portée à la prévention de la perpétuation des inégalités structurelles et des utilisations discriminatoires fondées sur la couleur de peau, le sexe, l’âge, la nationalité et d’autres facteurs, ainsi qu’à la protection des groupes vulnérables. Il souligne en outre la nécessité de réglementer les « boîtes noires » algorithmiques afin de garantir la traçabilité et la compréhensibilité des processus décisionnels, et de promouvoir l’intégration de perspectives diverses dans le développement de ces technologies.

Alors que l'IA transforme des secteurs clés tels que la santé, l'éducation et la sécurité, son développement doit impérativement s'appuyer sur des principes éthiques rigoureux. Cela permettra non seulement d'atténuer les risques de discrimination et d'exclusion, mais aussi de garantir une répartition équitable des bénéfices de l'IA, contribuant ainsi au bien-être mondial et à une société plus inclusive.

Par conséquent, le CLACSO et l'UNESCO Équateur ont lancé l'appel à candidatures. Justice algorithmique : une intelligence artificielle éthique pour l’Amérique latine et les Caraïbes, dont l'objectif principal est la production de Notes de politique qui favorisent la synergie entre la recherche universitaire et la prise de décision publique éclairée, grâce à l'élaboration d'analyses, de recommandations politiques et d'actions d'intervention sociale fondées sur une utilisation éthique et responsable de l'IA.

Ils ont ouvert 75 Les formulaires ont finalement été reçus. 35 les candidatures qui, après examen technique et formel, étaient en mesure d'être évaluées qualitativement par le Comité international afin d'examiner la qualité, la pertinence et la cohérence des propositions conformément à l'appel. 

Le processus d'évaluation a été mené par un comité international composé de 9 experts 4 Les membres du comité étaient : Marco Benalcázar (Équateur), Marta Bianchi (Argentine), Carolina Hevia (Équateur), Silvia Lago Martínez (Argentine), Fernando Laredo (Argentine), Graciela Nathanson (Argentine), Isabel Ramos (Équateur), Carla Texeira (Brésil) et Stéphane Vinolo (France). Ce comité a réalisé la première phase d'évaluation des projets soumis.

Dans un second temps, l’équipe organisatrice, composée du CLACSO et de l’UNESCO, a examiné les propositions en tenant compte des lignes directrices de l’appel, de la qualité technique des propositions et de la pertinence des thèmes à aborder dans le cadre de l’appel. Recomendación sobre la Ética de la Inteligencia Artificial L’équilibre des domaines de recherche et de développement de l’UNESCO, parmi d’autres critères techniques et méthodologiques. 

À l'issue du processus d'évaluation complet, qui a reconnu l'excellente qualité, la pertinence et la rigueur de la plupart des candidatures, cinq (5) propositions ont été sélectionnées pour le développement du notes d'orientation, en por lo menos 3 de ellas, la presencia de investigadores/as con trabajo en y/o sobre Ecuador.

Voici la liste des propositions retenues suite à l'appel à propositions :

Auteurs	Centre des membres	Pays	Titre de la proposition
Lisbeth Moya González, José Antonio Figueroa	Institut de recherche économique de l'Université centrale de l'Équateur – IIE/UCE	Équateur	L’utilisation de l’intelligence artificielle (IA) pour la reconstruction des centres de mémoire afro-descendants à Cuba et en Équateur
Ezequiel Alexander Rivero, Helena Martins do Rêgo Barreto, Angy Floremma Mora Noguera	Centre d'études avancées – FCS/UNC – Faculté des sciences sociales – Université nationale de Cordoue	Argentine	L’IA dans les industries culturelles : protection du travail, promotion de la diversité culturelle et justice algorithmique
Isabelle Ponce	Centre international d'études supérieures en communication pour l'Amérique latine – CIESPAL	Équateur	Adaptación de los Docentes a la GenAI en el sistema educativo del Ecuador a través de Métodos Mixtos
Saudia Levoyer, Lila Luchessi, Fernando José Barrio	Programme d’études latino-américaines – PEL/UASB – Université andine Simón Bolívar	Équateur	Intelligence artificielle au service de l'action climatique : des solutions éthiques et innovantes pour atténuer les changements climatiques en Amérique latine et dans les Caraïbes
Alexandra Gualavisí, Ángel Gutiérrez, María Belén Albornoz	Faculté latino-américaine des sciences sociales, Équateur – FLACSO	Équateur	Hacia una Política de Protección Social basada en Inteligencia Artificial inclusiva, transparente y ética en Ecuador

Cette décision est irrévocable et ne peut faire l'objet d'un appel.

Buenos Aires et Quito, 3 décembre 2024