Justice algorithmique : une intelligence artificielle éthique pour l’Amérique latine et les Caraïbes

APPEL À RECHERCHE POUR ÉQUIPES OU INDIVIDUS

– en particulier l’Équateur –

Plateformes pour le dialogue social

Les inscriptions se terminent le 2 septembre 2024.

S'INSCRIRE

L'intelligence artificielle (IA) est un domaine de l'informatique qui se concentre sur le développement de systèmes et de programmes informatiques capables d'effectuer des tâches qui nécessitent normalement l'intelligence humaine ; par exemple, la reconnaissance vocale, la vision par ordinateur, la prise de décision, l'apprentissage et la résolution de certains problèmes.

Bien que son utilisation puisse s'avérer très utile, plusieurs problèmes qu'elle peut engendrer doivent être pris en compte. Par exemple, la transformation du travail et la fracture numérique, intimement liées à de multiples inégalités qui se reproduisent dans la région. De plus, les changements et les impacts qu'elle induit sur la vie privée et la surveillance sont préoccupants, car, par exemple, l'utilisation d'algorithmes d'IA pour collecter, analyser et exploiter des données personnelles soulève des inquiétudes à cet égard.

Inévitablement, son utilisation entraîne des changements dans les interactions sociales, car l'intégration des systèmes d'IA dans notre quotidien modifie notre rapport à la technologie et aux autres. Des chatbots de service client aux assistants virtuels à domicile.

C’est pourquoi il est crucial de prendre en compte l’éthique et la responsabilité lors de l’utilisation de l’IA, ce qui soulève d’importantes questions éthiques quant à la responsabilité des systèmes automatisés lorsqu’ils prennent des décisions ayant des conséquences importantes pour les individus. Ces questions incluent les biais algorithmiques, la transparence et l’équité dans la conception et l’utilisation des systèmes d’IA.

En résumé, l'intelligence artificielle a le potentiel de générer des avantages considérables, mais elle pose également d'importants défis sociaux qui doivent être abordés avec soin et réflexion afin de garantir que son développement et son application contribuent au bien-être humain et à la justice sociale.

C’est dans ce sens que la présente initiative, menée par le Bureau de l’UNESCO à Quito et sa Représentation en Équateur, et CLACSO, vise à garantir que l’utilisation de l’IA soit orientée vers la résolution des défis sociaux, en promouvant des solutions éthiques et innovantes qui favorisent la justice et l’équité.

Ce projet s'inscrit pleinement dans la « Recommandation sur l'éthique de l'intelligence artificielle » de l'UNESCO. L'importance de cette recommandation réside dans son rôle de guide pour garantir que les progrès de l'IA profitent à l'ensemble de la société, et plus particulièrement aux groupes les plus vulnérables.

En adhérant à ces principes, cet appel vise non seulement à faire progresser la technologie de l'IA, mais aussi à le faire d'une manière qui respecte et promeut la dignité humaine, la justice sociale et l'inclusion.

Il s'agit d'une occasion unique de promouvoir une utilisation éthique et responsable de l'intelligence artificielle (IA), en s'attaquant directement aux problèmes sociaux critiques en Équateur, en Amérique latine et dans les Caraïbes. Ce projet vise à développer et à adopter des solutions de politiques publiques innovantes, fondées sur l'IA et conçues pour relever directement les défis sociaux. Grâce à une collaboration stratégique et à un engagement ferme envers l'éthique de la mise en œuvre de l'IA, le projet ambitionne de promouvoir des solutions socio-techniques bénéfiques à l'ensemble de la société, en accordant une attention particulière au soutien des groupes les plus vulnérables. Ce projet se veut un catalyseur de progrès technologique qui non seulement développe les capacités de l'IA, mais favorise également la justice sociale, l'équité et l'inclusion, afin que les avantages de l'IA profitent à tous et contribuent à la résolution des problèmes sociaux fondamentaux.

CLACSO encourage le développement de Plateformes de Dialogue Social (PDS), conçues comme des espaces de travail, d'échange et de propositions multipartites et multidimensionnelles. De même, le réseau CLACSO a favorisé la création d'espaces et d'initiatives pour la production participative et collaborative de connaissances sur ces sujets, notamment par le biais d'appels à projets, de groupes de travail, de programmes de formation et de publications.

L’objectif principal de cet appel à projets est la production de notes d’orientation qui favorisent la synergie entre la recherche universitaire et la prise de décision publique éclairée, grâce à l’élaboration d’analyses, de recommandations politiques et d’actions d’intervention sociale fondées sur une utilisation éthique et responsable de l’IA.

Ces documents devraient être adressés aux décideurs et autres acteurs clés, en proposant des solutions fondées sur l'IA pour relever des défis sociétaux spécifiques. Parmi les principales propositions figurent :

• Promouvoir l’inclusion et l’équité : utiliser l’IA pour lutter contre les inégalités et promouvoir l’inclusion sociale des groupes vulnérables.
• Garantir la transparence et l'éthique : Contribuer au développement de solutions d'IA qui respectent les principes de transparence, d'éthique, de non-discrimination et de durabilité environnementale.
• Promouvoir une transformation numérique positive des industries culturelles et créatives.
• Diffuser les principes éthiques de la mise en œuvre de l'IA selon l'UNESCO : élargir les connaissances en tenant compte de la « Recommandation sur l'éthique de l'intelligence artificielle » de l'UNESCO en Amérique latine et dans les Caraïbes, en promouvant son intégration dans les politiques et les projets d'IA.
• Promouvoir les connaissances sur les usages éthiques et appliqués de l'IA dans l'éducation.

Thèmes d'intérêt pour l'appel à propositions et les notes d'orientation , liés aux objectifs de développement durable (ODD) promus par l'UNESCO

1. Prévention des préjugés discriminatoires fondés sur la couleur de peau, l'origine ethnique, le sexe, l'âge et tout autre motif de discriminationCet objectif s'inscrit principalement dans le cadre de l'ODD 10, « Réduction des inégalités ». Cet ODD vise à réduire les inégalités au sein des pays et entre eux, et son accent mis sur la promotion de l'inclusion sociale, économique et politique de tous, sans distinction d'âge, de sexe, de handicap, de race, d'origine ethnique, de religion ou de tout autre statut, en fait le plus approprié pour ce domaine d'activité.
2. lutter contre le changement climatiqueCet objectif est lié à l'ODD 13, « Action climatique ». Cet ODD appelle à une action urgente pour lutter contre les changements climatiques et leurs répercussions. L'application de l'IA à l'élaboration de stratégies visant à contrer les effets des changements climatiques est essentielle à la réalisation de cet objectif.
3. Prévention des discours haineux et de l'AMICe travail s’inscrit dans le cadre de l’ODD 16, « Paix, justice et institutions fortes ». Cet objectif vise à promouvoir des sociétés pacifiques et inclusives pour un développement durable, à garantir l’accès à la justice pour tous et à mettre en place des institutions efficaces, responsables et inclusives à tous les niveaux. La lutte contre les discours de haine est essentielle à la promotion de la paix, de la non-violence et de la justice.
4. ÉducationCe domaine de recherche est lié à l'ODD 4, qui vise à garantir « une éducation inclusive, équitable et de qualité tout au long de la vie ». Cet ODD a pour objectif de garantir une éducation inclusive, équitable et de qualité et de promouvoir les possibilités d'apprentissage tout au long de la vie pour tous, en veillant à ce que l'éducation réponde aux grands défis du monde contemporain. L'intelligence artificielle peut être un outil précieux pour personnaliser l'enseignement et rendre l'éducation plus accessible, notamment pour les groupes historiquement exclus. Par ailleurs, il est important d'examiner comment tirer parti des nouvelles technologies et des innovations numériques pour garantir un apprentissage plus intégratif, inclusif, efficace et pertinent dans le monde contemporain, d'un point de vue éthique et pédagogique concernant l'intelligence artificielle.
5. Droit d'auteur et accès libre à la connaissance dans le domaine culturelCet objectif est lié à l'ODD 9, « Industrie, innovation et infrastructure », notamment en raison de son accent sur la promotion de l'innovation et des infrastructures durables, dans une perspective qui valorise l'équilibre entre la promotion de l'accès libre aux connaissances et à la culture grâce aux licences Creative Commons, tout en protégeant les droits de propriété intellectuelle, soulignant ainsi leur importance dans l'innovation et les infrastructures durables.
6. Promotion de la diversité culturelle : Cet objectif s’inscrit dans le cadre de l’ODD 11, « Villes et communautés durables », et plus particulièrement de son objectif de renforcer les efforts de protection et de sauvegarde du patrimoine culturel mondial. La promotion de la diversité culturelle grâce à l’IA peut contribuer à rendre les villes et les établissements humains inclusifs, sûrs, résilients et durables.

Le projet « Justice algorithmique » représente une formidable opportunité de promouvoir une utilisation éthique et responsable de l’intelligence artificielle (IA), en s’attaquant directement aux problèmes sociaux critiques en Équateur, en Amérique latine et dans les Caraïbes. Ce projet vise à développer et à adopter des solutions de politiques publiques innovantes, fondées sur l’IA et conçues pour relever directement les défis sociaux. Grâce à une collaboration stratégique et à un engagement ferme envers l’éthique de la mise en œuvre de l’IA, le projet ambitionne de promouvoir des solutions socio-techniques bénéfiques à l’ensemble de la société, en accordant une attention particulière au soutien des groupes les plus vulnérables. Ce projet se veut avant tout un catalyseur de progrès technologique, permettant non seulement de développer les capacités de l’IA, mais aussi de promouvoir la justice sociale, l’équité et l’inclusion, afin que les avantages de l’IA profitent à tous et contribuent à la résolution des problèmes sociaux fondamentaux.

RÈGLEMENT DU CONCOURS

S'INSCRIRE

Date limite de soumission des propositions : 2 septembre 2024
Les gagnants seront annoncés en octobre 2024.
Développement de note politiqueOctobre 2024 à février 2025
présentation note politique Date limite : 28 février 2025

Les résultats seront publiés sur le site web de CLACSO. Les gagnants seront contactés par courriel.
Consultas: [email protected]
Bases et formes dans cette lien.

---

OPINION – Justice algorithmique. Une intelligence artificielle éthique pour l'Amérique latine et les Caraïbes

L'intelligence artificielle (IA) est un domaine de l'informatique qui vise à développer des systèmes et des programmes capables d'accomplir des tâches qui requièrent généralement l'intelligence humaine, comme la reconnaissance vocale, la vision par ordinateur, la prise de décision, l'apprentissage et la résolution de problèmes. Si son utilisation peut s'avérer extrêmement bénéfique, elle soulève également plusieurs questions qui doivent être traitées de toute urgence.

Par exemple, la transformation du travail et la fracture numérique constituent des défis majeurs, notamment en Amérique latine et dans les Caraïbes, où les inégalités structurelles sont déjà très marquées. L’automatisation pilotée par l’IA remodèle le marché du travail, supprimant des emplois dans les secteurs traditionnellement occupés par des travailleurs moins qualifiés et concentrant les opportunités dans des domaines de haute spécialisation technologique. Ce phénomène accentue les inégalités existantes, l’accès à la formation continue et aux ressources numériques restant limité pour une grande partie de la population. De plus, la fracture numérique ne se limite pas à l’accès à la technologie, mais concerne également les compétences nécessaires pour l’utiliser efficacement, perpétuant ainsi des schémas d’exclusion historiques fondés sur le genre, l’origine ethnique et le statut socio-économique.

Par ailleurs, les changements et les impacts de l'IA sur la vie privée et la surveillance sont préoccupants. Par exemple, le recours intensif aux algorithmes pour collecter, analyser et utiliser les données personnelles soulève de sérieuses questions quant à la garantie des droits individuels dans un contexte où ces technologies fonctionnent comme des « boîtes noires ». Cela peut engendrer des pratiques discriminatoires, telles que le racisme algorithmique ou la surveillance disproportionnée de certains groupes sociaux. Des cas comme l'identification erronée de personnes par les systèmes de reconnaissance faciale ou l'utilisation d'algorithmes pour prédire les « risques » à partir de données biaisées illustrent les dangers d'une mise en œuvre de l'IA sans contrôles éthiques et réglementaires adéquats.

Dans ce contexte, la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle , adoptée en novembre 2021 par 193 États membres, constitue le premier cadre éthique mondial destiné à relever ces défis. Ses objectifs comprennent la garantie d’équité, de transparence et de responsabilité dans la conception et l’utilisation de l’IA, avec une attention particulière portée à la prévention de la perpétuation des inégalités structurelles et des utilisations discriminatoires fondées sur la couleur de peau, le sexe, l’âge, la nationalité et d’autres facteurs, ainsi qu’à la protection des groupes vulnérables. Elle souligne en outre la nécessité de réglementer les « boîtes noires » algorithmiques afin de garantir la traçabilité et la compréhensibilité des processus décisionnels, et de promouvoir l’intégration de perspectives diverses dans le développement de ces technologies.

Alors que l'IA transforme des secteurs clés tels que la santé, l'éducation et la sécurité, son développement doit impérativement s'appuyer sur des principes éthiques rigoureux. Cela permettra non seulement d'atténuer les risques de discrimination et d'exclusion, mais aussi de garantir une répartition équitable des bénéfices de l'IA, contribuant ainsi au bien-être mondial et à une société plus inclusive.

C’est pourquoi CLACSO et l’UNESCO Équateur ont lancé l’appel à propositions « Justice algorithmique : une intelligence artificielle éthique pour l’Amérique latine et les Caraïbes », dont l’objectif principal est la production de notes d’orientation favorisant la synergie entre la recherche universitaire et la prise de décision publique éclairée, grâce à l’élaboration d’analyses, de recommandations politiques et d’actions d’intervention sociale fondées sur une utilisation éthique et responsable de l’IA.

Soixante-quinze formulaires ont été ouverts et 35 candidatures ont finalement été reçues , lesquelles, après examen technique et formel, étaient en mesure d'être évaluées qualitativement par le Comité international afin d'examiner la qualité, la pertinence et la cohérence des propositions conformément à l'appel.

Le processus d'évaluation a été mené par un comité international composé de neuf experts issus de quatre pays : Marco Benalcázar (Équateur), Marta Bianchi (Argentine), Carolina Hevia (Équateur), Silvia Lago Martínez (Argentine), Fernando Laredo (Argentine), Graciela Nathanson (Argentine), Isabel Ramos (Équateur), Carla Texeira (Brésil) et Stéphane Vinolo (France). Ce comité a réalisé la première phase d'évaluation des projets soumis.

Dans un second temps, l’équipe organisatrice, composée du CLACSO et de l’UNESCO, a examiné les propositions en tenant compte des critères de l’appel, de la qualité technique des propositions, de la pertinence des sujets à traiter dans le cadre de la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle , de l’équilibre des domaines de développement de la recherche, entre autres critères techniques et méthodologiques.

Après l'ensemble du processus d'évaluation, qui a reconnu l'excellente qualité, la pertinence et la rigueur de la plupart des candidatures, cinq (5) propositions ont été sélectionnées pour l'élaboration des notes d'orientation , dont au moins 3 présentaient la présence de chercheurs travaillant en Équateur et/ou sur l'Équateur.

Voici la liste des propositions retenues suite à l'appel à propositions :

Auteurs	Centre des membres	Pays	Titre de la proposition
Lisbeth Moya González, José Antonio Figueroa	Institut de recherche économique de l'Université centrale de l'Équateur – IIE/UCE	Équateur	L’utilisation de l’intelligence artificielle (IA) pour la reconstruction des centres de mémoire afro-descendants à Cuba et en Équateur
Ezequiel Alexander Rivero, Helena Martins do Rêgo Barreto, Angy Floremma Mora Noguera	Centre d'études avancées – FCS/UNC – Faculté des sciences sociales – Université nationale de Cordoue	Argentine	L’IA dans les industries culturelles : protection du travail, promotion de la diversité culturelle et justice algorithmique
Isabelle Ponce	Centre international d'études supérieures en communication pour l'Amérique latine – CIESPAL	Équateur	Adaptation des enseignants à l'IA générale dans le système éducatif équatorien par le biais de méthodes mixtes
Saudia Levoyer, Lila Luchessi, Fernando José Barrio	Programme d’études latino-américaines – PEL/UASB – Université andine Simón Bolívar	Équateur	Intelligence artificielle au service de l'action climatique : des solutions éthiques et innovantes pour atténuer les changements climatiques en Amérique latine et dans les Caraïbes
Alexandra Gualavisí, Ángel Gutiérrez, María Belén Albornoz	Faculté latino-américaine des sciences sociales, Équateur – FLACSO	Équateur	Vers une politique de protection sociale inclusive, transparente et éthique fondée sur l'intelligence artificielle en Équateur

Cette décision est irrévocable et ne peut faire l'objet d'un appel.

Buenos Aires et Quito, 3 décembre 2024