« L’intelligence artificielle pose d’importants défis sociaux. »

---

Transcription de la chronique de Karina Batthyány
dans InfoCLACSO – 31 juillet 2024

L’intelligence artificielle (IA) est un sujet nouveau et pertinent pour le programme du CLACSO, que nous abordons aujourd’hui, notamment en ce qui concerne son rôle et les défis qu’elle pose à nos disciplines des sciences sociales et humaines, dans une perspective de pensée critique transformatrice. Le CLACSO, en collaboration avec l’UNESCO (Équateur), a lancé un appel à contributions sur l’intelligence artificielle, un sujet actuellement au cœur des débats universitaires.

En théorie, l'intelligence artificielle recèle un potentiel considérable, mais elle soulève également d'importants défis sociaux qui doivent être abordés avec un regard critique et réfléchi afin que son développement et son application contribuent au bien-être individuel et collectif, au respect de l'environnement, au respect des droits de chacun et à la justice sociale. En définitive, telles sont les questions que nous nous posons. Les sciences humaines et sociales ont un rôle à jouer et un défi à relever en matière de réflexion et de développement de l'esprit critique.

L'intelligence artificielle regroupe des systèmes informatiques conçus pour imiter et reproduire certaines capacités cognitives humaines, telles que l'apprentissage, la perception, le raisonnement et même la prise de décision. Cette technologie repose sur des algorithmes très complexes et utilise d'immenses quantités de données pour accomplir des tâches spécifiques.

Dans les années 40 et 50, les premiers concepts théoriques de l'intelligence artificielle ont été établis, évoluant au fil du temps grâce aux progrès de l'apprentissage automatique et à la création de réseaux neuronaux artificiels. C'est au XXIe siècle que l'IA a connu une croissance fulgurante, portée par l'augmentation de la puissance de calcul et l'accès à d'immenses quantités de données.

Avec les progrès rapides de l'IA, l'humanité se retrouve plongée dans un monde de plus en plus connecté et automatisé qui, tout en offrant de nombreux avantages, soulève également des doutes et des inquiétudes en matière de confidentialité et de sécurité.

Aujourd'hui, les assistants virtuels interagissent avec les humains – c'est-à-dire avec nous – grâce à la reconnaissance vocale, nous aidant à accomplir diverses tâches comme la recherche d'informations, la programmation de rappels, l'écoute de musique et le contrôle d'appareils connectés. Les plateformes de médias sociaux utilisent également l'IA pour analyser les centres d'intérêt, les comportements et les relations afin de proposer un contenu personnalisé. Nous avons constaté certains impacts de ces travaux sur les médias sociaux, notamment dans le domaine électoral et sur les démocraties de nos pays d'Amérique latine et des Caraïbes.

De plus, l'IA analyse l'historique de chaque consultation ou achat et utilise, semble-t-il, des algorithmes d'apprentissage automatique pour suggérer des contenus ou des produits susceptibles de nous intéresser. Ce système est complété par des traducteurs automatiques, des chatbots pour le service client et d'autres options.

Cependant, l'un des risques liés à l'IA est la collecte massive de données personnelles, susceptible de compromettre la vie privée. Les informations qu'elle fournit peuvent être biaisées, inexactes, voire servir à créer de fausses informations, à manipuler des images ou des vidéos pour les rendre plus crédibles, ou encore à imiter des voix. De plus, elle est extrêmement vulnérable aux cyberattaques et aux accès non autorisés.

Quel est le lien entre tout cela et les sciences sociales et humaines ? Nous devons nous interroger sur l’impact de toutes ces problématiques sur la société.

Les entreprises technologiques ont généré des milliards de dollars de richesse au cours des vingt-cinq dernières années, tandis que de nombreux emplois sont menacés. Une étude de l'Université d'Oxford de 2016 a montré que 47 % des emplois sont menacés par ces modèles d'intelligence artificielle. À l'inverse, les précédentes révolutions industrielles ou transformations du monde du travail ont certes éliminé les emplois manuels, mais ont fini par en créer de nouveaux, adaptés aux besoins actuels.

Que va-t-il se passer maintenant avec cette nouvelle automatisation de certains emplois ? Prenons par exemple le travail de traduction, certaines disciplines médicales et le transport, notamment la conduite automobile.

L'Université nationale de San Martín, en Argentine, a mené des recherches en physique, en science des données et en sciences sociales pour analyser l'impact de l'intelligence artificielle sur la société, la réglementation étatique et les possibilités et les dangers du développement de ce qu'ils appellent les « individus machines ».

Il est admis que les outils développés par de grandes multinationales telles qu'OpenAI, Google, Microsoft et Meta remplissent diverses fonctions, comme la résolution de problèmes mathématiques complexes, la traduction et la génération de texte, ainsi que la reconnaissance et la reconstruction d'images haute définition. Cependant, ils auront également un impact sur de nombreuses professions, et les étudiants qui intègrent actuellement l'université pour se former à un métier ou une profession en ressentiront les effets. Il est possible qu'un diplômé, dans sept ou huit ans, constate que son emploi actuel n'existe plus.

De tout temps, les êtres humains ont créé des technologies pour progresser dans divers domaines, allant même jusqu'à accomplir des choses qui semblaient inimaginables auparavant (comme voler). « Le danger réside dans le fait que ces technologies d'IA puissent remplacer les tâches que nous apprécions », souligne Flavia Costa, chercheuse argentine au CONICET. Elle craint que les amateurs de dessin ou de peinture ne puissent plus profiter de ces activités enrichissantes à cause de l'intelligence artificielle. « Cela soulève une question éthique : quel genre de vie voulons-nous mener ? », s'interroge Costa.

En revanche, l'impact environnemental est indéniable. L'utilisation de l'intelligence artificielle, comme toute avancée technologique, n'est pas sans conséquences : sa fabrication exige d'énormes quantités d'eau et d'énergie, notamment pour tous les composants nécessaires à son fonctionnement. Selon certaines estimations, elle requiert dix à quinze fois plus d'énergie et d'eau que la fabrication d'une puce standard. On estime que, d'ici 2027, la demande mondiale en eau pour la seule fabrication de puces et le refroidissement des centres de données dédiés à l'IA pourrait atteindre la moitié de la consommation du Royaume-Uni.

Nous parlons d'une ressource absolument essentielle pour notre région et pour le monde entier. Son expansion est si vaste et si rapide que Sam Altman, directeur d'OpenAI, a averti que l'IA menait l'humanité vers une « crise énergétique catastrophique ».

L'IA présente d'autres caractéristiques préoccupantes. La fabrication des puces fait intervenir des centaines de substances chimiques, dont les PFAS, hautement toxiques. Cela ouvre une autre perspective à explorer en matière d'impact environnemental.

Il nous faut également nous interroger sur la réglementation étatique et le rôle de l'État dans l'encadrement du développement de l'intelligence artificielle. Ces questions doivent être prioritaires, car force est de constater que nombre de réglementations en vigueur dans nos pays, y compris les cadres juridiques pertinents, ne prennent pas encore en compte ces évolutions, ce qui les rend totalement obsolètes et peut engendrer des injustices.

Un dernier élément concerne la manière dont ces évolutions réduisent ou accentuent les inégalités. À cet égard, une proposition liée au revenu de base a été évoquée. Au cours de la dernière décennie, le secteur technologique a expérimenté des versements aux personnes en situation de grande précarité, une forme de « revenu de base ». Cette idée a été lancée par Sam Altman, PDG d'OpenAI, qui pensait que l'intelligence artificielle allait tout bouleverser. C'est pourquoi ils recherchent des solutions alternatives pour survivre : le débat sur la faisabilité d'un revenu de base universel a atteint la Silicon Valley, où de grands entrepreneurs du secteur technologique comme Mark Zuckerberg et Elon Musk estiment qu'il pourrait résoudre non seulement la pauvreté, mais aussi le chômage.

Par exemple, en 2019, OpenResearch a recruté 3 000 personnes au Texas et dans l’Illinois (États-Unis) dont le revenu annuel était inférieur à 28 000 $. Un tiers d’entre elles recevait 1 000 $ par mois, tandis que le reste ne recevait que 50 $. Le programme a duré trois ans. L’expérience visait à analyser l’influence d’une allocation inconditionnelle sur le comportement humain, notamment sa capacité à réduire le stress et à renforcer l’espoir d’un avenir meilleur.

Cependant, de nombreuses questions se posent quant à ces expérimentations sur la population. Pourquoi des personnes fortunées soutiennent-elles une telle initiative ? Selon certains, y compris ses détracteurs, le revenu de base ne serait rien d'autre qu'un complément idéal au libéralisme économique le plus radical. Ce dernier part du principe que si les personnes à faibles revenus ou sans revenus reçoivent un revenu de base leur permettant de subvenir à leurs besoins essentiels, les inégalités économiques pourraient s'aggraver. C'est pourquoi ils vont jusqu'à mener des expériences sur des phénomènes similaires à ce que pourrait représenter un revenu de base, afin d'observer les comportements et les conséquences pour les personnes victimes des inégalités économiques.

Concernant le rôle de l’État, il est important de réfléchir à la manière de réglementer tous ces éléments, d’avoir un véritable débat sur le revenu de base, non lié à ces expériences sociales ; c’est-à-dire un revenu de base compris comme un mécanisme minimal de garantie et d’accès au bien-être pour tous.

La grande question aujourd'hui est de savoir comment agir, comment progresser dans ce contexte, comment analyser et caractériser les changements d'interaction sociale induits par le développement de l'intelligence artificielle, comment ces systèmes influencent notre quotidien et comment ce quotidien se transforme au gré de nos interactions avec la technologie et autrui. Il s'agit également d'examiner comment cela modifie nos pratiques quotidiennes et, par extension, nos pratiques sociales.

Nous comprenons qu’il ne suffit pas de réglementer le développement des systèmes d’IA ; nous devons également, en tant que région d’Amérique latine et des Caraïbes, mener une politique plus active de développement de nos propres connaissances et technologies dans le cadre de l’IA, et ne pas perpétuer ces inégalités.

Notre région possède un potentiel scientifique et une politique est nécessaire au niveau universitaire, afin de rassembler tous ceux qui travaillent dans le domaine des sciences sociales et humaines, et de montrer les différentes contributions que peut apporter notre discipline.

En résumé, l'intelligence artificielle a le potentiel de générer des avantages considérables, mais elle pose également d'importants défis sociaux dans toutes ses dimensions, qui doivent être abordés avec réflexion, esprit critique et prudence dès maintenant, en donnant la priorité au bien-être individuel et collectif, à l'environnement et à la justice sociale.

Il est passionnant de pouvoir réfléchir à ces sujets, qui ont manifestement connu une évolution majeure ces derniers temps. Il est d'ailleurs surprenant de constater que les technologies qui vont s'intégrer si profondément à notre quotidien ne font pas l'objet de discussions avec tous les secteurs. Si les plateformes de médias sociaux impliquent des universitaires, des mouvements sociaux et des décideurs politiques, il serait essentiel que ces technologies impliquent également tous les secteurs dans la réflexion sur les objectifs que nous souhaitons atteindre avec ces métatechnologies, n'est-ce pas ?

La question fondamentale est celle de la finalité de toutes ces technologies et des enjeux éthiques liés à leur utilisation. Si les sciences sociales et humaines peuvent apporter une contribution précieuse, c'est bien celle-ci. Au CLACSO, à travers nos Plateformes de Dialogue Social (PDS), nous conjuguons savoir, mouvements et organisations sociales et acteurs des politiques publiques. C'est là que réside la clé du succès : faire en sorte que ces technologies soient un véritable atout et non un facteur d'aggravation des inégalités.

---

---