Nos últimos três anos, e especialmente desde a ampla adoção de grandes modelos de linguagem (LLMs), como ChatGPT, LaMDA e SORA, a inteligência artificial tornou-se central no discurso público. Seu impacto na política, economia, trabalho, cultura, artes, saúde e educação, entre outras áreas, já é uma realidade em diversos países e sociedades, e espera-se que esse impacto se torne cada vez mais profundo e se acelere em um futuro próximo.

Nesse contexto, debates sobre a governança desses sistemas sociotécnicos e sobre como eles afetam a qualidade democrática, o campo da informação pública, o mundo do trabalho, as instituições sociais e as configurações subjetivas ocupam governos, universidades, organizações internacionais, empresas de tecnologia e representantes da sociedade civil.

A opacidade técnica, social e política que caracteriza esses sistemas, sua complexidade interativa e seu comportamento parcialmente autônomo representam um verdadeiro desafio e exigem um esforço de conceitualização que apenas começou, mas que é sem dúvida urgente. O que são exatamente essas metatecnologias? Em que escalas elas operam? Quais são os benefícios e os perigos de sua ampla implementação? Que papel podem desempenhar os Estados, o conhecimento científico e pedagógico, e as organizações e movimentos sociais para enfrentá-las?

O objetivo geral deste Grupo de Trabalho é construir uma agenda regional e um conjunto robusto de ferramentas para abordar essas questões na América Latina, com o propósito de enriquecer os esforços científicos, políticos, jurídicos, artísticos e filosóficos que estão sendo feitos para compreender a dimensão da transformação que está por vir.

Entre os principais antecedentes do Grupo estão o Diploma Superior em Tecnologia, Subjetividade e Política e o Diploma Superior em Inteligência Artificial e Ciências Sociais: Desafios Teóricos e Epistemológicos, codirigidos no CLACSO por uma das coordenadoras do Grupo de Trabalho (Flavia Costa), e que realizaram sua quinta e segunda edições, respectivamente, em 2025. A grande maioria dos docentes desses Diplomas Superiores também são membros deste Grupo de Trabalho como pesquisadores. Encontros científicos e redes temáticas também foram estabelecidos (como o Colóquio Internacional de Filosofia da Tecnologia, agora em sua 14ª edição, e a Rede LAVITS: Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade, a Rede KHIPU, entre muitas outras iniciativas regionais).

Nossa região participa dessa discussão global com seus próprios desafios específicos. Entre eles, podemos citar:

1) A necessidade de desenvolver regulamentações capazes de proteger direitos fundamentais e diversos, como privacidade, direitos autorais e direitos trabalhistas, bem como a força jurídica necessária para sua efetiva aplicação. Nesse sentido, vale mencionar a Estratégia Brasileira de Inteligência Artificial (2021); a Política Nacional de Inteligência Artificial do Chile (2021, atualizada em 2024); as Recomendações da Argentina para uma IA Confiável (2023); e a Estratégia Nacional de Inteligência Artificial do Uruguai (2024), além da Declaração de Montevidéu (2023). Dentro desse contexto, espera-se que a região vivencie um período de intensa atividade regulatória nos próximos anos.

2) Atualmente sediado no Chile, o projeto Latam GPT — um modelo colaborativo de grande escala linguística, alimentado por conjuntos de dados cientificamente verificados de mais de vinte países da região — continua a discussão sobre a possibilidade de desenvolver inteligência artificial para além daquela produzida em centros globais. Nesse sentido, trata-se de um projeto que propõe rastreabilidade, dados abertos e código aberto, transparência e representatividade de comunidades negligenciadas pelos conjuntos de dados do Norte Global, servindo como um importante estudo de caso para a compreensão do que, por exemplo, significa "soberania tecnológica" hoje. Vários membros do Grupo de Trabalho colaboram no Latam GPT.

3) O termo "inteligência artificial" e a metáfora da "nuvem" associada ao ecossistema digital obscurecem o fato de que essas tecnologias operam utilizando recursos minerais e energéticos altamente tangíveis. Os países da nossa região estão entrando no ecossistema da IA ​​dentro de uma nova forma de colonialismo, como "zonas de sacrifício". Isso se manifesta na luta pela sustentabilidade ambiental e nos conflitos que diversas comunidades vivenciam com a instalação de data centers das grandes empresas de tecnologia.

4) Há um número crescente de projetos artísticos latino-americanos que trabalham com Redes Generativas Adversárias (GANs) e Modelos de Aprendizagem Baseados em Lógica (LLMs). Embora alguns repliquem as lógicas estéticas e políticas da arte comercial hegemônica, focaremos na tecnopoética crítica latino-americana, que adota uma perspectiva decolonial. Examinaremos o desenvolvimento de obras e práticas de resistência em festivais como Toda la teoría del Universo (Chile), La Colmena (México), entre outros.

Em março de 2023, um grupo de especialistas da nossa região, reunido em Montevidéu, destacou "o potencial produtivo dos sistemas de inteligência artificial, bem como os riscos associados ao seu crescimento descontrolado". Apontaram também a necessidade de "desenvolver critérios e normas que permitam avaliar estas tecnologias de forma clara e transparente, de acordo com os seus riscos, a fim de promover políticas públicas que protejam o bem comum sem prejudicar os benefícios do desenvolvimento tecnológico". Isto deve-se ao enorme poder da IA ​​para acelerar os processos de produção e a tomada de decisões; ao facto de a introdução da IA ​​impactar o mundo do trabalho e da educação, obrigando à reescrita de regras para setores inteiros; à sua capacidade de criar instantaneamente conteúdos e notícias que podem ser falsos ou erróneos; e à sua capacidade de gerar situações em que as regulamentações existentes já não são adequadas para resolver os problemas que a sociedade enfrenta, criando assim o que se conhece como lacunas regulatórias.

Neste contexto, este Grupo de Trabalho visa fornecer ferramentas a diversas equipes técnicas e políticas — formuladores de políticas públicas, autoridades universitárias, responsáveis ​​por programas de integração de tecnologia, professores, pesquisadores e estudantes de diferentes áreas disciplinares — para compreender e organizar as informações existentes sobre iniciativas relacionadas a políticas e regulamentações de Inteligência Artificial que estão sendo desenvolvidas na região, em relação a outras iniciativas de referência internacionais.

Busca-se também aprofundar, numa perspectiva interdisciplinar, o desenvolvimento de uma visão original e produtiva que permita identificar os impactos destas novas tecnologias na qualidade democrática, na participação cidadã, na educação e até mesmo nas hierarquias entre diferentes campos do conhecimento e disciplinas, que estão sendo profundamente afetadas pela transformação em curso.

Por fim, pretendemos destacar o estado atual dos debates científicos, artísticos e políticos sobre o tema, para que aqueles que fazem parte das equipes responsáveis ​​pela implementação de políticas relacionadas à IA possam identificar os aspectos fundamentais que devem ser levados em consideração para a realização de iniciativas de desenvolvimento, adoção, monitoramento e mitigação de riscos de uma IA confiável, democrática, inclusiva e segura.

Como campo de pesquisa, a Inteligência Artificial tem mais de 70 anos: sua implementação coincide com a Segunda Guerra Mundial e a origem do termo remonta à década de 1950, quando nos Estados Unidos começaram a investigar e desenvolver sistemas capazes de replicar ou emular certos comportamentos humanos considerados inteligentes: memorizar, computar, aprender com os próprios resultados, projetar tendências e tomar decisões.

No entanto, foi nos últimos anos, e particularmente desde o final de 2022, com a implementação massiva do chatGPT 3.5 e de outros Modelos de Linguagem de Grande Porte (LLMs), que a questão de quais são exatamente essas metatecnologias de IA e como estimar seu potencial disruptivo para os mundos do trabalho, da produção de conhecimento, dos modos de vida democráticos e das subjetividades tornou-se predominante entre governos, instituições educacionais e de pesquisa, organismos internacionais e organizações da sociedade civil.

Se uma das características definidoras do nosso momento atual é a nossa intensa imersão nesses complexos sistemas sociotécnicos, então uma das tarefas urgentes é abordar essa questão tanto em nível regional quanto global e formular respostas viáveis. Isso é especialmente importante considerando que se tratam de desenvolvimentos proprietários de grandes corporações dentro de um contexto baseado em plataformas e em meio a uma luta geopolítica multidimensional que abrange infraestrutura, crescente demanda por energia, coleta de dados comportamentais e biométricos de populações inteiras e controle de conteúdo.

A primeira contribuição das ciências sociais para esta questão é lembrar-nos de que não se trata de decidir o futuro da "espécie" em relação às tecnologias avançadas, mas sim de planejar e orientar o desenvolvimento desses sistemas em sociedades marcadas por conflitos de interesse, desigualdades (de classe, raça, gênero, geografia, etc.) e diversidade ética, linguística e cultural. É razoável prever que, se essa tarefa não for empreendida em breve, o desenvolvimento desigual dessas tecnologias aprofundará ainda mais os processos em curso de estratificação e desigualdade.

De uma perspectiva geopolítica, a IA tornou-se um campo de batalha estratégico onde potências globais e corporações de tecnologia competem pelo controle dos fluxos de informação e pela influência cultural. Nessa “governança algorítmica” (Rouvroy e Berns 2016), os algoritmos não apenas regulam o acesso à informação, mas também geram narrativas, moldam percepções, monitoram comunicações e modulam decisões e identidades, exercendo um poder sutil, porém profundo, sobre a sociedade. Isso levanta questões sérias sobre soberania digital, privacidade e o equilíbrio de poder no cenário internacional.

As novas tecnologias de inteligência artificial emergentes também impactam as subjetividades, uma vez que as interações com sistemas inteligentes e ambientes digitais mediados por algoritmos influenciam a forma como as pessoas se percebem e percebem o ambiente ao seu redor.

Para as ciências sociais, tornou-se imperativo abordar essas questões se desejam participar plenamente de um diálogo que lhes diz respeito intimamente em termos de seu objeto de estudo — a vida social —, mas que, na prática, as marginaliza como especialistas em sua área. Entre outros esforços, esse cenário exige uma revisão de alguns de nossos referenciais teóricos e epistemológicos: distanciar-nos de perspectivas que identificam a dimensão tecnológica como meramente instrumental, dada a evidência de que esse mundo digital em que interagimos não é apenas mais uma ferramenta, mas um verdadeiro ambiente, um ecossistema. Da mesma forma, na medida em que essas tecnologias são aplicadas à tomada de decisões em diferentes esferas (pública e privada, acadêmica, governamental e empresarial) e influenciam decisivamente as práticas e estruturas da sociedade; na medida em que também criam novos espaços e hábitos para a produção, distribuição e consumo de bens, serviços e significados, as ciências sociais devem se esforçar não apenas para serem usuárias ou implementadoras de IA, mas também para participar do desenvolvimento e da avaliação desses sistemas.

Para intervir de forma crítica e com uma agenda decolonial no ecossistema digital e de IA, propomos mapear esse território complexo e multifacetado, abraçando plenamente a "virada materialista". Ir além da suposta "desmaterialização" associada às tecnologias digitais e, em vez disso, questionar sua materialidade (cabos submarinos, infraestrutura em nuvem, servidores, satélites, mineração de terras raras) implica focar na dinâmica geopolítica das lutas em torno das diversas formas de extrativismo que o compõem (de minerais raros a dados), bem como mapear a economia política do ecossistema de dados, algoritmos e plataformas. E, juntamente com isso, significa contabilizar os remanescentes, os vestígios, as "zonas de sacrifício" do capitalismo informacional transnacional, onde regiões geográficas inteiras são permanentemente submetidas a danos ambientais e à falta de investimentos.

A agenda de trabalho também inclui a questão do lugar da vigilância em massa e da ativação remota do comportamento dentro desses ecossistemas digitais (Zuboff 2025). Incorpora ainda, como parte da teoria crítica, a questão dos acidentes inerentes a essas tecnologias altamente complexas com as quais coexistimos. Os potenciais incidentes de IA que afetam a qualidade da vida democrática são inúmeros: da vigilância em massa aos deepfakes, da proliferação de vieses e da sub-representação de minorias à manipulação maliciosa do comportamento, da classificação social e das desigualdades epistêmicas. Como coletar e identificar incidentes de IA em tempo hábil? Como estudá-los? Como antecipá-los e "detectar o erro" para minimizar seu impacto? Esta não é uma tarefa exclusiva de cientistas da computação, mas sim de equipes interdisciplinares especializadas em "sociedade artificial". Por fim, questionamo-nos como diferentes coletivos e movimentos sociais, culturais e artísticos estão se organizando para interceptar e desviar as linhas de força neocolonialistas e profundamente autoritárias que pressionam para controlar os fluxos comunicacionais, logísticos, emocionais, econômicos e libidinais de nossa região.

É por todas essas razões que, nesta GT, propomos explorar e expandir quatro linhas de trabalho que identificamos como desafios dos ecossistemas digitais + IA:

1. Os desafios epistemológicos desta nova etapa de digitalização + IA generativa. A questão das escalas (para além da relação indivíduo-sociedade) e o esquema Dados-Algoritmos-Plataformas como modelo para analisar processos de hipermediação (Rodríguez 2025).

2. Os desafios da governança. Por um lado, a questão dos acidentes, riscos e perigos dos ecossistemas digitais + IA. Por outro, as ameaças à ordem da informação e as ameaças à democracia (Zuboff 2025, Coeckelbergh 2025).

3. Os impactos nos modos de vida e nas formas de subjetivação. A deriva onto-tecnopolítica deste momento: estamos caminhando para um modelo pós/transhumanista de humanidade, ou já estamos nele? Como estudar e, eventualmente, contribuir para reverter os processos de delegação cognitiva, sedentarismo cognitivo (Sigman 2025) e outros impactos subjetivos ligados às transformações da atenção (Heyles 2010)?

4) As resistências: epistemologias críticas (feminismos, teorias decoloniais, cosmopolíticas alternativas), tecnopoética crítica e outras práticas de desvio, fuga e profanação do dispositivo digital hegemônico.