"A inteligência artificial apresenta desafios sociais significativos"

---

Transcrição da coluna de Karina Batthyány
Em InfoCLACSO – 31 de julho de 2024

O tema da Inteligência Artificial (IA) é novo e relevante para a agenda da CLACSO, que abordamos hoje, em particular, em termos do seu papel e dos desafios que apresenta para as nossas disciplinas das ciências sociais e humanas, na perspectiva do pensamento crítico transformador. A CLACSO, em conjunto com a UNESCO (Equador), lançou uma chamada para artigos sobre inteligência artificial, um tema que ocupa atualmente um lugar de destaque na agenda acadêmica.

Em teoria, a inteligência artificial tem o potencial de gerar benefícios significativos, mas também apresenta desafios sociais importantes que devem ser abordados de forma crítica e ponderada para garantir que seu desenvolvimento e aplicação contribuam para o bem-estar individual e coletivo, o respeito ao meio ambiente, o respeito aos direitos de todos e a justiça social. Em última análise, essas são as questões que nos colocamos. Das ciências sociais e humanas, temos um papel a desempenhar e um desafio a enfrentar em termos de reflexão e desenvolvimento do pensamento crítico.

A inteligência artificial é um conjunto de sistemas computacionais projetados para imitar e replicar algumas habilidades cognitivas humanas, como aprendizado, percepção, raciocínio e até mesmo tomada de decisões. Essa tecnologia se baseia em algoritmos altamente complexos e utiliza grandes quantidades de dados para executar tarefas específicas.

Nas décadas de 40 e 50, foram estabelecidos os primeiros conceitos teóricos em torno da inteligência artificial, que evoluíram ao longo do tempo por meio de melhorias no aprendizado de máquina e da criação de redes neurais artificiais. Foi no século XXI que a IA experimentou um crescimento tão rápido, impulsionado por melhorias no poder de processamento e pelo acesso a vastas quantidades de dados.

Com o rápido avanço da IA, a humanidade se vê imersa em um mundo cada vez mais conectado e automatizado que, embora ofereça inúmeras vantagens e benefícios, também levanta dúvidas e preocupações em termos de privacidade e segurança.

Hoje, os assistentes virtuais interagem com os humanos — ou seja, conosco — por meio do reconhecimento de voz, ajudando-nos a realizar diversas tarefas, como buscar informações, definir lembretes, reproduzir música e controlar dispositivos inteligentes. As plataformas de mídia social também estão usando IA para analisar interesses, comportamentos e conexões a fim de oferecer conteúdo personalizado. Já observamos alguns impactos desse trabalho nas mídias sociais, inclusive em questões eleitorais e nas democracias em nossos países da América Latina e do Caribe.

Além disso, a IA analisa cada histórico de visualização ou compra e supostamente utiliza algoritmos de aprendizado de máquina para sugerir conteúdo ou produtos que possam ser do nosso interesse. Isso é complementado por tradutores automáticos, chatbots para suporte ao cliente e outras opções.

No entanto, um dos riscos da IA ​​que podemos mencionar é a coleta de grandes quantidades de dados pessoais, o que pode comprometer a privacidade das pessoas. As informações fornecidas podem ser tendenciosas, imprecisas ou até mesmo gerar notícias falsas, manipular imagens ou vídeos para que pareçam reais ou imitar vozes. Além disso, a IA é altamente vulnerável a ataques cibernéticos e acesso não autorizado.

O que tudo isso tem a ver com as ciências sociais e humanas? Precisamos nos perguntar qual o impacto de todas essas questões na sociedade.

As empresas de tecnologia geraram trilhões de dólares em riqueza no último quarto de século, enquanto, ao mesmo tempo, muitos empregos estão em risco. Um estudo da Universidade de Oxford, de 2016, mostrou que 47% dos empregos estão ameaçados por esses modelos de inteligência artificial. Em contraste, revoluções industriais anteriores ou transformações no mundo do trabalho eliminaram empregos manuais, mas acabaram criando novos empregos adaptados.

O que acontecerá agora com essa nova automação de alguns empregos? Por exemplo, vamos pensar no trabalho de tradução, em algumas áreas da medicina e no transporte, especificamente na condução de veículos.

A Universidade Nacional de San Martín, na Argentina, conduziu uma pesquisa nas áreas de física, ciência de dados e ciências sociais para analisar o impacto da inteligência artificial na sociedade, na regulação estatal e as possibilidades e perigos do avanço do que eles chamam de "indivíduos-máquina".

Entende-se que as ferramentas desenvolvidas por grandes corporações multinacionais como OpenAI, Google, Microsoft e Meta desempenham diversas funções, como resolver problemas matemáticos complexos, traduzir e gerar texto, e reconhecer e construir imagens de alta definição. No entanto, elas também afetarão muitas profissões, e isso será sentido por aqueles que estão ingressando na universidade para se qualificar para ofícios, ocupações e profissões. É possível que alguém que se forme daqui a sete ou oito anos descubra que seu emprego não está mais disponível.

Ao longo da história, os seres humanos criaram tecnologias para avançar em diversas áreas, até mesmo para realizar coisas que antes pareciam impossíveis (como voar). "O perigo é que essas tecnologias de IA executem e substituam tarefas que gostamos de fazer", observa Flavia Costa, pesquisadora argentina do CONICET. Ela acredita que alguém que gosta de desenhar ou pintar deixará de praticar algumas dessas atividades gratificantes por causa da inteligência artificial. "Isso levanta uma questão ética: que tipo de vida queremos levar?", questiona Costa.

Por outro lado, existe um impacto ambiental. O uso da Inteligência Artificial, como outros avanços tecnológicos, não é inofensivo; requer uma quantidade enorme de água e energia para fabricar tudo o que é necessário para o seu funcionamento. Algumas estimativas sugerem que são necessárias entre dez e quinze vezes mais energia e água do que a fabricação de um chip padrão. Estima-se que, até 2027, a demanda global de água apenas para fabricar chips e refrigerar centros de dados de IA poderá equivaler à metade do consumo do Reino Unido.

Estamos falando de um recurso que é absolutamente essencial neste momento para nossa região e para o mundo. Essa expansão é tão vasta e rápida que Sam Altman, diretor da OpenAI, alertou que a IA está levando a humanidade a uma “crise energética catastrófica”.

A inteligência artificial apresenta outras características preocupantes. Centenas de substâncias químicas estão envolvidas na fabricação de chips, incluindo as altamente tóxicas PFAS. Isso representa outra dimensão a ser explorada em relação ao meio ambiente.

Precisamos também nos questionar sobre as regulamentações estatais e o papel do Estado na regulação do desenvolvimento da inteligência artificial. Devemos priorizar essas questões, pois constatamos que muitas das regulamentações em nossos países, incluindo os marcos legais pertinentes, ainda não contemplam esses novos desenvolvimentos, tornando-as completamente obsoletas e potencialmente capazes de gerar injustiças.

Há um último elemento relacionado à forma como esses desenvolvimentos reduzem ou ampliam as desigualdades. Nesse sentido, existe uma proposta ligada à renda básica. Na última década, a comunidade tecnológica tem experimentado pagamentos a pessoas em situação de extrema necessidade, algo semelhante a uma “renda básica”. Essa ideia surgiu com Sam Altman, CEO da OpenAI, que acreditava que a inteligência artificial revolucionaria tudo o que existia antes dela. Portanto, buscam-se alternativas para a sobrevivência: a discussão sobre a viabilidade de uma renda básica universal chegou ao Vale do Silício, onde grandes empreendedores de tecnologia, como Mark Zuckerberg e Elon Musk, acreditam que ela poderia resolver não apenas a pobreza, mas também o desemprego.

Por exemplo, em 2019, a OpenResearch recrutou 3.000 pessoas no Texas e em Illinois, nos Estados Unidos, com renda anual inferior a US$ 28.000. Um terço delas recebeu US$ 1.000 por mês; o restante recebeu apenas US$ 50. O programa durou três anos. O experimento teve como objetivo analisar como o auxílio financeiro incondicional influencia o comportamento humano, incluindo sua capacidade de reduzir os níveis de estresse e aumentar a esperança em um futuro melhor.

No entanto, muitas questões precisam ser levantadas em relação a esse tipo de experimento com pessoas. Por que indivíduos ricos apoiam tal iniciativa? Segundo algumas vozes, incluindo seus detratores, a proposta de renda básica nada mais é do que um complemento perfeito para o liberalismo econômico mais agressivo, baseado na ideia de que, se pessoas com baixa ou nenhuma renda receberem uma renda básica que lhes permita pagar o mínimo necessário para viver, a desigualdade econômica poderá aumentar ainda mais. Portanto, chegam ao extremo de realizar esse tipo de experimento com fenômenos semelhantes ao que uma renda básica poderia representar, a fim de testar os comportamentos e o que acontece com essas pessoas que são vítimas da desigualdade econômica.

Mais uma vez, no que diz respeito ao papel do Estado, é importante considerar como regular todos esses elementos, como ter uma discussão genuína sobre renda básica e não vinculada a essas experiências sociais; ou seja, renda básica entendida como um mecanismo mínimo de garantia e acesso ao bem-estar para todos.

A grande questão hoje é o que fazer, como avançar neste contexto, como analisar e caracterizar essas mudanças na interação social resultantes da expansão da inteligência artificial, como esses sistemas influenciam algo tão importante quanto o nosso cotidiano e como esse cotidiano está sendo transformado pela maneira como interagimos com a tecnologia e com outras pessoas. Além disso, como isso modifica as práticas cotidianas e, por extensão, as práticas sociais.

Entendemos que não basta simplesmente regular o desenvolvimento de sistemas de IA; devemos também buscar, como região da América Latina e do Caribe, uma política mais ativa de desenvolvimento de nossos próprios conhecimentos e tecnologias no âmbito da IA, e não perpetuar essas desigualdades.

Em nossa região existe potencial científico e é necessária uma política em nível universitário que reúna todos nós que trabalhamos na área das ciências sociais e humanas, para mostrar as diferentes contribuições que nossa disciplina pode oferecer.

Em resumo, a inteligência artificial tem o potencial de gerar benefícios significativos, mas também apresenta desafios sociais importantes em todas as dimensões, que devem ser abordados de forma ponderada, crítica e cuidadosa neste momento, priorizando o bem-estar individual e coletivo, o meio ambiente e a justiça social.

– É muito interessante poder refletir sobre esses temas, que claramente passaram por uma grande transformação recentemente. E parece estranho pensar que as tecnologias que serão tão onipresentes em nosso cotidiano não estejam sendo debatidas com todos os setores. Se as plataformas de mídia social envolvem acadêmicos, movimentos sociais e formuladores de políticas, seria importante que essas tecnologias também envolvessem todos os setores na reflexão sobre o que queremos alcançar com essas metatecnologias, não é?

A principal questão reside no propósito de todas essas tecnologias e nas dimensões éticas associadas ao seu uso. Se há algo a que as ciências sociais e humanas podem contribuir, é com a resposta a essas duas questões. No CLACSO, por meio de nossas Plataformas para o Diálogo Social (PDS), reunimos conhecimento, movimentos e organizações sociais e o campo das políticas públicas. Aí reside a chave para o sucesso, garantindo que essas tecnologias se tornem verdadeiramente um benefício e não um amplificador das desigualdades.

---

---