OS DIAS DA SEMANA Um Atlas da Inteligência Artificial

Eduardo Jorge Madureira Lopes*

É muito comum acreditar que as soluções tecnológicas são invariavelmente milagrosas – e inevitáveis – para resolver qualquer género de problema. Kate Crawford, investigadora na Microsoft, académica, considerada pela revista Time como uma das 100 pessoas mais influentes do mundo em Inteligência Artificial (IA), nomeia essa crença como “determinismo encantado”. O problema é que “o determinismo encantado obscurece o poder e encerra as discussões informadas, o escrutínio crítico ou a rejeição pública”, escreve ela em Atlas da IA. Poder, política e custos planetários da Inteligência Artificial [1].

Kate Crawford olha para a IA distanciando-se do utopismo tecnológico, que encara as intervenções computacionais como soluções universais aplicáveis a qualquer problema, e da perspectiva distópica, que culpa exclusivamente os algoritmos pelos resultados negativos, como se estes fossem agentes independentes dos contextos que os formatam e operam. Considerar que a IA ocupa uma posição central na redenção ou na ruína da sociedade faz com que, segundo Kate Crawford, se acabe por ignorar as forças sistémicas de um neoliberalismo desenfreado, as políticas de austeridade, a desigualdade racial e a exploração de mão-de-obra.

“Os sistemas de IA não são cérebros incorpóreos que absorvem e produzem conhecimento independentemente dos seus criadores, infraestruturas e do mundo em geral”, explica a autora, notando que “estas ilusões distraem de perguntas muito relevantes: A quem servem estes sistemas? Quais são as economias políticas responsáveis pela sua construção? Quais são as consequências planetárias mais amplas?”

As respostas a estas e a outras questões surgem ao longo dos seis capítulos de Atlas da IA, cujo tema central é “o profundo entrelaçamento da tecnologia, do capital e do poder, de que a IA é a última manifestação”. Para Kate Crawford, “a Inteligência Artificial não é uma técnica computacional neutral que tome resoluções sem uma direcção humana”. É que “os seus sistemas estão integrados em mundos sociais, políticos, culturais e económicos, delineados por humanos, instituições e imperativos que determinam o que fazem e como fazem”. Ou seja: “Estão desenhados para discriminar, amplificar hierarquias e codificar classificações restritas”. O sarilho maior é que “quando são aplicadas em contextos sociais como a vigilância policial, o sistema judicial, a saúde e a educação, podem reproduzir, optimizar e amplificar as desigualdades estruturais existentes”.

O Atlas da IA chama a atenção para a política extractiva da IA, consumidora voraz de minerais de terras raras, água, carvão e petróleo. Observa Kate Crawford que “o sector tecnológico escava a terra para alimentar as suas infra-estruturas de alto consumo energético” sem, todavia, admitir que o que faz tem nefastas consequências ecológicas. “Esta opacidade das cadeias de abastecimento maior para a computação em geral, e para a IA em particular, é parte de um modelo de negócio estabelecido há muito tempo que consiste em extrair valor dos bens comuns e evitar a compensação pelos danos duradouros”.

A obra também escrutina outra forma de extracção, a de mão-de-obra. Kate Crawford indica que, além dos engenheiros de aprendizagem automática, muito bem remunerados, há outros trabalhadores bem menos beneficiados, igualmente necessários para que os sistemas de IA funcionem. Na Indonésia, na India ou na China, “a força laboral da IA é muito maior do que podemos imaginar”. Mesmo nas companhias tecnológicas existe uma grande força laboral paralela, com um elevado número de trabalhadores precários. E, triste ironia, em muitos locais, os trabalhadores são vigiados por sistemas de IA. “Nestes espaços, o futuro do trabalho parece-se mais com fábricas tayloristas do passado, mas com pulseiras que vibram quando os trabalhadores se equivocam e com multas impostas por pausas para irem ao quarto-de-banho”.

Uma terceira extracção referida pela autora é a de dados. Diz ela que os dados do espaço público são saqueados, os rostos nas ruas são capturados para treinar sistemas de reconhecimento facial, os feeds das redes sociais são absorvidos para construir modelos de linguagem preditivos, os sites em que as pessoas guardam fotografias ou debatem são perfurados para treinar algoritmos de visão artificial e linguagem natural.

Para terem eficácia preditiva, torna-se necessário catalogar os dados colectados, estabelecendo, por exemplo, relações entre rostos e emoções. O trabalho para que a ampla gama de sentimentos se transforme em algo quantitativo, detectável e rastreável não pode ser realizado sem um extraordinário “achatamento epistemológico da complexidade”. Daí a interrogação de Kate Crawford: “Que tipo de violência epistemológica é necessária para que o mundo se torne legível para um sistema de aprendizagem automático?”

O Atlas da IA. Poder, política e custos planetários da Inteligência Artificial é uma obra assaz instrutiva que termina com um apelo: “Há políticas colectivas sustentáveis que vão para além da extracção de valores, há bens comuns que vale a pena conservar, mundos que vão para além do mercado e maneiras de viver que vão para além da discriminação e dos modos brutais de optimização. A nossa tarefa é traçar um rumo que nos leve lá”.

[1] Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021

* É licenciado em Português-Francês (Universidade do Minho). Foi o primeiro responsável do jornal Público em Braga e é o coordenador pedagógico do projeto Público na Escola, um projeto de educação para os media do jornal Público.

Fonte:  https://www.diariodominho.pt/opiniao/2024-03-24-os-dias-da-semana-um-atlas-da-inteligencia-artificial-65fefcf647463