Seres humanos e inteligência artificial: quem está no controle?

Januária Cristina Alvesé*

 

Precisamos nos enxergar no comando, atuando com a autoridade e o poder que nos compete na tomada de decisões

O rapper e escritor MV Bill revelou seu lema em entrevista à revista Gama: “Seja você mesmo o administrador de suas próprias ideias. Continue driblando algoritmos”. Nesses tempos em que a inteligência artificial parece uma força maior do que nós, tomando decisões, nos contando quem somos e o que desejamos, esse parece ser um bom lema para sobreviver. Em meio a uma série de dúvidas sobre até onde a IA pode nos levar, assumir o controle sobre essa ferramenta que promete gerenciar o mundo pode ser a saída para garantir que ela trabalhe a nosso favor e, sobretudo, promova um bem maior para toda a sociedade. Pelo menos é nisso que acredita o cientista inglês Stuart Russell, uma das maiores autoridades quando o assunto é a relação da IA com os humanos. Ele esteve em Porto Alegre e em São Paulo para o evento “Fronteiras do Pensamento”. “Acredito que a IA pode ter benefícios para a humanidade. Mas acho que os sistemas, como estão sendo feitos, são incontroláveis. E espero que vocês enxerguem que existe outra forma de produzir IA que permitirá que a humanidade fique no controle”, afirma. 

Ainda podemos tornar a IA uma ferramenta potente para melhorar a vida humana

O controle, aliás, é o grande tema do evento, que terá mais cinco convidados de áreas tão diversas quanto a história, a medicina e a economia. Sob a questão “Quem está no controle?”, que parte exatamente do espectro da inteligência artificial, as discussões propõem uma reflexão tão ampla quanto profunda sobre se há necessidade do controle, em primeiro lugar, e também sobre o que significa perdê-lo numa era de incertezas, em que a inteligência das máquinas tem evidenciado o aspecto sombrio do seu exercício. Fernando Schüler, curador do Fronteiras do Pensamento, conta que propôs aos convidados nos ajudarem a elaborar essa incógnita sem buscarem uma resposta precisa necessariamente, dado que a história da humanidade evidencia um pêndulo que oscila entre a ordem e a liberdade, ou seja, controlar ou ser controlado é sempre uma questão. “Nesses 17 anos de projeto do Fronteiras vimos o mundo do conhecimento dilacerar-se numa profunda mudança do zeitgeist, o espírito do tempo.” Por isso, questiona: “A solução seria aumentar os padrões de controle sobre o mundo digital? É possível, afinal de contas, que alguém esteja no controle de um universo cuja lógica parece indicar exatamente o inverso?”. Schüller também nos motiva a indagar as razões pelas quais o controle – de nós mesmos, do nosso tempo e atenção, das plataformas e redes sociais – tornou-se o centro do debate contemporâneo. E provoca: “Pesquisas indicam um forte crescimento dos índices de depressão e angústia, em especial no público mais jovem. Perdemos o controle sobre o que é, de fato, importante para cada um?”.

Trazendo o foco para a Inteligência Artificial, o escritor, físico e cientista da computação Stuart Russell, que abriu o evento, chama atenção para o fato de que ainda podemos tornar a IA uma ferramenta potente para melhorar a vida humana, desde que saibamos desenvolver outras formas de inventá-la e administrá-la. Para ele, é preciso criar parâmetros e medidas de controle das máquinas e especialmente do “botão de desligar”: “Ao contrário de opiniões que dizem que primeiro deve-se apreender como fazer a IA e depois torná-la segura, a IA DEVE nascer segura”, afirma. Bastante claro, ele afiança que isso só ocorrerá se a tornarmos alinhada com os objetivos da humanidade (“temos que ser mais inteligentes, sempre!”, enfatiza), se ela “souber que não sabe”, ou seja, quais são os interesses dos humanos (“por exemplo: se um pedido para diminuir CO2 na terra implicar em transformar oceanos em ácido, a IA terá que pedir autorização e, diante da negativa, terá que alterar o seu modo de fazer, para que não aconteça o problema”, diz), e por fim, que deverá “querer” ser desligada, se assim for necessário. 

Há ainda um longo caminho a ser percorrido para tornar a IA segura para os humanos, mas, segundo o escritor, é fundamental lembrar que no mundo há vários modelos e conjuntos de valores humanos, mas em todos eles a IA deverá ser capaz de evitar conflitos de interesses, estimulando a agregação social (moral, econômica, etc). Em seu livro “Inteligência artificial a nosso favor: como manter o controle sobre a tecnologia” (ed. Companhia das Letras) Russell frisa que a questão central da IA é a de que “não é possível prever com exatidão como a tecnologia se desenvolverá, ou qual será sua cronologia. Mesmo assim, precisamos nos preparar para a possibilidade de que as máquinas superem — e muito — a capacidade humana de tomar decisões no mundo real. E se isso acontecer?” Na palestra, ele usou a imagem dos seres humanos no filme da Pixar “Wall-E” perguntando à plateia: “Com a IA gerenciando o mundo, do que as pessoas se ocuparão?” 

Em síntese, o que destaco dessas reflexões tão importantes sobre o nosso papel como humanos em relação às máquinas, é que ele implica em entendermos o quão originais conseguiremos nos manter num mundo “gerenciado” pelos algoritmos, e a IA é um deles. Como bem frisou Russell, aos algoritmos interessa que sejamos previsíveis, “clusterizáveis” e, por isso, a polarização tornou-se um negócio tão interessante para as redes sociais, pois ela nos torna um padrão simples de ser controlado: “Para o algoritmo você é só uma sequência de cliques, ele não sabe o que você é, nem faz juízo de valor, mas ele pode lhe transformar”. 

Penso que o medo de não estarmos no controle tem mais a ver com a perda da nossa identidade, dos nossos valores e da ética do bem viver. Nos perdermos nas redes e deixarmos que a polarização tome conta dos nossos corações e mentes é a nossa grande fantasia de terror. Nesse sentido, talvez precisemos nos enxergar no comando – que é mais do que o exercício do controle – atuando com a autoridade e o poder que nos compete na tomada de decisões que dão sentido à nossa vida. É como vaticinou o colunista Ronaldo Lemos em sua coluna na Folha de S.Paulo comentando o caso do Google, que suspendeu a Gemini, a sua plataforma de criação de imagens: “Inteligência artificial é simplesmente software, feito por pessoas, controlado e calibrado por empresas (…) quando sua IA se comportou de um jeito que a empresa não gostou, ela simplesmente a tirou do ar. Vamos dormir melhor nos lembrando disso”. Tenhamos também como lema o mesmo que MV Bill: driblar os algoritmos sendo o que somos,  seres criativos, potentes e absolutamente originais.

*Januária Cristina Alvesé mestre em comunicação social pela ECA/USP (Escola de Comunicações e Artes da Universidade de São Paulo), jornalista, educomunicadora, autora de mais de 50 livros infantojuvenis, duas vezes vencedora do Prêmio Jabuti de Literatura Brasileira, coautora do livro “Como não ser enganado pelas fake news” (editora Moderna) e autora de “#XôFakeNews - Uma história de verdades e mentiras”. É membro da Associação Brasileira de pesquisadores e Profissionais em Educomunicação - ABPEducom e da Mil Alliance, a Aliança Global para Parcerias em Alfabetização Midiática e Informacional da Unesco.

Fonte: https://www.nexojornal.com.br/colunistas/2024/05/09/seres-humanos-e-inteligencia-artificial-quem-esta-no-controle?utm_medium=email&utm_campaign=Nexo%20%20Hoje%20-%2020240510&utm_content=Nexo%20%20Hoje%20-%2020240510+CID_33a9368de28ebcde9fd3fb84f63ac248&utm_source=Email%20CM&utm_term=Leia%20na%20coluna%20de%20Januria%20Cristina%20Alves