A superinteligência artificial nas mãos de extremistas e autocratas é uma distopia assustadora

Por Alexandre Chiavegatto Filho*

 Garantir a democracia para chegada da AGI é um desafio global  Foto: Andy Wong/AP

O retorno da autocracia e do ódio não poderia acontecer em um pior momento

Thomas Hobbes, o filósofo inglês do século 17 conhecido pelo livro Leviatã, defendia que a condição natural da humanidade é estar em guerra constante, e que a ascensão inevitável do autoritarismo seria uma resposta ao aumento do caos e da desordem.

Entretanto, a humanidade nunca viveu em tempos tão democráticos e pacíficos quanto os atuais. No livro Os Anjos Bons da Nossa Natureza, Steven Pinker fez um balanço histórico e concluiu que a violência tem diminuído consistentemente nos últimos séculos, sugerindo que a humanidade pode alcançar a paz sem recorrer ao autoritarismo.

Essa perspectiva desafia de certo modo a visão hobbesiana, indicando que as instituições democráticas e o progresso social poderiam ser suficientes para manter a ordem e a segurança das pessoas.

Nos últimos anos, eleitores ao redor do mundo têm discordado dessa teoria, optando por eleger autocratas que têm promovido constantes ataques à democracia em nome de uma suposta ordem, inclusive com tentativas de golpes de Estado em países como EUA e Brasil.

A vitória da extrema-direita na França no domingo, 30, é mais um passo nessa direção. Na ausência de um líder cuja incompetência seja amplamente reconhecida, como nos dois países pioneiros desse movimento, a tendência é que as elites globais naturalizem o acúmulo de poder dos extremistas de direita, assim como fizeram na primeira metade do século passado.

A volta desse movimento guiado pelo autoritarismo e pelo ódio não poderia ter chegado em um pior momento histórico. Nos próximos anos, a inteligência artificial geral (AGI, em inglês) deve se tornar uma realidade e as suas consequências são atualmente imprevisíveis.

Ao mesmo tempo que essa tecnologia irá possibilitar profundos avanços positivos na humanidade, como a cura de doenças e novas descobertas científicas, ela também pode ter um direcionamento assustador nas mãos das pessoas erradas.

Autocratas poderão utilizar IA para controlar a população e perseguir seus adversários, e assim atingirem seus objetivos de perpetuação no poder. Isso sem contar o impacto que pode ter em otimizar possíveis massacres e exclusões de minorias.

Não é o momento para deixar o ódio a grupos vulneráveis nos levar a um futuro distópico, em que ficaremos reféns das vicissitudes de megalomaníacos com complexo de inferioridade. Precisamos fortalecer a democracia, garantindo o equilíbrio de poder e criando barreiras sólidas contra novas tentativas de golpes de estado.

Quando a AGI chegar, vamos querer os países colaborando e não em uma corrida às armas pela dominação de adversários. Garantir a democracia global é o maior desafio que temos hoje.

 *Professor Livre Docente de inteligência artificial na Faculdade de Saúde Pública da USP

Fonte:  https://www.estadao.com.br/link/alexandre-chiavegatto-filho/a-superinteligencia-artificial-nas-maos-de-extremistas-e-autocratas-e-uma-distopia-assustadora/