Elis Regina e os perigos do deepfake

 Por Ruth de Aquino 

 No comercial da Volkswagen, Elis Regina, morta há 41 anos, canta junto com a filha Maria Rita Reprodução

É gigantesco o potencial de desinformação, se não aprendermos a dominar a inteligência artificial

Só acredito vendo. Agora, nem vendo dá para acreditar. O novo comercial da Volkswagen, que usou inteligência artificial para unir mãe e filha em dueto ao som de ‘Como nossos pais’, provocou um estranhamento nacional. Muita gente se emocionou vendo Elis, morta há 41 anos, e Maria Rita, lado a lado. Dirigindo e cantando. Muita gente não se emocionou. E muita gente se indignou com a manipulação da imagem de uma artista morta. Usada legalmente pela Volkswagen, com a concordância dos filhos herdeiros.

Minha indiferença por qualquer postagem – publicitária ou não – que envolva deepfake se explica primeiro pelo significado. “Falsificação profunda”, em bom português, é bem mais assustador do que a expressão em inglês. É pior que mentiras, pior até que fakenews, coisa perniciosa que já tornou inelegível um ex-presidente. São tecnologias de manipulação de imagens e vídeos, para colar o rosto de uma pessoa no rosto de outra pessoa, ou manipular o rosto de alguém para ter uma expressão falsa. A mim, como jornalista, parecem imensos os riscos da glorificação do deepfake.

Sinto certa repulsa. Que se explica pela origem do termo. O deepfake foi assim categorizado em dezembro de 2017. Um usuário da rede social Reddit postou vídeos de celebridades fazendo sexo, como Emma Watson e Emma Stone. Com ferramentas de IA, colocava o rosto delas em outro corpo. Os deepfakes mais realistas exigem um computador mais sofisticado, capaz de imitar como o nosso cérebro aprende. Podem criar também o som.

No caso de Elis, a voz é dela mesmo. Da gravação do álbum Falso Brilhante, de 1976, na faixa ‘Como nossos pais’, de Belchior. Os movimentos são da dublê, a atriz Ana Rios. Guilherme Alves, coordenador do engajamento de jovens para a Safernet Brasil, se preocupa com os riscos futuros dessa tecnologia: “O potencial de desinformação do deepfake é gigantesco”. E vai afetar o debate público e a informação das pessoas. Começa como uma brincadeira e lá na frente é utilizado como distorção da realidade. Para manipular.

Precisamos saber o que consumimos. Quando comemos uma bolacha, sabemos pelo rótulo quanto há ali de gordura saturada. Quando vemos uma capa publicitária no jornal, é necessário estar indicado que aquilo não é notícia. Quando fumantes compram tabaco, atrás do maço há uma figura que alerta para substâncias cancerígenas. Produtos de consumo têm uma regulação que protege os nossos direitos. A tecnologia corre por fora numa velocidade que dá pânico.

O historiador israelense Yuval Noah Harari assinou um artigo em março, com os ativistas de direitos digitais Tristan Harris e Aza Haskin, no New York Times. O título era longo. “Precisamos aprender a dominar a inteligência artificial antes que ela nos domine”. Harari propõe algo impossível. Uma moratória mundial de seis meses para repensar sobre os perigos de uma IA desenfreada. Não acontecerá. Sim, conhecemos os benefícios possíveis. A inteligência artificial pode nos ajudar a derrotar o câncer, a descobrir remédios que salvam vidas, a superar nossa crise climática.

Mas, como escreve Harari, “o que significaria para os humanos viver em um mundo onde histórias, melodias, imagens, leis, políticas e ferramentas são moldadas por uma inteligência não humana, que sabe explorar com eficiência sobre-humana as fraquezas, preconceitos e vícios da mente humana? Em jogos como o xadrez, nenhum ser humano pode esperar vencer um computador. E quando a mesma coisa acontecer com a arte, a política e até a religião?”

Claro que a Volks só quer renovar a imagem e vender carros. E não dominar a humanidade. A empresa não agiu de maneira ilegal. Procurou os filhos, Maria Rita e o músico João Marcelo Bôscoli. Eles concordaram. Ficaram felizes com o resultado. Maria Rita disse que a campanha é linda, “de arrepiar”, e que ela realizou um sonho. “Foi um momento mágico”.

Acho mais emocionante ouvir Elis cantar separadamente da filha. Mas, para o bem e para o mal, nós não vivemos como nossos pais e essa onda artificial continuará a contaminar a vida real. O filho João Marcelo já pensa em levar a mãe Elis em 3D para os palcos, usando recursos do deepfake. Eu não irei a esse show.

 Fonte: https://oglobo.globo.com/cultura/ruth-de-aquino/coluna/2023/07/elis-regina-e-os-perigos-do-deepfake.ghtml 06/07/2023