Por Pedro Nakamura
Teórico da mídia que estará em Porto Alegre para o Fronteiras do Pensamento diz que estamos vivendo um "pesadelo tecnológico" e defende a regulamentação das plataformas digitais
O teórico da mídia Douglas Rushkoff diz escrever livros para mostrar ao público o quão estúpidos são bilionários como Elon Musk e Mark Zuckerberg. Na visão do escritor norte-americano, que é professor da City University of New York, os ricaços do Vale do Silício que estão moldando nosso mundo por meio de plataformas digitais, redes sociais e da inteligência artificial (IA) estão contra a humanidade – o que querem, na verdade, seria construir uma utopia tecnológica de super-humanos excluindo todos nós. Rushkoff já foi eleito em 2013 o sexto intelectual mais influente do mundo pela Massachusetts Institute of Technology (MIT). Hoje, o autor é uma das principais vozes críticas aos feitos dos “Tech Bros”, ou os “Rapazes da TI” que fundaram as principais empresas de tecnologia que, segundo ele, afundaram o mundo em uma distopia capitalista. O autor é um dos destaques do Fronteiras do Pensamento 2023, que começa na próxima semana em Porto Alegre (veja detalhes do cronograma de conferências ao final desta entrevista).
Sobre o que você vai falar para o público brasileiro no Fronteiras do Pensamento?
Vai depender do que estiver acontecendo. Eu costumo falar sobre
como focar nos seres humanos e nas coisas vivas em uma era altamente
digital. O que faz os humanos humanos, sabe? Como valorizamos os seres
humanos, mais do que sua utilidade ou produtividade? Estou interessado
nesse tipo de pergunta, particularmente enquanto desenvolvemos coisas
como a IA e muitas pessoas estão preocupadas que essas inteligências vão
nos desafiar, tirar nossos empregos e nos substituir. Eu me questiono:
se uma IA está substituindo alguém, o que você acha que é esse ser
humano que está sendo substituído? Essa pessoa é uma trabalhadora, uma
produtora, ou é alguma outra coisa?
A IA é a tecnologia
que hoje mais assusta. Houve até uma carta aberta de empresários e
cientistas sobre como deveríamos parar de desenvolvê-la porque
poderíamos perder seu controle. São preocupações razoáveis? Esse risco
existe?
As preocupações são razoáveis, mas a carta foi estúpida. É um
bando de empresários da IA tentando soar como se as tecnologias deles
fossem tão poderosas, quando na verdade não são. Elas não são realmente
inteligências artificiais, são modelos de linguagem. Não há uma máquina
que pensa. São uma mídia sintética, como um buscador do Google com
acesso à Wikipédia. É interessante porque os caras que assinaram a carta
são as mesmas pessoas que trabalharam para todas as empresas de redes
sociais e agora decidiram que o que eles fizeram nelas foi terrível, aí
superestimam o poder das próprias invenções. Eles acreditam que são
deuses e criaram algo tão poderoso quanto a própria natureza, então isso
parece mais uma carta de vendas, quase uma de propaganda. “Nossa
inteligência artificial é tão poderosa que poderia dominar o mundo.”
Isso dito, eu realmente penso que faria bem parar um momento para
refletir sobre o que estamos fazendo. Para que queremos essas
tecnologias? Elas foram desenvolvidas por capitalistas radicais, o tipo
de pessoa que colonializa os outros. Então, quando eles desenvolveram
inteligências artificiais e estas reproduziram o comportamento de seus
criadores, de repente, eles perceberam que criaram uma versão mais
poderosa deles próprios. Ou seja, esses homens estavam felizes em
explorar a humanidade, aí perceberam que suas tecnologias estariam
satisfeitas em explorá-los também. Mas descobriram isso meio tarde.
Você
acha que as inteligências artificiais podem aprofundar impactos sociais
negativos como desemprego e desinformação? Os governos deveriam regular
essas tecnologias, ou estamos sendo exagerados e não há riscos reais?
A inteligência artificial é apenas uma extensão do capitalismo.
É o output de um sistema operacional existente, então a pergunta real
que você me fez é: o capitalismo deveria ser regulado? Ou: deveríamos
pegar todos os recursos, pessoas e trabalho deste planeta e usá-los para
fazer a economia crescer?
A IA vai pegar seja lá o que estivermos fazendo enquanto sociedade e
acelerar isso. Então, sim: penso que deveríamos regular mercados.
Deveríamos ter como prioridade não o poder de compra ou de produção de
uma pessoa. Temos outros papéis que não servir à economia. Esses
“rapazes da TI” estão preocupados com os riscos existenciais à
humanidade porque sabem que já a destruíram. Eles não se importam com o
que já fizeram ou se as IAs usadas para condenar pessoas à prisão nos
EUA são racistas. Elas põem um homem preto na cadeia por mais tempo do
que um branco que cometeu o mesmo crime, e juízes usam esses algoritmos
para decidir a duração das penas. Eles não se preocupam com isso. Eles
pensam “oh, não, essa IA vai ser tão poderosa que vai me encontrar no
meu esconderijo em Marte”, ou “planejo baixar minha consciência para um
computador e agora uma IA vai poder me desplugar”. Eles estão
preocupados com seus riscos pessoais e não com os malefícios que suas
tecnologias já estão causando.
O medo real que pessoas têm de coisas como o TikTok não é que os chineses possam ver seus dados privados e usá-los contra você, chantagear você. Os algoritmos deles são capazes de, a qualquer momento, alguém dizer 'nesta semana, quero os EUA deprimidos', ou 'quero os EUA ansiosos na semana que vem', entende? É o que eles podem fazer com os algoritmos deles a um bando de gente viciada nessas plataformas. É aí que a inteligência artificial se torna perigosa.
Como
você encara o financiamento do Departamento de Defesa dos Estados
Unidos para soluções em inteligência artificial? A IA vai virar uma
arma? Como você vê a forma que militares desenvolvem essas tecnologias?
Difícil de saber. Eles meio que precisam, não é? A China está
fazendo isso, a Rússia está, todos estão. É uma nova corrida. É
interessante porque essas tecnologias são um pouco como armas nucleares,
no sentido de que é difícil apontar elas para um único grupo. É algo
que se volta contra você, como a guerra biológica. É difícil de
contê-la. O medo real que pessoas têm de coisas como o TikTok não é que
os chineses possam ver seus dados privados e usá-los contra você,
chantagear você. Os algoritmos deles são capazes de, a qualquer momento,
alguém dizer “nesta semana, quero os EUA deprimidos”, ou “quero os EUA
ansiosos na semana que vem”, entende? É o que eles podem fazer com os
algoritmos deles a um bando de gente viciada nessas plataformas. É aí
que a inteligência artificial se torna perigosa. Ela tem mais
conhecimento sobre humanos e como nos influenciar do que qualquer
psicólogo ou propagandista. E eles vão continuar testando coisas em
milhões de nós até descobrirem o que funciona. Eles não precisam saber o
porquê! Apenas que é eficaz. Eu acho que provavelmente é isso que os
militares estão fazendo com redes sociais. Parte disso, claro, são
robôs, aviões que voam sozinhos ou mísseis hipersônicos que tomam
decisões por eles mesmos. Tenho certeza de que há isso, mas estou mais
intrigado e preocupado em como a IA pode ser usada em operações
psicológicas e na escala com que a guerra psicológica pode ser lançada
por meio da combinação entre inteligência artificial e plataformas
digitais.
O Vale do
Silício se formou em um espírito que alguns autores chamam de “ideologia
californiana”. Essa ideia de que a internet iria promover a riqueza e o
crescimento ao diminuir o poder dos Estados e criar comunidades
virtuais de indivíduos conectados. Essa fórmula fracassou?
Ela teve tanto sucesso que pode acabar com a humanidade. Sempre
houve um impulso de morte nesse sonho libertário de uma economia
totalmente dirigida pelo mercado. Eles não percebiam o que desejavam,
mas, sim, é uma visão a la Ayn Rand (filósofa libertária) de
uma sociedade implacável, um lugar sem amor nem alma. No fim,
descobrimos que, nessa ideologia californiana, as máquinas se saem
melhor do que humanos porque não têm coração, crianças, culpa, ética ou
moral, nem nada que as segure. Elas aceitam comandos de forma pura e sem
hesitação. São o soldado, o corretor de ações ou o capitalista
perfeitos. Então, de certo modo, eles venceram. Nós não encontramos o
mundo que eles estavam pintando, de como seria, mas os valores deles
inspiraram as plataformas que usamos para nos comunicar hoje. A internet
que eles construíram é o substrato em que a sociedade humana vive hoje.
Então todos os nossos valores foram tingidos ou impactados pelo que
você chamou de ideologia californiana, mas que em meu livro mais recente
eu chamo de “o mindset”. Essa ideia que os “Rapazes da TI” têm de que,
com mais dinheiro e tecnologia, poder escapar do mal que causam ao
justamente ganhar dinheiro e criar mais tecnologia dessa maneira. Eles
acreditam que podem escapar das externalidades do que fazem, mas você
não pode porque todos vivemos no mesmo planeta e eles não podem escapar
para Marte. E agora eles estão percebendo não que eles perderam, mas que
eles ganharam, e que o que criaram foi autodestrutivo.
Nessa ideologia californiana (Vale do Silício), as máquinas se saem melhor do que humanos porque não têm coração, crianças, culpa, ética ou moral, nem nada que as segure. Elas aceitam comandos de forma pura e sem hesitação. São o soldado, o corretor de ações ou o capitalista perfeitos.
Isso quer dizer que existe um conflito entre os valores dos bilionários do Vale do Silício e a própria humanidade?
Sim. Eles querem nos deixar para trás. Esses tecnologistas veem
as pessoas como problema e a tecnologia, como solução. Posso dizer de
modo simples que eles acharão OK se a gente sumir. Eles acreditam em uma
filosofia chamada “Altruísmo Eficaz” (que pensa que as pessoas do futuro importam tanto quanto as vivas hoje).
Essa ideia de que os 8 bilhões de humanos vivos hoje são a humanidade
em seu estágio larval e que eles vão construir pós-humanos. Como pessoas
androides, robóticas, com inteligências artificiais e capazes de se
espalhar por toda a galáxia. E a felicidade desses trilhões de seres
futuros importa tanto quanto a felicidade e bem-estar dos bilhões vivos
hoje. Não somos nada. Somos apenas minhocas, e eles são seres
completamente realizados. Essas pessoas levaram a sério as palavras de
Stewart Brand, um dos pioneiros da contracultura tecnológica. Ele disse
que “somos como deuses e podemos muito bem ficar bons nisso”, então eles
se veem como deuses que sabem melhor o que é importante do que o resto
de nós.
Hoje, Elon
Musk surge como o tipo de cérebro que vai moldar a sociedade por meio da
Tesla, da inteligência artificial e de uma defesa absoluta da liberdade
de expressão, após comprar o Twitter. Nosso futuro vai ser moldado por
mentes como a dele?
Vamos descobrir... Escrevo meus livros principalmente para
mostrar ao público o quão patéticas são pessoas como Elon Musk, Peter
Thiel ou Mark Zuckerberg. Zuckerberg quer ser um César. Ele vê a si
mesmo como um imperador. Sim, eles estão construindo a infraestrutura na
qual a humanidade vai viver, mas eu não os vejo sendo conscientes
disso. A maioria deles aceitou o capitalismo de risco como o sistema
operacional da nossa realidade e eles não o questionam, então, de certo
modo, eles mesmos são como uma inteligência artificial. Estão só rodando
um programa. Eles acham que vão ser disruptivos. Pensam: “Oh, vou ser
disruptivo nos negócios dos táxis (Uber), disruptivo no negócio de vender livros (Amazon), ou disruptivo na venda de automóveis (Tesla)”,
mas eles não estão inovando em nada, estão apenas preservando um
sistema. Elon Musk está encontrando um jeito de as pessoas manterem seus
carros, no lugar de irem além do carro. Não é nada disruptivo. São só
uma nova geração em defesa do mesmo sistema como sempre foi feito.
Isso
faz pensar em McLuhanm que dizia que as tecnologias operam como uma
extensão do corpo e da cognição humana. Uma inteligência artificial pode
ser uma extensão da mente do bilionário que a está desenvolvendo,
então?
De certa maneira. É uma extensão de algo. Se a IA é o meio,
seres humanos são o conteúdo. McLuhan dizia que, qualquer que fosse o
meio anterior, ele se torna o conteúdo do próximo. Então a televisão,
hoje, é um conteúdo da internet. É o que as pessoas fazem: elas assistem
Netflix, streaming ou ao TikTok. Peças de teatro foram o conteúdo da
televisão, originalmente. Eles colocavam uma câmera na frente de um
palco, então, o teatro, que era o meio, virou o conteúdo daquilo. Se
inteligências artificiais se tornarem o meio dominante, o conteúdo delas
somos nós. Isso é estranho e assustador. Então, sim, o conteúdo dessas
tecnologias, as coisas que elas estão modelando e os bancos de dados que
as alimentam, vêm desses caras. Eles não estão sequer modelando a
sociedade humana, estão modelando a internet atual, nem mesmo a antiga. É
a internet dos anos 2016 a 2021. É um momento muito particular da
história humana, e, sim, esse momento da humanidade é a versão que os
"Rapazes da TI" criaram do mundo.
Mark Zuckerberg dizia que o futuro é o metaverso. É mesmo? Depois do ChatGPT,
a inteligência artificial começou a parecer mais evidente como a
tecnologia da moda. O metaverso é só uma ilusão de um homem rico ou é
algo que vai engrenar?
Não, não é algo que vai engrenar. O metaverso foi a maneira de
Mark Zuckerberg tentar deixar o Facebook para trás. Ele estava cansado e
se metendo em encrenca por causa dele. O Congresso (norte-americano) o chamou para depor e todos estavam bravos com o Facebook porque ele nos deu Donald Trump e deu a vocês o Bolsonaro.
Então era meio “dane-se, não quero mais fazer isso”. Ele quis deixar
disso e partir para a próxima. No lugar de continuar na web 2.0, que era
o que o Facebook é, ele quis fazer web 3.0 e “ir além”. Então ele pegou
algumas tecnologias que ninguém entende direito, como realidade
virtual, criptomoedas, inteligência artificial e 4D, ou qualquer outra
coisa, e disse: vou “além” disso tudo. Foi um jeito de fazer os
investidores acharem que ele estava fazendo algo novo e partiria para um
novo nível porque é isso que eles fazem. Esse é o jogo da tecnologia
digital. Adicionar uma camada a mais de abstração para reenquadrar seu
negócio, subir um nível e, enquanto todos estão atrasados com suas lojas
“.com” da web 1.0, eles sobem de nível e agregam essas pessoas. E aí
depois que temos todas essas plataformas e redes sociais na web 2.0, o
que fazemos? Vamos subir de nível novamente e ir para a web 3.0, mas não
há nada lá. Vira uma regressão infinita. Eles não conseguem incorporar o
que veio antes. Eventualmente você precisa de chão, do mundo real.
No
Brasil, tivemos nossa própria invasão do Capitólio em janeiro. Agora
discutimos regular as plataformas digitais e parte do debate é se redes
sociais devem ser responsabilizadas pelo conteúdo que hospedam ou
promovem por meio de seus algoritmos. O que você acha? Elas devem ser
regulados ou isso faz mal à liberdade de expressão?
Estou com a Maria Ressa (jornalista ganhadora do Nobel de 2021)
nessa. As redes sociais usam a liberdade de expressão para sufocar a
liberdade de expressão. Não é uma visão popular entre meus colegas de
tecnologia, mas nunca gostei da seção 230 aqui dos EUA (regra que permite que plataformas se autorregulem, transposta no Brasil via art. 19 do Marco Civil da Internet).
Nunca gostei dela para empresas com algoritmos. Se esses sites fossem
neutros, como o 4chan, que é um fórum onde você posta algo e fica lá,
ninguém toca naquilo, não o amplifica, nem o reenvia, ele apenas está
lá, então você não é um editor, você é um provedor de internet. Se você é
dono do Google ou do Gmail, posso mandar uma mensagem cruel para alguém
e não será sua culpa. Você não é responsável pelo e-mail que mandei.
Mas, no minuto em que você usa algoritmos para pinçar e escolher qual
conteúdo será distribuído para quem e quando, você agora é um editor,
porque faz curadoria e edição assim como qualquer revista. Por isso, (as plataformas sociais) devem ser reguladas da mesma maneira que as revistas são.
O
quanto você acha que a tecnologia mudou nossos padrões éticos? Nossa
moral mudou nessa transição de uma era analógica, sem redes sociais,
para uma digital?
Sim, mas diferentes pessoas são afetadas de modo diferente.
Ficamos mais maus. Pessoas são más umas com as outras na internet porque
é mais anônimo, tem menos repercussões e você tem um sentimento de
poder porque pode angariar uma grande audiência ao engajar pessoas desse
modo. Mas também vejo o público mais sensível às coisas. De certo modo,
nosso entendimento de pessoas diferentes, nossa habilidade de ouvir uma
pessoa trans, ou de um outro gênero, ouvi-las e escutar suas histórias.
Isso pode criar uma proximidade que nunca tivemos antes, então há os
dois lados. Já vi pessoas se recuperarem de desastres por meio das redes
sociais, como angariar fundos para um tratamento hospitalar, mas há
coisas terríveis acontecendo também. O que eu escrevo no meu livro Team Human
é que nossa interação via plataformas digitais não tem o benefício de
500 mil anos de uma sofrida evolução do convívio social. Se você não vê
as pupilas de alguém crescendo quanto te escutam, ou os micromovimentos
de suas cabeças para cima e para baixo causados pelos neurônios-espelho
que geram a mímica de comportamentos, ou a oxitocina não é liberada no
seu sangue, então você não tem os benefícios da experiência social. A
resposta simples é sim, isso faz algumas pessoas menos sensíveis às
necessidades dos outros e, na maior parte do tempo, isso têm sido
deprimente e alienante, mas não acho que seja culpa da tecnologia, mas
da sociedade. Precisamos de melhores escolhas sobre entrar ou não nessas
plataformas. Não é tão difícil assim desligar o telefone. Eu sei que
você pode pensar que há seu trabalho, então há dinheiro, mas não é tão
difícil assim passar a olhar as pessoas face a face e viver a própria
vida de novo. Teremos de fazer isso se quisermos continuar sãos.
As redes sociais usam a liberdade de expressão para sufocar a liberdade de expressão. No minuto em que você usa algoritmos para pinçar e escolher qual conteúdo será distribuído para quem e quando, você agora é um editor, porque faz curadoria e edição assim como qualquer revista. Por isso, (as plataformas sociais) devem ser reguladas da mesma maneira que as revistas são.
Isso
pode ser culpa da sociedade, mas plataformas digitais também são
viciantes. Pode ser difícil no nível da adicção para algumas pessoas.
Sim, mas a razão pela qual elas são viciantes é porque você não
está conseguindo a promessa delas na vida real. Somos adictos às redes
sociais porque elas não entregam o prometido. Se entregassem, não
estaríamos viciados. A adição acontece por causa do condicionamento
clássico, em que você recebe doses aleatórias de dopamina, então você
continua voltando para receber mais, mas isso não é satisfação. Você
nunca vai estar satisfeito com isso, então se você começar a ter
experiências enriquecedoras na vida real, como fazer uma festa para sua
vizinhança ou tirar uma hora do dia para estar com outra pessoa, você
entra em um outro enquadramento emocional. Quando conheci a internet,
foi em um período em que usávamos a expressão “vou navegar na rede”, me
conectar, acessar um computador e fazer algo. Hoje as pessoas estão
online o tempo inteiro. Está preso ao corpo das pessoas e vibra sempre
que alguém fala algo sobre elas. Virou um estado de ser, como uma
interrupção de emergência em que qualquer pessoa a qualquer momento pode
te chamar e você vai estar sempre lá. E isso não é saudável ou
divertido, mas é parcialmente nossa escolha. Sei que é viciante, mas
agora que temos essa consciência podemos começar a escolher diferente
tirando uma hora por semana para estar indisponível online. Faça o
teste. Veja como você se sente com isso. Você pode recuperar sua
humanidade.
Você recomenda às pessoas que deixem as redes sociais?
Não se trata de ficar ou sair. Recomendo às pessoas que tirem
um período sabático. Está na Bíblia e no Torá. Há 3 mil anos, quando os
israelitas escaparam do Egito, eles chegam ao deserto e a primeira coisa
que fazem é tirar um período sabático. A ideia é dedicar um sétimo do
seu tempo para si. Você não tem que comprar, vender, trabalhar ou
justificar sua existência. Eu diria para você não deixar as redes
sociais se gosta delas, mas tire apenas um dia da semana. Sei que é
difícil, mas veja se você consegue. Pegue um dia da sua semana e não use
telas. E se você não conseguir, pense sobre isso: que hoje você vive
uma vida na qual não consegue se livrar dessas bugigangas.
E o que previne o mundo de um pesadelo tecnológico no futuro? Conversar com você me deixou pessimista.
Cara, estamos em um pesadelo tecnológico agora! Está
acontecendo. Você está afundado nele! Estamos aqui. É isso. Vai piorar?
Talvez sim, talvez não. Veremos se conseguimos corrigir nosso caminho,
mas não, nada o preveniu. Já aconteceu, mas não acho que seja tarde.
Ainda podemos recuperar nosso próprio tempo, nossa atenção e nossos
relacionamentos, mas teremos de escolher isso. E para escolher isso,
precisamos ter menos medo uns dos outros do que temos dessas novas
tecnologias.
Como fazemos isso? Há um passo a passo?
Para começar: seja coerente. Tire um dia da semana sem estar
conectado às tecnologias. Olhe as pessoas nos olhos. Tome decisões
conscientes sobre trazer um novo dispositivo ou plataforma à sua vida.
Você pensa duas vezes antes de instalar um novo aplicativo no seu
telefone porque você não quer estragá-lo ou lotá-lo, mas você não pensa
se ele vai estragar ou ocupar espaço na sua vida. Seja mais ecológico,
mais generoso com você mesmo. Dê um dia de folga a você mesmo. Encontre
um jeito. E então use esse único dia para descobrir como se libertar
dessas tecnologias e da estrutura capitalista que impuseram sobre você.
- A cobertura completa de GZH você acessa em gzh.rs/Fronteiras.
Nenhum comentário:
Postar um comentário