Por John Naughton*
Em suas mais apocalípticas previsões, pioneiros da inteligência artificial davam como certo que algumas de suas criações acabariam superando os humanos. Este futuro chegou e elas controlam Estados, sociedades e nossas vidas. Mas quem são?
Na primeira de suas quatro (impressionantes) palestras Reith (realizadas pela rede britânica BBC) sobre a vida com inteligência artificial, o professor Stuart Russell, da Universidade da Califórnia em Berkeley, iniciou com um trecho de um artigo que Alan Turing escreveu em 1950. Com o título Computing Machinery and Intelligence [Máquinas de computação e inteligência], ali Turing apresentou muitas das ideias centrais do que veio a se tornar a disciplina acadêmica da inteligência artificial (IA), inclusive sobre a vedete de nosso tempo, o chamado aprendizado de máquina.
Desse texto impressionante, Russell sacou uma citação dramática: “Uma vez que se ponha em marcha o método do pensamento de máquina, não demoraria muito para que ultrapassasse nossas débeis capacidades. Em algum estágio, portanto, deveríamos esperar que as máquinas tomariam o controle”. Este pensamento foi articulado mais vigorosamente por IJ Good, um dos colegas de Turing em Bletchley Park: “A primeira máquina ultrainteligente será a última invenção que o homem precisará fazer, desde que a máquina seja dócil o suficiente para nos dizer como mantê-la sob controle.”
Russell foi uma escolha inspirada para as palestras sobre IA, pois além de ser um pesquisador de ponta na área (coautor, com Peter Norvig, de um livro texto canônico, Artificial Intelligence: A Modern Approach, por exemplo) também é alguém que acredita que a atual abordagem para a construção de máquinas inteligentes é profundamente perigosa. Isso porque ele enxerga que o conceito de inteligência predominante no campo – a expectativa de que ações previstas atinjam objetivos dados – é fatalmente falho.
Pesquisadores de IA constroem máquinas, definem objetivos específicos para elas e as julgam como mais ou menos inteligentes a depender de seu sucesso em atingir esses objetivos. No laboratório, isso provavelmente funciona. Mas, diz Russell, “quando começamos a sair do laboratório e entrar no mundo real, descobrimos que somos incapazes de especificar estes objetivos de maneira completa e correta. De fato, definir os outros objetivos dos carros que dirigem sozinhos, tais como equilibrar velocidade, segurança dos passageiros e pedestres, legalidade, conforto, cortesia, acabou se tornando extraordinariamente difícil”.
Dizendo de um modo delicado, nada disso parece incomodar as gigantescas corporações de tecnologia que estão impulsionando o desenvolvimento de máquinas cada vez mais capazes, sem remorsos e com um único pensamento e promovendo sua onipresente instalação em pontos críticos da sociedade humana.
Este é o pesadelo distópico que Russell teme se sua disciplina continuar em seu caminho atual e conseguir criar máquinas superinteligentes. É o cenário implícito no “apocalipse do clipe de papel” do filósofo Nick Bostrom, que é uma experiência pensada e divertidamente simulada no jogo de computador Universal Paperclips. Naturalmente, essa preocupação também é ridicularizada como pouco plausível e muito alarmista tanto pela indústria tecnológica quanto pelos pesquisadores de inteligência artificial. Um especialista na área fez uma tirada que ficou famosa, em que ele diz que se preocupa tanto com as máquinas superinteligentes quanto com a superpopulação em Marte.
Mas para quem pensa que viver em um mundo dominado por máquinas superinteligentes é uma perspectiva que não vai chegar a ver “em seu tempo de vida”, eis um pensamento salutar: já vivemos em um mundo assim! As IAs em questão são chamadas de corporações. Elas são definitivamente superinteligentes, na medida em que o QI coletivo dos humanos que elas empregam reduz o das pessoas comuns e, de fato, com frequência também o dos governos. Elas têm imensa riqueza e recursos. Sua expectativa de vida é muito superior à dos meros humanos. E elas existem para atingir um objetivo que supera qualquer outro: aumentar e, com isso, maximizar o valor dos acionistas. Para conseguir isso, eles farão incessantemente o que for preciso, independentemente de considerações éticas e danos colaterais à sociedade, à democracia ou ao planeta.
Uma dessas máquinas superinteligentes se chama Facebook. E para ilustrar este último ponto, eis aqui uma declaração inequívoca de seu objetivo primordial escrita por um de seus mais altos executivos, Andrew Bosworth, em 18 de junho de 2016: “Nós conectamos as pessoas. Ponto final. É por isso que todo o trabalho que fazemos visando o crescimento é justificado. Todas as práticas questionáveis de importação de contatos. Toda a linguagem sutil que ajuda as pessoas a permanecerem pesquisáveis pelos amigos. Todo o trabalho que temos que fazer para trazer mais comunicação. O trabalho que provavelmente teremos que fazer na China algum dia. Todo ele”.
Como dizia a famosa observação de William Gibson, o futuro já está aqui – apenas não está distribuído de maneira equitativa.
*Por John Naughton, no The Guardian | Tradução: Maurício Ayer
Fonte: https://outraspalavras.net/tecnologiaemdisputa/as-maquinasinteligentes-ja-nos-dirigem/
Nenhum comentário:
Postar um comentário