A ética das máquinas

 

Carros sem motorista e soldados-robôs obrigarão autoridades a munir suas máquinas de princípios éticos

Carros sem motorista do Google, ainda em fase de testes, já circulam legalmente nas ruas de três estados norte-americanos – Califórnia, Flórida e Nevada –, e muito em breve dispositivos semelhantes podem se tornar não só possíveis como obrigatórios por questões de segurança. Eventualmente, veículos automatizados serão capazes de conduzir melhor e com mais segurança do que qualquer motorista, uma vez que as máquinas não bebem, não se distraem, têm melhores reflexos e uma melhor consciência (via redes de computador) do posicionamento de outros veículos na pista.

Dentro de duas ou três décadas, a diferença entre a condução automatizada e a condução humana será tão grande que não é difícil imaginar um mundo em que não será mais legalmente permitido dirigir “manualmente”. E mesmo se você tiver permissão para fazê-lo, seria imoral se o risco de machucar a si mesmo ou outra pessoa for minimizado se você permitir que uma máquina assuma o volante.

Este momento será significativo não somente porque sinalizará o fim de mais uma atividade humana, mas por ser o começo de uma outra era, na qual munir as máquinas de princípios éticos passará a ser uma obrigação. Imagine que o seu carro está acelerando ao longo de uma ponte a cerca de 80 quilômetros por hora quando um ônibus escolar desnorteado, levando 40 crianças inocentes, cruza a sua pista. Se o seu carro desviar para proteger as crianças, possivelmente colocará a sua vida em risco. Se seguir adiante, ameaçará a vida de todas as 40 crianças dentro do ônibus. Esta decisão terá de ser tomada pelo computador do carro em questão de poucos milissegundos.

Essas questões se tornarão ainda mais preocupantes quando envolverem robôs militares. Quando, por exemplo, seria considerado ético enviar robôs à guerra no lugar de soldados? Soldados-robôs podem não apenas ser mais rápidos, mais fortes e mais confiáveis do que os humanos, como eles também não sofrem de crises de pânico ou privação de sono, e nunca seriam tomados por um desejo cego de vingança. Contudo, como o Human Rights Watch, uma ONG em prol dos direitos humanos, observou em um relatório amplamente divulgado no início desta semana, os soldados-robôs também seriam totalmente desprovidos de compaixão humana e poderiam facilmente causar uma devastação sem precedentes nas mãos de um Stalin ou um Hitler. Qualquer um que tenha visto as cenas de abertura do filme RoboCop sabe porque temos dúvidas sobre transformar robôs em soldados ou policiais.

Mas o que devemos fazer? A solução proposta pela Human Rights Watch é a proibição total do “desenvolvimento, produção e uso de armas totalmente autônomas”, mas isso parece completamente irreal. O Pentágono não vai desistir de seu enorme investimento em soldados robóticos (os drones são apenas a primeira geração de robôs de guerra), e nenhum pai ou mãe vai preferir enviar seus próprios filhos ao combate se os robôs forem uma alternativa. Com ou sem os soldados robóticos, novas tecnologias geraram uma necessidade urgente: encontrar uma maneira viável de ensinar as máquinas a serem éticas.

---------------------------------

Fontes: The New Yorker - Moral Machines

 http://opiniaoenoticia.com.br/vida/tecnologia/a-etica-das-maquinas-2/