É possível dotar máquinas de independência moral? (Reprodução/Internet)
Robôs estão se tornando mais autônomos. A sociedade precisa desenvolver regras para administrá-los
No clássico filme de ficção científica “2001”, HAL, o computador
da astronave, enfrenta um dilema. Suas instruções requerem tanto que
ele cumpra a missão da nave — investigar um artefato próximo a Jupiter
–, como que mantenha o verdadeiro propósito da missão em segredo. Para
solucionar a contradição, ele resolve matar a tripulação.
Conforme os robôs se tornam mais autônomos, a ideia de máquinas
controladas por computadores enfrentando decisões éticas está saindo do
reino da ficção científica e adentrando o mundo real. A sociedade
precisa encontrar modos de assegurar que elas estejam mais bem equipadas
que HAL para fazer julgamentos morais.
De modo nem um pouco surpreendente, a tecnologia militar está na
vanguarda da marcha em direção a máquinas autônomas. A sua evolução está
produzindo uma variedade extraordinária de espécies. À medida que elas
se tornam mais inteligentes e comuns, é inevitável que as máquinas
autônomas acabem por fazer mais decisões de vida ou morte em situações
imprevisíveis, desse modo assumindo – ou parecendo assumir –
independência moral. Sistemas de armas atualmente contam com a
participação de humanos na cadeia de comando, mas à medida que se
tornarem mais sofisticados, será possível fazer com que as máquinas
sigam ordens de modo autônomo.
Quando isso acontecer, elas serão confrontadas com dilemas éticos. Um
veículo aéreo não tripulado deveria atirar em uma casa que abriga um
suspeito, mas que também está servindo de abrigo a civis? Um carro sem
motorista deveria dar uma guinada para evitar atropelar pedestres se
isso significar bater em outros veículos ou pôr a vida de seus ocupantes
em risco? Um robô envolvido em resgates em zonas de desastre deveria
dizer a verdade às pessoas se isso pudesse desencadear pânico? Tais
questões fazem parte da “ética das máquinas”, que pretende dar às
máquinas a habilidade de tomar tais decisões de modo apropriado, ou, em
outras palavras, distinguir o certo do errado.
As diretrizes mais conhecidas da ética robô são as “três leis da
robótica” cunhadas por Isaac Asimov, um escritor de ficção científica,
em 1942. As leis requerem que os robôs: 1. protejam humanos, 2. obedeçam
ordens e 3. se preservem, nesta ordem. Infelizmente, tais leis não são
muito úteis no mundo real. Robôs de combate podem precisar violar a
primeira lei. Regular o desenvolvimento e uso dos robôs autônomos
requererá um arcabouço muito mais elaborado. Necessita-se progredir em
três áreas em particular.
Três leis para as leis de robótica
Primeiro, as leis precisam determinar se o programador, fabricante ou
operador deve se responsabilizar caso um ataque de um veículo não
tripulado dê errado ou se um carro sem motorista se envolver em um
acidente. A fim de alocar a responsabilidade, sistemas autônomos devem
manter registros detalhados para poder explicar o raciocínio por trás
das decisões da máquina quando isso se fizer necessário. Isto tem
implicações para o projeto de sistemas: pode ser, por exemplo, que o uso
de redes neurais artificiais tenha que ser vetado, pois estas redes são
sistemas capazes de aprender em vez de obedecer a regras pré-definidas.
Segundo, nos casos em que sistemas éticos sejam embutidos em robôs,
os julgamentos que eles venham a fazer têm que ser aqueles que parecem
mais apropriados para a maioria das pessoas. As técnicas da filosofia
experimental, que estuda a resposta das pessoas a dilemas éticos,
provavelmente poderão ajudar. Por último, e mais importante, é
necessário haver mais colaboração entre engenheiros, filósofos,
advogados e formuladores de políticas públicas, os quais criariam
conjuntos diferentes de regras se fossem postos a trabalhar
isoladamente.
A tecnologia conduziu o progresso da humanidade, mas cada novo avanço
gerou novas questões preocupantes. Não será diferente com as máquinas
autônomas. Quanto mais cedo a questão da independência moral que elas
suscitam for respondida, mais fácil será para a humanidade gozar dos
benefícios que elas sem dúvida trarão.
http://opiniaoenoticia.com.br/vida/tecnologia/a-etica-das-maquinas/04/06/2012
Nenhum comentário:
Postar um comentário