sexta-feira, 2 de novembro de 2018

Inteligência artificial: “A maioria de nós está a construir bem os sistemas inteligentes”

 Isabel Fernández está optimista quanto ao impacto da inteligência artificial

Isabel Fernández está optimista quanto ao impacto 
da inteligência artificial Rui Gaudêncio

Inteligência artificial

Como sociedade, não precisamos de perceber a inteligência artificial, mas precisamos de confiar nela, defende Isabel Fernández, especialista da Accenture. E para isso, diz, é preciso regulação.

Não é todos os dias que se ouve alguém do mundo empresarial a dizer que é preciso mais regulação. Isabel Fernández é uma dessas vozes. Doutorou-se em 1999 em inteligência artificial, deu aulas na universidade e trabalha agora na consultora Accenture, onde é responsável na Península Ibérica pela área de inteligência aplicada.
Os sistemas informáticos analisam hoje enormes quantidades de dados e tomam decisões com impacto nas nossas vidas: a quem conceder crédito bancário ou, num futuro não muito distante, que vidas poupar em caso de um acidente com carros autónomos. Fernández afirma que “gostaria que houvesse mais discussão sobre a ética aplicada à inteligência artificial, sobre regulação”. Mas diz ter a certeza de que quem trabalha nesta área já está a desenvolver os sistemas de forma correcta. “Há ciência robusta por trás, nada disto é novo”, lembra. E nota que, apesar de serem precisas regras, isso não significa que toda a gente tenha de compreender o funcionamento dos sistemas. Por um lado, porque parte disso é propriedade intelectual das empresas. Por outro, porque a maioria das pessoas também não sabe como funcionam os sistemas de um avião.
Fernández acredita que a tecnologia trará assistentes virtuais inteligentes, carros sem condutor e muitos avanços na saúde – e que alguns empregos vão desaparecer. Num continente a envelhecer, como é o caso da Europa, não há pessoas para todas as tarefas e, por isso, a automação não será um problema, argumenta. Além disso, este não é sequer um fenómeno inédito: “Já aconteceu no passado e conseguimos resolvê-lo”. Numa conversa com o PÚBLICO, revelou preocupações, mas mostrou-se sobretudo optimista.

Toda a gente anda a falar de inteligência artificial, mas não é uma área nova. Na academia tem décadas. O que aconteceu nestes últimos anos para que se tenha tornado um tema corrente?
O emergir da inteligência artificial foi nos anos 1950. A questão é que nos últimos anos surgiram três impulsionadores. O primeiro são as comunicações. Na maior parte do mundo, estamos todos permanentemente conectados. Globalmente, 65% da população está ligada através de um telemóvel. Não conseguimos fazer chegar comida a toda a gente, mas conseguimos dar-lhes um telemóvel e a possibilidade de o carregar… [Em segundo,] graças a estas ligações em tempo real, temos muitos dados. E, por fim, temos a capacidade de computação.
A inteligência artificial já não está nos laboratórios. Está a acontecer, na sua casa, na minha casa. Já existe há muitos anos, provavelmente em coisas a que não chamávamos inteligência artificial. Por exemplo, quando os operadores de telecomunicações a começaram a aplicar para antecipar a taxa de desistência dos seus clientes.

As empresas estão a criar sistemas que analisam quantidades enormes de dados e que são capazes de tomar decisões. Estão a garantir que estes sistemas são transparentes e funcionam de forma ética?
Vou responder com uma questão. Conhece o protocolo existente para se fazerem transplantes de órgãos?

Não conheço.
Mas confia que esse protocolo seja capaz de garantir a segurança dos cidadãos. E faz bem em confiar. E conhece o protocolo dos automatismos de um avião? Metade do tempo em que está a voar o avião é controlado por um sistema automático. Confia nisso?

Sim. Mas nesses exemplos há provavelmente mais regulação. Não sei se temos o mesmo nível de regulação para a inteligência artificial.
Essa é a resposta. É mais uma questão de confiança e de regulação. Não é uma questão de transparência. De uma perspectiva matemática, as redes neuronais [uma técnica de inteligência artificial que se inspira no cérebro] são uma caixa negra. Mas não precisamos de as perceber para confiarmos nelas. Em áreas emergentes, o que devemos tentar é que nos sintamos seguros porque temos regulação. Um outro exemplo: entrou neste hotel e tem confiança no edifício, mesmo que a matemática por trás destas estruturas seja muito complexa. Mas há regulação forte que garante a segurança. É o mesmo para os modelos matemáticos.
Já existe essa regulação?
Não.

Então estamos num período em que corremos riscos?
Muitos de nós, não apenas na Accenture, temos estado a fazer as coisas certas, mesmo sem regulação. Mas gostaria de ter uma regulação forte. Estamos a construir sistemas autónomos muito complexos, que são parte da nossa vida como cidadãos.

Vê a possibilidade de a regulação vir a abrandar o desenvolvimento da tecnologia?
Não creio. Gostaria que houvesse mais discussão sobre a ética aplicada à inteligência artificial, sobre regulação. Mas tenho a certeza que a maioria de nós está a construir bem os sistemas inteligentes.

Por que tem tanta certeza?
Porque há ciência robusta por trás, nada disto é novo. E estamos a trabalhar com a ciência.

Mas dentro de grandes empresas, que nem sempre têm o incentivo para agir de forma ética.
São duas coisas diferentes. Um edifício pode ser construído de forma segura, mas ser usado para fazer coisas terríveis. Isto é o mesmo com que nos temos debatido ao longo da História. Quando se cria uma nova tecnologia, pode-se fazer a coisa certa ou a coisa errada. Mas isso não é inerente à tecnologia.

Quais são então os impactos positivos concretos das tecnologias de inteligência artificial nos últimos anos?
Não vou falar de sistemas teoréticos, apenas de sistemas em uso. Por exemplo, o sistema responsável pela temperatura dentro das estações do metro de Madrid é um sistema de inteligência artificial pura, que faz previsões sobre o número de pessoas, a temperatura no exterior e a temperatura interior, que depende de quantas carruagens estão a chegar à estação. Este sistema também avalia o preço de mercado da electricidade. Com todos os estes modelos, faz a gestão do ar condicionado em tempo real e escolhe automaticamente a temperatura, dentro de um intervalo muito pequeno, para tentar minimizar os custos de energia. O resultado é que estamos a poupar 26% dos custos de electricidade. Há mais. Quando vamos ao médico e falamos com ele, há um sistema que permite analisar em tempo real as notas que ele está a tirar e que lhe dá avisos sobre possíveis diagnósticos. Claro, fica sempre a cargo do médico seguir as recomendações do sistema.

E os impactos negativos? Os aspectos que talvez tenham de ser regulados?
A minha principal preocupação é a mesma que nos outros sectores: não ter as pessoas certas. Se não tivermos peritos, vamos fazer as coisas de forma errada. É preciso ser um médico ou um enfermeiro para observar um doente. Ninguém imagina ser observado por alguém que não esteja acreditado. É preciso aplicar o mesmo aqui.

Como é que se faz essa acreditação?
Não temos isso definido. O mais próximo está relacionado com o conhecimento de engenharia, matemática, física. Julgo que temos de definir as competências necessárias para desenvolver este tipo de sistemas de forma correcta.

Isso é um trabalho para as universidades?
Pode ser. Mas também é para as empresas, que podem escolher os seus programadores.

A diversidade é um tema quente no sector. Deve ser considerada nessa escolha? É preciso ter um grupo de programadores com diversidade – em termos de género, etnia, percurso – para criar sistemas autónomos não enviesados?
Na inteligência artificial, o enviesamento está nos dados. Podem-se produzir sistemas potencialmente enviesados porque os dados estão enviesados, e não porque não há diversidade nas equipas. Mas parte da riqueza das equipas é consequência da diversidade. Claro que precisamos disso. Conhecemos os números, incluindo na Europa. Temos poucas mulheres nas universidades nestas áreas. Temos de olhar com muito cuidado para o que acontece no sistema de educação.

Há quem defenda, em particular no meio académico, que as grandes empresas devem dar a conhecer, pelo menos até certo ponto, os seus algoritmos, visto que influenciam tanto as nossas vidas. Como vê este equilíbrio entre tornar os sistemas transparentes e proteger o negócio?
Estes sistemas são muito importantes para as empresas. Não posso mostrar os sistemas que tenho, porque os concorrentes vão replicá-los. E depois há sistemas transparentes, mas tão complexos que as pessoas não os percebem. Isso não é um problema.
Não podem ser simplificados para as pessoas os compreenderem? Como a UE obrigou o Google e o Facebook a fazer em relação aos seus termos de uso?
Uma coisa é explicar o sistema. Mas não o quero dar a quem o possa copiar. Conhece a fórmula por trás do último fármaco da Roche? Não. É da empresa. E não lhe chamamos uma caixa negra, chamamos-lhe propriedade intelectual.
Que impactos podemos esperar das tecnologias de inteligência artificial no espaço de cinco ou dez anos?
Acredito que vamos ter agentes virtuais a viver connosco em casa. Não gosto de coisas antropomórficas, as pessoas tendem a ter medo delas. Não são uma forma eficiente de fazer isto. Se pensarmos numa forma autónoma de limpar o chão – parece um disco. Não é um robô antropomórfico a empurrar um aspirador. Estamos a desenvolver dispositivos para fazer várias coisas concretas da melhor forma possível. Vamos ter chatbots a falar com chatbots, avatares... Não estou a criar nenhum valor ao marcar o meu voo de regresso para Madrid. O meu chatbot pode fazer isso. Também acredito que vamos ver carros autónomos, porque são necessários. Alguns dos empregos de hoje vão desaparecer. Isto já aconteceu no passado e conseguimos resolvê-lo. E a Europa é um continente envelhecido, não temos pessoas para fazer todas as tarefas. Estou optimista quanto ao futuro da força de trabalho. O ser humano vai assistir a coisas incríveis em termos de medicina, de prevenção e controlo de doenças, e de amplificação dos nossos corpos.

Também está optimista quanto à forma como esses benefícios se vão distribuir pela população?
Estou optimista. Estamos melhor do que noutras eras. Antes não tínhamos um acesso democratizado à informação. A informação é poder. Antes queimávamos pessoas que sabiam mais do que nós. Agora a informação é livre.
----------
Fonte: https://www.publico.pt/2018/11/02/tecnologia/noticia/maioria-construir-bem-sistemas-inteligentes-1849482?utm_term=O+pergaminho+do+seculo+XIV+a+venda+no+OLX&utm_campaign=PUBLICO&utm_source=e-goi&utm_medium=email

Nenhum comentário:

Postar um comentário