Manuela Veloso. “A inteligência artificial é um alerta para a humanidade”

 

Investigadora de topo em inteligência artificial, Manuela Veloso é professora na Carnegie Mellon University, nos EUA, cofundadora do RoboCup e a mulher portuguesa que está a revolucionar a robótica.

Investigadora, professora, líder do departamento de Machine Learning (aprendizagem máquina) na Carnegie Mellon University, em Pittsburgh, nos EUA, e a mulher que inventou os “cobots”, robôs colaborativos que partilham informação entre si e com os humanos. Manuela Veloso é uma referência internacional de investigação em robótica e inteligência artificial e não tem dúvidas de que os avanços na tecnologia são “um alerta para a humanidade”, em termos de mercado de trabalho, de regulação e da política. A quem tem medo que um dia os robôs dominem o mundo, diz que “não nos devemos esquecer que estes são a nossa própria invenção” e que terão sempre mais limitações do que os humanos.

Em entrevista ao Observador, a portuguesa que já foi presidente da Associação para o Avanço da Inteligência Artificial (AAAI) diz que os robôs vão fazer com que o mercado de trabalho se torne numa “economia de talentos”, mas reconhece que devia haver uma entidade que supervisionasse e regulasse não só a inteligência artificial como tudo o que está na internet. Fundadora do laboratório de investigação Coral, é também uma das responsáveis pelo RoboCup, um campeonato anual de futebol de robôs, que teve a primeira edição em 1997, no Japão.

Distinguida com vários prémios académicos, já publicou mais de 250 artigos científicos e é um dos membros do Conselho da Diáspora, associação sem fins lucrativos, constituída em 2012, que tem por objetivo estreitar as relações entre Portugal e os portugueses que residem fora do país e sejam influentes em áreas como a economia, a ciência, a cultura e a cidadania. A 22 de dezembro, é uma das oradoras do debate “Gerir na Era Digital”, que decorre durante o “Encontro Anual da Diáspora”.

“Os sistemas de inteligência artificial terão sempre limitações”

Disse há pouco tempo, numa entrevista ao The Verge, que os humanos iam ser inseparáveis da inteligência artificial. O que quer dizer com isto?
Acho que no futuro vai haver muito mais inteligência nos artefactos que as pessoas usam. Nós hoje já falamos para o Siri ou já fazemos reservas de restaurantes usando uma aplicação de inteligência artificial. Quando fazemos compras na Amazon, por exemplo, há um sistema que aprende com o que compramos e que faz sugestões. Penso que a parte digital, o processamento de informação, vai ser cada vez mais auxiliado pela inteligência artificial. Há esta parte toda do mundo digital, mas também há mais artefactos no espaço físico: robôs que passeiam, ajudam e estão no nosso ambiente, que têm sensores para medir a eletricidade, por exemplo. Tudo isto é informação que vai ser digitalizada. E a partir do momento em que toma essa forma, de informação digital – mesmo que seja informação que advém do espaço físico, da utilização dos nossos GPS, eletricidade, compras, saúde – pode, eventualmente, ser processada por um sistema de inteligência artificial que aprende padrões da nossa vida e ajuda nas decisões que temos de tomar.

É a isso que se refere o conceito de “automação simbiótica”, que tem vindo a trabalhar?
Estes sistemas de inteligência artificial não serão, penso eu, completamente capazes de fazer tudo. Os nossos cobots, que andam de um lado para o outro na CMU, por exemplo, atualmente não têm mãos, braços e, portanto, não podem abrir portas, não conseguem pôr coisas no cesto, não podem carregar nos botões dos elevadores. Claro que no futuro poderá estar tudo ligado, mas penso que, inevitavelmente, estes sistemas de inteligência artificial terão sempre limitações. Nesta autonomia simbiótica que penso que será o futuro, estes sistemas de inteligência artificial também vão pedir ajuda a outros sistemas. Imagine que quer fazer uma viagem, pede ajuda ao sistema do tempo. Como está o tempo naquele sítio? Se tiverem de recomendar um remédio para alguma doença, pedem ajuda ao sistema que esteve a acumular informação sobre onde a pessoa esteve. Vai haver uma coordenação de informação, porque não há um sistema que saiba tudo. E também vão pedir ajuda a humanos, porque os humano também estão nesta colaboração.

Estes robôs andam a ser testados na universidade. Como funcionam?
Estes robôs funcionam há três, quatro anos. E quando as pessoas querem vir ao meu gabinete, por exemplo, ele vai ter com elas ao elevador e guia-as. Mas também transporta coisas de um lado para o outro: coisas pequenas, livros, o que vem no correio. É um robô móvel que tem esta autonomia de navegação e é uma coisa bastante nova, porque não se vêem muitos robôs de navegação. Por exemplo, eu entrei aqui no edifício e não vi nenhum. As pessoas não estão habituadas a ver robôs a andar. Temos alguns que aspiram o chão, que levam coisas de um lado para o outro nos hospitais, mas entrar num edifício e ver um robô não é muito comum. Na CMU, há vários.

"Não nos podemos esquecer que esta tecnologia 

é a nossa própria invenção. Não é propriamente 

uma coisa que alguém nos deu" 

 

Onde acha que a tecnologia vai estar daqui a cinco, dez anos?
Acho que vamos ter muito mais informação digitalizada e muito mais suporte para as decisões que temos de tomar. Vou dar um exemplo: estive em Nova Iorque, em sabática, e, na altura, a Câmara queria determinar os bairros onde ia construir uma quantidade enorme de escolas novas. Quando as pessoas precisam de tomar esse tipo de decisões, querem autonomizar objetivos – tinham de escolher sítios onde as pessoas não andassem muito, onde houvesse crianças, que tivessem uma paragem de metro perto, onde houvesse parques de brincar. E era uma decisão que iria permanecer durante muitos anos, porque depois a escola não pode mudar de sítio. Para tomar estas decisões, as pessoas utilizam muitos dados, intuições e conhecimentos, mas também poderiam perguntar a sistemas de trânsito, que acumulam o trânsito, a passagem das pessoas nas ruas, “então e se for aqui?”

Isto é uma coisa que eu acho que vai haver muito nos próximos cinco anos. Estes cenários hipotéticos, ou seja, cenários em que podemos perguntar “e se isto fosse assim? Se fechasse o trânsito aqui e pusesse um restaurante ali? E se…”. E, assim, estes sistemas de inteligência artificial podem apoiar as pessoas nas decisões difíceis que terão de tomar na vida, como por exemplo, que seguro de saúde devem fazer. Há imensas escolhas, é tudo muito difícil e se as pessoas utilizarem todos os objetivos para determinarem qual é o melhor, é difícil. Acredito muito que haja sistemas de inteligência artificial para suportes de decisão no futuro

“Vamos tornar-nos numa economia mais de talentos”

Referiu cenários hipotéticos, mas vamos falar daquele que é o pior cenário possível. Se tudo isto correr mal, o que é que pode acontecer?
Não há dúvida de que estamos a desenvolver uma tecnologia com muita potencialidade, que pode fazer muitas coisas, olhar para muitos dados e muita informação. Se tivermos drones, robôs e tudo isto estiver a mexer é um tipo de sociedade diferente. Onde eu insisto, de facto, é que não podemos olhar para o futuro como espectadores do futuro. Herb Simon dizia numa conversa que nós não somos espectadores, somos atores, participantes. E, por isso, o futuro será o que quisermos.

Acho que isto é uma chamada para a humanidade, para as pessoas da tecnologia, das ciências sociais, para os políticos, para as pessoas que têm interesses económicos. A sociedade, em geral, tem de determinar como pode fazer a melhor utilização possível desta tecnologia. Não nos podemos esquecer que esta tecnologia é a nossa própria invenção. Não é propriamente uma coisa que alguém nos deu. “Olhe, está aqui a robótica, está aqui a inteligência artificial, façam o que quiserem.” Não. Foi inventada por mentes humanas, criada por nós. Evidentemente que os cientistas e a maior parte das pessoas têm um interesse enorme em usar esta tecnologia para bem da sociedade. Pense nas pessoas com deficiências, idosas, nas pessoas que precisam de ajuda a todos os níveis. Pense no aspeto social, no aspeto económico, climático. Temos agora a possibilidade, devido aos computadores e a toda a infra-estrututra digital, de suportar as decisões da sociedade com muito mais informação, muito mais sólida, visto que está tudo a ser digitalizado.

"Vai ser preciso as pessoas redefinirem-se. Por isso é que muita gente também está a trabalhar a inteligência artificial 

para a educação personalizada" 

 

E este receio de que os robôs podem tirar-nos o emprego?
É verdade. Os carros autónomos, as pessoas que guiam… Não há dúvida de que vai haver uma disrupção do ponto de vista do trabalho, porque se estes sistemas de inteligência artificial tiverem mais e mais ajuda, se calhar as pessoas serão menos precisas para fazer certos trabalhos. Mas pense nas operadoras de telefone, lembra-se que era preciso uma pessoa para ligar para aqui e para acolá? Agora veja como nós fazemos chamadas telefónicas hoje. Todas aquelas pessoas nos anos 1940, 50 e 60 ficaram todas sem trabalho de um dia para o outro. Descobriram-se os computadores eletrónicos e acabou. Mas quando essas pessoas tiveram filhos, esse trabalho já não existia. O que se passa é que haverá um problema de trabalho em termos de transição, porque depois as pessoas redefinem-se e são suficientemente inteligentes para se reinventarem. Quem é que não trabalhava na agricultura há cento e tal anos? O que é a minha bisavó ou avó diria por eu estar aqui a trabalhar em robótica, com computadores e telefones?

O que eu digo é que a humanidade é extremamente inteligente e redefine-se. Que haverá um problema de transição, eu penso que haverá. E também penso que, do ponto de vista da política e da economia, tem de se abordar este problema da transição. Não é tanto um problema da tecnologia. É um problema mais do aspeto social, do aspeto económico, do aspeto político. Eu falo pela tecnologia e penso que sim, que haverá um problema de transição.

Este mercado de trabalho em transição passa por pôr humanos e robôs a trabalharem juntos até que o robô se autonomize?
Sim, acho que vai haver um trabalho conjunto, mas também acho que vai ser preciso as pessoas redefinirem-se. Por isso é que muita gente também está a trabalhar a inteligência artificial para a educação personalizada. A tecnologia pode permitir que as pessoas se insiram no mercado de trabalho através de educação personalizada. A inteligência artificial também pode ajudar-nos a determinar outros tipos de trabalho. Tornamo-nos numa economia mais de talentos.

Vou-lhe contar uma coisa interessantíssima. Estava em Boston, na semana passada, num apartamento que precisava de ser limpo. Mas ia estar lá só dois dias, ia oferecer um jantar a uns amigos e não queria propriamente estar a limpar a casa toda. Foi uma coisa trivial. Fui à internet, encontrei um website tipo Uber e no dia seguinte às 8h da manhã estava lá uma pessoa a limpar. Fantástico. Fiquei logo membro daquilo. Vamos imaginar que começo a fazer tricô e lanço uma aplicação para dizer que estou disponível caso alguém precise de alguma coisa de tricô. Ok, fantástico. Passa a ser uma economia mais de talentos. É uma economia em que as pessoas se tornam mais disponíveis para os outros, com aquilo que sabem fazer.

"Se há este medo, este receio, então mais a humanidade tem de se unir para que não haja possibilidade de a inteligência artificial, 

a robótica, a aprendizagem máquina 

dominarem a humanidade" 

 

E faz sentido aquele cenário mais apocalíptico, de ficção científica, em que os robôs passam a dominar a humanidade?
Penso que não. O Elon Musk, o Stephen Hawpkin têm-nos alertado para o problema do domínio dos robôs. Estou convencida que não. Os humanos vão ser sempre muito mais inteligentes. Para lhe dizer com franqueza, costumo “lavar as minhas mãos” destas coisas que têm a ver com filosofia e previsões. Não sei. Sou uma pessoa muito mais técnica do ponto de vista de tentar avançar. Nos falamos de inteligência artificial de robótica, da aprendizagem máquina e estamos ainda muito longe.

Estamos no início da revolução.
Completamente. Costumo perguntar: mas onde está? Onde estão os robôs? Onde está a inteligência artificial? Nós estamos a caminhar para. É bom termos a certeza de que vamos na direção certa, mas a humanidade… como é que se controla o mundo inteiro? Não sei. O mundo inteiro não é um país em particular. Por isso digo que isto é um alerta para a humanidade. Se há este medo, este receio, então mais a humanidade tem de se unir para que não haja possibilidade de a inteligência artificial, a robótica, a aprendizagem máquina dominarem a humanidade. Mas tem de ser a humanidade a não querer isso. Porque a tecnologia em si não tem “querer”.

Por muito que os meus robôs aprendam (e aprendem) é no espaço que eu defini. Os cobots, na CMU, aprendem onde há café, onde está o papel, onde é o meu gabinete. Isto não foi introduzido, mas quando as pessoas lhes dizem que querem ir ao gabinete da professora Manuela Veloso e o robô diz que não sabe onde é, a pessoa responde-lhe que é o 7002. Quando a pessoa fornece essa informação, o robô guarda-a automaticamente. Se chegar outra pessoa e disser que quer ir ao gabinete da Manuela, ele pergunta se será o 7002. Caso a resposta seja sim, ele guarda a informação. Professora Manuela Veloso, Manuela, 7002.

Com a experiência, ele acumula a informação toda que está a aprender. Ao fim de vários dias, já não precisa de perguntar. Mas não sabe mais nada. Aprendeu imenso sobre aquele edifício, onde estão as coisas, o café, o papel, o correio, por interação e por perguntar às pessoas. E aqui está a questão da simbiótica. O robô participa e diz que não sabe onde é, acumula essa informação, mas não sabe mais nada. Se perguntar onde é a capital de Portugal, não sabe. Eventualmente, posso perguntar ao Siri, mas, quer dizer, aquilo é limitado. Os robôs aprendem dentro de um espaço.

“Devia haver um mecanismo para regular a inteligência artificial”

Acha que seria útil termos uma entidade reguladora, que supervisionasse a inteligência artificial?
Acho que sim. Se eu e a Ana agora decidíssemos fazer um novo leite, não nos seria permitido pôr o leite à venda no supermercado sem haver um sistema que dissesse que era seguro bebê-lo. A indústria farmacêutica também não pode produzir um medicamento que é vendido às pessoas do mundo inteiro sem ser aprovado. Há regulação de muita coisa. Mas todas as aplicações que nós temos nos nossos smartphones ninguém as aprovou, ninguém as regulou e nós usamo-las constantemente.

Ninguém regulou se quando o Google faz uma pesquisa nos dá as coisas certas. As pessoas usam muito a tecnologia sem ser regulada. Acho que deveria haver um mecanismo, assim como há para a comida para os carros. O que acho que não pode haver é regulação para o que se faz na investigação. Isso é que eu acho. Há uma grande diferença entre o que quero investigar como cientista e o que passa do laboratório para a sociedade. Isso sim, acho que tem de ter toda a regulação, mas no meu laboratório, posso experimentar as coisas que eu quiser e fazer tudo o que quiser. Acho que vai haver regulação mais tarde ou mais cedo, sobretudo se houver robôs e drones.

Essa regulação deveria ser a nível internacional ou nacional?
Acho que deveria ser internacional, visto que a informação que é digital, que está na internet, também tem carácter internacional. Mas como sabe, a internet começou sem regulação nenhuma e está lá tudo. Tudo. E há muita coisa que não deveria estar. E daí a dificuldade em pensar como se faz a regulação.

"No futuro, quando tivermos sistemas de inteligência artificial mais autónomos, vai haver muita coisa que nós não vamos seguir. E é aí que é preciso ter capacidade de interrogar" 

 

A professora ganhou uma bolsa precisamente para criar mecanismos de segurança para a inteligência artificial. Isto é uma preocupação?
Sim. Tenho trabalhado numa coisa muito nova, que é permitir que estes sistemas de inteligência artificial tenham a capacidade de se justificarem, de explicarem o que fizeram. Há muito interesse nos EUA e em todo o lado nesta inteligência artificial explicável, ou seja, que se pode explicar. Quando o cobot chega à frente do meu gabinete, eu não sei de onde é que ele vem e gostava de lhe perguntar, de saber porque está atrasado, que caminhou tomou. Gostava de perceber mais o que se passou enquanto o robô esteve fora da minha vista, do meu alcance.

No futuro, quando tivermos sistemas de inteligência artificial mais autónomos, vai haver muita coisa que nós não vamos seguir. E é aí que é preciso ter capacidade de interrogar. Se disser a um sistema de inteligência artificial que estou com dores de cabeça, ele me sugerir um medicamento e eu lhe perguntar porquê esse medicamento, ele vai ter de explicar. Pode ser porque a tensão arterial é esta, por causa da idade, por causa de outros casos. E uma pessoa ganha confiança… faz sentido.

Os robôs vão conseguir mostrar emoções e ser mais afáveis”

E este conceito de inteligência artificial emocional e computação afetiva. Os robôs vão ser capazes de sentir, de interpretar emoções e corresponder a essas emoções?
Sentir é difícil. Eles são feitos de metal. E mesmo que um dia sejam feitos de outro tipo de química, não têm ADN. Não são matéria viva.

Fingir?
Exatamente, mas a Ana também não sabe se estou a fingir. As pessoas não sabem. Nós achamos que sentimos, mas também é uma incógnita. Mas sim, acho que vão conseguir mostrar emoções e ser muito mais afáveis. Não vão ser mal-educados, vão estar sensíveis às reações das pessoas. Acho que, atualmente, há sistemas realmente fascinantes, que olham para a expressão da pessoa e através da leitura dos lábios, das expressões faciais, podem ver se a pessoa está cansada, deprimida, zangada… E é impressionante. Digo-lhe que há 10 anos não pensaria que se poderia fazer tanta deteção da situação mental da pessoa. Porque nós trabalhamos muito só no reconhecimento de fala, no que se está a dizer, na passagem de informação. Mas estes sistemas atuais de reconhecimento facial captam muito sobre o estado da pessoa.

"Muitos dos desafios da inteligência artificial têm a ver com aquilo que não é direto, com este processo temporal de uma sequência de ações, que é o planeamento, o comportamento" 

 

Há, de facto, esta coisa da aprendizagem máquina. Se deres aos sistemas muitas, muitas imagens de pessoas zangadas, tristes, deprimidas, eles classificam-nas e são capazes de determinar padrões, com sistemas muito sofisticados de aprendizagem. Daí conseguem classificar muito bem o que é que a pessoa tem. Agora, como é que esta máquina/robótica deveria responder é mais complicado, porque teria de aprender da sua reação, com a minha reação. Muitos dos desafios da inteligência artificial têm a ver com aquilo que não é direto, com este processo temporal de uma sequência de ações, que é o planeamento, o comportamento.

Mas eu penso que sim. Se puser um robô num lar para terceira idade, por exemplo, é possível que ele seja sensível às necessidades das pessoas. Penso que terá uma capacidade formidável de personalizar o seu comportamento. Se uma pessoa gostar mais que repita, então ele repete. Se outra gostar mais de sorrisos, então sorri. Terão muito a capacidade de aprender a personalizar, porque o nosso cobot também personaliza não em termos de deteção, mas de aparência, por exemplo. Há pessoas que gostam que ele pareça sempre o mesmo, outras que gostam que ele varie. E ele vai adaptando-se. E isto é muito fácil para os computadores, porque não têm uma personalidade. Para eu aprender a ser simpática como toda a gente, é mais difícil, porque as pessoas têm personalidade. Os robôs, em princípio, não terão e poderão adaptar-se.

Todos estes conceitos de machine learning, deep learning, reconhecimento de discurso, etc, são ainda muito difíceis de explicar. No fundo, isto é o quê?
É muito fácil. É só pensar assim: quando se escreve um programa de computador, há uma decisão – se aquele número que está lá for maior do que três faz uma coisa. Se for menor, faz outra. O que se passa aqui é o 3, que é um parâmetro que se pode ajustar. Quando o computador tem um feedback de uma pessoa, que lhe diz que o 3 está mal, ele em vez de pôr um 3, põe um 2.5, um bocadinho mais pequeno. E depois corre tudo com aquele número em 2,5 e a pessoa diz se está certo ou não. Se disser que não está certo, ele ainda tenta 2.43. E começa a ajustar estes parâmetros.

É um programa que começa com decisões, mas tem esta noção de proximidade. Do ponto de vista matemático, para haver estes ajustamentos, é preciso ter uma noção do que está perto. Portanto, quando o computador tem um feedback de que o 3 não está bem, ele não sugere 300, porque está muito longe do número 3. A isto chama-se um gradeante. É um programa de computador que está cheio de if and else, esde condições, que podem ser mais sofisticadas, mas são todas condições. Essas condições todas têm parâmetros e ele vai ajustando. O deep learning tem níveis e níveis e níveis e níveis de parâmetros. Centenas de níveis de parâmetros. Milhares de parâmetros. Mas a lógica é a mesma.

------------------

Texto de Ana Pimentel, fotografia de Michael Matias. 

Fonte: Site português:  http://observador.pt/especiais/manuela-veloso-a-inteligencia-artificial-e-um-alerta-para-a-humanidade/ 13/12/2016