Inteligência artificial
Como sociedade, não precisamos de perceber a
inteligência artificial, mas precisamos de confiar nela, defende Isabel
Fernández, especialista da Accenture. E para isso, diz, é preciso
regulação.
Não é todos os dias que se ouve
alguém do mundo empresarial a dizer que é preciso mais regulação. Isabel
Fernández é uma dessas vozes. Doutorou-se em 1999 em inteligência
artificial, deu aulas na universidade e trabalha agora na consultora
Accenture, onde é responsável na Península Ibérica pela área de
inteligência aplicada.
A inteligência artificial já não está nos laboratórios. Está a
acontecer, na sua casa, na minha casa. Já existe há muitos anos,
provavelmente em coisas a que não chamávamos inteligência artificial.
Por exemplo, quando os operadores de telecomunicações a começaram a
aplicar para antecipar a taxa de desistência dos seus clientes.
Então estamos num período em que corremos riscos?
Muitos de nós, não apenas na Accenture, temos estado a fazer as coisas certas, mesmo sem regulação. Mas gostaria de ter uma regulação forte. Estamos a construir sistemas autónomos muito complexos, que são parte da nossa vida como cidadãos.
Vê a possibilidade de a regulação vir a abrandar o desenvolvimento da tecnologia?
Não creio. Gostaria que houvesse mais discussão sobre a ética aplicada à inteligência artificial, sobre regulação. Mas tenho a certeza que a maioria de nós está a construir bem os sistemas inteligentes.
Por que tem tanta certeza?
Porque há ciência robusta por trás, nada disto é novo. E estamos a trabalhar com a ciência.
Mas dentro de grandes empresas, que nem sempre têm o incentivo para agir de forma ética.
São duas coisas diferentes. Um edifício pode ser construído de forma segura, mas ser usado para fazer coisas terríveis. Isto é o mesmo com que nos temos debatido ao longo da História. Quando se cria uma nova tecnologia, pode-se fazer a coisa certa ou a coisa errada. Mas isso não é inerente à tecnologia.
Quais são então os impactos positivos concretos das tecnologias de inteligência artificial nos últimos anos?
Não vou falar de sistemas teoréticos, apenas de sistemas em uso. Por exemplo, o sistema responsável pela temperatura dentro das estações do metro de Madrid é um sistema de inteligência artificial pura, que faz previsões sobre o número de pessoas, a temperatura no exterior e a temperatura interior, que depende de quantas carruagens estão a chegar à estação. Este sistema também avalia o preço de mercado da electricidade. Com todos os estes modelos, faz a gestão do ar condicionado em tempo real e escolhe automaticamente a temperatura, dentro de um intervalo muito pequeno, para tentar minimizar os custos de energia. O resultado é que estamos a poupar 26% dos custos de electricidade. Há mais. Quando vamos ao médico e falamos com ele, há um sistema que permite analisar em tempo real as notas que ele está a tirar e que lhe dá avisos sobre possíveis diagnósticos. Claro, fica sempre a cargo do médico seguir as recomendações do sistema.
A
diversidade é um tema quente no sector. Deve ser considerada nessa
escolha? É preciso ter um grupo de programadores com diversidade – em
termos de género, etnia, percurso – para criar sistemas autónomos não
enviesados?
Na inteligência artificial, o enviesamento está nos dados. Podem-se produzir sistemas potencialmente enviesados porque os dados estão enviesados, e não porque não há diversidade nas equipas. Mas parte da riqueza das equipas é consequência da diversidade. Claro que precisamos disso. Conhecemos os números, incluindo na Europa. Temos poucas mulheres nas universidades nestas áreas. Temos de olhar com muito cuidado para o que acontece no sistema de educação.
Há quem defenda, em particular no meio académico, que as grandes empresas devem dar a conhecer, pelo menos até certo ponto, os seus algoritmos, visto que influenciam tanto as nossas vidas. Como vê este equilíbrio entre tornar os sistemas transparentes e proteger o negócio?
Estes sistemas são muito importantes para as empresas. Não posso mostrar os sistemas que tenho, porque os concorrentes vão replicá-los. E depois há sistemas transparentes, mas tão complexos que as pessoas não os percebem. Isso não é um problema.
Os sistemas informáticos analisam hoje enormes quantidades
de dados e tomam decisões com impacto nas nossas vidas: a quem conceder
crédito bancário ou, num futuro não muito distante, que vidas poupar em caso de um acidente com carros autónomos.
Fernández afirma que “gostaria que houvesse mais discussão sobre a
ética aplicada à inteligência artificial, sobre regulação”. Mas diz ter a
certeza de que quem trabalha nesta área já está a desenvolver os
sistemas de forma correcta. “Há ciência robusta por trás, nada disto é
novo”, lembra. E nota que, apesar de serem precisas regras, isso não
significa que toda a gente tenha de compreender o funcionamento dos
sistemas. Por um lado, porque parte disso é propriedade intelectual das
empresas. Por outro, porque a maioria das pessoas também não sabe como
funcionam os sistemas de um avião.
Fernández acredita que a tecnologia trará assistentes
virtuais inteligentes, carros sem condutor e muitos avanços na saúde – e
que alguns empregos vão desaparecer. Num continente a envelhecer, como é
o caso da Europa, não há pessoas para todas as tarefas e, por isso, a
automação não será um problema, argumenta. Além disso, este não é sequer
um fenómeno inédito: “Já aconteceu no passado e conseguimos
resolvê-lo”. Numa conversa com o PÚBLICO, revelou preocupações, mas
mostrou-se sobretudo optimista.
Toda a gente anda a falar de inteligência
artificial, mas não é uma área nova. Na academia tem décadas. O que
aconteceu nestes últimos anos para que se tenha tornado um tema
corrente?
O emergir da inteligência artificial foi nos anos 1950. A questão é que nos últimos anos surgiram três impulsionadores. O primeiro são as comunicações. Na maior parte do mundo, estamos todos permanentemente conectados. Globalmente, 65% da população está ligada através de um telemóvel. Não conseguimos fazer chegar comida a toda a gente, mas conseguimos dar-lhes um telemóvel e a possibilidade de o carregar… [Em segundo,] graças a estas ligações em tempo real, temos muitos dados. E, por fim, temos a capacidade de computação.
O emergir da inteligência artificial foi nos anos 1950. A questão é que nos últimos anos surgiram três impulsionadores. O primeiro são as comunicações. Na maior parte do mundo, estamos todos permanentemente conectados. Globalmente, 65% da população está ligada através de um telemóvel. Não conseguimos fazer chegar comida a toda a gente, mas conseguimos dar-lhes um telemóvel e a possibilidade de o carregar… [Em segundo,] graças a estas ligações em tempo real, temos muitos dados. E, por fim, temos a capacidade de computação.
As
empresas estão a criar sistemas que analisam quantidades enormes de
dados e que são capazes de tomar decisões. Estão a garantir que estes
sistemas são transparentes e funcionam de forma ética?
Vou responder com uma questão. Conhece o protocolo existente para se fazerem transplantes de órgãos?
Vou responder com uma questão. Conhece o protocolo existente para se fazerem transplantes de órgãos?
Não conheço.
Mas confia que esse protocolo seja capaz de garantir a segurança dos cidadãos. E faz bem em confiar. E conhece o protocolo dos automatismos de um avião? Metade do tempo em que está a voar o avião é controlado por um sistema automático. Confia nisso?
Mas confia que esse protocolo seja capaz de garantir a segurança dos cidadãos. E faz bem em confiar. E conhece o protocolo dos automatismos de um avião? Metade do tempo em que está a voar o avião é controlado por um sistema automático. Confia nisso?
Sim. Mas
nesses exemplos há provavelmente mais regulação. Não sei se temos o
mesmo nível de regulação para a inteligência artificial.
Essa é a resposta. É mais uma questão de confiança e de regulação. Não é uma questão de transparência. De uma perspectiva matemática, as redes neuronais [uma técnica de inteligência artificial que se inspira no cérebro] são uma caixa negra. Mas não precisamos de as perceber para confiarmos nelas. Em áreas emergentes, o que devemos tentar é que nos sintamos seguros porque temos regulação. Um outro exemplo: entrou neste hotel e tem confiança no edifício, mesmo que a matemática por trás destas estruturas seja muito complexa. Mas há regulação forte que garante a segurança. É o mesmo para os modelos matemáticos.
Essa é a resposta. É mais uma questão de confiança e de regulação. Não é uma questão de transparência. De uma perspectiva matemática, as redes neuronais [uma técnica de inteligência artificial que se inspira no cérebro] são uma caixa negra. Mas não precisamos de as perceber para confiarmos nelas. Em áreas emergentes, o que devemos tentar é que nos sintamos seguros porque temos regulação. Um outro exemplo: entrou neste hotel e tem confiança no edifício, mesmo que a matemática por trás destas estruturas seja muito complexa. Mas há regulação forte que garante a segurança. É o mesmo para os modelos matemáticos.
Já existe essa regulação?
Não.
Não.
Muitos de nós, não apenas na Accenture, temos estado a fazer as coisas certas, mesmo sem regulação. Mas gostaria de ter uma regulação forte. Estamos a construir sistemas autónomos muito complexos, que são parte da nossa vida como cidadãos.
Vê a possibilidade de a regulação vir a abrandar o desenvolvimento da tecnologia?
Não creio. Gostaria que houvesse mais discussão sobre a ética aplicada à inteligência artificial, sobre regulação. Mas tenho a certeza que a maioria de nós está a construir bem os sistemas inteligentes.
Por que tem tanta certeza?
Porque há ciência robusta por trás, nada disto é novo. E estamos a trabalhar com a ciência.
Mas dentro de grandes empresas, que nem sempre têm o incentivo para agir de forma ética.
São duas coisas diferentes. Um edifício pode ser construído de forma segura, mas ser usado para fazer coisas terríveis. Isto é o mesmo com que nos temos debatido ao longo da História. Quando se cria uma nova tecnologia, pode-se fazer a coisa certa ou a coisa errada. Mas isso não é inerente à tecnologia.
Quais são então os impactos positivos concretos das tecnologias de inteligência artificial nos últimos anos?
Não vou falar de sistemas teoréticos, apenas de sistemas em uso. Por exemplo, o sistema responsável pela temperatura dentro das estações do metro de Madrid é um sistema de inteligência artificial pura, que faz previsões sobre o número de pessoas, a temperatura no exterior e a temperatura interior, que depende de quantas carruagens estão a chegar à estação. Este sistema também avalia o preço de mercado da electricidade. Com todos os estes modelos, faz a gestão do ar condicionado em tempo real e escolhe automaticamente a temperatura, dentro de um intervalo muito pequeno, para tentar minimizar os custos de energia. O resultado é que estamos a poupar 26% dos custos de electricidade. Há mais. Quando vamos ao médico e falamos com ele, há um sistema que permite analisar em tempo real as notas que ele está a tirar e que lhe dá avisos sobre possíveis diagnósticos. Claro, fica sempre a cargo do médico seguir as recomendações do sistema.
E os impactos negativos? Os aspectos que talvez tenham de ser regulados?
A minha principal preocupação é a mesma que nos outros sectores: não ter as pessoas certas. Se não tivermos peritos, vamos fazer as coisas de forma errada. É preciso ser um médico ou um enfermeiro para observar um doente. Ninguém imagina ser observado por alguém que não esteja acreditado. É preciso aplicar o mesmo aqui.
A minha principal preocupação é a mesma que nos outros sectores: não ter as pessoas certas. Se não tivermos peritos, vamos fazer as coisas de forma errada. É preciso ser um médico ou um enfermeiro para observar um doente. Ninguém imagina ser observado por alguém que não esteja acreditado. É preciso aplicar o mesmo aqui.
Como é que se faz essa acreditação?
Não temos isso definido. O mais próximo está relacionado com o conhecimento de engenharia, matemática, física. Julgo que temos de definir as competências necessárias para desenvolver este tipo de sistemas de forma correcta.
Não temos isso definido. O mais próximo está relacionado com o conhecimento de engenharia, matemática, física. Julgo que temos de definir as competências necessárias para desenvolver este tipo de sistemas de forma correcta.
Isso é um trabalho para as universidades?
Pode ser. Mas também é para as empresas, que podem escolher os seus programadores.
Pode ser. Mas também é para as empresas, que podem escolher os seus programadores.
Na inteligência artificial, o enviesamento está nos dados. Podem-se produzir sistemas potencialmente enviesados porque os dados estão enviesados, e não porque não há diversidade nas equipas. Mas parte da riqueza das equipas é consequência da diversidade. Claro que precisamos disso. Conhecemos os números, incluindo na Europa. Temos poucas mulheres nas universidades nestas áreas. Temos de olhar com muito cuidado para o que acontece no sistema de educação.
Há quem defenda, em particular no meio académico, que as grandes empresas devem dar a conhecer, pelo menos até certo ponto, os seus algoritmos, visto que influenciam tanto as nossas vidas. Como vê este equilíbrio entre tornar os sistemas transparentes e proteger o negócio?
Estes sistemas são muito importantes para as empresas. Não posso mostrar os sistemas que tenho, porque os concorrentes vão replicá-los. E depois há sistemas transparentes, mas tão complexos que as pessoas não os percebem. Isso não é um problema.
Não
podem ser simplificados para as pessoas os compreenderem? Como a UE
obrigou o Google e o Facebook a fazer em relação aos seus termos de uso?
Uma coisa é explicar o sistema. Mas não o quero dar a quem o possa copiar. Conhece a fórmula por trás do último fármaco da Roche? Não. É da empresa. E não lhe chamamos uma caixa negra, chamamos-lhe propriedade intelectual.
Também está optimista quanto à forma como esses benefícios se vão distribuir pela população?
Estou optimista. Estamos melhor do que noutras eras. Antes não tínhamos um acesso democratizado à informação. A informação é poder. Antes queimávamos pessoas que sabiam mais do que nós. Agora a informação é livre.
----------
Fonte: https://www.publico.pt/2018/11/02/tecnologia/noticia/maioria-construir-bem-sistemas-inteligentes-1849482?utm_term=O+pergaminho+do+seculo+XIV+a+venda+no+OLX&utm_campaign=PUBLICO&utm_source=e-goi&utm_medium=email
Uma coisa é explicar o sistema. Mas não o quero dar a quem o possa copiar. Conhece a fórmula por trás do último fármaco da Roche? Não. É da empresa. E não lhe chamamos uma caixa negra, chamamos-lhe propriedade intelectual.
Que impactos podemos esperar das tecnologias de inteligência artificial no espaço de cinco ou dez anos?
Acredito que vamos ter agentes virtuais a viver connosco em casa. Não gosto de coisas antropomórficas, as pessoas tendem a ter medo delas. Não são uma forma eficiente de fazer isto. Se pensarmos numa forma autónoma de limpar o chão – parece um disco. Não é um robô antropomórfico a empurrar um aspirador. Estamos a desenvolver dispositivos para fazer várias coisas concretas da melhor forma possível. Vamos ter chatbots a falar com chatbots, avatares... Não estou a criar nenhum valor ao marcar o meu voo de regresso para Madrid. O meu chatbot pode fazer isso. Também acredito que vamos ver carros autónomos, porque são necessários. Alguns dos empregos de hoje vão desaparecer. Isto já aconteceu no passado e conseguimos resolvê-lo. E a Europa é um continente envelhecido, não temos pessoas para fazer todas as tarefas. Estou optimista quanto ao futuro da força de trabalho. O ser humano vai assistir a coisas incríveis em termos de medicina, de prevenção e controlo de doenças, e de amplificação dos nossos corpos.
Acredito que vamos ter agentes virtuais a viver connosco em casa. Não gosto de coisas antropomórficas, as pessoas tendem a ter medo delas. Não são uma forma eficiente de fazer isto. Se pensarmos numa forma autónoma de limpar o chão – parece um disco. Não é um robô antropomórfico a empurrar um aspirador. Estamos a desenvolver dispositivos para fazer várias coisas concretas da melhor forma possível. Vamos ter chatbots a falar com chatbots, avatares... Não estou a criar nenhum valor ao marcar o meu voo de regresso para Madrid. O meu chatbot pode fazer isso. Também acredito que vamos ver carros autónomos, porque são necessários. Alguns dos empregos de hoje vão desaparecer. Isto já aconteceu no passado e conseguimos resolvê-lo. E a Europa é um continente envelhecido, não temos pessoas para fazer todas as tarefas. Estou optimista quanto ao futuro da força de trabalho. O ser humano vai assistir a coisas incríveis em termos de medicina, de prevenção e controlo de doenças, e de amplificação dos nossos corpos.
Estou optimista. Estamos melhor do que noutras eras. Antes não tínhamos um acesso democratizado à informação. A informação é poder. Antes queimávamos pessoas que sabiam mais do que nós. Agora a informação é livre.
----------
Fonte: https://www.publico.pt/2018/11/02/tecnologia/noticia/maioria-construir-bem-sistemas-inteligentes-1849482?utm_term=O+pergaminho+do+seculo+XIV+a+venda+no+OLX&utm_campaign=PUBLICO&utm_source=e-goi&utm_medium=email
Nenhum comentário:
Postar um comentário