Inteligência artificial e democracia

 Francisco Gaetani e Virgilio Almeida*

Estabelecer regras para governar as tecnologias que irão nos governar é tarefa estratégica para o país, não só para o governo

22/07/2021 05h00 Atualizado há 4 horas

A pergunta inicial é imediata: qual a relação entre tecnologias de inteligência artificial e democracia? O ponto de partida para a resposta é a preocupação das democracias liberais, sólidas e bem sucedidas com o avanço da inteligência artificial (IA). Neste grupo estão os países da União Europeia (UE) e principalmente aqueles da OCDE, à qual o Brasil encontra-se em processo de acesso. Há poucos meses, a Comissão Europeia divulgou uma versão inicial da proposta para regular a implantação e uso da inteligência artificial nos territórios e ciberespaços dos países da região.

O foco da proposta é traçar regras que mantenham o ser humano no centro do avanço da inteligência artificial. Atenção para o significado desta opção, cuja tradução é manter as pessoas - não a inteligência artificial e/ou máquinas, no comando dos processos.

Estabelecer regras para governar as tecnologias que irão nos governar é tarefa estratégica para o país, não só para o governo

A linha mestra da proposta é a definição de critérios e normas que irão fazer parte da regulação dos chamados sistemas de IA de alto risco. É nesse contexto do avanço das novas tecnologias que aparece claramente a necessidade de proteção dos valores da democracia e liberdades individuais, atualmente em risco em vários países, como o Brasil. A ascensão do “Surveillance State” é uma realidade global e tanto os Estados Unidos como a China encontram-se numa competição frenética em relação à sua configuração ideal. Uma abordagem detalhada sobre o assunto é feita por Shoshana Zuboff de Harvard em seu livro recentemente traduzido para o português “A Era do Capitalismo de Vigilância”.

A inteligência artificial é uma família de tecnologias em rápida evolução que pode contribuir para uma ampla gama de benefícios econômicos e sociais em todo o espectro de indústrias e atividades sociais, revolucionando medicina, entretenimento, comércio, agricultura, educação, transporte, mudando o perfil das ofertas de trabalho e criando novos produtos. Mas há também razões para preocupações quanto ao futuro dirigido por tecnologias de inteligência artificial, que pode trazer profundas modificações no tecido social. A proposta europeia de regulação cria um quadro jurídico abrangente para a inteligência artificial com a finalidade de proteger interesses públicos, em particular nas áreas da saúde e segurança e os direitos e liberdades fundamentais das pessoas. Para isso, a União Europeia propõe normas comuns para todos sistemas de IA considerados de alto risco, que devem estar em conformidade com os requisitos estabelecidos pela regulação.

A UE define também uma lista de práticas de inteligência artificial que deverão ser banidas, por violar os valores e direitos fundamentais protegidos pelos países da região. Por exemplo, dentre outros, deverão ser proibidos sistemas de IA projetados ou usados para manipular o comportamento humano, as opiniões ou decisões de escolhas que podem levar uma pessoa a se comportar, formar opinião ou tomar decisão em seu detrimento. Não deverão ser permitidos sistemas de IA voltados para vigilância indiscriminada, aplicados de maneira generalizada a todas as pessoas físicas, sem diferenciação. Os métodos de vigilância baseados em IA incluem os sistemas para monitoramento ou rastreamento de pessoas físicas por meio de interceptação direta ou obtenção de acesso à comunicação, localização, meta-dados ou outros dados pessoais coletados em ambientes digitais e/ou físicos.

Duas são as linhas de uso da inteligência artificial que podem minar democracias e violar direitos individuais. O uso de algoritmos de inteligência pelas plataformas de mídias sociais, como Twitter e Facebook, já transformou radicalmente o debate e a comunicação política em vários países. O caso da atuação da “Cambridge Analytica’’ no Brexit no Reino Unido e nas eleições americanas de 2016 ilustram bem os perigos da IA. De lá para cá, o poder das tecnologias de IA avançou rapidamente. A outra ameaça emergente refere-se ao uso de IA por governos e empresas para monitorar o comportamento e as visões políticas dos indivíduos de tal forma que podem silenciar oposições, perseguir oposicionistas e reduzir a participação da sociedade em atividades políticas.

Hoje o sistema de nomeação de pessoas para cargos de confiança no governo federal passa por uma triagem que rastreia a trajetória de profissionais - tanto servidores públicos como quadros externos à administração pública - de acordo com premissas estabelecidas como desejáveis pelo governo do dia, para além das convencionais como obrigações tributárias e eventuais conflitos de interesse.

As regras e regulações para governar as tecnologias que regerão o convívio social estão sendo produzidas e negociadas, com atraso e, principalmente, com pouca atenção e debate público. O Ministério da Ciência, Tecnologia e Inovação instituiu a Estratégia Brasileira de Inteligência Artificial pela Portaria 4617 de 6 de abril de 2021. A Câmara dos Deputados aprovou o regime de urgência para o Projeto de Lei 21/20 de regulamentação da IA do deputado Eduardo Bismarck (PDT- CE), prevendo a votação da proposta nas próximas sessões do plenário. O tratamento do assunto pela mídia tem sido próximo do inexistente.

Estabelecer regras e regulações para governar as tecnologias que irão nos governar no futuro é uma tarefa estratégica para o país, não apenas para o governo, sempre pressionado pelo congestionamento da agenda de prioridades nacionais. O Brasil talvez não perceba, mas está sendo mudado de lugar na geopolítica global, em função, dentre outras coisas, da dificuldade que vem demonstrando na defesa de sua democracia.

*Francisco Gaetani é professor da Ebape/FGV e ex-Secretário Executivo dos Ministérios do Meio Ambiente e Planejamento. Virgilio Almeida é professor associado ao Berkman Klein Center da Universidade de Harvard, professor emérito da UFMG e ex-secretário de Política de Informática do Ministério da Ciência e Tecnologia e Inovação. 

Imagem da Internet

Fonte: https://valor.globo.com/opiniao/coluna/inteligencia-artificial-e-democracia.ghtml