Três tensões na compreensão da IA, em diálogo com o Papa Francisco.

Artigo de Luciano Floridi

O filósofo italiano Luciano Floridi comenta a mensagem do Papa Francisco para o Dia Mundial das Comunicações Sociais deste ano, intitulada “Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana”.

Floridi é diretor-fundador do Digital Ethics Center, da Yale University, nos Estados Unidos, e professor do Departamento de Estudos Jurídicos da Universidade de Bolonha, na Itália.

O artigo foi publicado no repositório SSRN, 10-03-2024. A tradução é de Moisés Sbardelotto.

Eis o artigo. 

1. Introdução

A mensagem do Papa Francisco para o 58º Dia Mundial das Comunicações Social (24 de janeiro de 2024) é curta, clara na análise e convincente nas conclusões. Por isso, aconselho que seja lida diretamente, sem passar por mediações, interpretações ou resumos.

No entanto, há três tensões no texto que chamaram a minha atenção. Pareceram-me muito significativas filosoficamente, e acredito que vale a pena chamar a atenção para elas, a fim de refletir sobre sua resolução, depois de ler o texto. Apresento-as não em ordem de importância, mas sim de análise lógica.

2. Primeira tensão: responsabilidade e neutralidade

Comecemos pela primeira frase da mensagem, na qual se fala da “chamada [grifo meu] ‘inteligência artificial’”. Ótimo incipit. O restante da mensagem esclarece, de modo lúcido e convincente, que estamos diante de uma tecnologia feita de “maravilhosas invenções”, mas sem nenhuma inteligência, compreensão, consciência, emotividade, intuição, entendimento... em suma, tudo aquilo que faz de um ser humano uma entidade única, pelo menos neste planeta. “O próprio uso da palavra ‘inteligência’ é falacioso”, sublinha o papa. É verdade. De fato, a expressão foi cunhada justamente para isso, como nos conta John McCarthy, seu idealizador. Estávamos nos anos 1950, era preciso criar uma nova disciplina e “vendê-la” no mercado de ideias (Floridi e Nobre, 2024). “Artificial Intelligence” foi uma ideia genial, mas seu uso enganoso tem sido muito explorado, por interesses ou por ingenuidade, criando confusões demais.

Dado que absolutamente não estamos falando de inteligência quando falamos de IA, resta a pergunta: então, do que se trata? O papa recorda que são máquinas, justamente. Mecanismos, sistemas ou serviços de software que fazem coisas no nosso lugar, cada vez melhor do que nós, mas de modos diferentes, desprovidos de inteligência, no mesmo sentido em que uma lava-louças lava a louça no nosso lugar e melhor do que nós, mas não como nós, e sem nenhuma razão, motivo, expectativas, esperanças ou temores, e assim por diante, que só nós temos. São sistemas de “auxílio ao pensamento”. Tanto que, no passado, antes da chegada da nova inteligência artificial generativa, dizia-se que IA poderia significar Augmented Intelligence, a nossa.

Por isso, creio que seja preferível, em linha com a mensagem, ler a IA como Agere sine Intelligere, Agency without Intelligence (Floridi e Cabitza, 2021). A consequência, que a mensagem explicita, é que resta à humanidade, sempre e de um modo nunca delegável, a completa e única responsabilidade de projetar e empregar bem esses sistemas.

A criação, o controle e a utilização desse conjunto (cada vez mais amplo e rico) de capacidades de resolver problemas e completar tarefas, que é a IA em suas diversas modalidades tecnológicas, já é o futuro da humanidade e de seu compromisso conceitual, laboral, legislativo e político.

Nesse sentido, o texto traz palavras fortes sobre quanto bem, mas também quanto mal, pode ser causado pela boa ou pela má utilização dessas tecnologias. São considerações totalmente compartilháveis ​​sobre a responsabilidade que é total e unicamente humana, e nunca tecnológica. É nesse contexto que emerge a primeira tensão.

O papa escreve que “cada coisa nas mãos do homem torna-se oportunidade ou perigo”, incluindo a IA. É verdade. Mas isso, em uma leitura superficial, pareceria indicar uma concepção banal da tecnologia: a tecnologia é neutra, e seu impacto moral depende do modo como ela é usada. Vem à mente o costumeiro e desgastado exemplo da faca que pode ser usada para cortar o pão ou a garganta de uma vítima. Isso também valeria à IA.

Mas, poucas linhas depois, lemos também que “os algoritmos não são neutros”. Correto. Não são, assim como a tecnologia nunca é neutra, pois tem sempre um valor ético, porque faz sempre uma diferença no mundo e na vida humana.

Mas, então, como se conciliam essas duas passagem? Neutralidade da tecnologia – cujo uso moral ou imoral está nas mãos da humanidade – ou nenhuma neutralidade da mesma tecnologia, independentemente de seu uso? Sugiro abandonar a leitura superficial e interpretar o texto em termos de uma dupla acusação (Floridi, 2023).

Para entender a diferença, basta um exemplo simples. Uma esfera pode ser imóvel se ninguém a mover (na física, isso se chama equilíbrio neutro), ou imóvel, porque duas pessoas a estão empurrando em direções opostas com esforço igual (novamente na física, isso se chama equilíbrio estático). As duas passagens da mensagem parecem contraditórias apenas se pensarmos em termos de equilíbrio neutro. Na realidade, acredito que elas indicam que a tecnologia tem equilíbrios estáticos.

Como o papa nos recorda, a IA, por sua natureza, pode facilmente ser uma força em favor da humanidade. Cabe à humanidade favorecer todos os aspectos positivos e prevenir, reduzir ou anular os negativos, evitando que as “mãos erradas” levem a melhor no impulso para o futuro, “desequilibrando-a”, por sua vez, em favor do bem, para voltar à metáfora física.

É à luz dessa confiança na capacidade humana de gerir a tecnologia da melhor forma possível que devem ser lidas as perguntas fundamentais que o texto elenca perto do fim. É uma lista difícil de ser melhorada e que é desanimadora pela dimensão das implicações. Vai-se da dignidade do trabalho à proteção do ambiente, e para cada pergunta “a resposta não está escrita; depende de nós”. O futuro não é uma série de televisão cujos episódios tentamos adivinhar. A futurologia é a nova astrologia. Perguntar-se como será o mundo amanhã significa se interrogar sobre o que queremos e decidimos fazer hoje.

3. Segunda tensão: eu e nós

Resolvida essa primeira tensão interpretativa – entendendo-se que cabe apenas a nós empurrar para a direção certa toda a tecnologia, incluindo a IA, e responder aos desafios que ela levanta – o texto nos lembra que “somos chamados a crescer juntos, em humanidade e como humanidade” para compreender e prevenir resultados prejudiciais e discriminatórios, a injustiça social e a redução do pluralismo, e para fazer com que a IA esteja a serviço de toda a humanidade e do ambiente.

Aqui, encontramos a segunda tensão, entre a comunhão e a solidariedade que liga todos os seres humanos, ao mesmo tempo e ao longo do tempo, e um aparente individualismo da reflexão quase pascaliano (o das razões do coração): “A nossa reflexão só pode partir do coração humano” para projetar e usar bem uma tecnologia tão poderosa. Como podemos conciliar nós e eu, ou sociedade e coração, para reduzir o problema a duas palavras?

Aqui também é melhor evitar leituras superficiais. A palavra-chave do texto é “partir”. O dom do coração – entendido como “a sede da liberdade e das decisões mais importantes da vida [e] sobretudo o lugar interior do encontro com Deus” de que fala a mensagem (não tem importância se ele é interpretado mais ou menos metaforicamente, de acordo com a fé do leitor) – não é o fim do percurso individual, mas sim o início do percurso comum.

Por isso, não devemos parar em uma leitura um pouco “cartesiana” de um coração (ou de um eu, o do Ego cogito) que está na base do individualismo moderno. A sociedade não é um sistema de muitos corações reunidos como pecinhas de Lego. O texto me lembra a famosa passagem de Agostinho (Agostinho, 2022): “Não saia de você mesmo, entre de novo em você: a verdade reside no íntimo do homem” (Noli foras ire, in te ipsum redi, in interiore homine habitat veritas).

Mas, para entender isso, e para entender a resolução dessa tensão entre sociedade e indivíduo, é preciso lembrar o contexto e também a segunda parte desse texto: “E, se achar que sua natureza é mutável, transcenda também a você mesmo” (Et si tuam naturam mutabilem inveneris, trascende et te ipsum).

Na realidade, a viagem espiritual interna e a chegada ao espaço interior, de que falam a mensagem do papa e Agostinho, são apenas o início do caminho para transcender a si mesmo e encontrar na comunhão com os outros e com o Outro “em que consiste a harmonia suprema”, como diz o próprio Agostinho na passagem imediatamente anterior às citadas (Recognosce igitur quae sit summa convenientia; sobre o conceito de convenientia que aqui traduzo como harmonia, ver Hayes [1974]).

Essa leitura explica por que, na mensagem, o papa utiliza uma linguagem “relacional” contemporânea e não “mecanicista” moderna. Os corações de cada pessoa não devem ser vistos como muitos espaços atômicos, locais individuais onde se pode encontrar refúgio, mas como nós a partir dos quais se deve partir, para “compreender as interligações” (grifo meu).

A “sabedoria do coração” é essa dupla viagem interna primeiro (no coração) e externa depois (a partir do coração) “que nos permite combinar o todo com as partes, as decisões com as suas consequências, as grandezas com as fragilidades, o passado com o futuro, o eu com o nós” (grifo meu). Essa “sabedoria do coração” introduz uma terceira tensão entre regras e espiritualidade.

4. Terceira tensão: regras e espiritualidade

O papa afirma que “não é suficiente a regulamentação [da IA]”. Outra observação compartilhável. Mas atenção. O texto não diz que a ética além da lei também é necessária. Isso seria verdade, mas não muito interessante. A mensagem fala de toda a regulamentação (“modelos de regulação ética”) como insuficiente, indicando que também é preciso um “olhar espiritual”.

O papa pode se permitir falar dessa forma, e, se eu fosse mais corajoso e mais religioso, diria também a mesma coisa, mas falar de espiritualidade, para um filósofo agnóstico, pode ser enganoso.

Por isso, vou me apoiar na citação, presente no início da mensagem, de uma carta de Romano Guardini: “Deve-se formar um novo tipo humano, dotado de uma espiritualidade mais profunda, de uma nova liberdade e de uma nova interioridade”. O dever-ser, tanto ético quanto legal, não basta; é preciso também um poder-ser espiritual para entender e direcionar a inovação tecnológica de forma preferível.

Aqui está o que a IA e a revolução digital poderiam implicar. Não apenas muitas vantagens sociais e ambientais. Mas talvez até um renascimento espiritual, que parte do eu (o coração) e chegue ao nós. Esta última observação permite-me concluir com uma reflexão pessoal.

5. Conclusão

A era moderna perdeu o sentido do completamente Outro. Perdeu-o primeiro com a chamada morte de Deus, primeiro, e depois com o domínio sobre a Natureza, antes desencantada e hoje cada vez mais arruinada. A crise espiritual moderna não é uma crise de atenção em relação a nós mesmos. Temo-la até demais. E não é uma crise de introspecção. Isso também abunda.

É uma crise de diálogo interno, mesmo que apenas socrático e não necessariamente religioso, com o Outro. A verdadeira distração (etimologicamente falando) moderna, o ruído que esconde o sinal, é o antropocentrismo individualista que não deixa nenhum espaço para o Outro.

Graças também à globalização, temos cada vez mais alteridades alheias (no sentido etimológico de estranhas), muitas vezes conflitantes, entre indivíduos, gêneros, classes, etnias, nações, povos, religiões e filosofias. Mas são alteridades internas à humanidade, um desconhecimento entre nós, que não correspondem a um Outro transcendente, isto é, fora da história humana, mas sim familiar, isto é, vivido e reconhecido como experiência cotidiana, seja ele também divino (para quem crê) ou apenas natural (para quem não crê).

O mais próximo que a humanidade hoje experimenta como Outro diferente de si é essa nova forma de capacidade de agir que não é biológica nem inteligente, mas que tem a capacidade de melhorar seus processos e suas interações, de perseguir fins e de produzir resultados com grande sucesso. Sentimo-nos desorientados e substituídos pela IA, mas seria verdadeiramente tolo (mas, mesmo assim, acontece muito frequentemente) se acabássemos deificando ou naturalizando a IA como o novo Outro, como uma espécie de inteligência diferente, mas superior à nossa, salvífica ou apocalíptica.

A esperança é que, em vez disso, essa tecnologia nos devolva a consciência do que significa não ser totalmente absorvido por nós e em nós mesmos, não nos sentirmos no centro do universo (Copérnico), do mundo animal (Darwin), do espaço mental (Freud) e hoje da infosfera (Turing) (Floridi, 2017).

A esperança é que a IA não seja mal-entendida como o Outro, mas nos lembre da necessidade de manter sempre aberta a pergunta sobre o Outro. Em suma, nas palavras do cardeal Martini (Martini 2015), a esperança é de que a IA nos torne novamente inquietos.

Bibliografia

Agostinho. De vera religione. Bréscia: Morcelliana, 2022.
Floridi, Luciano. La quarta rivoluzione: come l’infosfera sta trasformando il mondo. Milão: Cortina, 2017.
Floridi, Luciano. “On Good and Evil, the Mistaken Idea That Technology Is Ever Neutral, and the Importance of the Double-Charge Thesis”. Philosophy & Technology, vol. 36, n. 60, 2023.
Floridi, Luciano; Cabitza, Federico. Intelligenza artificiale: l’uso delle nuove macchine. Florença: Bompiani, 2021.
Floridi, Luciano; Nobre, Anna C. “Anthropomorphising machines and computerising minds: the crosswiring of languages between Artificial Intelligence and Brain & Cognitive Sciences”. SSRN, 2024, disponível no link.
Hayes, Zachary. “The Menaing of ‘Convenientia’ in the Metaphysics of St. Bonaventure”. Franciscan Studies, 34, pp. 74-100, 1974.
Martini, Carlo Maria. Le cattedre dei non credenti. Milão: Bompiani, 2015.
Papa Francisco. “Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana”, Mensagem para o 58º Dia Mundial das Comunicações Sociais, 24 jan. 2024. Disponível no link.

Fonte:  https://www.ihu.unisinos.br/638518-tres-tensoes-na-compreensao-da-ia-em-dialogo-com-o-papa-francisco-artigo-de-luciano-floridi