domingo, 11 de agosto de 2024

A inteligência artificial pode superar as barreiras da desigualdade?

 Por Teresa Bastiani*

Inteligencia Artificial 
 

As ferramentas de inteligência artificial que usam 
textos que consagram o preconceito racial ou a lógica sexista 
como fonte reproduzirão esses vieses como sabedoria convencional.

Em uma sociedade mais conectada do que nunca, todos seremos alfabetizados digitalmente? No Brasil, onde os pagamentos em massa são feitos através do PIX, as teleconsultas médicas estão se tornando cada vez mais populares, onde o número de trabalhadores de aplicativos, como revendedores e motoristas, só aumenta, e onde o uso de ferramentas de Inteligência Artificial está crescendo, esse parece ser o próximo destino no horizonte tecnológico.

No entanto, de acordo com uma pesquisa realizada pelo Instituto de Análise de Mercados Brasil, 36% da população nunca ouviu falar da ferramenta de Inteligência Artificial (IA) mais popular hoje, ChatGPT. Além disso, 40% dos brasileiros não sentem a necessidade de ferramentas de IA em seu cotidiano. Entre eles, 53% têm pouca ou nenhuma educação e 36% são de classes sociais de baixa renda. Ainda segundo dados da última Pesquisa Nacional por Amostra de Domicílios, a PNAD Continua, 24 milhões de brasileiros nunca acessaram a Internet. A maioria deles está em áreas rurais, nas regiões norte e nordeste do país. Esses grupos são identificados como analfabetos digitais, pois não estão familiarizados com as tecnologias de inteligência artificial ou mesmo com a Internet.

Em um cenário tecnológico em que a criação de dados sintéticos é cada vez mais discutida por meio da Inteligência Artificial Generativa e seu uso em estudos de opinião pública, qual é o impacto desse importante setor da população digitalmente excluída? O digital seria capaz de prever, simular ou mesmo influenciar os comportamentos e opiniões daqueles que só participam do mundo analógico?

Um experimento recente da Pesquisa de Valores Mundiais (WVS) realizado no Brasil pelos professores Henrique de Castro e Daniel Capistrano demonstrou a dificuldade dos algoritmos de IA na criação de dados sintéticos que representam a população com menos educação e pertencer a classes sociais mais baixas. Assim, vemos que é precisamente a população menos educada, com rendas mais baixas, que mais desafia as capacidades de previsão da IA. Os chamados analfabetos digitais são, portanto, aqueles - indomáveis - pela tecnologia, imprevisíveis aos dados sintéticos.

As implicações deste fenômeno são profundas e, de certa forma, paradoxas. Em uma sociedade cada vez mais monitorada e na qual são feitas tentativas de controlar e moldar opiniões através de preferências avançadas ou artificialmente construídas através de algoritmos de IA, é precisamente entre aqueles que têm menos educação e rendas mais baixas onde a influência dessas tecnologias encontra maior resistência. Esses indivíduos, muitas vezes excluídos de amostras de pesquisa e menos presentes em plataformas digitais, permanecem mais “invisíveis” aos algoritmos e desafiam a capacidade preditiva da pesquisa.

Como a tecnologia avança e se torna mais sofisticada, aqueles que estão à margem desse avanço podem se tornar verdadeiros agentes invisíveis de mudança, influenciando decisivamente a direção política e social do país, especialmente em uma sociedade polarizada como a brasileira, na qual 2 milhões de votos decidiram a última disputa presidencial.

No entanto, embora sejam menos influenciados pela tecnologia, esses grupos não são imunes à manipulação. Outros meios tradicionais de influência, como a televisão, líderes religiosos e líderes locais, ainda exercem influência significativa e podem efetivamente moldar opiniões, muitas vezes compensando o impacto direto da mídia digital.

Um dos vetores de influência a considerar hoje é também a Internet via televisão. Atualmente, a televisão é o segundo acesso médio à Internet para os brasileiros (47,5% do uso), superando, pela primeira vez, o computador pessoal (35,5% o usa). Com o surgimento de serviços de streaming, canais do YouTube e podcasts, uma pergunta: esses conteúdos digitais, são assistidos na televisão, os formadores de opinião de uma sociedade com alfabetização digital parcial? Essa questão é essencial para compreender a dinâmica do consumo de informação e a formação de opiniões em diferentes segmentos da população.

É necessário ampliar o debate sobre vigilância e controle social por meio da IA. A ideia de que o monitoramento completo da sociedade pode ser ilusório se não considerarmos as limitações inerentes ao escopo da tecnologia. A resistência natural dos segmentos menos conectados pode servir como um lembrete de que a diversidade e a complexidade humanas sempre encontrarão maneiras de se manifestar, mesmo em um mundo cada vez mais digitalizado. Este aspecto deve ser central para qualquer debate sobre o futuro da tecnologia e da sociedade.

Esta situação abre espaço para questionar o papel da tecnologia na nossa sociedade e a necessidade de políticas inclusivas. É essencial que as políticas públicas e privadas de IA considerem esses grupos marginalizados, não apenas como um desafio a ser superado, mas como uma oportunidade para uma abordagem mais equitativa e inclusiva. A inclusão digital deve ser vista como um direito fundamental, necessário para a plena participação na sociedade contemporânea.

Para que a inclusão digital se torne uma realidade integral, é necessário um esforço concentrado que vai além da mera disponibilidade de tecnologia. É imperativo um investimento significativo em infra-estrutura, educação e formação. As áreas rurais e as regiões norte e nordeste do Brasil, que sofrem com o maior déficit de conectividade, precisam de iniciativas específicas para incentivar a expansão da rede de Internet de alta velocidade. Além disso, a educação digital deve ser integrada nos currículos escolares desde as primeiras séries, garantindo que as novas gerações desenvolvam habilidades tecnológicas desde cedo. Os programas de alfabetização digital para adultos também são essenciais para permitir que as pessoas usem ferramentas digitais de forma eficaz.

Além de promover uma sociedade mais igualitária e participativa, é crucial que esse acesso também seja crítico e reflexivo. A educação digital deve se concentrar não apenas nas habilidades técnicas, mas também no desenvolvimento de uma compreensão crítica da tecnologia e seus impactos sociais, éticos e políticos. Isso inclui ensinar como identificar e combater a desinformação, entender as implicações da privacidade e da segurança on-line e refletir sobre o papel das grandes corporações de tecnologia em nossas vidas diárias. Ao promover uma abordagem crítica, garantimos que os cidadãos não sejam meros consumidores passivos de tecnologia, mas agentes ativos que possam questionar, influenciar e moldar o desenvolvimento tecnológico de maneira consciente e ética.

Uma abordagem crítica também envolve a conscientização sobre os vieses inerentes às tecnologias de inteligência artificial e a importância da representação justa nos dados usados para treinar esses sistemas. Por exemplo, ferramentas de inteligência artificial que usam textos que consagram preconceito racial ou lógica sexista como fonte reproduzirão esses vieses como sabedoria convencional. Sem essa consciência, corre-se o risco de perpetuar as desigualdades existentes e criar novas formas de exclusão. As políticas públicas e as iniciativas educativas devem, por conseguinte, incluir debates sobre ética na tecnologia, promovendo uma cultura de questionamento e responsabilização. Ao capacitar a população a pensar criticamente sobre a tecnologia, não apenas capacitamos as pessoas, mas também fortalecemos a democracia, garantindo que a evolução digital seja inclusiva, justa e criticamente refletida na sociedade.

*Bacharel em Ciências Sociais pela UFSC (Universidade Federal de Santa Catarina, Brasil) e analista de pesquisa da Market Analysis, consultor de opinião pública com sede no Brasil. 

Fonte:  https://latinoamerica21.com/es/puede-la-inteligencia-artificial-superar-las-barreras-de-la-desigualdad/

Nenhum comentário:

Postar um comentário