Quando o chatGPT tenta ser Paulo Freire

 por Orlando Lima Pimentel*

 

Montagem: Cezar Xavier/O Vermelho

Queria uma IA crítica à “educação bancária”. Fustiguei-a com lições freireanas. Mais que inconsistência, o resultado foi o tom dócil e o pastiche crítico. Não passou no teste da inteligência socialmente contextualizada: seu corpo de silício não sente as contradições do corpo orgânico…

OutrasPalavras

Tecnologia em Disputa

Publicado 07/10/2024 às 17:51

Uma das principais promessas por trás dos Grandes Modelos de Linguagem (os LLMs – Large Language Models) como ChatGPT, é a da possibilidade de personalização de nosso aprendizado. A interação humanos-IA permitiria, segundo certa interpretação do fenômeno, atingir um nível ótimo de aquisição daquilo que se aprende. O que se vende é a ideia de que cada pessoa possuiria uma interação adequadíssima às suas necessidades pessoais, nas mais específicas condições e contextos. Para aqueles que acreditam ser importante se apropriar das novas tecnologias enquanto ferramentas de movimento sociais, é tentador sonhar com uma tecnopolitização das lutas sociais, de modo a utilizar tais novas técnicas na potencialização das mais diversas frentes de batalha e, por que não, também no contexto da educação popular que muitos de nossos movimentos defendem e praticam.

É a partir desse ideia que comecei a testar as capacidades da mais famosa dessas plataformas de inteligência artificial, tentando emular um educador freireano que me ensinasse acerca das potencialidades e limites do uso de tecnologias de IA, em um contexto de educação popular e engajado com a transformação das injustiças sociais de nosso país.

Como funcionam as plataformas em IA

Antes de descrever esse jocoso episódio, vale a pena falar um pouco de como as plataformas de IA operam. No jargão da informática, as técnicas de “aprendizado de máquina” (machine learning) que subjazem plataformas como o ChatGPT não apenas se ajustam àquilo que escrevemos, ou, agora, pedimos via áudio, mas também constituem, nos bastidores operativos de seus programas (nos assim chamados algoritmos), uma certa imagem virtual daquilo que tenderíamos a “ser” e dizer, com todas as aspas que tal concepção informacional do ser merece.

De modo muito simplificado, se, digamos, nós usuários buscarmos muitas vezes por um determinado assunto ou nos mostrarmos particularmente interessados à um tópico, os algoritmos de IA, muito metaforicamente falando, criam um estereótipo de nós mesmos, a partir do qual o programa identificaria certas tendências (bias) daquilo que nos afaga o ego.

Mas essa caricatura virtual, criada de modo conformista e descontextualizado quanto à realidade para além da interface informacional que utilizamos, é antes de mais nada um estereótipo, feito através de comparações matemáticas muito refinadas de dados provenientes de repositórios diversos, e que se nutrem do modo como habitualmente nos comportamos em redes sociais e tantos outros meios.

As plataformas de interação humano-IA escondem dentro de si camadas e mais camadas de alienação tecnológica, da qual nem nos damos conta ao utilizarmos suas funcionalidades. Seja por que o código fonte constituinte de tais plataformas é fechado¹; seja por que, devido às contradições mesmas do sistema capitalista e da divisão do trabalho, a educação e o conhecimento dos códigos tecnológicos é legado apenas à certos iniciados em carreiras do setor da informática e comunicação (as TICs), criando assim uma casta tecnocrática (cf. Feenberg, 2022); Seja porque tudo que é dito “tecnológico e científico” parece envolto em um ethos de imparcialidade e neutralidade, blindado de toda e qualquer crítica de seus valores sociais proveniente da esfera não acadêmica (cf. Lacey & Mariconda, 2014); fato é que nossa interação com aquilo que chamamos de IA apresenta comumente um misto de espanto e perplexidade.

Nossas expectativas e receios quanto às novas tecnologias alimentam, por um lado, numa perspectiva distópica, tanto uma repugnância ao tecnológico quanto um saudosismo dos tempos em que vivíamos sem as recentes inovações; por outro, as esperanças de incremento exponencial de nossa produtividade em diversos âmbitos, tornam-se a fonte de energia da verdadeira febre tecno-solucionista, típica de tecnófilos otimistas prontos a adotarem o desenvolvimento tecnológico a todo custo como as únicas saídas para todos os males, sejam eles sociais, políticos, econômicos, ecológicos, psicológicos, fisiológicos, sanitários etc… (cf. Durand & Martineau, 2023)².

Esse elemento subjetivo, misto de culto e temor, não deve ser ignorado ao pensarmos criticamente as plataformas de IA e o modo como interagimos com elas (cf. Noble, 1997). De fato, no nível da aparência e da interação alienada que todos temos com as tecnologias de ontem e hoje, tais plataformas conseguem nos enganar muito bem e, como dizíamos mais acima, poderiam dar a impressão que realmente aprendem conosco, ao passo que nós aprendemos com elas. No jargão da informática, emprega-se o termo aprendizado de máquina sem necessariamente se importar quanto ao significado social da aprendizagem. Mas a história das metáforas que envolvem as terminologias em torno da IA é matéria para um outro texto.

Por ora, basta notarmos que, por mais divertido que possa parecer ao usuário o entretenimento de criar seres virtuais específicos e caricaturais com os quais interagiríamos via uma interface como ChatGPT, a inteligência no sentido humano é extremamente contextual e social. Ela é felizmente recalcitrante às avaliações e muitos já criticaram os diversos reducionismo dos testes quantitativos de performance inteligente, sejam eles testes de QI ou testes de performance em aprendizado de outras línguas.³ Peca-se pela consideração da inteligência como uma entidade unitária, como se não possuíssem diversas formas de manifestação e como se pudessem prescindir de nossa corporeidade orgânica. Peca-se ainda mais por acreditar que, do ponto de vista tecnológico, tais sistemas produzem suas respostas sozinhos, como se nenhuma contribuição humana existisse por trás da produção dos algorítmos⁴.

De modo um tanto perverso, tomadas de modo bem literal, o setor de pesquisa em IA sonha ao longo da sua história com aquilo que poderíamos chamar de uma aprendizagem construtivo-cibernética, resultante da interação entre Humanos e Máquinas, entre usuários e algoritmos, numa retroalimentação dos sistemas informacionais, na qual um estereótipo tendencioso de nós mesmos e da sociedade seria tecnicamente inevitável. Em prol, em última instância, da exploração capitalista própria ao contexto do que os pesquisadores canadenses, Jonathan Durand et Jonathan Martineau chamam de o capitalismo algoritmico⁵, o centro dessa forma maquinal de aprendizagem é antes o de nos deseducarmos num sentido crítico, ao passo que nos encantamos pelos resultados fetichizados das novas tecnologias. Nesse processo, participamos numa co-construção desequilibradamente alienante. Cooperamos gerando os dados para os sistemas informacionais, mas não sabemos como ou o quanto⁶.

Novas formas de entretenimento são igualmente criadas ou refinadas neste contexto. Criar pastiches⁷ da inteligência humana vira um novo passatempo que ainda não conseguimos compreender em seus impactos psicológicos e sociais. Nerds de plantão sonham com o dia em que poderão interagir com personagens não jogáveis (os non playable characters – NPCs) de videogames com inteligências próprias, personalidades próprias, tal como se encontrassem com alguém na rua. O encanto fetichizado por essas possibilidades atuais e vindouras, no entanto, alimentam uma economia da atenção que faz de nós seres cada vez mais dependentes das plataformas e de suas dinâmicas comportamentalistas (cf. em particular a noção de adicção como peça fundamental da ideia de capitalismo límbico de Courtwright, 2019).

Esse entretenimento próprio às interfaces informacionais de todos os gêneros e tipos, da internet aos videogames e ainda mais agora com o uso de técnicas de IA, mereceria uma verdadeira empreitada teórico-crítica, tal como aquela na qual embarcaram os intelectuais da Escola de Frankfurt ao analisar a reprodutibilidade da obra de arte ou os impactos da indústria cultural sob o processo criativo humano em diversas artes.⁸ O filósofo Andrew Feenberg é um daqueles que parece tentar dar continuidade a tal projeto ao analisar as contradições do desenvolvimento tecnológico. No entanto, o projeto não é fácil, dado que as novas formas da indústria cultural elevaram ainda mais as cadeias produtivas e tecnológicas que a subjazem. Se há uma possibilidade de pensarmos criticamente os rumos múltiplos da indústria cultural de nossos dias, que envolvem a IA, o projeto deve ser uma empreitada muito mais interdisciplinar (cf. Horkheimer, a noção de materialismo dialético). É preciso chamar também a sociedade leiga a construir o debate e sentar com os cientistas, técnicos e experts, que, por sua vez, devem repensar suas autossuficiências cognitivas, metodológicas e valorativas, não só abarcando os sentidos técnicos, mas também culturais, sociais, ambientais etc por trás dos desenvolvimentos tecnológicos informacionais de nossos dias. (cf. a ideia uma investigação multiestratégia de Lacey, 2014; Feenberg, 2022).

O bom fracasso em emular uma IA freireana

Tendo essas ideias na cabeça e um computador com acesso à internet, coloquei-me então a tentar confundir ainda mais as coisas e, justamente, por entretenimento, ver se seria possível emular no ChatGPT o seu contrário do ponto de vista do aprendizado. Pedi então que ele simulasse um educador construtivista-crítico, que se baseasse em Paulo Freire, Vygotsky, e outros autores de referência na educação popular para discutir comigo os usos e contradições tecnopolíticas do uso de técnicas de IA por movimentos sociais brasileiros.

A plataforma, então, parecia adotar traços de comportamento crítico-construtivista. Ao questioná-la acerca das contradições das tecnologias atuais, com relação ao modo antissistêmico que Paulo Freire pensava a educação e a aprendizagem, a plataforma parecia tentar me colocar num papel de protagonista, ao mesmo tempo que não poupava críticas a si mesma, dizendo que o uso de tais tecnologias não seriam necessariamente vistas com bons olhos pelo autor da Pedagogia do Oprimido. Até aí, nota 10, IA!

Em seguida, ainda me fez questões ligadas ao tema, adotando uma linguagem simples (talvez emulando um pouco a ideia de zona de desenvolvimento proximal de Vygotsky)⁹ e partindo das palavras que mais apareciam em meu discurso, de modo indireto, internalizando em seu funcionamento um dos princípios importantes da pedagogia do oprimido, a saber, o de partir de palavras geradoras, prenhes de sentido para o educando e seu contexto social¹⁰.

Novamente, nada mal para uma plataforma que contrata trabalhadores para o processo de rotulação de conteúdos a menos de 2 dólares a hora¹¹ em países da periferia do capitalismo.

Após algumas outras interações não tão relevantes, certamente esbarrei nos limites diários de interações permitidos aos usuários que não pagam pela inscrição como membros da plataforma. Mas, esse limite material quantitativo para o uso da plataforma em seus modelos de linguagem mais recentes (além do GPT 4, já se opera entre alguns membros com um GTP o1) não é comparável aos limites dialéticos da interação homem-máquina.

Percebi prontamente o tom dócil e não conflitivo de meu educador virtual personalizado. Se ele dava uma impressão de uso de conceitos ou estilos próprios de um ideal de educação popular, ele os utilizava enquanto uma técnica aplicável descontextualizada e me tratava com todos os pudores e cuidados, evitando qualquer polêmica (Chomsky e outros autores já haviam criticado tal limite em seu texto “falsa promessa do ChatGPT”)¹². O que poderia parecer um respeito total ao meu desejo de predeterminar o estilo daquela IA aparentemente crítica, numa perspectiva dialética e freireana da aprendizagem, era justamente o problema: o pastiche crítico. Uma sala de aula, ou uma plataforma, que apenas é configurada para agradar individualidades e suas predileções, não instaura o conflito e, portanto, trabalha num sentido contrário à diversidade multifacetada das inteligências humanas. Perde o elemento mesmo que faz os indivíduos questionarem a si mesmos e o mundo. Nesse tipo específico de tecnologia, o efeito da interação homem-máquina tende ao desencorajamento do pensamento critico quanto às contradições dos meios de produção da informação de nossos dias.

No entanto, diante da sedutora adaptabilidade de plataformas informacionais de se curvarem aos nossos comandos, não é difícil antever um futuro no qual tais tecnologias poderiam, de fato, servir à uma forma de aprendizagem menos monótona do que a educação tradicional. Não é difícil imaginar como Inteligências Artificiais poderiam desempenhar um papel motivador em salas de aula, principalmente para aqueles professores e alunos que, massacrados pelas demandas burocráticas e cotidianas de uma educação bancária, tem sua individualidade e curiosidade emperradas, um pouco como engrenagens em uma maquinaria enferrujada.

O fato de plataformas de IA poderem eventualmente ser ferramentas, em certos contextos pontuais do processo educativo, não responde a pergunta: eficácia para quem e pra que? Não significa, igualmente, que as novas tecnologias vão necessariamente resolver os problemas estruturais da educação bancária, tradicional que possuímos ou que são sempre a melhor solução. Um certo discurso tecno-solucionista, geralmente de cunho otimista e salvífico, (Durand & Martineau, 2023; Mozorov, 2013) tende a associar o uso de ferramentas e tecnologias informacionais a um método de solução de todo e qualquer problema social, educacional, ambiental, econômico, sem se importar ao contexto no qual tais tecnologias são aplicadas.¹³

Para aqueles que apenas utilizam das ideias de Paulo Freire para criar um rótulo e marketing construtivista, não há contradição entre uso das plataformas, a forma como elas produzem seus algoritmos e a exploração do trabalho e do meio ambiente que as precedem. O pastiche construtivista-crítico bastaria. Utiliza-se, então, as ideais freireanas enquanto meras técnicas descontextualizadas de aprendizado, sem se importar com a indissociável componente de luta social pela erradicação das desigualdades e injustiças sociais existentes no mundo.

IAs e aprendizado de línguas

Tomemos um outro caso, o das plataformas de cursos de línguas, baseadas em IA, como um exemplo das contradições em adotar tais tecnologias na busca da melhor solução possível para todo e qualquer aprendizado.

Hoje algumas plataformas tem utilizado da interação com IA’s para o aprendizado de língua estrangeira. Nesse caso, por um preço certamente mais barato do que o pago por horas-aulas individuais à professores humanos, as plataformas podem analisar nossos erros de pronuncia, corrigir nossa gramática e criar assistentes virtuais com vídeos e tudo mais. Algumas outras permitem que clonemos e editemos nossas vozes para escutarmos, de antemão, como soaríamos ao falar italiano, espanhol, inglês, mandarim, etc, mesmo que ainda não tenhamos desenvolvido tais competências. Tudo isso, novamente, partindo de uma flexibilidade impossível de atingir em formas tradicionais de ensino.

Pois bem, se apenas pensarmos no estritamente eficaz, parece promissor deixar de lado a educação bancária e abraçarmos tais inovações. Por bem de nosso próprio desenvolvimento intelectual, o uso e potencial das inteligências artificiais nos auxiliaria em nossos próprios caminhos educativos¹⁴. Elas, dão a impressão, ao menos inicialmente, de respeitar muito mais nossa individualidade e autonomia enquanto protagonistas de nosso aprendizado.

Mas, como já falamos no início do texto, essa individualidade informacional é uma fatia estereotipada de nós mesmos. Seria uma perspectiva superficial do fenômeno de nossa existência linguística e social (no caso da plataforma de IA e aprendizado de línguas) e deixa necessariamente de lado a perversa corrupção teórica e prática da substituição de seres humanos de carne e osso por uma IA, tal como o quer certa fração dos tecno-solucionistas. Em tais usos da IA, o educando não se encontra em relação às contradições do aprendizado e do mundo, não prova os problemas de preconceito sócio-linguístico contra recém alfabetizados e contra pessoas pouco fluentes em uma língua estrangeira; vive fenomenologicamente de modo distinto os desafios da expressividade que se interseccionam com colonialismo, poder político-econômico, gênero, classe, etc; tendem a reduzir a linguagem ao fenômeno do registro escrito ou oral, sem viver o todo da linguagem corporal e gestos que integram o aprendizado de uma nova língua e cultura.

Conclusão

Diante da imensa descontextualização exposta acima, poderíamos dizer que, do ponto de vista emancipatório da Educação Popular, de Paulo Freire e de autores ligados à pedagogia crítico-construtivista, mesmo as contradições da educação bancária, com seus professores e estudantes desmotivados, ainda assim se constituem como um ponto de partida muito mais vantajoso para perceber os limites econômicos, sociais e tecnopolíticos das plataformas de IA do que aqueles que se iludem demais com a sedutora flexibilidade e promessas das novas tecnologias da informação e querem, com ela, substituir o ato de passagem de conhecimento entre e por seres humanos. Adotá-la como técnicas solucionistas do problema da educação, do meio ambiente, das desigualdades, opressões, etc no país e no mundo ou simplesmente fazer delas uma fonte de imensos lucros é o imperativo da indústria informacional de nosso tempo e, se queremos de alguma forma adotar plataformas de IA para luta em movimento sociais, por exemplo, como tem feito o setor de tecnologia do MTST,¹⁵ é preciso se dar conta criticamente desse contexto técnico e político.

No fim das contas, meu chatGPT educador-crítico, não passou no teste da inteligência socialmente contextualizada. Seu corpo de silício, não sente as contradições do corpo orgânico. Não só não é consciente (no sentido fisiológico e no sentido de “conscientização” presente na Pedagogia do Oprimido) quanto esconde, por trás de sua aparente adaptabilidade e análise de dados, a exploração da mão de obra num contexto de capitalismo algorítmico (Durand folco et Martineau, 2023) e de plataformas (Antunes, 2023; Szinei, 2016), deixando-nos menos aptos a reconhecer as problemáticas dinâmicas de poder que o subjazem.

O que está em jogo, no fundo, é novamente o anseio de arejar o capitalismo através de discursos e práticas anti-coletivistas e da falsa autonomia individual empreendedora de si mesma. Trata-se de nos mimar tecnologicamente, ao passo que se fomentam novas formas de mercantilização da subjetividade.

Referências bibliográficas

• CHOMSKY, N.; ROBERTS, I.; WATUMULL, J. Noam Chomsky: The false promise of ChatGPT. The New York Times, 8 mar. 2023. Disponível em: https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html. Acesso em: 2 out. 2024.
• COURTWRIGHT, D. T. The age of addiction: How bad habits became big business. Cambridge: Harvard University Press, 2019.
• DURAND, F. J.; MARTINEAU, J. Le capital algorithmique: accumulation, pouvoir et résistance à l’ère de l’intelligence artificielle. Montréal: Écosociété, 2023.
• DYER-WITHEFORD, N.; DE PEUTER, G. Games of empire: global capitalism and video games. Minneapolis: University of Minnesota Press, 2009.
• FEENBERG, A. Construtivismo crítico: uma filosofia da tecnologia. Scientiae Studia, 2022.
• FREIRE, P. Ação cultural para a liberdade e outros escritos. Rio de Janeiro: Paz e Terra, 1981.
• FREIRE, P. Educação na cidade. São Paulo: Cortez Editora, 1995.
• FREIRE, P. Pedagogy of the oppressed. New York: Bloomsbury, 2000.
• GORDON, R. J. Does the “new economy” measure up to the great inventions of the past? Journal of Economic Perspectives, v. 14, n. 4, p. 49-74, nov. 2000.
• GORDON, R. J. The rise and fall of American growth. Princeton: Princeton University Press, 2016.
• GROHMANN, R. No MTST, a soberania digital de que fala Morozov. Outras Palavras, 1 set. 2023. Disponível em: https://outraspalavras.net/tecnologiaemdisputa/no-mtst-a-soberania-digital-de-que-fala-morozov/. Acesso em: 2 out. 2024.
• HACKING, I. Representing and intervening: introductory topics in the philosophy of natural science. Cambridge: Cambridge University Press, 1983.
• JAMESON, F. Pós-modernidade e sociedade de consumo. Novos Estudos CEBRAP, São Paulo, n. 12, p. 16-26, jun. 1985.
• KRASHEN, S. What is academic language proficiency? Disponível em: https://www.sdkrashen.com/content/books/krashen_brown_alp.pdf. Acesso em: 2 out. 2024.
• LACEY, H. Tecnociência comercialmente orientada ou investigação multiestratégica? Scientiae Studia, v. 12, n. 4, p. 669-695, 2014.
• LACEY, H.; MARICONDA, P. R. O modelo das interações entre as atividades científicas e os valores. Scientiae Studia, v. 12, n. 4, p. 643-668, 2014.
• MOROZOV, E. To save everything, click here: the folly of technological solutionism. New York: PublicAffairs, 2013.
• MOROZOV, E. The problem with artificial intelligence? It’s neither artificial nor intelligent. The Guardian, 30 mar. 2023. Disponível em: https://www.theguardian.com/. Acesso em: 2 out. 2024.
• NÚCLEO DE TECNOLOGIA. O futuro nas mãos de quem trabalha. Medium, 2021. Disponível em: https://nucleodetecnologiamtst.medium.com/o-futuro-nas-m%C3%A3os-de-quem-trabalha-7974d8691054. Acesso em: 2 out. 2024.
• NÚCLEO DE TECNOLOGIA. Homeless Worker Movement in Brazil and the struggle for digital sovereignty. 2023. Disponível em: https://nucleodetecnologia.com.br/docs/Cartilha-MTSTec-ENG.pdf. Acesso em: 2 out. 2024.
• PIMENTEL, O. L. O menosprezado debate sobre o artificial em IA. Teccogs: Revista Digital de Tecnologias Cognitivas, São Paulo, n. 17, p. 113-127, jan.-jun. 2018.
• SADOWSKI, J. The internet of landlords: digital platforms and new mechanisms of rentier capitalism. Antipode, v. 52, n. 2, p. 562-580, 2020.

• SHAMS, R. A.; ZOWGHI, D.; BANO, M. AI and the quest for diversity and inclusion: A systematic literature review. AI and Ethics, 2023. Disponível em: https://doi.org/10.1007/s43681-023-00362-w. Acesso em: 2 out. 2024.
• SEARLE, J. R. Minds, brains, and programs. Behavioral and Brain Sciences, v. 3, n. 3 ,p. 417-457, 1980.
• WOODCOCK, J. Marx at the arcade: consoles, controllers, and class struggle. Chicago: Haymarket Books, 2019.
• WOODCOCK, J. The fight against platform capitalism: an inquiry into the global struggles of the gig economy. London: University of Westminster Press, 2021. Disponível em: https://doi.org/10.2307/j.ctv1ktbdrm. Acesso em: 2 out. 2024.
• WOODCOCK, J.; JOHNSON, M. R. Gamification: what it is, and how to fight it. The Sociological Review, v. 66, n. 3, p. 542-558, 2018.
• ZUBOFF, S. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: PublicAffairs, 2019.

---

Notas:

1O código fonte fechado não é necessariamente a única barreira para uma maior conscientização e influência do usuário com as plataformas, como pode querer certas frações da luta pelo software livre. O problema da tecnopolítico, não se trata apenas de ser contra os softwares proprietários. Hoje empresas como a META e mesmo a TESLA publicam seus LLM’s em código aberto. Apesar disso, ainda assim utilizam-se dessa pretensa abertura e possibilidade de participação planetária na constituição e programação de suas modelos de inteligências artificias para acessarem inovações criadas gratuitamente por programadores voluntarios de todo o mundo. Essa pretensa solidariedade cibernética para o melhoramento de algoritmos de IA é, então, apropriada pelas empresas líderes do capitalismo algortimo (cf. Durand REF) para garantir a continuidade e intensificação do poderio econômico das mesmas.

2A distinção entre “Tecnofilia” e “tecnofobia” é utilizada por Jonathan Durand Falco e Jonathan Martineau ao analisarem as opiniões acerca da empregabilidade e dos impactos de tecnologias informacionais para uma economia pós-capitalista (Durand & Martineau, 2023, p. 438-440). Apesar de tais termos, serem então utilizados para uma reflexão quanto ao futuro, a nosso ver eles são igualmente interessantes para pensarmos as nossas predileções atuais por ou contra o emprego de tecnologias.

3Para o debate acerca dos problemas de avaliação da performance inteligente em textes de QI ver (Hacking, 1983); para uma crítica a noção de inteligência da IA ver (Chomsky et al, 2023; Searle, 1980; Pimentel, 2018); para crítica aos exames de capacidade linguística ver (Krashen, 2007).

4Para um aprofundamento mais filosófico quanto ao significado do que se chama de “Inteligência” e do que se chama de “Artificial” no jargão da informática, ver Pimentel, 2018. Neste texto, tentei mostrar o quanto o debate acerca do artificial em IA tem sido menosprezado, mesmo por parte dos críticos de tecnologia. O Artificial, enquanto obra de seres humanos distintas dos rumos da natureza sem nossa intervenção,enquanto obra de artifices e de profissionais escondidos num esquema imenso de divisão do trabalho na indústria da informática e do capitalismo de plataformas continuam a ser pouco analisados em sua importância história e econômica.

5Por capitalismo algoritimo os altores entende a forma atual de exploração exercida pelas TICs, principalmente através da exploração dados gerados no contexto computacional. Como os próprios autores insistem, não se trata uma forma nova de exploração capitalista. Se o capitalismo continua o mesmo, novas formas de exploração e alienação exigem uma releitura das formas de manifestação sistêmica em seio à uma sociedade que parece reverenciar saída tecno-salvíficas (Durand & Martineau, 2023).

6A quantidade de tempo e energia cognitiva direcionada às mais diversas plataformas, as redes sociais, aos jogos virtuais, etc apelam incidiosamente ao reforçamento de automatismo psiquicos, a fim de nos tornar cada vez mais dependentes dos usos de tais sistemas. Recomendamos a análise feita por David T. Courtwright em The Age of Addiction: How Bad Habits Became Big Business, livro no qual as táticas de marketing e fidelização de usuários utilizadas em diversas plataformas hoje em dia são distrinchadas quanto aos seus impactos no nosso cérebro e tendências compulsivas.

7“Tanto pastiche quanto paródia envolvem imitação ou, melhor ainda, o mimetismo de outros estilos, particularmente dos maneirismos e tiques estilísticos de outros estilos.(…) O pastiche é (…) a imitação de um estilo singular ou exclusivo, a utilização de uma máscara estilística, uma fala em língua morta: mas a sua prática desse mimetismo é neutra, sem as motivações ocultas da paródia, sem o impulso satírico, sem a graça, sem aquele sentimento ainda latente de que existe uma norma, em comparação com a qual aquilo que está sendo imitado é, sobretudo, cômico”. Para aprofundar-se quanto à prática e significado do pastiche em teoria crítica e pós-modernidade. ver Jameson, 1985.

8Alguns já o fazem. Para uma análise da luta de classes na indústria dos jogos virtuais ver Nick dyer-whiteford (Dyer-Witheford & de Peuter, 2009) e Jamie Woodcock (2019; 2021).

9Segundo Vygotsky, Zona de Desenvolvimento Proximal (ZDP) pode ser definida como “a distância entre o nível de desenvolvimento real, determinado pela capacidade de resolver problemas de forma independente, e o nível de desenvolvimento potencial, determinado pela capacidade de resolver problemas com a orientação de um adulto ou em colaboração com pares mais capazes” (p. 86, Vygotsky, 1978, Mind in Society). O conceito, utilizado inicialmente na reflexão acerca da educação e desenvolvimento cognitivo infantil, passou a ser empregado por outros autores também na educação de jovens e adultos, principalmente em tarefas e contextos de aprendizagem colaborativa. No nosso caso, a inteligência artificial est aria se comportando como o facilitador, mais experiente, no processo de aprendizado.

10Na pedagogia do oprimido, Paulo Freire discorre longamente sobre a importância das palavras geradoras, palavras ligadas ao contexto daqueles que se encontram no processo de aprendizado e que, num contexto de alfabetização e letramento, possuiriam o poder de não só fazerem sentido para a realidade social e individual dos educandos, como possibilitariam a problematização e intervenção transformadora da mesma. “As palavras geradoras devem ser aquelas que fazem parte do universo vocabular dos educandos e que, ao serem problematizadas, possibilitam a análise crítica de sua realidade” (Freire, 1987 ).

11Os rotuladores ou data taggers de hoje equivalem a profissão de computadores na história da informática. Se antigamente pessoas eram empregadas para performarem tediosas atividades matemáticas a fim de processarem informações em empreitadas estatísticas ou de processamento de dados diversos (ver meu texto sobre os computadores humanos), hoje os assim chamados data taggers são pagos para performar uma tarefa simples, mas não necessariamente menos árdua, a saber, aquela de rotular dados. Diante de um conteúdo qualquer, imagem, texto, som etc, os rotuladores, através de seus sentidos avaliam o que são tais contúdos o que, por sua vez, passa a gerar dados validados por seres humanos, aos quais serviram aos processamentos das IA’s. A identificação aqui é completamente imposta por empresas que assinam contratos milhonários com Facebook, ChatGPT, Microsoft, etc a fim de prestarem o serviço conhecido como “enriquecimento de dados” . Os trabalhadores de tal setor, no entanto, de nada tem de ricos. Seus salários por hora de trabalho é, em geral, de menos de 2 dólares.

12Ver também o artigo publicado aqui no Outras Palavras : Chomsky: ChatGPT contra o pensamento crítico. https://outraspalavras.net/tecnologiaemdisputa/chomsky-o-chatgpt-contra-o-pensamento-critico/

13Mesmo os alarmados impactos na produtividade econômica de novas tecnologias informacionais tem sido criticado por economistas como Robert Gordon, que em seu livro O ascenso e queda do crescimento americano( The Rise and Fall of American Growth ) mostra já como a revolução industrial da eletrônica dos anos 80 e 90 não possuia resultados produtivos compatíveis com os propagandeados então. Em nossa opinião, poderíamos esperar mais do mesmo hoje também para os impactos da IA.

14 Obviamente, usar tais ferramentas em toda sua potencialidade significa pagar por elas, se não com dinheiro, com os dados que produzimos para as mesmas.

15E que parece o tê-lo feito muito bem, diga-se de passagem. O núcleo de tecnologia do MTST tem aliado, desde de 2019, luta política e aprendizado de cógigos técnicos, ao que parece, de fato, numa perspectiva freireana e engajada para transformação da realidade de seus militantes e do contexto social em que vivem (cf. GROHMANN, Núcleo de tecnologia, 2021; 202

* Bacharel em Filosofia pela USP e, atualmente, pós-graduando na mesma instituição, tem por objeto de estudo o Nono Tratado de Bridgewater, livro de teologia natural do matemático, inventor e economista inglês Charles Babbage. É um dos fundadores e atualmente coordenador do grupo de estudos Marx, Ciência e Tecnologia, da Associação Filosófica Scientiae Studia de Estudos sobre Ciência e Tecnologia.

Fonte:  https://outraspalavras.net/tecnologiaemdisputa/quando-o-chatgpt-tenta-ser-paulo-freire/