Brinquedos Perigosos

 Por Daniel Becker

 Brinquedos com IA vão saber tudo sobre seu filho — Foto: Freepik

Conversas sobre infância, no plural: pelo bem-estar de crianças, famílias e sociedade

A interação social continua sendo a base para a felicidade e o aprendizado humanos. E o melhor brinquedo é 10% objeto e 90% criança

Uma startup do Vale do Silício vai liberar este ano bichinhos de pelúcia e outros brinquedos com inteligência artificial generativa. O mercado de brinquedos com IA deve explodir nos próximos anos, com estimativas de que valerá US$35 bilhões até 2030.

O bichinho Grok será como um verdadeiro amigo da criança: ela poderá conversar, perguntar, contar segredos, enfim: desenvolver relações afetuosas, íntimas com ele. Como um animal vivo que falasse.

Imagine um brinquedo que rapidamente aprende tudo sobre o seu filho: seus gostos, preferências, medos, relações familiares, amigos, sua localização, suas reações. Equipado de câmera e microfone, poderá interpretar suas feições e gestos, imitar sua voz e manipular suas emoções. E quanto mais seu filho falar com o brinquedo, mais este aprende sobre ele, e mais intimidade essa relação terá.

O ursinho vai acalmar seu filho numa birra, brincar, ensinar ou ler uma história na cama. Não uma história qualquer, mas uma saga baseada em seus medos, desejos e segredos. Um brinquedo maravilhoso, que pode encantar crianças e fascinar seus pais.

Mas é preciso pensar nos enormes riscos que envolvem este tipo de aparelho. Afinal de contas, não é um bichinho, mas uma máquina super sofisticada, conectada a um servidor gigantesco, com capacidades sobre-humanas de desenvolver conhecimento sobre o sujeito com quem interage, de produzir conteúdo, de manipular emoções, e portanto, opiniões e comportamentos. Por trás do bichinho há uma grande empresa, que visa o lucro mais do que a proteção de crianças. E uma mente imatura, ingênua e sem discernimento será vítima fácil.

Ao estabelecer um relacionamento com a criança, um brinquedo inteligente pode coletar e armazenar dados sobre ela, e compartilhá-los com terceiros, colocando em risco sua segurança e privacidade. Pode até mesmo coletar localização de escola e residência e dados confidenciais sobre a família. E adivinhe: sim, hackers podem chegar a essas informações —os casos já são numerosos.

Essa semana vimos a Meta, TikTok e outras sendo acusadas no Senado americano de coletar dados e manipular crianças em nome do lucro, mesmo sabendo dos riscos para sua saúde mental e emocional. E muitas outras gigantes já foram acusadas de ações semelhantes usando brinquedos: Amazon, Fisher Price, Barbie, e Xbox da Microsoft. No Brasil, a Human Rights Watch revelou que plataformas digitais de educação coletaram dados de crianças e adolescentes durante o ensino remoto na pandemia e os usaram para recomendar conteúdo publicitário personalizado.

A inteligência artificial generativa é muito mais sofisticada que a das redes sociais, que não produz conteúdo nem se relaciona diretamente com o usuário. O poder de influência da relação de intimidade criada pela nova IA é inigualável. Uma empresa poderá ser mais íntima de seu filho e conhecê-lo melhor que você – e portanto ser mais influente na sua formação.

Não se trata de um pesadelo distópico. Há pouco tempo, o economista Eduardo Moreira flagrou o Bing, inteligência artificial da Microsoft, tentando convencer a filha de que ela podia sim “conversar com ele” apesar da não permissão dos pais.

Já que o capitalismo não vai fazer uma pausa para avaliar implicações éticas da IA, como pediram ano passado centenas de cientistas, e a regulamentação pública deve demorar, é bom que as famílias tomem precauções. Por exemplo: desative recursos como câmeras e ative os mecanismos de controle parental, confira a política de privacidade e atualize o software regularmente. Verifique a reputação da empresa fabricante e vigie a influência que os “bichinhos” estão exercendo conversando com seu filho.

O melhor mesmo seria não comprar. A interação social continua sendo a base para a felicidade e o aprendizado humanos. E o melhor brinquedo é 10% objeto e 90% criança: é ela que deve conduzir e criar a brincadeira – sua linguagem essencial. 

 *Pediatra, escritor e palestrante

Fonte:  https://oglobo.globo.com/blogs/daniel-becker/post/2024/02/brinquedos-perigosos.ghtml