Safiya Umoja Noble
O ‘Nexo’ publica trecho de livro que analisa como a filtragem seletiva das ferramentas de pesquisa incentivam o preconceito a pessoas negras, sobretudo entre as mulheres. Por trás desse problema social estão o monopólio desses mecanismos e os seus interesses privados
Meu primeiro encontro com o racismo em resultados de busca veio através de uma experiência que me levou, como pesquisadora, a explorar os mecanismos – tanto tecnológicos quanto sociais — que poderiam fazer da pornificação de mulheres negras um dos primeiros resultados de uma busca, naturalizando tão facilmente mulheres negras como um objeto sexual. Esse encontro aconteceu em 2009, quando eu estava conversando com um amigo, André Brock, da Universidade de Michigan, que um dia mencionou casualmente: “Você deveria ver o que acontece quando se procura ‘meninas negras’ no Google”. Eu assim fiz, e fiquei aturdida. Presumi que era um erro absurdo que potencialmente mudaria com o tempo. Continuei pensando sobre o assunto. A segunda vez aconteceu em uma manhã na primavera de 2011, quando busquei por atividades que poderiam entreter minha enteada pré-adolescente e suas primas da mesma idade, todas elas fazendo uma visita de final de semana em minha casa, prontas para passarmos o dia juntas, e que uma hora inevitavelmente incluiria ficar algum tempo mexendo em nossos respectivos notebooks. Para evitar que ficassem como zumbis diante da televisão ou com os olhos pregados no celular, eu queria envolvê-las em conversas sobre o que era importante para elas e o que se passava em suas cabeças, a partir de suas perspectivas como jovens mulheres crescendo no interior de Illinois, uma área predominantemente conservadora no centro da América. Eu achei que deveria existir um material de apoio ótimo para jovens pessoas não brancas da idade delas, se ao menos eu pudesse achá-lo. Rapidamente liguei o computador que usava para minha pesquisa (eu estava fazendo doutorado na época), mas não deixei que as garotas ficassem à minha volta. Abri o Google para inserir termos de busca que refletissem seus interesses, demografia e necessidades de informação, mas eu gosto de me antecipar e pré-avaliar o que pode ser encontrado na internet, de forma a me preparar para o que quer que dê as caras. O que recebi de volta após aquela simples, aparentemente inócua, busca foi mais uma vez nada menos que chocante: com as meninas apenas alguns poucos metros de distância, rindo e gargalhando das próprias piadas, eu mais uma vez me deparei com uma página de resultados de pesquisa do Google repleto de pornografia ao buscar por “meninas negras”. A essa altura, eu pensava que meu próprio histórico de buscas e engajamento com vários textos, vídeos e livrosfeministas negros acessados naquele notebook teria mudado os tipos de resultados que eu obtinha. Não foi o caso. Com o intento de ajudar as meninas a buscar informação sobre si mesmas, eu quase as expus inadvertidamente a uma das mais gráficas e explícitas ilustrações do que os anunciantes já pensavam sobre elas: meninas negras ainda são o recheio barato dos sites pornôs, desumanizadas como bens de consumo, produtos e objetos de gratificação sexual. Fechei o notebook e redirecionei a atenção delas para coisas divertidas que podíamos fazer juntas, como assistir a um filme no cinema da esquina. A melhor informação, como apresentada em um ranqueamento nos resultados da busca, certamente não era a melhor informação para mim ou para as crianças que amo. Para quem, então, era essa melhor informação, e quem decide isso? O que havia para se lucrar e quais outros motivos levavam essa informação para o topo da lista de resultados? Como a noção de neutralidade no ranqueamento e busca de informação tinha entornado tanto que talvez um dos piores exemplos de classificação racista e sexista de mulheres negras na era digital podia permanecer sem ser examinado ou submetido à análise crítica pública? Naquele momento, iniciei uma série de interrogações que são centrais a este livro.
Claro, após reflexão, percebi que já vinha utilizando as ferramentas de pesquisa e de internet longe da vista dos membros da minha família desde antes das descobertas que vivenciei. Não foi menos preocupante perceber que eu sem dúvida já tinha sido confrontada com o mesmo tipo de resultados antes, mas tinha aprendido, ou sido treinada, a de alguma forma me habituar a isso, a aceitar como algo inevitável que qualquer busca que eu fizesse usando palavras-chave relacionadas aos meus traços físicos ou identidade poderia devolver resultados pornográficos ou perturbadores de outra maneira. Por que esta era a barganha que firmei tacitamente com as ferramentas de informação digital? Como uma mulher negra crescendo no fim do século XX, eu sabia que a representação de mulheres e meninas negras que eu tinha descoberto em meus resultados de pesquisa não era um desenvolvimento novo da era digital. Eu podia ver a conexão entre os resultados das pesquisas e estereótipos sobre afro-americanos que são tão velhos e endêmicos nos Estados Unidos quanto a história do próprio país. Minha formação como estudante e estudiosa da história e sociologia negra, combinada com meus estudos de doutorado sobre a política econômica da informação digital, se alinhou com minha indignação justificada em nome de meninas negras de todo lugar. Pesquisei mais.
O que essas pesquisas representam são conceitos formulados pelos algoritmos do Google sobre uma variedade de pessoas e ideias. Seja buscando por autossugestões, ou respostas para várias questões, ou buscando por noções sobre o que é bonito, ou como um professor se parece (que não leva em conta pessoas que parecem comigo e fazem parte do “professorato” — bela “personalização”), as narrativas dominantes do Google refletem os tipos de noções e arcabouços hegemônicos que com frequência resistem às pessoas não brancas e às mulheres. Interrogar o que empresas de publicidade oferecem como informação fiável é algo que precisa ser feito, em vez de termos um público sendo gratificado instantaneamente com estereótipos em três centésimos de segundo ou menos.
Na realidade, monopólios de informação como o Google têm a capacidade de priorizar resultados de buscas na internet com base em uma variedade de tópicos, como promover seus próprios interesses mercadológicos sobre os de competidores ou empresas menores que são clientes de publicidade menos lucrativos do que as grandes corporações multinacionais. Nesse caso, os cliques dos usuários, combinados com os processos comerciais que permitem que propaganda paga seja priorizada nos resultados de pesquisa, resultam em representações de mulheres sendo ranqueadas em uma página do mecanismo de pesquisa de maneira que destacam a falta de status histórico e contemporâneo que as mulheres têm na sociedade — um mapeamento direto de velhas tradições da mídia em uma nova arquitetura de mídia. Representações problemáticas e vieses de classificação não são novidade. Estudiosos que realizaram análises críticas de biblioteconomia e ciências da informação bem documentaram as formas pelas quais alguns grupos são mais vulneráveis do que outros a serem mal representados e mal classificados. Eles conduziram críticas extensas e importantes sobre sistemas de catalogação de bibliotecas e padrões de organização de informação que demonstraram como mulheres, pessoas negras, descendentes de asiáticos, judeus, ou os romas, como “os outros”, sofreram todos os insultos da má representação e do desdém nos Cabeçalhos de Assuntos da Biblioteca do Congresso (LCSH – Library of Congress Subject Headings) ou através da Classificação Decimal de Dewey.
Ao mesmo tempo, outros estudiosos destacam a miríade de formas que valores sociais como raça e gênero são diretamente refletidos no design tecnológico. Suas contribuições tornaram possível para mim pensar sobre as maneiras que raça e gênero estão entranhados no mecanismo de busca do Google e ter a coragem de levantar críticas a uma das mais amadas e reverenciadas marcas contemporâneas.
Safiya Umoja Noble é professora associada da UCLA (Universidade da Califórnia em Los Angeles) e cofundadora e codiretora do UCLA Center for Critical Internet Inquiry. Pesquisadora associada do Oxford Internet Institute, ela foi nomeada Comissária da Comissão de Inteligência Artificial e Governança da Universidade de Oxford. Em 2020, a autora foi indicada para o Conselho do Futuro Global de Inteligência Artificial para a Humanidade do Fórum Econômico Mundial.
Algoritmos da opressão: Como os mecanismos de busca reforçam o racismo
Safiya Umoja Noble
Trad. Felipe Damorim
Rua do Sabão
308 páginas
Fonte: https://www.nexojornal.com.br/estante/trechos/2021/10/15/%E2%80%98Algoritmos-da-opress%C3%A3o%E2%80%99-a-exclus%C3%A3o-dos-sites-de-busca?utm_medium=Email&utm_campaign=NLDurmaComEssa&utm_source=nexoassinantes
MAIS.....
por Bárbara Paes, originalmente publicado em: http://minasprogramam.com/algorithms-of-oppression/
No fim do ano passado começamos a ler o livro Algorithms of oppression (em português, algoritmos da opressão), da Safiya Umoja Noble, professora da UCLA (Universidade da Califórnia em Los Angeles). A obra fala sobre como os mecanismos de busca que usamos todos os dias perpetuam narrativas que refletem distribuição de poder desiguais na sociedade. A autora analisa os significados implícitos e explícitos dos resultados de busca feitas no Google sobre meninas e mulheres negras.
Uma das grandes constatações feitas durante a época da pesquisa é que ao buscar o termo ‘black girls’ (meninas negras), o grande volume de conteúdo gerado pelo Google era de cunho pornográfico, machista e sexista. Ou seja, ao buscar mais informações sobre as vidas de meninas negras nos EUA, as pessoas não encontravam conteúdo confiável e informativo – isto é, estatísticas, contato de organizações respeitadas, artigos acadêmicos, textos jornalísticos, livros de autoras e autores especialistas nos temas. Os resultados eram uma sucessão de conteúdos que perpetuam estereótipos terríveis sobre meninas negras.
Ao longo do livro, Safiya Noble mostra como a maneira que buscamos informação importa dentro da nossa sociedade. Ferramentas de busca são uma forma de mídia e moldam nossos discursos, nossas opiniões e nossas percepções sobre o mundo em que vivemos. E hoje, vivemos em um mundo em que grande parte das pessoas com acesso à internet se apoia em ferramentas comerciais para encontrar informações de interesse público.
Nesse texto, vamos reunir algumas coisas que aprendemos com essa leitura e entender como o tema do acesso à informação na internet tem a ver com gênero e raça.
- a tecnologia nunca é neutra.
- o Google não é uma fonte de informações isenta ou neutra. o Google é uma empresa com interesses corporativos. os resultados exibidos são pautados por esses interesses.
- achar que os resultados de busca estão listados de forma neutra ou imparcial é um equívoco. segundo a autora, os resultados são listados a partir daquilo que gera mais lucro.
- acesso à informação é um direito. e busca por informações é um assunto político.
- a seleção do que aparece primeiro nos resultados de busca é também uma seleção do que importa e do que não importa. é uma classificação de que informações são mais relevantes. e esse é um processo que molda discursos políticos.
- a prática de classificar informação é histórica. o jeito que a gente determina que informações são mais cruciais, as decisões sobre o que aparece primeiro, e a escolha sobre o que deve receber mais atenção dos usuários. tudo isso é uma questão de narrativas. as instituições que criam os sistemas que organizam e ranqueiam informações têm a habilidade de determinar o que é prioridade.
- assim, mecanismos de busca e os resultados que eles produzem têm significado simbólico e concreto, e influenciam áreas como cultura e educação.
- o que achamos é significativo
- resultados do google são uma forma de representação midiática. e representações midiáticas têm um papel importante em como entendemos as diferenças sociais, culturais, étnicas, raciais.
- há pesquisas que mostram que aquilo que encontramos no google
gera impacto no nosso comportamento. e aquilo que encontramos é
informado por interesses comerciais.
- por exemplo, a autora mostra como meninas e mulheres negras viram commodities em mecanismos de busca. historicamente, meninas e mulheres negras são vistas como hipersexualizadas. e ao priorizar determinados tipos de resultados (porque eles são rentáveis para a empresa), essas plataformas perpetuam estruturas sociais de opressão.
- empresas precisam se responsabilizar pelo tipo de tecnologia que elas produzem. e isso precisa ser feito já.
- a narrativa de que nada pode ser feito hoje é falha. muitas empresas de tecnologia ainda insistem no discurso de que a mudança só virá “um dia no futuro, quando mais mulheres negras aprenderem a programar”. elas insinuam que o dever de mudar essas práticas racistas e misóginas na tecnologia é apenas de mulheres negras e demais pessoas racializadas.
- mas as empresas precisam abandonar a lógica racista e machista HOJE!!! elas têm que se esforçar e melhorar seus códigos e seus algoritmos agora.
- cursos superiores de áreas relacionadas a tecnologia deveriam incluir estudos de gênero e raça nos seus currículos.
- é preciso que pessoas que compreendem questões sociais relacionadas à opressões de gênero e raça estejam dentro de empresas, monitorando e contribuindo para criação de tecnologias que não tenham impacto negativo nas vidas de meninas e mulheres negras.
- do quê precisamos? como melhorar esse cenário?
- a autora conta que precisamos de políticas públicas que regularizem como a informação é classificada e ranqueada. assim, precisamos de regulações que nos protejam de práticas antiéticas na tecnologia.
- precisamos também de alternativas não-comerciais para buscar informação na internet. para garantir que o público possa acessar informações verdadeiras, confiáveis e de qualidade, precisamos de iniciativas que não sejam guiadas inteiramente pela vontade de lucrar.
As tecnologias digitais reproduzem relações sociais. A principal lição que tiramos desse livro é que não podemos ignorar as disparidades raciais que aparecem na internet porque elas refletem e influenciam o nosso contexto. Se queremos combater o racismo e o machismo, é preciso fazer isso dentro da tecnologia também.
Bárbara Paes é co-fundadora do @MinasProgramam. Mestra em Gênero e Desenvolvimento pelo Institute of Development Studies (@ids_uk).
Fonte: https://ciencianarua.net/coisas-que-aprendemos-com-o-livro-algorithms-of-oppression-da-safiya-umoja-noble/
Nenhum comentário:
Postar um comentário