Instagram associa a palavra “negra” ao comércio de drogas ilícitas

As redes do Meta emitem alertas sobre os riscos do crime a partir do termo

A busca do Instagram e do Threads virou assunto nas redes sociais nesta quinta-feira (5). Tudo porque quando as palavras “negra” ou “negras” são pesquisadas nas redes sociais do Meta, aparecem na tela avisos relacionando os termos ao comércio de drogas ilícitas. Internautas que perceberam o ocorrido começaram a repercutir a situação, debatendo sobre racismo algorítmico.

O mecanismo de pesquisa direciona os usuários para a seguinte mensagem: “Isso pode estar associado com a venda de drogas. A venda, compra ou negociação de drogas ilícitas podem prejudicar você e outras pessoas. Além disso, são práticas ilegais na maioria dos países. Se você ou alguém do seu conhecimento está lutando com o abuso de substâncias, pode obter ajuda com referências para tratamento confidenciais, bem como apoio à prevenção e recuperação.”

A associação entre palavras que costumam definir pessoas de cor de pele escura e ações criminosas têm sido altamente criticadas, como exemplo de situação em que ferramentas eletrônicas reproduzem preconceitos sociais. As discussões sobre esse tipo de racismo aumentaram com a popularização de Inteligências Artificiais e têm se manifestado em problemas como o das redes Meta.

O CORREIO entrou em contato com a Meta, que não deu resposta. O espaço segue aberto para que a empresa conte a sua versão dos fatos.

De acordo com Tarcízio Silva, autor do livro "Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais", as plataformas em questão não divulgam informações sobre como os mecanismos de moderação automática são construídos. "O termo negra pode ter sido associado a drogas por diferentes motivos nas bases de dados utilizadas pela meta para construir os mecanismos de atualização do que é ou não permitido buscar. Não há essa restrição, ou seja, independente do caminho que foi feito, que foi construído, é, na melhor das hipóteses, um absoluto desleixo da plataforma, que não pode ser aceitável em 2024, depois de tantos anos de denúncias ligadas a coisas do tipo", disse ele.

Para ele, o problema vai ainda além, atingindo também a invisibilização da presença do que deveria ser resultado da pesquisa por "Negra". "Algo que não está sendo discutido, além da questão ofensiva, é que se a palavra negra está associada a drogas e associadas a uma restrição na plataforma, na busca, isso de imediato já significa que páginas que falam da condição negra, mulheres negras, consciência negra, moda negra, não aparecem nessa busca. Os sistemas de moderação e recomendação de conteúdo cortam o alcance dos conteúdos e das páginas de pessoas negras na plataforma, o que é uma infração à liberdade de expressão e o direito à comunicação. Esse recurso do Instagram está violentando diretamente a liberdade das pessoas em produzir e consumir conteúdo", afirmou.

Os casos de racismo algorítmico tem aumentado com a popularização das inteligências artificiais (IAs), diminuindo os cuidados frente à produção dos sistemas. "Muitas tecnologias e serviços estão sendo lançados sem os testes mínimos ou análise de impactos. No caso do Instagram, não é uma plataforma que nasceu ontem. É uma plataforma que tem mais de 12 anos de existência e 12 anos de dados, 12 anos de pesquisa. A Meta é uma empresa que tem na sua folha de pagamento centenas de pesquisadores, engenheiros e cientistas e não deveria ter esse tipo de erro tão vulgar ainda", afirmou Tarcizio.

Segundo ele, existem programas de diminuição desses danos já em ativa pelo mundo, mas não adotados pela Meta: "Não é por acaso que a Meta fez e continua fazendo um lobby fortíssimo contra a regulação de plataformas e inteligência artificial. Mecanismos de transparência e de análise de impacto algorítmico estão sendo rechaçados pela empresa Meta. Em alguns outros países, já existe esse panorama onde as plataformas devem ter um mínimo de controle e transparência sobre quais análises de impactos possíveis a plataforma pode ter".

"Essa associação entre a palavra negra no Brasil e a associação com o tráfico de drogas é algo que gera um dano representacional, a promoção desse estereótipo violento. De criminalização de pessoas e de conteúdos relacionados à cultura negra", completou.