Algoritmo do Ódio: Como o Instagram Amplifica e Lucra com Conteúdo Racista

Um relatório do Centro de Combate ao Ódio Digital revela que as visualizações de conteúdo antissemita e racista no Instagram quadruplicaram em seis meses, impulsionadas por alterações nas políticas de moderação da Meta e pela promoção algorítmica da plataforma.

A rede social Instagram está a alimentar uma economia digital de ódio ao promover conteúdo antissemita e racista, cujas visualizações quadruplicaram num período de seis meses. A denúncia consta no relatório "Ódio à venda - Como o Instagram permite que vendedores de mercadorias odiosas alcancem mil milhões de visualizações", publicado pelo Centro de Combate ao Ódio Digital (CCDH). A investigação apurou que, após as alterações nas políticas de moderação da Meta, seis das 11 contas analisadas viram as suas visualizações saltar de 220 milhões para 826 milhões. No total, as contas estudadas acumularam 1,5 mil milhões de visualizações, apesar de violarem as políticas da plataforma contra o discurso de ódio. O CCDH atribui este "efeito turbo" na visibilidade do conteúdo de ódio a um corte nos sistemas de moderação e deteção automática da Meta.

O relatório sublinha que os próprios algoritmos do Instagram recomendaram ativamente estas contas, amplificando o seu alcance.

A organização acusa a rede social de não só permitir, mas também de impulsionar a disseminação de materiais nocivos.

Além da promoção do conteúdo, a investigação expõe a sua monetização.

O Instagram está a facilitar a venda de mercadorias racistas, ligando as contas de ódio a plataformas de comércio eletrónico.

Entre os produtos vendidos encontram-se roupas com simbolismo nazi, "slogans" racistas e apelos violentos.

O CCDH alerta que "o ódio está a tornar-se cada vez mais lucrativo", citando o exemplo de uma única conta que alega ter processado 30.000 encomendas, com uma receita estimada em cerca de 839.700 dólares. Perante estes dados, a organização insta as redes sociais e as plataformas de comércio eletrónico a deixarem de "fornecer o serviço que transforma o ódio em lucro".