BBC expõe rede de contas com IA racista e sexualizada nas redes sociais - Criação de avatares de mulheres negras falsas para lucrar com pornografia

Uma investigação da BBC revelou um uso crescente e problemático de inteligência artificial em redes sociais como TikTok e Instagram. O caso envolve a criação e disseminação de avatares de mulheres negras hipersexualizadas, muitas vezes sem identificação como conteúdo gerado por IA, levantando preocupações éticas, raciais e de desinformação digital.

O que foi descoberto

• Foram identificadas cerca de 60 contas que utilizavam imagens e vídeos gerados por IA de mulheres negras.
• Esses perfis frequentemente direcionavam usuários para sites externos com conteúdo adulto pago.
• Grande parte das contas estava no Instagram, com replicações no TikTok.
• Muitas publicações não informavam que o conteúdo era artificial, violando diretrizes das plataformas.

Como os conteúdos eram criados e apresentados

Avatares digitais com:

• Tons de pele artificialmente escuros e irreais
• Corpos exageradamente sexualizados
• Roupas provocativas e poses sensuais

Mais:

• Uso de nomes e linguagem com conotação racial (ex: “ébano”, “escuro”, “noir”).
• Narrativas que reforçam estereótipos, incluindo fetichização racial.
• Interação coordenada entre contas para aumentar alcance e engajamento.

Caso real que gerou indignação

• A criadora Riya Ulan teve seus vídeos roubados e manipulados.
• Seu conteúdo foi alterado com sobreposição de um avatar de IA.

Um dos vídeos manipulados alcançou:

• 35 milhões de visualizações no TikTok
• 173 milhões no Instagram
• A conta falsa negava o uso de IA, enganando o público.
• Mesmo após denúncias, a remoção só ocorreu após contato da BBC.

Impactos e preocupações levantadas

1. Racismo e estereótipos

• Especialistas apontam que os conteúdos perpetuam uma longa história de exploração de mulheres negras.
• Representações irreais reforçam padrões distorcidos de beleza e identidade.

2. Desinformação e manipulação

• Usuários têm dificuldade crescente em distinguir o que é real.
• Contas enganam deliberadamente ao negar o uso de IA.

3. Exploração comercial

• Uso de imagens para direcionar tráfego a conteúdo adulto pago.
• Monetização baseada em engano e apropriação de imagem.

4. “Apagamento” da realidade

• Criadores reais são substituídos por versões artificiais idealizadas.
• Experiências autênticas perdem espaço para conteúdos fabricados.

Respostas das plataformas

O TikTok:

• Removeu conteúdos e baniu 20 contas após a reportagem
• Reforçou política contra uso de imagem sem consentimento
• Exige identificação de conteúdo gerado por IA

A Meta (Instagram):

• Disse estar investigando o caso
• Algumas contas já foram removidas
• Não detalhou ações iniciais após denúncias

O caso expõe um problema crescente na era da inteligência artificial: a combinação de tecnologia avançada com exploração social e econômica. A facilidade de criar personagens hiper-realistas permite não apenas enganar usuários, mas também reforçar estereótipos prejudiciais e explorar identidades de forma irresponsável. Embora plataformas como TikTok e Instagram tenham começado a agir, o episódio evidencia falhas na moderação e a necessidade urgente de regras mais rígidas, transparência no uso de IA e maior proteção para criadores e grupos vulneráveis.