BBC expõe rede de contas com IA racista e sexualizada nas redes sociais - Criação de avatares de mulheres negras falsas para lucrar com pornografia
Uma investigação da BBC revelou um uso crescente e problemático de inteligência artificial em redes sociais como TikTok e Instagram. O caso envolve a criação e disseminação de avatares de mulheres negras hipersexualizadas, muitas vezes sem identificação como conteúdo gerado por IA, levantando preocupações éticas, raciais e de desinformação digital.
O que foi descoberto
- Foram identificadas cerca de 60 contas que utilizavam imagens e vídeos gerados por IA de mulheres negras.
- Esses perfis frequentemente direcionavam usuários para sites externos com conteúdo adulto pago.
- Grande parte das contas estava no Instagram, com replicações no TikTok.
- Muitas publicações não informavam que o conteúdo era artificial, violando diretrizes das plataformas.
Como os conteúdos eram criados e apresentados
Avatares digitais com:
- Tons de pele artificialmente escuros e irreais
- Corpos exageradamente sexualizados
- Roupas provocativas e poses sensuais
Mais:
- Uso de nomes e linguagem com conotação racial (ex: “ébano”, “escuro”, “noir”).
- Narrativas que reforçam estereótipos, incluindo fetichização racial.
- Interação coordenada entre contas para aumentar alcance e engajamento.
Caso real que gerou indignação
- A criadora Riya Ulan teve seus vídeos roubados e manipulados.
- Seu conteúdo foi alterado com sobreposição de um avatar de IA.
Um dos vídeos manipulados alcançou:
- 35 milhões de visualizações no TikTok
- 173 milhões no Instagram
- A conta falsa negava o uso de IA, enganando o público.
- Mesmo após denúncias, a remoção só ocorreu após contato da BBC.
Impactos e preocupações levantadas
1. Racismo e estereótipos
- Especialistas apontam que os conteúdos perpetuam uma longa história de exploração de mulheres negras.
- Representações irreais reforçam padrões distorcidos de beleza e identidade.
2. Desinformação e manipulação
- Usuários têm dificuldade crescente em distinguir o que é real.
- Contas enganam deliberadamente ao negar o uso de IA.
3. Exploração comercial
- Uso de imagens para direcionar tráfego a conteúdo adulto pago.
- Monetização baseada em engano e apropriação de imagem.
4. “Apagamento” da realidade
- Criadores reais são substituídos por versões artificiais idealizadas.
- Experiências autênticas perdem espaço para conteúdos fabricados.
Respostas das plataformas
O TikTok:
- Removeu conteúdos e baniu 20 contas após a reportagem
- Reforçou política contra uso de imagem sem consentimento
- Exige identificação de conteúdo gerado por IA
A Meta (Instagram):
- Disse estar investigando o caso
- Algumas contas já foram removidas
- Não detalhou ações iniciais após denúncias
O caso expõe um problema crescente na era da inteligência artificial: a combinação de tecnologia avançada com exploração social e econômica. A facilidade de criar personagens hiper-realistas permite não apenas enganar usuários, mas também reforçar estereótipos prejudiciais e explorar identidades de forma irresponsável. Embora plataformas como TikTok e Instagram tenham começado a agir, o episódio evidencia falhas na moderação e a necessidade urgente de regras mais rígidas, transparência no uso de IA e maior proteção para criadores e grupos vulneráveis.