Modo "picante" e deepfakes: Entenda a polêmica por trás da Grok Imagine, a nova IA de vídeos de Elon Musk

A Grok Imagine é a mais recente adição à inteligência artificial generativa Grok, desenvolvida pela x.AI, empresa de Elon Musk. Essa nova ferramenta permite que os usuários criem vídeos curtos e imagens a partir de comandos de texto ou fotos enviadas. A novidade gerou um grande volume de conteúdo em seu primeiro dia, com mais de 14 milhões de criações, mas também reacendeu debates sobre moderação de conteúdo, segurança de menores e a ética por trás da inteligência artificial.

O que o Grok Imagine oferece?

A principal função do Grok Imagine é a criação de vídeos de até 15 segundos. A ferramenta se destaca por sua capacidade de animar imagens estáticas, como fazer uma pessoa sorrir, mover objetos, ou transformar fotos em pequenas cenas dinâmicas.

Acesso: O Grok Imagine está disponível para assinantes do Grok nos aplicativos Android e iOS. O uso é limitado e varia conforme o plano de assinatura, com usuários premium podendo criar até 100 vídeos por dia.
Proposta: A x.AI posiciona o Grok Imagine como uma ferramenta "divertida e menos realista", diferenciando-se de concorrentes de alta fidelidade como o OpenAI Sora e o Google Veo 3.

O modo 'Spicy' e as principais polêmicas

O recurso mais controverso do Grok Imagine é o modo 'Spicy' (picante), que permite a criação de conteúdo com teor sexualizado.

Conteúdo sexual: O modo 'Spicy' gera vídeos com nudez parcial, expressões sensuais e ações de cunho sexual, muitas vezes retratando figuras femininas em estilos realistas ou de anime.
Moderação e riscos: Testes do site TechCrunch indicaram que os filtros de moderação da plataforma são insuficientes, permitindo a criação de material explícito. A falta de salvaguardas robustas levanta sérias preocupações sobre o uso da ferramenta para a produção de deepfakes sexuais não consensuais.
Preocupação com menores: Apesar de Elon Musk ter dito que "crianças adoram usar o Grok Imagine", não há um sistema claro para restringir o acesso ao modo 'Spicy' apenas a adultos. Isso representa um risco significativo para a segurança digital dos jovens.

Pontos fortes e fracos da ferramenta

Vantagens:

Velocidade: O Grok Imagine é rápido, gerando vídeos em poucos segundos a partir de um comando.
Criatividade: A ferramenta oferece uma ampla gama de estilos, de animações a simulações realistas.

Desvantagens:

Qualidade: Segundo o site Mashable, a qualidade dos vídeos é inferior à de concorrentes mais avançados, especialmente em comandos mais complexos.
Falta de transparência: Há pouca clareza sobre como a x.AI protege os dados dos usuários e modera o conteúdo gerado, o que aumenta a desconfiança.