O que é a "caixa-preta dgital" ? Como algoritmos das redes sociais controlam você - Redesenhando sua realidade pós-STF

Em meio à crescente preocupação com o impacto das redes sociais na sociedade, especialmente após a decisão do Supremo Tribunal Federal em junho de 2025 — que responsabiliza plataformas por conteúdos de terceiros após notificação extrajudicial — o debate sobre os algoritmos se intensifica. Esses sistemas invisíveis definem, em grande parte, o que vemos ao abrir o Instagram, o TikTok, o YouTube ou qualquer outra rede. A professora R. Marie Santini, da UFRJ e diretora do NetLab, aprofunda a discussão revelando como funciona a “caixa-preta” da curadoria algorítmica, que molda comportamentos, preferências e até decisões políticas.

O que são algoritmos de recomendação e como funcionam

• Apesar da popularidade da palavra “algoritmo”, poucas pessoas compreendem como os sistemas de recomendação realmente operam. Eles não tentam prever o gosto individual, mas sim identificar padrões de consumo de comunidades de gosto — grupos de pessoas que consomem conteúdos semelhantes. Assim, quando você vê um vídeo sugerido, é porque pessoas com perfis parecidos ao seu também o viram. Essa lógica, conhecida como recomendação colaborativa, não é baseada em mérito ou qualidade, mas sim em padrões de comportamento anteriores.

• Esse modelo teve início com a indústria musical, quando a internet transformou a forma como músicas eram consumidas. A pirataria e a crise da indústria fonográfica forçaram inovações, levando ao surgimento dos primeiros algoritmos de recomendação que hoje se expandiram para vídeos, notícias, textos e anúncios.

Impactos positivos e negativos na cultura e na economia

• Uma das consequências positivas dessa lógica foi permitir que conteúdos de nicho se tornassem lucrativos. Antes, apenas cerca de 20% dos produtos culturais geravam lucro. Hoje, graças à segmentação algorítmica, até obras alternativas encontram seu público. Isso beneficiou setores como o audiovisual e o fonográfico, que dependem da recomendação personalizada.

• Por outro lado, essa mesma lógica centralizou o poder nas plataformas digitais, que passaram a controlar desde os dados de consumo até as métricas de desempenho. Os criadores de conteúdo são mal remunerados e não sabem exatamente como ou por que seus conteúdos são recomendados. O direito autoral é prejudicado, já que o conteúdo é encarado como mera divulgação, e não como um produto comercial.

Curadoria disfarçada de neutralidade

• O mais preocupante é que, mesmo sabendo que há lógica comercial por trás, muitos usuários ainda acreditam que os algoritmos são neutros — como se funcionassem como um editor imparcial de jornal. Mas o que aparece primeiro nas redes não é o mais importante ou confiável, mas sim o que mais engaja, ou seja, o que gera mais cliques e lucros para as plataformas. É o “jabá” digital: conteúdos pagos ou impulsionados que o usuário nem sempre percebe como patrocinados.

• As plataformas passaram a ser vistas como os novos curadores da informação, mas sem transparência. Elas moldam até o jornalismo: pequenas empresas de mídia, em busca de visibilidade e apoio técnico, ajustam seus conteúdos para se tornarem mais “recomendáveis” segundo os critérios opacos das big techs. Isso mina a autonomia editorial e dilui a ética jornalística.

A desinformação virou negócio global

A desinformação não é mais um problema ideológico ou moral: virou um mercado. E ela prospera graças à combinação de três fatores:

1. Alcance massivo
2. Falta de regulação
3. Algoritmos que recompensam o sensacionalismo

• Nas eleições, por exemplo, conteúdos falsos são usados para manipular o eleitorado. É a chamada propaganda computacional, que se popularizou em episódios como a eleição de Donald Trump em 2016 e o Brexit no Reino Unido. Bots e perfis falsos fabricam engajamento, espalham ódio e inflam polarizações. Agora, com a chegada da inteligência artificial generativa, o cenário se agrava ainda mais: conteúdos são fabricados com aparência de legitimidade, mas com intenção de manipular ou lucrar.

• A desinformação também afeta áreas como a saúde pública, com boatos sobre vacinas, curas milagrosas e tratamentos perigosos, e o meio ambiente, com campanhas orquestradas contra a ciência climática. Empresas e grupos políticos se utilizam dessas estratégias para promover seus interesses e impedir políticas públicas eficazes. Mesmo quem não acredita nas mentiras sofre os efeitos dessa desinformação.

O conluio entre plataformas e grupos extremistas

• Grupos políticos, especialmente da extrema direita, encontraram nas redes sociais um território fértil para crescer, longe da mídia tradicional. Em troca da visibilidade e alcance oferecidos pelas plataformas, esses grupos defendem a não regulamentação das redes, com o argumento da liberdade de expressão. Na prática, isso significa liberdade para propagar discursos de ódio, fake news e ataques a instituições.
• +Esse conluio entre interesses econômicos das plataformas e objetivos políticos de grupos radicais gera o que Santini chama de “tempestade perfeita”: desinformação, manipulação e caos, sem qualquer responsabilização legal.

O que pode ser feito: Três frentes de combate

A solução não é individual — Não basta ensinar usuários a identificar fake news. É preciso responsabilizar as plataformas e mudar o modelo de comunicação digital que hoje prioriza atenção, engajamento e lucro, em detrimento da verdade e da diversidade. A pesquisadora propõe ações em três dimensões:

1.Cultural: Combater a naturalização do caos informacional e da confiança cega na tecnologia.
2. Econômica: Mobilizar setores que percebam o dano da desinformação aos seus próprios negócios.
3. Política: Regulamentar plataformas, garantir transparência nos algoritmos e aplicar leis que já existem.

Os algoritmos deixaram de ser apenas ferramentas técnicas e se tornaram atores sociais e políticos, capazes de influenciar decisões, comportamentos e democracias inteiras. Se não forem compreendidos, fiscalizados e regulamentados, continuarão alimentando um ecossistema digital dominado pelo lucro, pela desinformação e pela desigualdade. Precisamos urgentemente repensar o modelo atual e buscar alternativas baseadas no interesse público, na diversidade e na transparência, antes que a sociedade perca totalmente o controle sobre o que vê, consome e acredita.