IA: Grande problema ou solução? Fundadora da Signal alerta para riscos

Meredith Whittaker, presidente do Signal, uma plataforma de mensagens sem fins lucrativos, destaca a preocupação com a concentração de poder em poucas gigantes de tecnologia que baseiam seus modelos de negócios na coleta de dados dos usuários.

Importância da regulação:

• A falta de regulação desde os anos 1990 permitiu que a vigilância se tornasse o motor do modelo de negócio atual, refletindo-se na ascensão da inteligência artificial (IA).
• A flexibilidade do termo "IA" é atribuída ao ressurgimento do modelo de negócio de vigilância.

Desafios atuais da IA:

• A atual onda de IA requer grandes volumes de dados, impulsionando o ciclo da IA generativa.
• Whittaker argumenta que é necessário reconhecer a IA como um derivado do poder concentrado nas mãos de poucas empresas que monopolizaram o modelo de negócio de vigilância.

Questões Políticas e Sociais:

• Questionada sobre a capacidade da IA resolver problemas como racismo e desigualdade social, Whittaker destaca que são questões políticas e sociais profundas, não apenas tecnológicas.
• Ela questiona se a IA é a solução ou se os desafios são inerentes aos incentivos incompatíveis do atual estágio do capitalismo.

Concentração de poder no mercado Tecnológico:

• A preocupação central é a concentração de poder no mercado tecnológico, com autoridade excessiva concedida a um punhado de empresas impulsionadas por lucro e crescimento.
• A necessidade de abordar essa assimetria de poder e ser honesto sobre a economia política é destacada.

Importância de modelos de Negócios Éticos:

• A Signal, como uma organização sem fins lucrativos, é apresentada como uma forma fundamental de manter a integridade da missão da plataforma.
• A monetização de dados de vigilância é apontada como incrivelmente lucrativa no setor, reforçando a importância de estruturas que evitem participar de modelos de negócios prejudiciais à privacidade.

Meredith Whittaker enfatiza a importância da regulação e incentivos adequados para a IA, destacando a necessidade de abordar concentração de poder e adotar modelos de negócios éticos para preservar a privacidade e integridade. Seu posicionamento ocorreu durante o Web Summit 2023 em Lisboa.