DataGemma: Google lança IA para corrigir erros e alucinações das próprias IAs

No dia 12 de setembro de 2024, o Google anunciou uma nova ferramenta inovadora chamada DataGemma. Esta inteligência artificial (IA) foi desenvolvida para corrigir erros e alucinações presentes em modelos generativos de IA, que têm se tornado um problema crescente na tecnologia atual. Com o avanço das IAs, o fenômeno das "alucinações" — quando uma IA fornece respostas incorretas ou imprecisas — tem se tornado um desafio significativo.

Funcionalidade do DataGemma

O DataGemma utiliza dois métodos principais para corrigir as respostas das IAs:

RIG (Retrieval-Interleaved Generation):

Processo: O DataGemma gera um rascunho da resposta e depois o compara com dados do Data Commons para corrigir possíveis erros.
Objetivo: Melhorar a precisão das respostas geradas pelas IAs utilizando um banco de dados confiável.

RAG (Retrieval-Augmented Generation):

Processo: Verifica se a resposta da IA está presente no Data Commons antes de gerá-la, reduzindo a possibilidade de alucinações.
Objetivo: Garantir que as respostas sejam baseadas em informações verificadas.

Importância e Relevância

Redução de Alucinações: O DataGemma visa reduzir erros e alucinações em respostas geradas por IAs, melhorando a confiança nos resultados.
Base de Dados Confiável: Utiliza o Data Commons, um banco de dados com informações de fontes institucionais reconhecidas, para assegurar a precisão dos dados.
Acesso e Aplicação: Atualmente disponível apenas para pesquisadores, com possíveis planos de expansão para uma aplicação mais ampla, inclusive no buscador do Google.

Desafios e limitações

Apesar dos avanços, o DataGemma apresenta algumas limitações:

Limitação de Dados: O modelo só pode verificar informações que estão presentes no Data Commons. Dados fora dessa base não são verificados, o que pode ser um problema para informações não cobertas.
Precisão: Em testes, o DataGemma não conseguiu extrair informações relevantes em 75% dos casos. Além disso, houve erros nas respostas entre 6% e 20% das vezes utilizando o método RAG, enquanto o RIG mostrou uma eficiência de 58%.
Base de Dados Necessária: A precisão do DataGemma depende do tamanho e da qualidade da base de dados. Quanto mais abrangente for o treinamento, maior a possibilidade de melhorar a precisão da IA.

O DataGemma representa um avanço significativo na tentativa de mitigar erros e alucinações em IAs generativas. Embora apresente promessas de maior precisão e confiabilidade, o modelo ainda enfrenta desafios consideráveis. Com a ampliação de dados e refinamentos futuros, a ferramenta tem o potencial de se tornar um recurso crucial para melhorar a precisão das IAs. No entanto, a solução ainda está longe de ser perfeita e evidencia que os chatbots e modelos generativos ainda não são infalíveis.