A ferramenta de resumos por inteligência artificial do Google, conhecida como AI Overviews, foi flagrada recentemente dando dicas falsas sobre o jogo independente Trash Goblin, desenvolvido pelo estúdio britânico Spilt Milk. O episódio gerou críticas sobre a confiabilidade do recurso, que faz parte dos esforços da empresa para integrar IA generativa ao mecanismo de busca, segundo o site Futurism.
Na prática, a IA sugeriu que era possível danificar objetos no jogo, algo que não faz parte da mecânica real. “Você precisa ter cuidado ao remover a sujeira ao redor dos artefatos, pois bater diretamente neles pode quebrá-los”, dizia uma das respostas. No entanto, segundo os desenvolvedores, é impossível causar esse tipo de dano no jogo.
window._taboola = window._taboola || [];
_taboola.push({
mode: ‘organic-thumbs-feed-01-stream’,
container: ‘taboola-mid-article-saiba-mais’,
placement: ‘Mid Article Saiba Mais’,
target_type: ‘mix’
});
Histórico de respostas imprecisas preocupa especialistas
Essa não é a primeira vez que a ferramenta da gigante de tecnologia erra significativamente. Casos anteriores já haviam chamado atenção da mídia internacional: o sistema já recomendou, por exemplo, colocar cola em pizza, passar fezes em balões para treino de crianças e até afirmou que um artista independente havia vencido 14 prêmios Grammy, todos dados factualmente incorretos.
Embora algumas dessas respostas possam parecer engraçadas, especialistas alertam que o impacto pode ser mais grave. Isso porque o Google incorporou essa tecnologia também em áreas sensíveis, como saúde e bem-estar. A possibilidade de respostas incorretas sobre temas clínicos preocupa a comunidade científica.
IA generativa no centro do debate sobre confiabilidade
A proposta da AI Overview é fornecer resumos automatizados de informações com base em fontes indexadas, mas o modelo ainda enfrenta dificuldades com o chamado fenômeno de “alucinação”, quando a IA gera conteúdos falsos com aparência de confiabilidade. O problema é comum entre modelos de linguagem de grande escala, e empresas como Google, OpenAI e Meta vêm tentando mitigar seus efeitos.
Apesar das promessas de melhorias contínuas, a recorrência desses erros coloca em xeque o grau de maturidade das ferramentas de IA integradas a produtos voltados para o grande público, como os mecanismos de busca.
–borderColorFollowMe: #4a4a4a;
–textColorFollowMe: #005880;
}
