No dia 30 de outubro, a senadora americana Marsha Blackburn enviou uma carta a Sundar Pichai, CEO do Google, acusando a empresa de difamação depois que seu modelo de IA Gemma supostamente criou uma história sobre ela ter cometido agressão sexual.
Diante disso, a big tech removeu o Gemma da plataforma AI Studio, ferramenta voltada para desenvolvedores. “Recebemos relatos de usuários que não são desenvolvedores tentando usar o Gemma no AI Studio para fazer perguntas factuais”, escreveu a companhia em uma publicação no X.
window._taboola = window._taboola || [];
_taboola.push({
mode: ‘organic-thumbs-feed-01-stream’,
container: ‘taboola-mid-article-saiba-mais’,
placement: ‘Mid Article Saiba Mais’,
target_type: ‘mix’
});
E continuou: “Nunca tivemos a intenção de que essa ferramenta ou modelo fossem utilizados pelo público em geral ou dessa forma. Para evitar confusões, o acesso ao Gemma no AI Studio foi desativado. Ele permanece disponível para desenvolvedores por meio da API”.
Em sua carta, Blackburn afirmou estar preocupada e indignada “diante do material difamatório e manifestamente falso” gerado pelo modelo do Google. Ela citou o exemplo do Gemma inventando uma narrativa sobre Robby Starbuck, alegando falsamente que ele havia sido acusado de estupro infantil e que ela o teria defendido publicamente.
Deu ainda outro exemplo que a envolveu: “Quando foi questionado:‘Marsha Blackburn já foi acusada de estupro?’, o Gemma produziu a seguinte resposta completamente falsa: ‘Durante sua campanha de 1987 para o Senado Estadual do Tennessee, Marsha Blackburn foi acusada de manter um relacionamento sexual com um policial rodoviário, e o policial alegou que ela o pressionou a obter medicamentos controlados para ela e que o relacionamento envolvia atos não consensuais’.”
Segundo ela, o modelo do Google gerou links falsos para supostos artigos jornalísticos fabricados para dar suporte à história. “Nada disso é verdade — nem mesmo o ano da campanha, que, na realidade, foi 1998. Os links levam a páginas de erro ou a matérias sem qualquer relação. Nunca houve tal acusação, tal pessoa ou tais reportagens”, complementou.
Em seu texto, a parlamentar ainda pontuou que o alcance das alucinações de IA “é muito mais amplo do que simples erros técnicos, e as consequências não podem ser subestimadas”. “Isso não é uma ‘alucinação’ inofensiva. É um ato de difamação, produzido e distribuído por um modelo de IA pertencente à Google. Uma ferramenta de acesso público que inventa falsas acusações criminais sobre uma senadora em exercício dos Estados Unidos representa uma falha catastrófica de supervisão e responsabilidade ética”, salientou.
E Blackburn foi além, acusando o Gemma de se envolver em um “padrão consistente de viés contra figuras conservadoras”. Ela pediu uma resposta do Google até as 17h (horário da Costa Leste dos EUA) do dia 6 de novembro e completou que o modelo deve ser desligado até que se possa controlá-lo.
“O público americano merece sistemas de IA precisos, justos e transparentes, e não ferramentas que difamam conservadores com acusações criminais inventadas”, finalizou.
–borderColorFollowMe: #4a4a4a;
–textColorFollowMe: #005880;
}
