A empresa de IA de Elon Musk, xAI, publicou transcrições de milhares de conversas entre seu chatbot Grok e os usuários — em muitos casos, sem o conhecimento ou permissão deles.
window._taboola = window._taboola || [];
_taboola.push({
mode: ‘organic-thumbs-feed-01-stream’,
container: ‘taboola-mid-article-saiba-mais’,
placement: ‘Mid Article Saiba Mais’,
target_type: ‘mix’
});
De acordo com informações da Forbes, sempre que um usuário do Grok clica no botão “compartilhar” dentro dos chats, uma URL exclusiva é criada, permitindo que ele compartilhe a conversa por e-mail, mensagem de texto ou outros meios. Sem o conhecimento dos usuários, essa URL também é disponibilizada para mecanismos de busca como Google, Bing e DuckDuckGo, tornando-a pesquisável por qualquer pessoa na web.
Em outras palavras, clicar no botão de compartilhamento significa que a sua conversa pode ser publicada no site do Grok, sem aviso ou isenção de responsabilidade para o usuário.
Uma busca no Google por “chats” do Grok mostra que o mecanismo de busca indexou mais de 370 mil conversas. As páginas compartilhadas revelaram diálogos entre usuários do Grok e o LLM, que variam de simples tarefas comerciais, como escrever tweets, até gerar imagens de um ataque terrorista fictício na Caxemira e tentativas de hackear uma carteira de criptomoedas, por exemplo.
Segundo a Forbes, as conversas compartilhadas pelo Grok expunham desde perguntas até nomes, dados pessoais e pelo menos uma das senhas dos usuários. Arquivos de imagem, planilhas e alguns documentos de texto enviados pelos usuários também podiam ser acessados.
Entre outras conversas indexadas, havia algumas iniciadas pelo jornalista britânico Andrew Clifford, que usava o Grok para resumir as primeiras páginas de jornais e redigir tuítes para seu site Sentinel Current. Clifford afirmou que não sabia que clicar no botão de compartilhamento tornaria seu prompt visível no Google. “Eu ficaria um pouco irritado, mas não havia nada lá que não devesse estar”. O jornalista agora passou a usar somente o Gemini, inteligência artificial do Google.
Mas nem todas as conversas foram tão inofensivas quanto as de Clifford. Algumas eram explícitas, preconceituosas e violavam as regras da xAI.
A empresa proíbe o uso de seu bot para “promover danos graves à vida humana” ou para “desenvolver armas biológicas, armas químicas ou armas de destruição em massa”, mas em conversas publicadas e compartilhadas, facilmente encontradas por meio de uma busca no Google, o Grok oferecia aos usuários instruções sobre como fabricar drogas ilícitas como fentanil e metanfetamina, codificar um malware autoexecutável, construir uma bomba e métodos de suicídio. O Grok também já ofereceu um plano detalhado para o assassinato de Elon Musk.
xAI não é a única
A xAI não é a única startup de IA a publicar conversas de usuários com seus chatbots.
No início deste mês, usuários do ChatGPT da OpenAI ficaram preocupados ao descobrir que suas conversas estavam aparecendo nos resultados de busca do Google. Mas, após protestos, a empresa rapidamente mudou sua política.
Chamando a indexação de “um experimento de curta duração”, Dane Stuckey, diretor de segurança da informação da OpenAI, afirmou em uma publicação no X que a ferramenta seria descontinuada porque “introduzia muitas oportunidades para as pessoas compartilharem acidentalmente coisas que não pretendiam”.
Depois que a OpenAI encerrou seu recurso de compartilhamento, Musk deu uma volta vitoriosa. A conta X do Grok alegou na época que não tinha esse recurso, e Musk tuitou em resposta: “Grok ftw” \[para a vitória].
Não está claro quando o Grok adicionou o recurso de compartilhamento, mas usuários do X vêm alertando desde janeiro que as conversas estavam sendo indexadas pelo Google.
Algumas das conversas solicitando instruções sobre como fabricar drogas e bombas provavelmente foram iniciadas por engenheiros de segurança, membros da equipe de segurança ou profissionais de Confiança e Segurança. Mas, em pelo menos alguns casos, a configuração de compartilhamento do Grok enganou até mesmo pesquisadores profissionais de IA.
Nathan Lambert, cientista computacional do Instituto Allen para IA, usou o Grok para criar um resumo de suas postagens de blog para compartilhar com sua equipe. Ele ficou chocado ao saber pela Forbes que seu prompt do Grok e a resposta da IA foram indexados no Google. “Fiquei surpreso que os chats do Grok compartilhados com minha equipe estavam sendo indexados automaticamente no Google, apesar de não haver nenhum aviso, especialmente após o recente surto com o ChatGPT”.
O Google permite que os proprietários de sites escolham quando e como seu conteúdo será indexado para busca. “Os editores dessas páginas têm controle total sobre se elas serão indexadas”, afirmou o porta-voz do Google, Ned Adriance, em um comunicado. O próprio Google já havia permitido a indexação de conversas com seu chatbot de IA, Bard, mas as removeu das buscas em 2023.
A Meta continua permitindo que suas buscas compartilhadas sejam descobertas por mecanismos de busca, segundo apuração do Business Insider.
Oportunistas estão começando a notar e a tirar proveito dos chats publicados pelo Grok. No LinkedIn e no fórum BlackHatWorld, profissionais de marketing têm discutido a criação e o compartilhamento intencional de conversas para aumentar a visibilidade e o reconhecimento de seus negócios e produtos nos resultados de busca do Google. Satish Kumar, CEO da agência de SEO Pyrite Technologies, demonstrou como uma empresa usou o Grok para manipular resultados de uma busca por empresas que escreveriam sua tese de doutorado.
“Todo bate-papo compartilhado no Grok é totalmente indexável e pesquisável no Google”, disse ele. “As pessoas estão usando ativamente táticas para inserir essas páginas no índice do Google.”
–borderColorFollowMe: #4a4a4a;
–textColorFollowMe: #005880;
}
