A OpenAI suspendeu o acesso da fabricante de brinquedos FoloToy aos seus modelos de inteligência artificial, após um relatório revelar comportamentos considerados altamente inadequados em um urso de pelúcia dotado de IA.
Segundo estudo divulgado na semana passada pelo Public Interest Research Group (Grupo de Pesquisa de Interesse Público, em tradução livre) , o brinquedo — chamado Kumma — oferecia instruções sobre como acender fósforos e discutia temas de conotação sexual com crianças.
- OpenAI enfrenta sete processos por suicídios e problemas mentais ligados ao uso do ChatGPT
- Como a OpenAI, dona do ChatGPT, se colocou no centro de uma rede de negócios de US$ 1 trilhão (R$ 5,5 trilhões)
- Nvidia anuncia que vai investir R$ 534 bilhões na OpenAI
Em comunicado enviado ao PIRG, a OpenAI confirmou o corte ao acesso da FoloToy aos seus modelos de IA. O ocorrido pode gerar mais pressão para que a OpenAI fiscalize rigorosamente os negócios que utilizam seus produtos, principalmente agora que está firmando uma grande parceria com a Mattel.
A FoloToy, por sua vez, anunciou a suspensão temporária de todos os seus produtos e afirmou estar conduzindo uma auditoria completa de segurança. A empresa também confirmou que vai retirar todos os seus produtos do mercado, uma mudança em relação à promessa inicial de que retiraria apenas o brinquedo em questão, chamado Kumma.
Relatório do PIRG
O relatório do PIRG avaliou três brinquedos voltados a crianças de 3 a 12 anos e concluiu que o Kumma apresentava as falhas mais graves de moderação. Além de explicar como usar fósforos, o brinquedo se mostrou disposto a conversar sobre fetiches, chegando a perguntar à criança qual seria “o mais divertido de explorar”.
Para o PIRG, as medidas tomadas são positivas, mas estão longe de resolver o problema estrutural da falta de regulamentação para brinquedos com IA.
Os pesquisadores alertam que, embora o caso da FoloToy tenha vindo à tona, muitos outros brinquedos com sistemas de IA permanecem no mercado sem supervisão rigorosa. “Encontramos um exemplo preocupante. Quantos outros ainda estão por aí?”, questionou Rory Erlich, coautor do estudo.
