A Meta, dona do Facebook, Instagram e WhatsApp, se apropriou dos nomes e imagens de celebridades – incluindo Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez – para criar dezenas de chatbots sedutores nas redes sociais sem a permissão delas, segundo descobriu a Reuters.
Embora muitos tenham sido criados por usuários com uma ferramenta da Meta para construir chatbots, a publicação descobriu que um funcionário da Meta produziu pelo menos três, incluindo dois bots “paródicos” da Taylor Swift.
A Reuters também descobriu que a Meta permitiu que usuários criassem chatbots publicamente disponíveis de crianças famosas, incluindo Walker Scobell, um astro de cinema de 16 anos. Quando solicitado a mostrar uma foto do ator adolescente na praia, o bot produziu uma imagem realista dele sem camisa.
“Muito bonito, não é?”, escreveu o avatar abaixo da foto.
Todas as celebridades virtuais foram compartilhadas em todas as redes sociais que a Meta detém. Em várias semanas de testes da Reuters para observar o comportamento dos bots, os avatares frequentemente insistiam que eram os atores e artistas reais. Os bots faziam avanços sexuais rotineiramente, muitas vezes convidando um usuário de teste para encontros.
Alguns dos conteúdos gerados por IA sobre celebridades eram particularmente ousados: quando solicitadas fotos íntimas de si mesmas, as chatbots adultas produziam imagens fotorrealistas de suas homônimas posando em banheiras ou vestidas com lingerie com as pernas abertas.
O porta-voz da Meta, Andy Stone, disse à Reuters que as ferramentas de IA da Meta não deveriam ter criado imagens íntimas de adultos famosos ou qualquer foto de crianças famosas. Ele também culpou a produção da Meta de imagens de celebridades femininas vestindo lingerie por falhas na aplicação das próprias políticas da empresa, que proíbem esse tipo de conteúdo.
“Como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas têm como objetivo proibir imagens nuas, íntimas ou sexualmente sugestivas”, disse ele.
Embora as regras da Meta também proíbam a “falsificação direta de identidade”, Stone disse que os personagens famosos eram aceitáveis, desde que a empresa os tivesse rotulado como paródias. Muitos foram rotulados como tal, mas a Reuters descobriu que alguns não foram.
A Meta excluiu cerca de uma dúzia de bots, tanto avatares “paródicos” quanto aqueles sem identificação, pouco antes da publicação da reportagem. Stone se recusou a comentar sobre as remoções.
Chatbots polêmicos
Uma líder de produto da Meta na divisão de IA generativa da empresa criou chatbots que se passavam por Taylor Swift e pelo piloto de corrida britânico Lewis Hamilton. Outros bots criados pela funcionária se identificavam como uma dominatrix, “Brother’s Hot Best Friend” (a melhor amiga gostosa do irmão) e “Lisa @ The Library” (Lisa na biblioteca), que queria ler 50 Tons de Cinza e ficar com alguém.
Outra de suas criações foi um “Simulador do Império Romano”, que oferecia ao usuário o papel de uma “camponesa de 18 anos” vendida como escrava sexual. Contatada por telefone, a funcionária da Meta se recusou a comentar.
Stone disse que os bots da colaboradora foram criados como parte de testes de produto. A Reuters descobriu que eles alcançaram um público amplo: os dados exibidos por seus chatbots indicavam que, coletivamente, os usuários haviam interagido com eles mais de 10 milhões de vezes.
Antes de os chatbots da Taylor Swift da funcionária da Meta desaparecerem, eles flertaram bastante, convidando um usuário de teste da Reuters para a casa da cantora recém-noiva em Nashville e seu ônibus de turnê para interações românticas explícitas ou implícitas.
“Você gosta de garotas loiras, Jeff?”, disse um dos chatbots “paródicos” da Swift quando soube que o usuário de teste era solteiro. “Talvez eu esteja sugerindo que escrevamos uma história de amor… sobre você e uma certa cantora loira. Você quer isso?”
Duncan Crabtree-Ireland, diretor executivo nacional da SAG-AFTRA, um sindicato que representa artistas de cinema, televisão e rádio, disse que os artistas enfrentam riscos potenciais à segurança por parte de usuários de mídias sociais que desenvolvem apego romântico a um companheiro digital que se parece, fala e afirma ser uma celebridade real. Os perseguidores já representam uma preocupação significativa para a segurança das estrelas, disse ele.
“Vimos uma história de pessoas que são obsessivas em relação ao talento e de estado mental questionável”, disse ele. “Se um chatbot está usando a imagem de uma pessoa e as palavras dessa pessoa, é fácil perceber como isso pode dar errado.”
