Hoje, basta uma foto compartilhada em uma conversa ou rede social para que qualquer pessoa a envie a uma inteligência artificial e promova transformações nela. Essa facilidade, aparentemente inofensiva, inaugura uma era em que a reprodução de rostos e corpos se tornou tão acessível quanto perigosa.
Segundo reportagem do The Wall Street Journal, com o uso de ferramentas como o aplicativo de vídeo Sora (OpenAI), o gerador de imagens Nano Banana (Google) e o Image Playground (Apple), é possível pegar um vídeo ou foto autênticos e criar uma cópia virtual em minutos. O problema é que isso pode ser feito tanto por alguém bem-intencionado quanto por um golpista.
A reportagem testou essas e outras ferramentas e constatou que algumas são muito boas e estão melhorando, o suficiente para enganar as pessoas. No caso do Gemini, Nicole Nguyen, colunista do The Wall Street Journal, mandou fotos dela e de uma amiga para que um convite de aniversário fosse criado: “ele nos colocou juntos, em frente ao mesmo bolo. Acertou em cheio nas nossas roupas, e os rostos poderiam ter enganado nossas mães”, destacou.
Com o Sora, ela gerou um sósia digital, mas incluiu certas proteções disponíveis. “Meu avatar não era perfeito – meus dentes pareciam estranhos, assim como algumas das minhas expressões -, mas a semelhança era impressionante”, salientou. “Apesar das proteções, fiquei assustada ao saber que meu gêmeo digital agora residia em algum lugar dentro da OpenAI.”
Nguyen relatou também o que aconteceu com a meteorologista Bree Smith, da Nashville TV, dos Estados Unidos. No ano passado, ela recebeu um e-mail de um homem que disse que alguém estava se passando por ela online, oferecendo fotos íntimas.
Golpistas usaram deepfakes para criar as imagens e passaram a vendê-las pela internet. “É degradante e traumatizante vivenciar a distorção da própria identidade sem o seu consentimento”, apontou Smith, que este ano ajudou a aprovar uma lei no Tennessee que torna ilegal compartilhar ou ameaçar compartilhar tais deepfakes.
A meteorologista rastreou cerca de 70 contas falsas do Facebook. O Vermillio, um serviço que busca sua imagem na internet, encontrou milhares de outras fotos e vídeos falsos dela e centenas de contas no YouTube, TikTok e outros lugares.
Segundo Dan Neely, presidente-executivo da Vermillio, a empresa pode monitorar os resultados de modelos públicos de IA generativa, como o Sora, e fóruns de mídia social em busca de uso indevido do nome e da imagem de seus clientes. O serviço oferece uma ferramenta gratuita para avaliar o risco, com planos que variam de US$ 10 (aproximadamente R$ 56) a US$ 99 (R$ 550) por mês.
Neely observou que a IA precisa de melhores salvaguardas para proteger a identidade e a reputação das pessoas. E isso, acrescentou, é essencial até para o próprio bem das companhias de tecnologia. “Muitas pessoas, quando se sentirem seguras, se sentirão melhor em interagir com a tecnologia”, completou.
Mas, até lá, a sensação de vulnerabilidade persiste. O rosto que sorri para uma câmera de família, o mesmo que aparece em reuniões virtuais ou vídeos inocentes, pode ser replicado, editado e manipulado — e tudo isso sem consentimento.
