A velocidade e o realismo extraordinário do Sora 1, nova ferramenta de vídeos da OpenAI, ajudaram a impulsionar o aplicativo para o topo das paradas de downloads. Entre os vídeos que mais viralizam estão aqueles que trazem os mortos de volta.
Vídeos de Michael Jackson, Elvis Presley e Amy Winehouse produzidos pelo Sora inundaram as plataformas de mídia social, com muitos espectadores dizendo que têm dificuldade para dizer se os vídeos são reais ou falsos, relata o The Washington Post.
Alguns clipes foram feitos para provocar risos, como um vídeo do apresentador do “Mr. Rogers’ Neighborhood”, Fred Rogers, compondo um rap com o artista de hip-hop Tupac Shakur. Outros são mais mais sombrios. Um vídeo mostra imagens de Whitney Houston, filmadas por uma câmera corporal da polícia, parecendo embriagada. Em outro, o pastor Martin Luther King Jr, um dos principais líderes negros na luta contra a discriminação racial nos Estados Unidos, faz sons de macaco durante seu discurso mais famoso, “Eu Tenho um Sonho”. Outro clipe de mau gosto mostra John F. Kennedy fazendo uma piada sobre o assassinato do influenciador de direita Charlie Kirk.
A OpenAI afirmou que a ferramenta retrataria pessoas reais apenas com o consentimento delas. Mas deixou de fora desse limite “figuras históricas”, permitindo que qualquer pessoa fizesse vídeos falsos ressuscitando pessoas públicas, incluindo ativistas, celebridades e líderes políticos — e deixando seus parentes horrorizados.
Ilyasah Shabazz ficou arrasada ao assistir aos vídeos de seu pai, Malcolm X, gerados por IA. Os clipes mostram o lendário ativista dos direitos civis fazendo piadas grosseiras e lutando com o ativista Martin Luther King Jr.. “É profundamente desrespeitoso e doloroso ver a imagem do meu pai usada de forma tão arrogante e insensível, quando ele dedicou sua vida à verdade”, disse Shabazz, cujo pai foi assassinado na sua frente em 1965, quando ela tinha 2 anos, ao The Washington Post. Ela disse não entender por que os desenvolvedores não estavam agindo “com a mesma moralidade, consciência e cuidado… que gostariam para suas próprias famílias”.
Os vídeos do Sora também provocaram repulsa na filha do ator Robin Williams, Zelda Williams, que recentemente implorou em uma publicação no Instagram para que as pessoas “parassem de me postar vídeos de IA do meu pai”. “Ver o legado de pessoas reais ser transformado em… algo horrível, manipulado por marionetes do TikTok, é enlouquecedor”, disse ela.
“A quantidade e o volume desse tipo de conteúdo sintético sobre ressurreição são simplesmente enormes agora”, disse Henry Ajder, especialista em IA que estuda deepfakes e cunhou o termo “ressurreição sintética” para descrever a criação de cópias digitais dos mortos, ao The Washington Pos. “E não está sendo feito por agências criativas em parceria com o espólio… ou por um estúdio de Hollywood como uma homenagem a um ator ou atriz muito querido, com o consentimento de sua família. Está sendo feito por usuários horríveis e racistas.”
A OpenAI havia dito que sua política se baseava em “fortes interesses de liberdade de expressão na representação de figuras históricas”. Mas, após a reação negativa, a empresa anunciou na quarta-feira que começaria a permitir que representantes de figuras públicas “recentemente falecidas” solicitassem que sua imagem fosse bloqueada nos vídeos de Sora.
“Acreditamos que as figuras públicas e suas famílias devem, em última análise, ter controle sobre como sua imagem é usada”, disse uma porta-voz da OpenAI. Ela se recusou a definir “recentemente falecido”.
“Ao permitir conteúdo controverso, mas atraente, como celebridades da IA, a OpenAI está se inspirando em um manual aperfeiçoado por empresas de mídia social como a Meta: faça o que for preciso para atrair usuários para o aplicativo e peça perdão depois”, disse Thales Teixeira, professor de administração da Universidade da Califórnia em San Diego. “Primeiro você faz sua empresa crescer; só depois pensa nos problemas que isso causou”, disse ele.
