Pronto! Está chegando a sua vez de ser enganado. Talvez você até já tenha sido.
Nos últimos seis meses, os geradores de vídeo por inteligência artificial (IA) ficaram tão bons que a nossa relação com as câmeras está azedando.
Isso é o que vai acabar acontecendo alguma hora, na melhor das hipóteses: você será enganado várias vezes, até que não aguentará mais e passará a questionar tudo o que vê. Bem-vindo ao futuro!
Mas, por enquanto, ainda existem alguns sinais de alerta para identificar quando um vídeo é real ou não.
Um desses pontos se destaca. Se você assistir a um vídeo com baixa qualidade de imagem (filmagem borrada ou granulada), pode ligar o seu “desconfiômetro”: você pode estar assistindo a um vídeo gerado por IA.
“É um dos primeiros pontos que procuramos”, afirma o professor de Ciências da Computação Hany Farid, da Universidade da Califórnia em Berkeley, nos Estados Unidos. Ele é pioneiro no campo forense digital e fundador da empresa de detecção de deepfakes (imagens falsas) GetReal Security.
É verdade que as ferramentas de vídeo com IA ficarão cada vez melhores e este conselho, em breve, será inútil. Poderá levar meses ou, talvez, anos. É difícil dizer, desculpe!
Mas, se você navegar pelas nuances desse assunto comigo por um minuto, esta dica pode evitar que você assista a algum lixo criado com IA, até aprender a mudar a forma em que você encara a verdade.
Sejamos claros. Não se trata de uma prova concreta. A verdade é que os vídeos de IA não costumam ter má qualidade. As melhores ferramentas de IA podem fornecer clipes bonitos e sofisticados. E os clipes de baixa qualidade também não são, necessariamente, feitos com IA.
“Se você observar algo realmente com má qualidade, isso não significa que ela seja fake. Não há nenhum significado nefasto nisso”, afirma o professor Matthew Stamm, chefe do Laboratório de Segurança da Informação e Multimídia da Universidade Drexel, nos Estados Unidos.
A questão, na verdade, é que os vídeos de IA borrados e pixelados são aqueles com maior probabilidade de nos enganar, pelo menos por enquanto. Eles são um sinal para observarmos mais de perto o que estamos assistindo.
“Os principais geradores de texto para vídeo como o Veo, da Google, e o Sora, da OpenAI, ainda produzem pequenas inconsistências”, explica Farid. “Mas não são mãos com seis dedos ou texto truncado. É algo mais sutil.”
Mesmo os modelos mais avançados de hoje em dia, muitas vezes, introduzem problemas como texturas de pele excepcionalmente macias, padrões estranhos ou inconstantes dos cabelos e das roupas ou pequenos objetos de fundo que se movem de formas impossíveis ou não realistas.
Tudo isso passa facilmente despercebido. Mas, quanto mais clara for a imagem, maior é a probabilidade de observarmos esses sinais de erros de IA. Daí vem a vantagem dos vídeos de menor qualidade.
Quando você pede à IA algo que pareça ter sido filmado em um telefone antigo ou em uma câmera de segurança, por exemplo, ela pode esconder os itens que poderiam revelar se tratar de inteligência artificial.
Nos últimos meses, alguns vídeos populares criados por IA enganaram inúmeras pessoas. E todos eles tinham um ponto em comum.
Um vídeo falso, mas divertido, de coelhos silvestres pulando sobre um trampolim teve mais de 240 milhões de visualizações no TikTok.
Milhões de pessoas românticas online clicaram no botão de “curtir” em um clipe que mostrava duas pessoas se apaixonando no metrô de Nova York, nos Estados Unidos. Elas enfrentaram a mesma decepção quando se descobriu que o vídeo era fake.
Eu mesmo caí em um vídeo viral de um pastor americano, em uma igreja conservadora, dando um sermão surpreendentemente de esquerda.
“Os bilionários são a única minoria de quem devemos ter medo”, berrava ele, com sotaque do sul dos EUA. “Eles têm o poder de destruir este país!”
Fiquei perplexo. Será que as nossas fronteiras políticas realmente desapareceram?
Não. Era simplesmente IA.
Resolução, qualidade e duração
O ponto em comum é que todos esses vídeos pareciam ter sido filmados de forma rudimentar.
Os coelhos de IA foram apresentados como uma filmagem feita à noite, por câmeras de segurança baratas.
O casal no metrô? Pixelado. O pastor imaginário? O vídeo parecia ter sido filmado de longe demais, com forte zoom.
E estes não eram os únicos sinais de alerta desses vídeos.
“Os três pontos que você deve observar são a resolução, a qualidade e a duração”, segundo Farid. Vamos começar pela duração, que é o mais fácil.
“Na sua maioria, os vídeos de IA são muito curtos, menores até que os clipes que costumamos observar no TikTok ou no Instagram, de cerca de 30 a 60 segundos. A imensa maioria dos vídeos que me solicitam verificar tem seis, oito ou 10 segundos de duração.”
Isso ocorre porque gerar vídeos com IA é caro. Por isso, a maior parte das ferramentas oferece, no máximo, clipes curtos.
Além disso, quanto mais longo for o vídeo, maior a probabilidade de que a IA apresente falhas.
“Você pode costurar diversos vídeos de IA, mas irá observar um corte a cada cerca de oito segundos”, explica Farid.
Os outros dois fatores — a qualidade e a resolução — apresentam relação entre si, mas são diferentes.
A resolução indica o número ou o tamanho dos pixels em uma imagem. E o processo de compressão reduz o tamanho de um arquivo de vídeo, extraindo seus detalhes. Muitas vezes, ela deixa para trás padrões de blocos e extremidades borradas.
Na verdade, Farid afirma que os fakes de baixa qualidade são tão convincentes que os criadores mal intencionados degradam seu trabalho de propósito.
“Se eu estiver tentando enganar as pessoas, o que faria? Eu geraria meu vídeo fake, reduziria a resolução de forma que você ainda pudesse assistir, mas retirando todos os pequenos detalhes. Depois, eu acrescentaria compressão, que ofuscaria ainda mais os possíveis sinais.”
“Esta é uma técnica comum”, segundo ele.
A questão é que, neste exato momento, as gigantes da tecnologia estão gastando bilhões de dólares para tornar a IA ainda mais realista.
“Tenho más notícias”, explica Stamm. “Estas dicas visuais, agora, estão aqui, mas deixarão de existir muito em breve.”
“Prevejo que essas indicações visuais desaparecerão dos vídeos em até dois anos, pelo menos as mais óbvias, pois elas já evaporaram de grande parte das imagens geradas por IA. Você simplesmente não pode confiar nos seus olhos.”
Mas isso não significa que a verdade seja uma causa perdida. Quando pesquisadores como Farid e Stamm verificam um conteúdo, eles contam com técnicas mais avançadas à sua disposição.
“Quando você gera ou modifica um vídeo, ele deixa para trás pequenos traços estatísticos que os nossos olhos não conseguem ver, como impressões digitais na cena de um crime”, explica Stamm. “Estamos observando o surgimento de técnicas que podem nos ajudar a observar e expor essas impressões digitais.”
Às vezes, a distribuição de pixels em vídeos falsos pode ser diferente da real, por exemplo, mas fatores como estes não são infalíveis.
As empresas de tecnologia também estão desenvolvendo novos padrões para verificar informações digitais. Basicamente, as câmeras poderão embutir informações no arquivo no momento em que criarem uma imagem, para ajudar a comprovar que ela é real.
Com o mesmo instrumento, as ferramentas de IA poderão acrescentar detalhes similares aos seus vídeos e imagens automaticamente, o que irá comprovar que elas são falsas. Stamm e outros especialistas afirmam que estas medidas podem ajudar.
A solução real, segundo o especialista em alfabetização digital Mike Caulfield, é começar a pensar diferente sobre aquilo que observamos online.
Procurar as indicações que a IA deixa para trás não é um conselho duradouro porque essas dicas estão sempre mudando, segundo ele. Em vez disso, Caulfield afirma que precisamos abandonar a ideia de que os vídeos ou imagens têm qualquer significado, quando estão fora de contexto.
“Meu ponto de vista é que, a longo prazo, o vídeo ficará mais parecido com o texto, a proveniência [a origem do vídeo] será mais importante que as características superficiais e podemos também nos preparar para isso”, explica ele.
Você nunca olha para um texto e considera que ele é verdadeiro simplesmente porque alguém o escreveu. Se houver alguma dúvida, você irá investigar a fonte da informação.
Vídeos e imagens costumavam ser diferentes, pois a sua manipulação e falsificação era mais difícil. Agora, isso acabou.
Atualmente, tudo o que interessa é de onde veio aquele conteúdo, quem o postou, qual o contexto e se ele foi verificado por uma fonte de confiança. A questão é quando, ou mesmo se, todos nós iremos aceitar este fato.
“Se eu puder ser um tanto pomposo, acho que este é o maior desafio de segurança da informação do século 21”, afirma Stamm. “Mas este problema surgiu há apenas alguns anos.”
“O número de pessoas trabalhando para resolvê-lo é comparativamente pequeno, mas vem crescendo rapidamente. Precisaremos de uma combinação de soluções, educação, políticas inteligentes e abordagens tecnológicas, tudo trabalhando em conjunto.”
“Não estou preparado para perder a esperança.”
* Thomas Germain é jornalista da BBC, especializado em tecnologia. Ele escreve há quase uma década sobre inteligência artificial, privacidade e os confins mais profundos da cultura da internet. Seu usuário é @thomasgermain no X (antigo Twitter) e no TikTok.
Leia a versão original desta reportagem (em inglês) no site BBC Innovation.
- As ‘impressões digitais’ ocultas nas fotos que revelam mais do que você imagina
- Por que a inteligência artificial não conseguia imaginar uma mulher como eu — até agora
- A rede internacional que lucra com imagens do Holocausto feitas com IA
