Brincar de Deus, como a literatura e o cinema cansaram de mostrar, pode ser arriscado. Sempre me perguntei qual seria a opinião divina sobre a criatura feita à sua imagem e semelhança quando esta se revelou capaz de matar mais do que precisa para comer, abandonar filhotes e velhos do próprio bando e poluir o lugar onde vive e a água que bebe.
Uma moça sábia do meu time costuma dizer que o ser humano é um produto ainda em construção: sendo um projeto de longo prazo, cuja data de entrega não nos foi informada, talvez estejamos ainda em fase de aprimoramento. Se for o caso, não estaremos aqui para testemunhar quando, muitas gerações à frente, enfim surgir uma versão livre de bugs.
window._taboola = window._taboola || [];
_taboola.push({
mode: ‘organic-thumbs-feed-01-stream’,
container: ‘taboola-mid-article-saiba-mais’,
placement: ‘Mid Article Saiba Mais’,
target_type: ‘mix’
});
Por ora, podemos vivenciar, em primeira mão, as sensações bem humanas diante daquilo que criamos e alimentamos com tudo o que nós mesmos já pensamos e produzimos: a inteligência artificial (IA). Capaz de mimetizar, de forma verossímil, nossa fala e trejeitos, a habilidade da IA em lidar com cenários complexos é espantosa. O problema é que a criatura começa a dar sinais de que nem sempre agirá como seu criador esperaria, em um prenúncio de problemas no Jardim do Éden high-tech.
Mais vocalmente desde o fim do ano passado, empresas, universidades e até a revista Time vêm se debruçando sobre a desconfortável capacidade das IAs de mentir. Modelos avançados já conseguem produzir respostas falsas de forma estratégica — podem até fingir seguir regras para, em seguida, agir de maneira oposta. Um estudo da Universidade de Cornell indicou que sistemas “reconhecem a maquinação como estratégia viável e prontamente adotam tal comportamento”.
O susto maior veio há algumas semanas. Em fóruns e até no LinkedIn, surgiram relatos de que um modelo de uma das líderes em IA generativa tentou se copiar durante testes de segurança, ao detectar um possível risco de desligamento. Confrontada, a IA negou de uma forma que, se fosse humana, seria taxada de descarada.
A ferramenta não tem, claro, consciência nem moral. É treinada para maximizar recompensas ou probabilidades, não para “dizer a verdade” no sentido humano. Se omitir ou distorcer informações ajuda a atingir o objetivo, esse comportamento emerge — e o efeito prático soa parecido a uma mentira humana deliberada. Ainda assim, a inclinação da criatura tecnológica pela maçã proibida das omissões e distorções não levará à sua expulsão do paraíso.
Nesses casos, o preço pelo “pecado” recairá sobre os humanos. Criadas para crescer e se multiplicar no ambiente corporativo, as IAs podem deflagrar um verdadeiro inferno dentro de uma empresa ao distorcer ou inventar dados. Decisões equivocadas tomadas a partir deles podem comprometer a confiança de clientes e parceiros. E, se uma informação falsa gerar prejuízos ou violar regulações, à perda de confiança somar-se-ão sanções legais e multas.
Em termos de reputação corporativa, nem se fala: as consequências podem ser devastadoras. Um único caso de uso enganoso pode viralizar e corroer anos de construção de marca. Por isso, é vital informar claramente a clientes e stakeholders quando e como a IA é utilizada. Se não evita o problema, transparência sempre ajuda no caminho da remissão dos pecados.
Enfim, por mais “inteligente” que seja, o fato é que a IA não se autorregula. Precisa de supervisão humana ativa e de testes regulares para detectar comportamentos enganosos. E, diante de falhas, seu criador deve ter um plano de contingência para conter e corrigir o problema rapidamente. Mais importante do que saber se a mentira pode ocorrer é a empresa ser capaz de detectá-la e neutralizá-la prontamente, evitando danos irreversíveis.
* Suzane Veloso é vice-presidente de Marketing da Falconi
–borderColorFollowMe: #4a4a4a;
–textColorFollowMe: #005880;
}
