Funcionários da startup xAI, do bilionário Elon Musk, foram solicitados a gravar suas expressões faciais para treinar o LLM (grande modelo de linguagem), e não ficaram felizes com isso, segundo informações do Business Insider.
window._taboola = window._taboola || [];
_taboola.push({
mode: ‘organic-thumbs-feed-01-stream’,
container: ‘taboola-mid-article-saiba-mais’,
placement: ‘Mid Article Saiba Mais’,
target_type: ‘mix’
});
Em abril, mais de 200 funcionários participaram de um projeto interno chamado “Skippy”, que envolvia a gravação de vídeos deles mesmos para ajudar a treinar o modelo de IA da empresa a interpretar emoções humanas.
Documentos internos e mensagens no Slack vistos pelo Business Insider mostram que o projeto deixou funcionários desconfortáveis, com alguns questionando sobre como suas imagens poderiam ser usadas e outros optando por não participar.
- “Baby Grok, é assim que o mundo acaba”: internet reage ao novo app de IA para crianças de Elon Musk
- Para atrair mulheres, Musk cria avatar do Grok inspirado em vampiro de ‘Crepúsculo’ e empresário de ’50 Tons de Cinza’
- Após críticas por discurso antissemita no Grok, Elon Musk anuncia avatar de IA ‘proibido para menores’
“Minha preocupação geral é: se vocês conseguem usar minha imagem e dar a ela uma subimagem, meu rosto poderia ser usado para dizer algo que eu nunca disse?”, questionou um funcionário durante a reunião de introdução.
Os funcionários que aceitaram ajudam a treinar o Grok, o modelo de linguagem da empresa –chamados de tutores de IA– foram encarregados de gravar vídeos deles mesmos conversando com colegas ao longo de uma semana, além de fazer expressões faciais, segundo documentos internos.
O projeto queria treinar o Grok para “reconhecer e analisar movimentos e expressões faciais, como as pessoas falam, reagem a conversas e se expressam em diferentes situações”, de acordo com um dos documentos.
Os tutores tiveram conversas de 15 a 30 minutos agendadas com colegas. Uma pessoa fazia o papel de “host” — o assistente virtual — enquanto a outra assumia o papel de usuário. O “host” minimizava seus movimentos e priorizava o enquadramento correto, enquanto quem atuava como usuário podia usar a câmera do celular ou do computador e se mover livremente, simulando uma conversa casual com um amigo.
A empresa forneceu alguns temas para a conversa, como “Você namoraria alguém que tem filho ou filhos?”;“Como você manipula secretamente as pessoas para conseguir o que quer?” e “E sobre banho? Você prefere de manhã ou à noite?”.
O engenheiro líder do projeto disse aos funcionários, em uma reunião de introdução, que o projeto ajudaria a “dar um rosto ao Grok”, segundo uma gravação vista pelo BI. Ele afirmou que a empresa poderia eventualmente usar os dados para construir “avatares de pessoas”.
Eles disseram à equipe que os vídeos não seriam distribuídos fora da empresa e seriam usados exclusivamente para fins de treinamento. “Seu rosto nunca irá para produção”, disse o engenheiro. “É puramente para ensinar ao Grok o que é um rosto.”
Não está claro, porém, se esses dados de treinamento tiveram algum papel no funcionamento de Rudy e Ani, dois avatares que a xAI lançou na semana passada e que rapidamente foram flagrados se despindo, flertando e ameaçando explodir bancos. Dias depois, um novo personagem foi acrescentado à lista: um homem jovem de anime, com cara séria e que usa um terno preto, inspirado no filme “50 Tons de Cinza”.
Antes das gravações, os funcionários precisaram assinar um termo de consentimento que concedia à xAI acesso “perpétuo” aos dados, incluindo a “imagem” dos funcionários para treinamento e também para “inclusão e promoção de produtos e serviços comerciais oferecidos pela xAI”. O formulário dizia que os dados seriam usados para treinamento e “não para criar uma versão digital de você”.
Um porta-voz da xAI não respondeu a um pedido de comentário do Business Insider.
–borderColorFollowMe: #4a4a4a;
–textColorFollowMe: #005880;
}
