O conteúdo gerado por IA não está apenas ganhando cada vez mais espaço nas redes sociais, com deepfakes e outros materiais problemáticos, mas também se tornou um desafio para as equipes de controle de qualidade do TikTok Shop e de outras plataformas de e-commerce. As informações são do Business Insider.
Vendedores fraudulentos estão utilizando ferramentas de IA generativa para criar marcas falsas e produtos falsificados. O objetivo é fazer com que os usuários paguem por mercadorias que não existem, segundo Nicolas Waldmann, líder da equipe de governança e experiência do usuário do TikTok Shop.
“Para ser honesto, é crime organizado”, afirmou. “Eles basicamente tentam vender as drogas, mas nunca entregam nada e fogem com o dinheiro.”
Ainda de acordo com Waldmann, embora esse tipo de fraude exista há anos, a IA generativa aumentou a sofisticação dos métodos usados por criminosos para enganar as equipes de moderação em plataformas como o TikTok Shop ou a Amazon. Em março, por exemplo, a Amazon atribuiu o sucesso no rastreamento de produtos falsificados e anúncios ilegais em sua plataforma a um conjunto de ferramentas de IA.
O TikTok combina esforços humanos e Inteligência Artificial para rastrear contas e anúncios fraudulentos. A empresa desenvolve suas próprias ferramentas de detecção e também mantém parcerias externas.
A TikTok Shop é uma das principais prioridades da companhia, que estabeleceu metas de crescimento ambiciosas, um desafio para sua equipe nos Estados Unidos. No ano passado, por exemplo, a plataforma registrou US$ 100 milhões em vendas em um único dia, durante a Black Friday.
Desde que começou a testar o recurso nos Estados Unidos, em 2022, a empresa vem enfrentando diversos desafios relacionados à qualidade do marketplace.
Embora o TikTok mantenha uma longa lista de itens proibidos em seu site, operadores experientes conseguem burlar os filtros para vender produtos como xarope de THC e brinquedos sexuais. “Dupes”, versões falsificadas de itens populares, também têm causado problemas para o aplicativo de compras sociais.
A aplicação automatizada das regras pela empresa já irritou alguns vendedores, que afirmam ter recebido notificações de violação sem uma explicação clara.
