TikTok diz que vai testar sistema para identificar contas que usam IA para criar spam na plataforma

Dancinhas de TikTok e remixes de funk invadem quadrilhas escolares
O TikTok informou nesta sexta-feira (10) que irá fortalecer suas ferramentas, parcerias e mecanismos de segurança para ajudar seus usuários a identificar conteúdos gerados por inteligência artificial (IA).
As novidades anunciadas incluem:
Novos recursos educacionais e mais investimentos no fundo de letramento em IA;
Testes de sistemas aprimorados de detecção para identificar contas dedicadas à publicação de spam gerado por IA, que prejudicam criadores originais; e
Fortalecimento dos padrões técnicos que adicionam metadados criptografados a imagens, vídeos e áudios. Chamado de “selo de procedência”, o recurso permite verificar a autoria, a data e todas as ferramentas de edição utilizadas na criação do conteúdo.
“À medida que essa tecnologia evolui, há também o risco de que ela seja utilizada indevidamente para produzir conteúdo de spam em grande escala, o que acaba ofuscando criadores autênticos”, explicou o TikTok em nota.
Segundo a empresa, a rede social já trabalha há algum tempo no combate ao spam e utiliza tecnologia para remover esse tipo de publicação. “Só no primeiro trimestre deste ano, removemos mais de 86 milhões de contas falsas”, acrescentou a companhia.
Nas próximas semanas, especificamente, o TikTok testará melhorias nos sistemas de detecção de contas dedicadas à publicação de spam gerado por IA em temas que possam representar riscos à confiança ou ao bem-estar do público.
Entre os conteúdos monitorados estão:
Política e atualidades;
Aconselhamento financeiro; e
Conteúdos de saúde.
“Até o momento, classificamos mais de 3 bilhões de vídeos como AIGC [conteúdo gerado por inteligência artificial] por meio de uma combinação das Credenciais de Conteúdo, ferramentas de identificação de criadores e nossa tecnologia de marca d’água invisível”, explicou a empresa.