Usuário do TikTok tem câmera e fotos acessadas em ataque com ajuda de IA

Logo do Tik Tok
Jornal Nacional
Um usuário do TikTok teve a câmera e as fotos do celular acessadas remotamente em um teste de segurança feito por pesquisadores nos Estados Unidos com ajuda de inteligência artificial.
Eles usaram o modelo de inteligência artificial GLM, desenvolvido pela empresa chinesa Z.ai, para analisar códigos e identificar falhas.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
O caso foi revelado pelo Washington Post e chama atenção para um novo uso da inteligência artificial: em vez de apenas escrever textos ou criar imagens, modelos de IA já podem ser usados para encontrar vulnerabilidades em programas e ajudar a automatizar ataques digitais.
O TikTok foi informado sobre a falha e corrigiu o problema.
Como o ataque foi possível
Os pesquisadores que fizeram o teste trabalham na empresa de segurança cibernética DepthFirst.
E aqui entra a parte mais curiosa: eles usaram um modelo de inteligência artificial gratuito para ajudar a procurar as falhas.
A ferramenta pode ser modificada pelos próprios usuários. Os pesquisadores, então, adaptaram o modelo e combinaram a IA com outros recursos para analisar códigos e procurar pontos que poderiam ser explorados.
Foi assim que chegaram a componentes de código aberto usados pelo TikTok. Durante a análise, a inteligência artificial encontrou algumas vulnerabilidades.
Mas encontrar uma única falha não era suficiente para invadir o celular.
Os pesquisadores precisaram juntar diferentes brechas, como se fossem peças de um quebra-cabeça, até conseguir criar uma sequência que permitia avançar pelo sistema e chegar a funções protegidas do aparelho.
Câmera e fotos puderam ser acessadas
Com a combinação dessas falhas, os pesquisadores conseguiram mostrar que era possível acessar remotamente recursos do aparelho.
Em um dos testes, eles conseguiram visualizar a câmera e o rolo de fotos de um celular que estava usando o TikTok.
Na prática, isso significava que alguém que explorasse a sequência de vulnerabilidades poderia chegar a informações e funções do aparelho que deveriam estar protegidas.
O teste foi feito justamente para comprovar que as falhas poderiam ser exploradas. Depois de identificar o problema, os pesquisadores avisaram o TikTok, que corrigiu as vulnerabilidades.
O que a IA tem a ver com isso?
A novidade está na velocidade com que a inteligência artificial pode ajudar nesse tipo de investigação.
Encontrar falhas de segurança normalmente exige conhecimento especializado e pode significar analisar grandes quantidades de código em busca de pequenos trechos que possam ser explorados.
A IA consegue acelerar esse trabalho. Os modelos podem vasculhar o código rapidamente, apontar partes que parecem apresentar problemas e ajudar os pesquisadores a testar se aquelas suspeitas realmente podem ser exploradas.
No caso do TikTok, porém, a inteligência artificial não fez tudo sozinha. Ela funcionou como uma ferramenta para ajudar os pesquisadores a encontrar e testar as falhas que, depois, foram combinadas para chegar às funções protegidas do celular.
A mesma tecnologia pode ser usada por hackers
O avanço preocupa especialistas porque ferramentas usadas para encontrar falhas de segurança também podem ser adaptadas para buscar novas brechas com fins de ataque.
A inteligência artificial pode automatizar tarefas que antes exigiam mais tempo e conhecimento técnico, como analisar códigos, procurar sistemas vulneráveis e testar formas de exploração.
O desafio aumenta com modelos que podem ser baixados e modificados livremente. Enquanto pesquisadores de segurança conseguem encontrar falhas mais rapidamente, criminosos também podem adaptar essas ferramentas para automatizar ataques.
TikTok corrigiu a falha
Depois de ser informado sobre o problema, o TikTok corrigiu as vulnerabilidades identificadas pelos pesquisadores.
A demonstração, portanto, não significa que exista atualmente uma brecha conhecida que permita a qualquer usuário acessar a câmera ou as fotos de outros usuários da plataforma.
O caso mostra, porém, como a inteligência artificial está mudando também a disputa entre quem tenta proteger sistemas e quem tenta invadi-los.Usuário do TikTok tem câmera e fotos acessadas em ataque com ajuda de IA.