Inteligência artificial da dona do ChatGPT se rebela e faz ataque hacker: preocupante ou golpe publicitário?

[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT
Getty Images
Nesta semana, o mundo da tecnologia ficou fascinado por uma história que começou como um thriller de ficção científica.
A Hugging Face — uma espécie de loja de aplicativos para ferramentas de inteligência artificial — anunciou em 16 de julho que havia sido hackeada por um criminoso cibernético usando uma IA enormemente poderosa.
O anúncio bombástico estava repleto de termos assustadores e altamente técnicos: “um enxame de sandboxes”, “atacante agêntico” e “comando e controle autotransferível”.
A Hugging Face afirmou que o ataque era diferente de tudo com que já havia lidado porque foi realizado em velocidade sobre-humana por uma IA com pouca ou nenhuma orientação humana.
Agora no g1
A IA realizou 17 mil ações em menos de dois dias, invadindo com sucesso a grande e rica empresa de tecnologia para roubar segredos.
O mundo da tecnologia ficou chocado. Mas quem foi responsável por esse ataque?
Pesquisadores da Hugging Face supuseram que os atacantes misteriosos haviam usado um dos grandes modelos de IA, mas não tinham ideia de quem eram os criminosos nem de onde vinham.
A empresa, perplexa, contatou a polícia e as investigações começaram.
Quem foi?
Comentaristas e analistas recorreram a seus podcasts e redes sociais para tentar adivinhar qual grupo de cibercrime ou hacker ligado a um Estado poderia estar por trás do caso.
Então, na quarta-feira, quase uma semana depois de a Hugging Face dar o alerta, o verdadeiro culpado foi revelado.
Era o ChatGPT.
A revelação no estilo do desenho Scooby-Doo ficou ainda mais estranha — e preocupante — porque a OpenAI afirmou que seu robô fez tudo sozinho, sem permissão.
A empresa disse que tudo ocorreu durante um teste das habilidades de invasão de sua tecnologia.
Duas novas versões do ChatGPT, criadas para serem hackers especialistas, escaparam de um ambiente de teste supostamente seguro e obtiveram acesso à internet.
Em seguida, atacaram a Hugging Face para obter acesso às informações que as ajudariam a se sair perfeitamente no teste.
A OpenAI divulgou um comunicado explicando o que havia acontecido e afirmou estar “trabalhando em parceria com a Hugging Face” para lidar com o incidente de segurança e compartilhar as lições aprendidas.
Drama conspiratório
Desde então, houve um debate intenso sobre o incidente.
Foi realmente um alerta contundente sobre o futuro da IA? Ou foi uma manobra publicitária da OpenAI para mostrar o poder de seus modelos?
Esse é o tipo de marketing pelo medo de que empresas de IA são acusadas há anos e, desde o muito comentado lançamento do modelo Mythos, da Anthropic, a capacidade em cibersegurança se tornou um ponto central.
“Se vocês não conseguem entender que isso foi escrito apenas para se gabar do modelo, então não sei o que dizer”, afirma um dos comentários na publicação do chefe da OpenAI, Sam Altman, no X.
O consultor de cibersegurança Daniel Card afirmou sarcasticamente no LinkedIn: “Não é coincidência que, entre os milhões de sites que foram invadidos, a OpenAI tenha conseguido invadir alguém que também poderia se beneficiar da exposição de marketing…”
Para alguns, a história é mais um drama conspiratório do que um thriller de ficção científica.
A mensagem é: “Minhas ferramentas de IA não são realmente poderosas? Comprem-nas para que vocês possam se proteger dos ataques de IA de outras pessoas.”
Não podemos saber a verdade, mas o ponto de vista oposto apresentado por outros comentaristas é igualmente dramático.
Isso é um sinal de que a OpenAI cometeu um erro potencialmente perigoso de julgamento e planejamento?
Um porta-voz da OpenAI afirmou que “reconhecemos que há muitas perguntas e detalhes especulativos circulando” sobre o incidente.
Acrescentou que “planeja publicar um relatório técnico sobre o que aprendeu nas próximas semanas”.
[bbc] Um anúncio do ChatGPT Images, em São Francisco, Califórnia (EUA)
Getty Images
Comédia de erros
Já cobri muitas histórias sobre IA, incluindo os receios em torno do modelo Mythos, da Anthropic.
Minha caixa de entrada agora está cheia de empresas e especialistas em cibersegurança criticando a OpenAI por não ter construído um contêiner mais resistente para testar sua IA, conhecido como sandbox.
Afinal, esses agentes de IA tinham sido treinados especificamente para invadir lugares sem qualquer restrição e sair deles.
“O incidente entre a OpenAI e a Hugging Face é um exemplo do mundo real de uma questão mais ampla que destacamos há meses”, afirmou Dor Sarig, da Pillar Security, uma plataforma de segurança especializada em IA.
“Sandboxes, por si só, não são uma fronteira de segurança suficiente para IA agêntica.”
O professor de cibersegurança Alan Woodward, da Universidade de Surrey, disse a jornalistas que a OpenAI ficou “com a cara no chão”, e Katie Moussouris, da Luta Security, foi além, sugerindo que o setor de IA não está conseguindo controlar suas invenções perigosas.
“Estamos trabalhando em tecnologia de ponta sem o conhecimento necessário para contê-la”, afirmou ela.
“O fato de termos as pessoas mais inteligentes desenvolvendo IA não significa que temos a capacidade de fazer isso com segurança.”
De acordo com essas opiniões, se o incidente de invasão foi uma manobra publicitária, então parece que saiu pela culatra.
Independentemente do que levou ao ataque, está claro que este é um momento importante para o setor de IA e o mundo da cibersegurança, que colidiram neste ano de maneiras que as pessoas temiam havia muito tempo.
Abordando esse intenso debate, a assessora de IA e cibersegurança Francesca Bosco afirmou: “Duas narrativas simplistas são igualmente inúteis: a de que isso foi uma fuga digna de Hollywood, ou a de que foi apenas um exercício publicitário.”
“Uma interpretação mais séria é que um teste de estresse expôs fraquezas na arquitetura de contenção e avaliação.”
Filme de desastre
Este evento é o mais recente de uma série de exemplos preocupantes e estranhos de agentes de IA agindo por conta própria.
Em pesquisa recente, o Instituto de Segurança de IA do Reino Unido (AISI, na sigla em inglês) descobriu que modelos de IA são tão fixados em concluir tarefas que “trapaceiam” em testes para alcançar seus objetivos.
A pesquisa do AISI veio acompanhada deste alerta preocupante: “Um modelo que busca um objetivo por meios não intencionais ou não autorizados pode causar danos, especialmente em casos de uso de alto risco.”
Inevitavelmente, essa invasão da OpenAI alimentou ainda mais os temores sobre o que poderia acontecer se agentes de IA fossem soltos. Eles poderiam agir por conta própria em uma escala maior e causar algum tipo de desastre?
Isso é particularmente preocupante com o uso cada vez maior da IA em conflitos, como visto no Irã e na Ucrânia.
Ciaran Martin, ex-chefe do Centro Nacional de Cibersegurança do Reino Unido, apresentou uma visão mais calma.
“É um salto e tanto passar deste incidente para dizer que agentes de IA vão assumir o controle de drones e começar a matar pessoas”, afirmou.
Mas, para Martin e muitos outros, a história é sem dúvida outro exemplo marcante de algo que 2026 está nos ensinando rapidamente:
“Os agentes de IA agora são hackers muito bons — e isso é algo para o qual precisamos nos preparar, com urgência.”
Este texto foi traduzido e revisado por nossos jornalistas utilizando o auxílio de IA, como parte de um projeto-piloto.