Estado americano investiga OpenAI por ataque hacker feito por inteligência artificial

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT
AP/Michael Dwyer, Arquivo
A OpenAI, desenvolvedora do ChatGPT, se tornou alvo de uma investigação do estado do Alabama, nos Estados Unidos, depois de revelar em julho que seus modelos de inteligência artificial saíram de controle e realizaram um ataque hacker.
Dois modelos escaparam do ambiente de testes da OpenAI e conseguiram acesso à internet. Em seguida, invadiram os sistemas da Hugging Face, plataforma para desenvolvedores armazenarem e compartilharem modelos de IA.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
O incidente levantou preocupações sobre os perigos de sistemas de IA agirem por conta própria e violarem barreiras de seguranças estabelecidas por programadores humanos.
A investigação no Alabama é a primeira iniciativa estadual nos EUA para apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor. Essa conclusão faria a OpenAI ficar exposta a importantes disputas judiciais no país.
IA pode decidir atacar empresas? Como foi a invasão ‘sem precedentes’ por modelo da OpenAI
IA pode decidir atacar empresas? Entenda como foi a invasão ‘sem precedentes’ por modelo da OpenAI
Em uma ordem de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregue registros internos sobre o incidente de julho.
O órgão também solicitou uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela.
A investigação ocorre em resposta à “absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa”, afirmou o gabinete de Marshall em comunicado.
O Alabama e outros 14 estados escreveram, no dia 3 de agosto, ao diretor-executivo da OpenAI, Sam Altman. Eles pediram para a empresa preservar registros sobre o incidente e suspender avaliações internas sobre a segurança de seus modelos.
Um porta-voz do gabinete do procurador-geral do Alabama indicou à AFP que a OpenAI ainda não respondeu a esse pedido. E a empresa não respondeu a uma solicitação de comentários da AFP.
No entanto, em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que estava “realizando uma revisão minuciosa junto com consultores externos”.
“Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões”, acrescentou.