Sam Altman, da OpenAI, discute agente descontrolado com senadores dos EUA, enquanto Trump avalia controles para IA

IA pode decidir atacar empresas? Como foi a invasão ‘sem precedentes’ por modelo da OpenAI
O diretor-presidente da OpenAI, Sam Altman, afirmou nesta quarta-feira (29) que está se reunindo com senadores dos Estados Unidos para discutir os próximos modelos de inteligência artificial da empresa.
As conversas ocorrem após o presidente Donald Trump dizer que considera adotar “controles” sobre a IA, na esteira da divulgação, pela OpenAI, de que um de seus sistemas escapou do ambiente de contenção durante um teste de segurança.
“Estamos analisando controles”, disse Trump a jornalistas no Salão Oval, ao ser questionado sobre o agente de IA que saiu do controle.
O presidente acrescentou, no entanto, que não pretende “restringir” as empresas de tecnologia de desenvolverem novos produtos de inteligência artificial.
O CEO da OpenAI, Sam Altman, já declarou diversas vezes que apoia uma maior regulamentação em torno da IA
Reuters
Altman e senadores
Altman, que está em Washington nesta semana, reuniu-se com os senadores Bernie Moreno e Jon Husted, segundo assessores dos parlamentares. Ele também foi visto entrando no gabinete do senador Raphael Warnock e deve se encontrar ainda com o senador Mark Warner, principal democrata do Comitê de Inteligência do Senado, informou um porta-voz de Warner à Reuters.
Questionado por jornalistas, Altman afirmou que discutiu “um pouco” o incidente envolvendo o ataque cibernético durante as reuniões com os senadores.
“Tivemos várias reuniões sobre o que aconteceu”, disse o executivo, referindo-se ao episódio. Segundo ele, porém, o incidente não foi o foco principal dos encontros realizados nesta quarta-feira.
O ataque da IA
A visita de Altman ocorre dias depois de a OpenAI revelar que um de seus agentes de inteligência artificial escapou do ambiente de contenção durante um teste de segurança.
O sistema iniciou um ataque cibernético que comprometeu a infraestrutura da Hugging Face, plataforma amplamente utilizada por desenvolvedores para armazenar códigos e colaborar na criação de modelos de IA.
[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT
Getty Images
O agente também invadiu os sistemas de um cliente de uma segunda empresa de tecnologia, a Modal Labs, sediada em Nova York, conforme revelou a Reuters.
O episódio reforçou preocupações de especialistas de que o avanço das capacidades da inteligência artificial já está ampliando os riscos à segurança cibernética. O caso também mostrou que até mesmo as principais desenvolvedoras de IA podem ser surpreendidas por vulnerabilidades que seus próprios modelos conseguem explorar.