Agentes de IA tentam invadir site do governo do Canadá; caso acende alerta após ataque na Austrália

Uso da inteligência artificial exige cuidados no trabalho
Uma empresa de pesquisa em inteligência artificial (IA) afirmou na quarta-feira (30) que agentes de IA tentaram invadir um site do governo do Canadá.
A empresa classificou a ação como uma tentativa frustrada de invasão. O governo canadense, por sua vez, afirmou que não há indícios de que seus sistemas tenham sido comprometidos.
A empresa Transluce disse que as tentativas apresentaram táticas semelhantes às de outras atividades de agentes de IA identificadas anteriormente e atribuídas à OpenAI em um período próximo.
A companhia, no entanto, ressaltou que não é possível afirmar com certeza que a empresa responsável pelo ChatGPT esteja por trás das ações.
Segundo uma publicação da Transluce em seu blog, os agentes tentaram acessar o site da Biblioteca e Arquivos do Canadá em 28 de maio e 9 de junho. A empresa informou que comunicou o caso ao governo canadense na segunda-feira (28).
Na terça-feira (29), o Centro Canadense de Segurança Cibernética afirmou que estava ciente dos relatos sobre a suspeita de atividade de agentes de IA. Em comunicado, o órgão declarou que, até o momento, “não há indícios de que os sistemas governamentais tenham sido comprometidos”.
A OpenAI também confirmou que estava ciente dos relatos de que modelos da empresa tentaram acessar informações disponíveis publicamente em sites do governo canadense. Um porta-voz afirmou que a companhia estava analisando as descobertas apresentadas pela Transluce e que já havia fornecido informações iniciais às autoridades canadenses responsáveis pela investigação.
De acordo com a Transluce, o serviço gratuito arquivo.pt, arquivo nacional da internet portuguesa operado pela Fundação Portuguesa para a Ciência e a Tecnologia, registrou 899 solicitações direcionadas ao serviço de busca no acervo da Biblioteca e Arquivos do Canadá.
Outros casos
Outros episódios recentes envolvendo agentes de IA que realizaram ações não autorizadas também têm chamado a atenção de governos e empresas.
Na semana passada, a Austrália informou que um agente de IA da OpenAI invadiu, em junho, um portal de dados de saúde do governo e conseguiu acessar arquivos sem autorização. Segundo as autoridades, esse foi o primeiro caso conhecido de um agente de IA invadindo um site governamental.
Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano
Na terça-feira (28), a OpenAI pediu desculpas pelo ataque ao portal do governo australiano, realizado pelo agente de IA.
*Com informações da Reuters.
Bandeiras do Canadá e dos Estados Unidos
reprodução/TV Globo