Especialistas de EUA e China propõem para IA ações de segurança semelhantes às do setor nuclear

Vale do Silício X Shenzhen: as cidades que viraram polos da disputa tecnológica entre China-EUA
Reprodução/TV Globo
Um sistema de inteligência artificial que interfira na rede de comando nuclear ou lance uma operação militar digital pode deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo foi responsável pelo ataque, segundo especialistas em segurança dos EUA e da China.
Os especialistas, que participam de um diálogo entre EUA e China e ajudam a orientar discussões oficiais, recomendam que os dois governos se preparem para esses cenários, em meio a preocupações crescentes com sistemas cada vez mais poderosos e autônomos.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
As propostas incluem limites rígidos para sistemas nucleares, controle humano sobre ataques digitais de grande impacto e uma linha direta para incidentes envolvendo IA autônoma.
As recomendações foram publicadas na semana passada, antes das negociações sobre IA previstas em nível governamental e de uma reunião marcada para 24 de setembro, em Washington, entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping.
Agora no g1
Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
As propostas mostram que a rivalidade entre EUA e China em IA vai além da disputa por chips e modelos avançados.
Ela também abrange temas há muito associados ao controle de armas, como evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação entre rivais com armas nucleares quando a tecnologia se comporta de forma inesperada.
O ministro da Segurança do Estado da China, Chen Yixin, escreveu nesta semana, em um veículo de comunicação do governo, que a IA “transforma fundamentalmente a forma da luta militar”.
Segundo ele, a tecnologia deixou de ter um papel coadjuvante no campo de batalha e passou a ocupar uma posição central, citando ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã.
Linhas vermelhas
Sisson, da Brookings Institution, argumenta que apenas seres humanos devem ter autoridade para iniciar ataques digitais com uso de IA contra sistemas de comando, controle e comunicação nucleares de outro país ou infraestruturas estratégicas.
Um sistema autônomo poderia falhar, extrapolar suas instruções ou ser comprometido. Ao mesmo tempo, o país alvo do ataque poderia ter dificuldade para saber se a ação foi acidental ou ordenada pelo país rival.
Jiang, da Universidade de Fudan, propôs limites explícitos para impedir que a IA decida de forma independente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Ele também defendeu proteções para infraestruturas críticas, como energia, finanças e saúde.
Ele também defendeu uma definição comum de “controle humano significativo”, para evitar que os dois países usem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.
A proposta se baseia em um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi em novembro de 2024: o de que os seres humanos devem manter o controle sobre as decisões de uso de armas nucleares.
Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, escreveu em fevereiro que esse era um importante ponto de convergência entre EUA e China, apesar dos sinais de que ambos os países vêm integrando a IA de forma cada vez mais profunda a sistemas nucleares e ligados à energia nuclear.
Máquinas agem mais rápido
Jiang também propôs uma linha direta militar exclusiva entre os EUA e a China para incidentes envolvendo IA. Segundo ele, as trocas digitais automatizadas podem se intensificar rapidamente, reduzindo o tempo disponível para a intervenção humana.
A IA defensiva de um país poderia responder automaticamente a atividades suspeitas. O outro lado, por sua vez, poderia interpretar a reação como um ataque e retaliar antes de entender o que realmente aconteceu.
Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou ainda estava sob investigação, antes que fosse tratada como uma ação estatal deliberada.
No entanto, especialistas, entre eles Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade da linha direta de comunicação para crises militares já existente entre os EUA e a China.
Eles citam a recusa de autoridades chinesas em atender às ligações de seus homólogos norte-americanos sobre o “incidente do balão espião”, em fevereiro de 2023.
A rígida hierarquia da burocracia chinesa também impede que oficiais de baixo escalão tomem a iniciativa em interações com seus homólogos norte-americanos, escreveu ela em um artigo publicado no War on the Rocks em janeiro.
“Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais”, disse ela.
Opiniões em Washington e Pequim
Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua, mas a China vem incorporando cada vez mais a IA à sua estrutura de controle de armas.
A IA é uma área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, responsável também por questões relacionadas a armas nucleares, não proliferação, mísseis e outros temas de segurança internacional.
Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra, em junho, que a IA militar pode afetar a estabilidade estratégica, aumentar os riscos de erros de cálculo e ampliar o risco de escalada de conflitos. Segundo ele, as armas devem permanecer sob controle humano.
A China também argumenta que a segurança da IA não deve servir de pretexto para a criação de barreiras tecnológicas.
Washington não possui um órgão único equivalente para tratar do controle de armas relacionado à IA. A política de segurança nacional é dividida entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.
Ambos os governos seguem cautelosos em relação a medidas que possam desacelerar seu desenvolvimento tecnológico.
Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos dos EUA uma tentativa de preservar a liderança norte-americana.