Entenda os pontos-chave do código de boas práticas assinado pelas gigantes da inteligência artificial

Na Casa Branca, maiores empresários de inteligência artificial dos EUA assinam acordo de autorregulação
As gigantes da tecnologia dos Estados Unidos assinaram, nesta segunda-feira (30), um código de boas práticas na Casa Branca, com o objetivo de gerenciar melhor os riscos associados à inteligência artificial, em resposta ao crescente número de incidentes de segurança relacionados a essa tecnologia.
Seus principais elementos são:
Acordo voluntário
Relutante em pressionar por restrições ao setor da IA tanto em nível nacional quanto internacional, o presidente americano, Donald Trump, apresentou uma carta de princípios muito breve, de apenas uma página, cuja adesão é “moralmente vinculativa”.
“No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos”, afirma o documento, assinado por figuras proeminentes do setor de IA, de Elon Musk (X) a Dario Amodei (Anthropic), e incluindo Sundar Pichai (Google) e Jensen Huang (Nvidia).
Isso ocorre em um momento de crescentes apelos por regulamentações vinculativas, vindos de empresas como Anthropic (Claude) e OpenAI (ChatGPT), assim como de responsáveis políticos, particularmente do Partido Democrata nos Estados Unidos, e governos ao redor do mundo.
LEIA TAMBÉM: Sob pressão, donos de big techs anunciam que vão criar as próprias regras para o setor
Riscos
Os fornecedores de modelos de IA se comprometeram a estabelecer “quatro níveis” de supervisão.
O primeiro nível envolve a implementação de controles internos robustos para garantir que essas ferramentas sigam as instruções dos desenvolvedores, principalmente em relação à segurança cibernética e à biossegurança.
O objetivo é prevenir a introdução, disseminação e liberação de patógenos ou “riscos químicos”.
As empresas deverão criar equipes especializadas responsáveis por esses controles e por verificar se os modelos não lançam ataques cibernéticos ou obtêm acesso não autorizado a sistemas técnicos.
OpenAI, Anthropic e Google relataram recentemente diversos incidentes envolvendo comportamentos inesperados de seus sistemas de IA. Por exemplo, os agentes de IA da OpenAI, programas capazes de ações autônomas, acessaram recentemente o site de um sistema de saúde australiano e plataformas do governo dos EUA por iniciativa própria.
O investimento privado em inteligência artificial é imenso, chegou a US$ 285 bilhões
Jornal Nacional/ Reprodução
Auditoria
O código de boas práticas também prevê a participação de avaliadores externos para realizar auditorias independentes com o objetivo de determinar se as medidas implementadas pelas empresas são eficazes.
Anthropic e OpenAI já colaboram com esse tipo de avaliador externo e ambas anunciaram, nas últimas semanas, uma ampliação do acesso para que empresas de auditoria examinem seus modelos, principalmente durante a fase de projeto e não apenas antes da implementação.
A Anthropic afirmou ainda que não exercerá “nenhum controle editorial” sobre a publicação dos resultados dessas avaliações independentes, mesmo que sejam desfavoráveis à empresa.
Normas definidas
A carta também prevê a criação de um comitê independente composto por representantes das diversas empresas nos mais altos níveis de gestão.
Este órgão será responsável por revisar avaliações internas e externas de modelos de IA e garantir a resolução de quaisquer problemas potenciais.
As empresas também se comprometeram a se reunir “regularmente para estabelecer normas e boas práticas”.
A iniciativa parece estar alinhada com o projeto que OpenAI, Anthropic e Google DeepMind começaram a desenvolver anteriormente.
Em meados de setembro, essas três empresas indicaram que estavam trabalhando na criação de um órgão supervisor para riscos relacionados à IA, inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA), um órgão autorregulador do setor financeiro.
No entanto, esse modelo já atraiu fortes críticas de empresas concorrentes do setor, como a francesa Mistral e a canadense Cohere, que acusam as gigantes da tecnologia americanas de quererem definir suas próprias regras e, assim, proteger sua vantagem competitiva.