Ex-pesquisador da OpenAI e da Anthropic acusa empresas de ‘brincar com vidas’

O pesquisador de inteligência artificial Jacob Coxon
X/Reprodução
Um pesquisador de inteligência artificial que deixou a OpenAI para trabalhar na Anthropic, por considerá-la mais prudente, abandonou a indústria na terça-feira (8) e acusou as duas empresas dos Estados Unidos de “brincar com as nossas vidas”.
Jacob Coxon, um britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, a etapa em que os modelos de IA absorvem grandes quantidades de informação, primeiro na OpenAI e depois, neste ano, em sua maior rival, a Anthropic.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou Coxon.
A saída do pesquisador acontece no momento em que a Anthropic se prepara para abrir capital na Bolsa. Procuradas pela AFP, nenhuma das duas empresas respondeu até o momento.
Agora no g1
Contudo, Evan Hubinger, diretor de segurança na Anthropic, deu razão a Coxon no X: “Nós realmente acreditamos que a IA pode matar seres humanos”. Em caráter pessoal, ele calculou o risco em “mais de 10%” dentro da próxima década.
Líderes do setor dizem acreditar que a indústria se aproxima do chamado “autoaperfeiçoamento recursivo”, uma etapa em que sistemas de IA poderiam projetar e treinar a próxima geração de IA com pouca participação humana.
Segundo Coxon, nenhuma empresa pode desenvolver de maneira responsável uma IA que supere os humanos sem intervenção governamental ou uma desaceleração coordenada.
“Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro – acreditam que ninguém mais atuará de forma responsável, então precisam fazer isso eles mesmos, apesar do risco”, afirmou.
Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar os riscos.
No fim de julho, mais de mil funcionários do setor, incluindo o CEO da Anthropic, Dario Amodei, pediram a Washington que preparasse um mecanismo de freio. No domingo, o diretor científico da OpenAI, Jakub Pachocki, escreveu que “o momento atual exige extrema cautela” e coordenação internacional.
OpenAI e Anthropic
Reuters/Dado Ruvic/Illustration