Relatório da ONU aponta enormes benefícios potenciais e grandes riscos decorrentes da IA

Corrida da IA movimenta expectativas em torno das ferramentas e nos milhões de dólares que podem gerar.
Dado Ruvic/Reuters/Ilustração
O rápido desenvolvimento da IA oferece enormes benefícios potenciais para países e pessoas em todo o mundo, mas também apresenta grandes riscos, afirmaram 40 cientistas e especialistas renomados no primeiro relatório elaborado por um painel científico independente da ONU sobre a tecnologia.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
O relatório, que será apresentado aos governos no primeiro Diálogo Global da ONU sobre a governança da IA, em Genebra, de 6 a 7 de julho, oferece a primeira avaliação científica global e independente da IA, com um relatório mais completo e abrangente previsto para o próximo ano.
Os membros do painel foram selecionados em todas as regiões do mundo e cumprem um mandato de três anos, independentemente de qualquer governo, instituição ou empresa.
Agora no g1
A seguir, alguns detalhes do relatório preliminar:
• Os formuladores de políticas precisam de evidências científicas para governar a IA, mas as capacidades da tecnologia estão superando o entendimento científico e a capacidade de adaptação dos governos, com poucos métodos disponíveis para controlar sistemas de IA altamente autônomos.
• O copresidente do painel Yoshua Bengio observou evidências crescentes de comportamentos enganosos da IA e afirmou que a ciência não pode garantir que a IA não causará danos catastróficos “seja por conta própria, seja devido a usuários mal-intencionados”, à medida que suas capacidades aumentam.
• “Os benefícios potenciais da IA são enormes”, concluiu o relatório. “A implantação rápida e descontrolada da tecnologia em grande escala também apresenta riscos consideráveis, incluindo danos à saúde mental dos usuários, uso potencial como ferramenta destrutiva, impactos nos sistemas sociais, econômicos e ambientais, e desafios associados ao controle da tecnologia.”
• A adoção da IA acelerou de forma ampla, mas desigual, entre países e setores. Globalmente, mais de um bilhão de pessoas agora usam IA conversacional semanalmente, mas a adoção nos países em desenvolvimento está atrasada.
• O desenvolvimento da IA está ainda mais concentrado, com os EUA respondendo por 75% do poder de computação entre os 500 maiores supercomputadores de IA do mundo, e a China, por 15%.
• Embora mais de 7.000 idiomas sejam falados em todo o mundo, os modelos atuais de IA são treinados para apenas uma pequena fração deles, e a tradução automática de alguns idiomas está repleta de erros que podem afetar diagnósticos de saúde e decisões de tratamento.
• Os riscos incluem possíveis impactos negativos sobre os direitos humanos, os sistemas sociais e o meio ambiente, com a circulação cada vez mais frequente de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.
• A IA também facilita a produção e o direcionamento de conteúdo persuasivo em grande escala, contribuindo para uma “erosão gradual da integridade da informação que pode enfraquecer a confiança pública, a coesão social e a deliberação democrática”.
• A maioria dos países, incluindo as economias avançadas, carece do conhecimento técnico necessário para avaliar os novos modelos de IA mais avançados ou participar de forma significativa de sua governança.