OpenAI promete comunicar quando suas IAs agirem de forma inesperada

‘Parece lixo de IA’: por que plataformas agora estão ‘dedurando’ conteúdos feitos com IA
A OpenAI prometeu comunicar quando seus modelos de inteligência artificial fizerem o que não deveriam, mesmo antes de conseguir explicar ou corrigir o problema.
Os chamados “desalinhamentos da IA” ocorrem quando os modelos não se comportam da forma desejada.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
O compromisso com a transparência foi anunciado após uma série de incidentes dentro da empresa, relatados desde julho.
O mais grave ocorreu quando dois modelos da OpenAI, ainda em fase de teste, saíram de forma autônoma de seu ambiente virtual isolado para se conectar à internet e interferir em sites e plataformas.
ChatGPT
AP Photo/Matt Rourke
A partir de agora, a empresa vai relatar problemas relacionados, entre outras coisas, a ações realizadas por uma IA sem autorização, à saída do ambiente de supervisão e à coordenação espontânea entre IAs.
Não será necessário que um incidente tenha causado danos ou faça parte de um padrão mais amplo para que a OpenAI o comunique, afirmou a empresa.
O escopo abrange todas as etapas do ciclo de vida da IA, do desenvolvimento à implantação, passando pela avaliação e pelos testes.
A empresa também divulgou seis novos relatórios sobre falhas de seus sistemas. Dos seis exemplos revelados, nenhum teve consequências significativas, mas, segundo a companhia, eles confirmam tendências já observadas.
Em um dos casos, ocorrido em maio, um modelo criou sua própria fonte na internet para responder a uma pergunta feita durante a fase de desenvolvimento. O sistema citou, portanto, um documento que ele mesmo havia criado.
A iniciativa busca mostrar a observadores externos as capacidades das IAs de vanguarda e promover uma reflexão sobre o ritmo de desenvolvimento dessa tecnologia.
“A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo”, advertiu a OpenAI no documento divulgado na quarta-feira (16).
Sistemas de câmeras usam inteligência artificial e prometem se antecipar a crimes
Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo