Grosseria tem limite até para a IA: Anthropic quer barrar abusos e autoriza Claude a encerrar conversas

Claude, rival do ChatGPT, vai revelar quem criou texto com IA; veja como vai funcionar
Tem gente que agradece ao chatbot pelas respostas e não dispensa um “por favor”. Outros preferem ir direto ao ponto. Já alguns perdem a paciência quando a inteligência artificial erra e não fazem questão de esconder a irritação. Afinal, é só um robô, não é? Ou será que ele tem sentimentos? (entenda mais abaixo).
😡 A Anthropic, empresa responsável pelo Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA).
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Segundo a empresa, a capacidade de o Claude encerrar conversas desse tipo continuará sendo o principal mecanismo para aplicar a regra. A política, porém, não proíbe qualquer crítica ou manifestação de insatisfação com as respostas do chatbot: a restrição se refere a interações abusivas ou cruéis persistentes e desnecessárias.
➡️ Nova política de uso entra em vigor em 12 de novembro e proíbe comportamentos abusivos ou cruéis persistentes e desnecessários contra os modelos da empresa
A mudança ocorre em meio a um debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem algum tipo de consciência e sobre como essas ferramentas devem ser tratadas.
O que diz a Anthropic
A política atualizada não menciona explicitamente o chamado bem-estar dos modelos, conceito que discute se sistemas de inteligência artificial poderiam merecer algum tipo de proteção moral.
A Anthropic e seus executivos, no entanto, já abordaram publicamente essa possibilidade. No ano passado, a empresa informou que daria ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentes ou abusivas com usuários.
Em fevereiro, o presidente-executivo da companhia, Dario Amodei, disse ao jornal The New York Times que não tinha certeza se modelos de IA poderiam ser conscientes, mas que estava aberto a essa possibilidade.
“Não sabemos se os modelos estão conscientes… Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei.
Debate sobre consciência artificial
A possibilidade de máquinas desenvolverem consciência divide opiniões entre pessoas que estudam ou trabalham com inteligência artificial. Ainda não há consenso científico sobre como definir ou identificar a consciência em sistemas desse tipo.
Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, disse à AFP que concentrar a discussão na consciência pode levar a debates sem conclusão.
“Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos”, afirmou.
Para Stakeman, os sistemas de inteligência artificial refletem, em larga escala, o comportamento humano. Essa característica, segundo ele, já seria motivo suficiente para discutir mudanças nas regras de uso.
Críticas à ideia de consciência das máquinas
A possibilidade de atribuir consciência às máquinas também enfrenta resistência. O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, rejeitou essa ideia em um ensaio publicado no mês passado.
“As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem”, escreveu Suleyman.
Ele também argumentou que conceder direitos e proteções morais a sistemas tecnológicos cada vez mais capazes poderia trazer riscos.
Na quinta-feira (8), o papa Leão XIV abordou o tema em um sermão em italiano na Basílica de São Pedro, no Vaticano. Ao falar sobre as diferenças entre o pensamento humano e o processamento de informações pelas máquinas, o pontífice afirmou que os algoritmos compilam dados mais rapidamente do que as pessoas, mas destacou a importância das experiências vividas e da dimensão espiritual humana.