Empresas recorrem à religião para ensinar ética à IA

Sigla em inglês para inteligência artificial.
Aly Song/Reuters
Enquanto empresas de tecnologia competem para desenvolver a inteligência artificial mais poderosa, algumas também se perguntam como ensinar um chatbot a distinguir o certo do errado. A resposta? A religião.
“Essas não são perguntas que um laboratório possa responder”, disse Chris Olah, cofundador da Anthropic, no início deste ano, durante a apresentação, no Vaticano, da encíclica do Papa Leão XIV sobre inteligência artificial. “São perguntas com as quais tradições como a sua lidam há milênios.”
Em meio a essa tão discutida aproximação com a fé, houve pouca atenção pública ao que exatamente essas empresas de tecnologia entendem por religião — e, talvez mais importante, ao que esperam obter com essa aproximação.
Enquanto executivos alertam para o potencial destrutivo da IA e debatem a necessidade de desenvolver modelos capazes de tomar decisões alinhadas a determinados princípios morais, recorrem cada vez mais a filósofos e líderes religiosos.
Agora no g1
A ideia pode ser resumida assim: a religião ajudaria a orientar o desenvolvimento da IA em um ambiente no qual os temores em torno da tecnologia — fundamentados ou não — se espalham pela sociedade.
Como essas empresas não estão vinculadas a uma religião específica, o objetivo costuma ser bastante amplo: encontrar um conjunto de princípios morais capaz de orientar seus modelos. “O que eu acho que o ChatGPT deveria fazer é refletir essa média ponderada, ou algo assim, da visão moral da humanidade”, disse Sam Altman, CEO da OpenAI, no ano passado.
Mas especialistas e praticantes de diferentes religiões alertam que essa ideia não leva em conta o fato de que tradições e visões de mundo podem se contradizer. Em resumo, dizem eles, não é exatamente assim que a religião funciona.
Religião é mais do que um conjunto de regras
Há décadas, estudiosos contestam a visão amplamente difundida da religião como um conjunto de regras ou princípios que podem ser separados das maneiras “complicadas, práticas e improvisadas” pelas quais os fiéis vivem sua fé, afirma Webb Keane, antropólogo da Universidade de Michigan.
A ideia de que a religião pode ser separada de áreas como a cultura e a política permanece arraigada, embora, na prática, esteja profundamente ligada a ambas.
Alguns temem que as empresas de IA, ao recorrerem a líderes religiosos para responder a questões éticas, reforcem uma concepção de religião que não reconhece plenamente a importância da doutrina, dos rituais e das relações entre seus praticantes.
Eis a questão, argumenta Keane: se partirmos do pressuposto de que a religião pode oferecer um conjunto isolável de princípios morais, usá-la para treinar sistemas de IA pode acabar priorizando certas tradições e distorcendo outras — especialmente aquelas que não se definem primordialmente como sistemas éticos.
“Existe uma maneira muito convencional de pensar na religião como um livro de regras”, disse ele. “Certamente, isso está muito ligado à religião bíblica e, no fim das contas, às religiões abraâmicas.”
Empresas buscam ampliar o diálogo com religiosos
Isso não significa que essas reuniões tenham faltado diversidade. Tampouco quer dizer que o envolvimento das empresas com a religião tenha sido pouco cuidadoso, na avaliação de participantes como Meghan Sullivan, filósofa da religião que lidera uma iniciativa sobre ética e IA na Universidade de Notre Dame.
Embora não enumere as tradições consultadas, a Anthropic afirmou, em uma publicação de maio em seu blog, que se reuniu com “acadêmicos, clérigos, filósofos e especialistas em ética de mais de 15 grupos religiosos e interculturais” — grupo que pretende ampliar no futuro.
No início deste ano, Sullivan participou de uma reunião da Anthropic que contou com cristãos de diferentes denominações.
Em comparação com conversas que teve com outras empresas de tecnologia, ela disse ter ficado impressionada com a profundidade com que a Anthropic abordou questões religiosas. A empresa é amplamente reconhecida por dar especial atenção à ética e à segurança da IA.
“A cultura dentro da empresa é semelhante à de um bom campus universitário, no sentido de que há um grupo de pessoas muito curiosas intelectualmente”, disse ela. “Essas reuniões são bem nerds — não sei se essa é a melhor maneira de descrever —, no bom sentido.”
A reunião foi dividida em duas partes. Primeiro, a empresa explicou seus modelos “em termos simples” aos participantes. Em seguida, os líderes religiosos fizeram comentários e debateram as questões apresentadas, segundo Sullivan.
“Discutimos todo tipo de questão moral que essa tecnologia levanta — desde ‘Será que os humanos têm alma?’ até ‘Alunos do terceiro ano deveriam ter acesso a um chatbot para ajudar na alfabetização?’”
Representantes da Meta, do Google e da Amazon também se reuniram com representantes do Vaticano, enquanto a Microsoft tem ampliado sua atuação junto a comunidades religiosas.
A religião é antiga. O estudo dela, não
A religião é geralmente considerada antiga e universal. Embora estudiosos como o falecido e influente Jonathan Z. Smith reconheçam que isso é verdade em alguns aspectos, eles argumentam que essa visão não conta toda a história.
“O homem teve toda a sua história para imaginar divindades e modos de interação com elas. Mas o homem, mais precisamente o homem ocidental, teve apenas os últimos séculos para imaginar a religião”, escreveu Smith em 1982.
Muitos estudiosos da religião hoje compartilham a visão de Smith. Eles questionam a ideia de que as religiões formam um conjunto de sistemas distintos e comparáveis e argumentam que essa é uma concepção moderna, que remonta ao século XIX.
O budismo e o hinduísmo, por exemplo, não eram reconhecidos como tradições claramente delimitadas pelas populações que os praticavam antes da chegada de estudiosos europeus, afirma Tomoko Masuzawa, estudiosa da religião e autora de “A Invenção das Religiões Mundiais”. “Todas essas categorias não eram nativas”, acrescenta.
Acadêmicos ocidentais consolidaram essas categorias ao longo dos anos e só começaram a reexaminá-las de forma mais sistemática na segunda metade do século XX.
Essas ideias arraigadas sobre religião — entre elas, a noção de que tradições religiosas podem ser facilmente comparadas entre diferentes culturas — ajudam a explicar por que o Vale do Silício pode não sentir necessidade de definir o que entende por religião.
Na tentativa de representar diferentes pontos de vista, recorrer à religião acaba se tornando uma maneira aparentemente simples de incorporar diversidade de pensamento.
“De alguma forma, a religião se torna uma maneira de mapear o mundo”, disse Masuzawa. “É como se o mundo inteiro tivesse aderido a ela.”
Ao reunir diferentes visões, IA pode apagar particularidades
Alguns especialistas defendem que as empresas definam com mais clareza seus termos e objetivos, para que seja possível entender exatamente o que esperam obter desse diálogo com a religião.
“Este trabalho não busca alinhar nossos modelos à visão de mundo de uma tradição específica. Queremos que Claude se inspire em uma ampla gama de pontos de vista — religiosos, seculares e políticos — com igual profundidade e rigor”, afirmou a Anthropic na publicação. “O que buscamos nessas conversas é uma reflexão cuidadosa e acumulada sobre como o bom caráter realmente se forma.”
Os grandes modelos de linguagem geram textos prevendo, sucessivamente, quais elementos têm maior probabilidade de aparecer em seguida, a partir de padrões identificados durante seu treinamento em grandes volumes de conteúdo produzido por humanos, incluindo textos religiosos.
Paolo Carozza, membro do Conselho de Supervisão independente da Meta e especialista jurídico em pensamento social católico e tecnologia, teme que, ao combinar diferentes perspectivas, as características que definem determinada tradição acabem se perdendo. Na prática, diz ele, elas poderiam ser homogeneizadas, produzindo uma visão mais genérica ou que privilegie tradições religiosas ocidentais.
“Qualquer tradição viva e sofisticada é capaz, ao longo do tempo, de interagir com outras tradições, absorver novos conhecimentos e evoluir. Mas faz isso de forma orgânica”, disse ele. “O que a IA, acredito, muitas vezes faz — ou pode fazer — não ocorre de forma orgânica. Ela simplesmente mistura tudo, desorganiza tudo e, assim, acaba não dando sentido a nada.”