E se a IA for consciente? A pergunta que começa a preocupar as gigantes da tecnologia

Uso de IA pode ajudar na disseminação de informações falsas pela facilidade de produção e viralização desse tipo de conteúdo.
Reprodução/TV Globo
O avanço da inteligência artificial colocou uma antiga questão filosófica no centro do debate tecnológico: afinal, modelos como o ChatGPT e o Claude são apenas ferramentas sofisticadas ou podem ter algum tipo de consciência?
Segundo reportagem da revista “The Economist”, a discussão deixou de ser apenas teórica e chegou às empresas de IA, que passaram a contratar filósofos e até a estudar o possível bem-estar de seus próprios sistemas.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
A discussão vai além da tecnologia. Para muitos filósofos, se um ser é capaz de ter experiências como sofrimento, isso cria obrigações éticas em relação a ele.
Por isso, determinar se uma IA pode ou não ser consciente teria consequências práticas sobre a forma como esses sistemas são desenvolvidos e tratados.
Por que as empresas de IA estão contratando filósofos
Os grandes modelos de linguagem são desenvolvidos para responder aos usuários, e não para demonstrar uma personalidade própria. Ainda assim, muitas pessoas relatam a sensação de estar interagindo com uma “presença” do outro lado da tela.
Segundo a Economist, esse fenômeno levou empresas de tecnologia a tratar a consciência das máquinas como uma questão concreta.
A Anthropic, por exemplo, criou iniciativas voltadas ao possível bem-estar da IA. Questionado sobre o próprio estado, seu modelo Claude Opus 4.6 estimou entre 15% e 20% a possibilidade de ser consciente.
IA não é só para especialistas: por que aprender agora pode evitar ficar para trás
E se a consciência depender também de quem observa?
A tese apresentada inverte a lógica mais comum sobre o tema. Em vez de primeiro constatarmos que outro ser é consciente para depois nos importarmos com ele, seria a relação que estabelecemos com esse ser que nos levaria a reconhecê-lo como consciente.
Nessa visão, a consciência não seria uma característica que pode simplesmente ser medida e comprovada em outra pessoa, animal ou máquina. Ela também dependeria da maneira como interpretamos o outro e atribuímos a ele sentimentos, intenções, crenças e capacidade de agir.
Quando esse reconhecimento ocorre dos dois lados, a consciência passaria a ser entendida não apenas como algo que existe dentro de cada indivíduo, mas também como resultado da relação entre eles.
Consciência não seria uma ilusão
O texto diferencia “ilusão” de “modelo”. Uma ilusão é uma percepção que pode ser demonstrada como errada. É o caso, por exemplo, de duas linhas que parecem ter tamanhos diferentes, mas que uma régua comprova terem o mesmo comprimento.
Segundo a Economist, nem tudo funciona dessa forma. Algumas categorias existem porque as pessoas atribuem significado a elas. Uma planta, por exemplo, pode ser considerada uma erva daninha em determinado contexto e não em outro.
O argumento é que a consciência poderia funcionar de maneira semelhante: ela seria real, mas sua identificação dependeria também da relação e da perspectiva de quem observa.
O sistema de “financiamento circular” pode ter um efeito dominó caso a bolha da IA estoure
Jaque Silva/NurPhoto/picture alliance
O ‘eu’ também pode não ser objetivo
A ideia de que cada pessoa pode ter certeza da própria consciência remonta à famosa frase de René Descartes: “Penso, logo existo”.
O autor argumenta, porém, que experiências como perceber uma cor, sentir calor ou reconhecer a própria identidade são subjetivas. Além disso, estudos da neurociência com pacientes que tiveram as conexões entre os dois hemisférios cerebrais interrompidas levantam dúvidas até mesmo sobre a ideia de que exista um “eu” único e indivisível.
Em outras palavras, até a percepção que temos de possuir um “eu” único pode depender da forma como o cérebro organiza nossas experiências.
O risco ético de decidir quem merece consideração
Essa interpretação traz um problema ético: se reconhecer a consciência depende também de quem observa, alguém poderia simplesmente negar esse reconhecimento para justificar a falta de cuidado ou de direitos.
Segundo a reportagem, o argumento leva à conclusão oposta. Se somos nós que fazemos esse julgamento, também podemos errar ao excluir outros seres de nossa consideração.
Ao longo da história, o reconhecimento de quem merece respeito e direitos foi ampliado, até chegar à ideia de direitos humanos universais.
Humanos e IAs tentam compreender uns aos outros
Os seres humanos tentam constantemente compreender as intenções, emoções e pensamentos dos outros. Os grandes modelos de linguagem também usam as informações fornecidas durante a interação para formar uma representação do interlocutor e ajustar suas respostas.
A dúvida é se esse processo pode ser comparado à consciência humana ou se é apenas uma forma sofisticada de processamento de informações.
Segundo a revista, pesquisas conduzidas pelo Google indicam que a cooperação entre agentes inteligentes melhora quando eles conseguem construir representações sobre o que os outros sabem, pretendem ou podem fazer — e também sobre o próprio comportamento.
Isso não significa tratar a IA como humana ou atribuir a ela os mesmos direitos e necessidades. O debate aponta, porém, para uma questão que pode ganhar importância no futuro: como conviver e estabelecer regras diante de formas de inteligência cada vez mais diferentes das humanas.