Por que a questão da senciência digital é importante?

Neste texto abordaremos a questão da senciência digital. Veremos: (1) do que se trata; (2) o debate sobre se ela pode vir a se concretizar ou não, e (3) porque essa é uma questão importante, sobretudo para quem se importa com os animais.

Os animais importam porque são sencientes

A defesa dos animais não humanos é fundada em sua senciência. É ela que os torna capazes de sofrer e desfrutar e, portanto, de serem beneficiados ou prejudicados dependendo do que lhes ocorra. Por exemplo, se sofrem, são prejudicados pela presença de experiências negativas; se morrem, são prejudicados pela ausência de experiências positivas. É por esse motivo que precisam de consideração moral.¹ Não é porque pertencem ao reino animal ou porque são seres vivos. É porque são sencientes, pois é isso que torna possível que sejam beneficiados ou prejudicados.

Até o momento, pelo que parece, todo ser senciente também é um membro do reino animal. É possível que isso mude no futuro? Por exemplo, pode ser que no futuro surjam seres sencientes em meios digitais? A seguir, veremos por que vários especialistas em filosofia da mente acreditam nessa possibilidade.²

Definindo senciência

Para respondermos à questão “é possível que surjam seres sencientes digitais?” é necessário antes definirmos o que queremos dizer com a palavra senciência. Entretanto, essa palavra tem sido utilizada em pelo menos quatro sentidos:

• Como sinônimo de indivíduo, isto é, para indicar que ali há alguém.³
• Como sinônimo da capacidade de ter experiências (dor, prazer, pensamentos, sonhos etc.).⁴
• Como sinônimo da capacidade de valenciar as experiências (isto é, experimentar algumas como agradáveis e outras como desagradáveis).⁵
• Como sinônimo da capacidade de ter experiências a partir de estímulos externos (captados pelos órgãos dos sentidos) e não somente internos (pensamentos, sonhos etc.).⁶

Da mesma maneira, o termo senciência digital poderia ser utilizado em referência a qualquer um desses sentidos. Neste texto, utilizaremos a palavra em um sentido amplo, assumindo que, se qualquer uma das condições acima for cumprida, já há ali um ser senciente.

O que fundamenta a ideia de que a senciência digital é possível?

Uma das visões mais amplamente aceitas atualmente sobre senciência mantém que aquilo que torna possível a sua manifestação é o fato de a matéria física estar organizada de determinada maneira.⁷ Segundo essa visão, é o trabalho desempenhado pelo cérebro ou por gânglios, de processamento das informações que chegam ao organismo por meio dos órgãos dos sentidos e percorrem o sistema nervoso, aquilo que cria as condições para que essas informações sejam decodificadas e aconteçam as experiências.

De acordo com essa visão, apesar de todo ser senciente que conhecemos até o momento ser também um animal, nem todos os animais são sencientes. Por exemplo, não seriam sencientes aqueles animais que não possuem sistema nervoso (como os poríferos), nem os que possuem um sistema nervoso sem nenhum órgão centralizador que processe as informações (como os cnidários e os equinodermos). Segundo essa visão, para haver senciência, é necessário um órgão que processe e unifique as informações, como um cérebro ou gânglios.

Isso levanta a seguinte questão: será que, para que as condições para que a senciência se manifeste sejam fornecidas, é necessário que o aparato físico seja biológico, ou será que tal manifestação aconteceria em qualquer material físico que estivesse organizado de forma a exercer as mesmas funções de um sistema nervoso com um cérebro?

Em filosofia da mente, dá-se o nome de funcionalismo à corrente que defende que aquilo que importa para a senciência se manifestar é a matéria física estar organizada de modo a desempenhar certas funções, independentemente de qual é o material que compõe essa matéria.⁸

O funcionalismo é uma das principais visões que fundamenta a ideia de que a senciência digital é possível. Segundo o funcionalismo, quando for possível reproduzir em meios digitais as funções que em um cérebro tornam possível a manifestação da senciência, haverá seres sencientes em meios digitais.

O funcionalismo não é a única corrente segundo a qual a senciência digital é possível. Por exemplo, o pampsiquismo é uma corrente que defende que toda a matéria (desde partículas subatômicas) possui, além de um aspecto físico, também um aspecto mental.⁹ Assim, o pampsiquismo também poderia ser usado para fundamentar a existência de senciência digital. Entretanto, para efeito de simplificação, nesse texto nos centraremos no funcionalismo.

Atualmente não se sabe exatamente quais são as funções necessárias e suficientes que um sistema precisa desempenhar para que a senciência se manifeste.¹⁰ Portanto, se o funcionalismo estiver correto, é possível que em determinado momento certo sistema digital já seja senciente, e nós não percebamos.

Será possível testar se um sistema digital é senciente?

Há um experimento de pensamento que sugere que talvez no futuro seja possível testar se a manifestação da senciência depende do material do qual é feita a matéria física, ou se depende apenas da função desempenhada. O experimento é o seguinte:

Imagine que no futuro se torne possível substituirmos gradualmente todas as células biológicas do nosso corpo, incluindo os neurônios, por células não orgânicas. Se, após a troca gradual ser completada, a nossa senciência não desaparecer, isso sugeriria que a manifestação da senciência não depende do material.¹¹

É claro, cada um de nós poderia comprovar isso apenas no seu próprio caso (uma vez que não conseguimos comprovar diretamente a senciência dos outros), mas esse único caso já demonstraria a possibilidade da senciência digital. Além disso, também não conseguimos experimentar diretamente a senciência dos outros seres que possuem cérebros orgânicos, mas inferimos, cada um a partir do seu próprio caso, que aquelas condições que tornam possível a senciência em nós mesmos também a tornam possível em qualquer outro organismo. Portanto, não há razão para pensar diferente no caso de cérebros não orgânicos.

Uma possível objeção nesse ponto seria dizer que, mesmo se em um caso assim a senciência de cada um de nós não desaparecesse, ainda não poderíamos concluir que necessariamente surgiriam seres sencientes em meios digitais. Isso porque, no nosso caso, começamos como seres orgânicos, e só depois a substituição teve lugar.¹²

Poder-se-ia pensar que essa crítica seria endossada por quem defende que a consciência não se reduz à matéria física. Mas, na verdade ocorre o oposto. Se alguém afirma que a consciência não é algo físico, então não precisa necessariamente dizer que, para haver consciência, o sistema precisa ser orgânico. Além disso, quem defende que a consciência se reduz à matéria física também não precisa endossar essa crítica, pois nada nessa visão implica que a matéria física em questão precise ser orgânica.

Assim, o funcionalismo não é necessariamente uma teoria sobre o que é a consciência. É mais uma teoria sobre como a matéria precisa estar organizada para que a consciência se manifeste. Isso significa que o funcionalismo é compatível, tanto com o fisicalismo¹³ (a ideia de que a consciência é algo físico) quanto com visões não fisicalistas¹⁴ (pois estas poderiam defender que a consciência, se for uma substância ou propriedade não física, se manifesta em um sistema físico toda vez que ele estiver organizado de determinada maneira, independentemente do material de que é composto).

Voltando à crítica que defende que a senciência digital seria possível apenas em sistemas orgânicos que fossem gradualmente transformados em sistemas não orgânicos, uma possível resposta a ela é defender que o ônus da prova é de seus proponentes, de explicar por que haveria a necessidade de o sistema em questão começar como sistema orgânico para que a senciência digital seja possível, uma vez que admitem que poderia haver senciência em sistemas antes orgânicos que se tornaram gradualmente totalmente não orgânicos.

Além disso, mesmo que o experimento de pensamento em questão não comprove que necessariamente a senciência surgiria em meios digitais, ele sugere que há essa possibilidade. E, isso parece suficiente para que devamos dar o benefício da dúvida a tais sistemas.

Por que defensores dos animais deveriam se importar com a senciência digital

Como deve estar claro agora, defensores dos animais deveriam se importar com a possibilidade do surgimento de senciência digital simplesmente porque tais seres, caso venham a existir, seriam também passíveis de ser prejudicados ou beneficiados com nossas escolhas.¹⁵ Lembremos que os animais precisam de consideração não porque são seres vivos ou porque são animais, e sim porque são sencientes, uma vez que é isso que os torna passíveis de ser prejudicados ou beneficiados. Por isso, temos exatamente as mesmas razões para nos preocuparmos com qualquer outro tipo de ser senciente, caso existam ou venham a existir.

Considere a seguinte analogia. Dar peso diferenciado ao bem de um ser senciente de acordo com a espécie a qual pertence é uma forma de discriminação análoga ao racismo: o especismo. Analogamente, dar peso diferenciado ao bem de um ser senciente de acordo com o substrato que compõe o seu corpo é uma forma de discriminação análoga ao especismo: o substratismo. Assim como o antropocentrismo é uma forma de especismo contra quem não é humano, o carbonismo é uma forma de substratismo contra quem não é orgânico.¹⁶

Sendo assim, a razão central pela qual defensores dos animais (e todo o restante das pessoas) devem se preocupar com a possibilidade de senciência digital é simplesmente que tais seres seriam sencientes e, portanto, passíveis de ser prejudicados e beneficiados. Entretanto, há ainda outras razões adicionais:

• Esses seres poderiam tornar-se extremamente numerosos. Sistemas digitais podem ser copiados e executados muitas vezes simultaneamente, potencialmente a um custo muito inferior ao da criação de seres sencientes orgânicos para os mesmos fins. Alguns pesquisadores estimam que centenas de milhões de mentes digitais — isto é, sistemas de IA com características que podem justificar consideração moral — poderiam vir a existir no início da década de 2030. Especialistas consultados sobre a questão preveem que a capacidade total de vivenciar bem-estar e sofrimento dessas mentes digitais crescerá rapidamente assim que tais sistemas surgirem.¹⁷ Em cenários mais especulativos, um número vasto de seres sencientes poderia ser criado deliberadamente (por exemplo, se alguém simulasse um universo para observar como guerras ou desastres naturais provocam sofrimento em massa).
• É muito provável que esses seres receberiam ainda menos consideração moral do que recebem os animais não humanos. Isso é assim por conta de vários fatores. Um deles, já vimos, é a presença do substratismo, juntamente com a ideia equivocada de que humanos precisam de consideração por serem humanos, e que animais não humanos precisam de consideração por serem animais ou por estarem vivos, e não porque são sencientes. Outro fator é que os seres sencientes digitais, caso já existam ou vierem a existir, podem ser muito diferentes dos seres sencientes orgânicos: podem não gritar quando sentem dor, podem não ter rostos, podem não ter corpos como os que conhecemos etc.¹⁸ Tudo isso dificulta a empatia.

Ao mesmo tempo, nossas intuições podem falhar na direção oposta. Alguns sistemas de IA atuais são projetados para conversar fluentemente e expressar emoções, e muitas pessoas já lhes atribuem experiências. Isso não significa que esses sistemas tenham, de fato, experiências. Isso significa que nossas reações não são um guia confiável em nenhum dos casos. Podemos sentir grande preocupação por sistemas incapazes de sofrer, ao mesmo tempo que ignoramos seres sencientes que não têm voz nem rosto — como aqueles em uma simulação executada em segundo plano. Alguns pesquisadores propuseram que os sistemas de IA deveriam ser projetados de modo que as reações emocionais que provocam correspondam ao seu real status moral. Já conhecemos esse problema pelo caso dos animais: muitas pessoas se importam muito mais com cães e gatos do que com peixes ou insetos, embora o que importe seja a senciência, e não o grau de familiaridade ou expressividade da aparência de um ser.

Essas razões adicionais reforçam a importância da questão sobre a possibilidade de senciência digital. As pesquisas sobre consciência e bem-estar em IA têm crescido rapidamente nos últimos anos, mas o tema ainda recebe menos atenção em termos de políticas públicas do que praticamente qualquer outro risco associado à IA. Além disso, alguns legisladores estão caminhando na direção oposta, propondo a proibição de qualquer forma de personalidade jurídica para a IA. Defensores da causa animal têm uma perspectiva importante a trazer para esse debate, e é urgente que participem dele. Há também sinais de que a legislação pode caminhar para a exclusão. Vários estados dos EUA apresentaram projetos de lei que proibiriam qualquer forma de personalidade jurídica para sistemas de IA, e uma ampla coalizão tem defendido a rejeição de qualquer personalidade jurídica para a IA.¹⁹ Medidas como essas poderiam fechar as portas para a proteção antes mesmo que a questão da senciência digital fosse seriamente analisada.

Pesquisadores que trabalham com a possibilidade de mentes digitais voltaram-se para a história de como tratamos os animais em busca de lições sobre como a sociedade poderá reagir à possibilidade de senciência digital.²⁰

Um experimento de pensamento para refletir

Suponhamos que nada do que foi dito acima convenceu você de que seres sencientes digitais, caso existam ou vierem a existir, deveriam importar moralmente. Considere então este último exemplo.

Vimos que uma das possíveis finalidades pelas quais alguém poderia querer criar seres sencientes digitais seria para fazer uma simulação digital de um universo e ver como guerras ou desastres naturais causam sofrimento em massa. Imagine agora que há alguém que já fez isso: é o universo no qual vivemos.²¹ Isto é, imagine que você e eu somos seres sencientes digitais, apesar de pensarmos equivocadamente que somos orgânicos.

Imagine também que há seres sencientes orgânicos fora do nosso universo, observando nosso sofrimento, e que poderiam muito bem parar com ele. Entretanto, essas pessoas pensam: “e daí que esses seres sofrem? Eles nem são orgânicos, como nós”.

Não estariam completamente erradas essas pessoas por ignorarem o nosso sofrimento? Não estariam essas pessoas pensando como pensam os racistas e os especistas? Se sim, então devemos dar igual consideração aos seres sencientes digitais.

---

Notas