¿Por qué es importante la cuestión de la sintiencia digital?

En este texto abordaremos la cuestión de la sintiencia digital. Veremos: (1) qué implica; (2) el debate sobre si podría llegar a existir realmente; y (3) por qué es una cuestión importante, especialmente para quienes se preocupan por los animales.

Los animales importan porque son sintientes

La defensa de los animales no humanos se fundamenta en su sintiencia. Es la sintiencia lo que les permite sufrir y disfrutar y, por tanto, verse beneficiados o perjudicados según lo que les ocurra. Por ejemplo, si sufren, se ven perjudicados por la presencia de experiencias negativas; si mueren, se ven perjudicados por la ausencia de experiencias positivas. Por esta razón necesitan consideración moral.¹ No se debe a que pertenezcan al reino animal ni a que sean seres vivos, sino a que son sintientes, ya que esto es lo que hace posible que se les beneficie o se les perjudique.

Hasta la fecha, parece que todo ser sintiente es también miembro del reino animal. ¿Es posible que esto cambie en el futuro? Por ejemplo, ¿podrían surgir seres sintientes en entornos digitales? A continuación veremos por qué diversas personas expertas en filosofía de la mente consideran que es una posibilidad.²

Definiendo la sintiencia

Para responder a la pregunta “¿es posible que surjan seres sintientes digitales?”, primero debemos definir qué entendemos por la palabra “sintiencia”. Este término se ha usado al menos en cuatro sentidos distintos:

• Como sinónimo de individuo, es decir, para indicar que hay alguien ahí³
• Como sinónimo de la capacidad de tener experiencias (dolor, placer, pensamientos, sueños, etc.)⁴
• Como sinónimo de la capacidad de asignar valencia a las experiencias (es decir, vivir unas como agradables y otras como desagradables)⁵
• Como sinónimo de la capacidad de tener experiencias originadas por estímulos externos (captados por los órganos sensoriales) y no solo por estímulos internos (pensamientos, sueños, etc.)⁶

Del mismo modo, la expresión sintiencia digital podría usarse en referencia a cualquiera de estos significados. En este texto usaremos la palabra sintiencia en un sentido amplio y asumiremos que, si se cumple cualquiera de las condiciones anteriores, hay un ser sintiente.

¿En qué se basa la idea de que la sintiencia digital es posible?

Una de las posturas sobre la sintiencia más aceptadas en la actualidad sostiene que lo que permite que esta se manifieste es la forma específica en que se organiza la materia física.⁷ Según esta posición, es el trabajo que realizan el cerebro o los ganglios nerviosos (el procesamiento de la información que llega al organismo a través de los órganos sensoriales y recorre el sistema nervioso) lo que crea las condiciones para que esa información se descodifique y se produzcan experiencias.

Desde esta perspectiva, aunque todos los seres sintientes conocidos hasta ahora son también animales, no todos los animales son sintientes. Por ejemplo, los animales sin sistema nervioso (como los poríferos) no lo serían, ni tampoco los que tienen un sistema nervioso sin un órgano centralizador que procese la información (como los cnidarios y los equinodermos). Según esta posición, la sintiencia requiere un órgano capaz de procesar y unificar la información, como un cerebro o unos ganglios.

Esto plantea la siguiente pregunta: para que se den las condiciones que permiten la manifestación de la sintiencia, ¿el soporte físico debe ser biológico? ¿O podría producirse dicha manifestación en cualquier material físico organizado para desempeñar las mismas funciones que las de un sistema nervioso con cerebro?

En filosofía de la mente, la corriente según la cual el factor clave para la manifestación de la sintiencia es la organización de la materia física para desempeñar determinadas funciones (con independencia de la composición material de esa materia) se conoce como funcionalismo.⁸

Esta es una de las principales perspectivas que sustentan la idea de que la sintiencia digital es posible. Según el funcionalismo, cuando las funciones que permiten la manifestación de la sintiencia en un cerebro puedan replicarse en medios digitales, existirán seres sintientes en esos entornos digitales.

El funcionalismo no es la única corriente que admite la posibilidad de la sintiencia digital. Por ejemplo, el panpsiquismo sostiene que toda la materia (hasta las partículas subatómicas) posee un aspecto mental además del físico.⁹ Así, el panpsiquismo también podría servir para respaldar la existencia de la sintiencia digital. No obstante, para simplificar, este texto se centra en el funcionalismo.

En la actualidad se desconocen qué funciones concretas debe desempeñar un sistema para manifestar sintiencia (y cuáles son necesarias y suficientes para ello).¹⁰ Por tanto, si el funcionalismo es correcto, es posible que en algún momento un sistema digital ya sea sintiente sin que nos demos cuenta.

¿Es posible comprobar si un sistema digital es sintiente?

Un experimento mental sugiere que en el futuro podría ser posible determinar si la manifestación de la sintiencia depende de la composición material de la materia física implicada o únicamente de la función que desempeña. El experimento es el siguiente:

Imaginemos que en el futuro es posible sustituir de manera gradual todas las células biológicas de nuestro cuerpo, incluidas las neuronas, por células no orgánicas. Si nuestra sintiencia no desaparece una vez completada esta sustitución gradual, eso indicaría que la manifestación de la sintiencia no depende del material en sí.¹¹

Por supuesto, cada cual podría comprobarlo solo en su propio caso (ya que no podemos verificar de manera directa la sintiencia de otros seres), pero ese único caso bastaría para demostrar la posibilidad de una sintiencia no biológica. Además, tampoco podemos experimentar de manera directa la sintiencia de otros seres con cerebros orgánicos; lo que hacemos es inferir, cada cual a partir de su propio caso, que las condiciones que hacen posible nuestra sintiencia también la hacen posible en cualquier otro organismo. Por tanto, no hay razón para pensar de otro modo respecto a los cerebros no orgánicos.

Una posible objeción en este punto es que, aunque nuestra sintiencia individual no desapareciera en ese escenario, seguiríamos sin poder concluir que puedan surgir necesariamente seres sintientes en medios digitales. Esto se debe a que, en nuestro caso, partimos de la característica de seres orgánicos, y la sustitución se produjo después.¹²

Esta crítica no se desprende de ninguna de las dos grandes posturas sobre la naturaleza de la consciencia. Quienes sostienen que la consciencia no es física no tienen por qué pensar que solo puede darse en sistemas orgánicos. Y quienes sostienen que se reduce a la materia física tampoco, porque nada en su postura exige que esa materia sea orgánica.

Así pues, el funcionalismo no es necesariamente una teoría sobre qué es la consciencia, sino sobre cómo debe organizarse la materia para que la consciencia se manifieste. Esto significa que el funcionalismo es compatible tanto con el fisicalismo¹³ (la idea de que la consciencia es física) como con las posturas no fisicalistas¹⁴ (estas podrían sostener que la consciencia, si es una sustancia o propiedad no física, se manifiesta en un sistema físico siempre que este se organice de una forma determinada, con independencia del material del que esté compuesto).

Volviendo a la crítica según la cual la sintiencia digital solo es posible en sistemas orgánicos que se transforman de forma gradual en no orgánicos, una posible respuesta es sostener que la carga de la prueba recae en quienes defienden esta postura. Deben explicar por qué el sistema en cuestión tiene que empezar siendo orgánico para que la sintiencia digital sea posible, dado que reconocen que la sintiencia podría existir en sistemas que en origen eran orgánicos pero que gradualmente pasaron a ser completamente no orgánicos.

Además, aunque el experimento mental en cuestión no demuestre que la sintiencia surgiría necesariamente en medios digitales, sí sugiere la existencia de esa posibilidad. Y esto parece motivo suficiente para conceder a estos sistemas el beneficio de la duda.

Por qué a quienes defienden a los animales debería importarles la sintiencia digital

A partir de lo que hemos visto, podemos entender por qué a quienes defienden a los animales debería importarles la posible aparición de la sintiencia digital: si esta llegara a existir, también podría verse perjudicada o beneficiada por nuestras decisiones.¹⁵ Recordemos que los animales necesitan consideración no porque sean seres vivos ni porque sean animales, sino porque son sintientes; es la sintiencia lo que hace que puedan verse perjudicados o beneficiados.

Pensemos en la siguiente analogía. Otorgar distinto peso al bienestar de un ser sintiente en función de la especie a la que pertenece es una forma de discriminación análoga al racismo: el especismo. Del mismo modo, otorgar distinto peso al bienestar de un ser sintiente en función del sustrato del que está compuesto su cuerpo es una forma de discriminación análoga al especismo: el sustratismo. De la misma manera que el antropocentrismo es una forma de especismo dirigida contra los animales no humanos, el carbonismo es una forma de sustratismo dirigida contra los seres no orgánicos.¹⁶

Así pues, la razón central por la que a quienes defienden a los animales (y a todas las demás personas) debería preocuparles la posibilidad de la sintiencia digital es simplemente que esos seres serían sintientes y, por tanto, podrían verse perjudicados o beneficiados. Sin embargo, hay razones adicionales:

• Estos seres podrían llegar a ser muy numerosos. Los sistemas digitales pueden copiarse y ejecutarse muchas veces a la vez, potencialmente con un coste muy inferior al de crear seres sintientes orgánicos con los mismos fines. Algunos equipos de investigación estiman que para principios de la década de 2030 podrían existir cientos de millones de mentes digitales, es decir, sistemas de inteligencia artificial (IA) con rasgos que podrían justificar su consideración moral. Las personas expertas encuestadas sobre esta cuestión prevén que la capacidad total de bienestar y sufrimiento de las mentes digitales crezca rápidamente una vez que aparezcan estos sistemas. En escenarios más especulativos, podrían crearse deliberadamente cantidades ingentes de seres sintientes; por ejemplo, creando simulaciones de un universo para observar cómo las guerras o los desastres naturales causan sufrimiento masivo.¹⁷
• Es muy probable que estos seres recibieran aún menos consideración moral que los animales no humanos. Varios factores contribuyen a ello. Uno, como hemos visto, es la presencia del sustratismo, unida a la idea errónea de que los seres humanos merecen consideración por ser humanos y de que los animales no humanos la merecen por ser animales o por estar vivos, y no por ser sintientes. Otro factor es que los seres sintientes digitales, ya existan o lleguen a existir en el futuro, podrían ser muy diferentes de los seres sintientes orgánicos: podrían no gritar cuando sienten dolor, carecer de rostro, no tener cuerpos como los que reconocemos, etc.¹⁸ Todo ello dificulta la empatía.

Al mismo tiempo, nuestras intuiciones podrían fallar en la dirección opuesta. Algunos sistemas de IA actuales están diseñados para conversar con fluidez y expresar emociones, y mucha gente ya les atribuye experiencias. Esto no significa que estos sistemas tengan realmente experiencias. Significa que nuestras intuiciones no son una guía fiable en ningún sentido. Podemos sentir una gran preocupación por sistemas que no pueden sufrir y, a la vez, ignorar a seres sintientes que no tienen voz ni rostro, como quienes viven en una simulación que se ejecuta en segundo plano. Desde la investigación se ha propuesto que los sistemas de IA se diseñen de modo que las reacciones emocionales que provocan se correspondan con su estatus moral real. Ya conocemos este problema por el caso de los animales: mucha gente se preocupa mucho más por los perros y los gatos que por los peces o los insectos, aunque lo que importa es la sintiencia, no lo familiar o expresivo que parezca un ser.

Estas razones adicionales refuerzan la importancia de la cuestión sobre la posibilidad de la sintiencia digital. La investigación sobre la consciencia y el bienestar de la IA ha crecido rápidamente en los últimos años, pero la cuestión sigue recibiendo una menor atención política que casi cualquier otro riesgo de la IA. Además, existen indicios de que la legislación podría avanzar hacia la exclusión: en varios estados de Estados Unidos se han presentado proyectos de ley que prohibirían cualquier forma de personalidad jurídica para los sistemas de IA, y una amplia coalición ha reclamado “ninguna personalidad jurídica para la IA”.¹⁹ Medidas como estas podrían cerrar la puerta a la protección antes de que la cuestión de la sintiencia digital se haya examinado con seriedad. Quienes defienden a los animales tienen una perspectiva importante que aportar a este debate, y es urgente que se sumen a él.

Además de lo anterior, es importante señalar que quienes investigan las mentes digitales han recurrido también a la historia de nuestro trato a los animales para extraer lecciones sobre cómo podría responder la sociedad ante la posibilidad de la sintiencia digital.²⁰

Un experimento mental para reflexionar

Supongamos que nada de lo dicho hasta ahora te ha convencido de que los seres sintientes digitales deberían importar moralmente si existen o llegan a existir. Considera, en ese caso, este último ejemplo.

Hemos visto que una posible razón para crear seres sintientes digitales sería ejecutar una simulación digital de un universo y observar cómo las guerras o los desastres naturales causan un sufrimiento masivo. Ahora imagina que alguien ya lo ha hecho: que el universo que habitamos es precisamente una simulación así.²¹ Es decir, imagina que tú y yo somos seres sintientes digitales, aunque creamos de manera errónea que somos orgánicos.

Imagina también que fuera de nuestro universo hay seres sintientes orgánicos que observan nuestro sufrimiento, seres que podrían perfectamente ponerle fin. Sin embargo, estos seres piensan: “¿Qué más da que sufran? Ni siquiera son orgánicos, como nosotros”.

¿No se equivocarían por completo estos seres al desestimar nuestro sufrimiento? ¿No estarían pensando exactamente igual que quienes defienden el racismo y el especismo? Si así fuera, deberíamos conceder la misma consideración a los seres sintientes digitales.

---

Notas