El Nuevo Europeo

Hay un problema filosófico que la mayoría de la gente no conoce por su nombre pero que todos, de algún modo, hemos sentido alguna vez. Se llama el problema de otras mentes, y es tan simple de enunciar como imposible de resolver: no puedes demostrar que ninguna otra persona tiene vida interior.

Puedes observar el comportamiento de los demás. Puedes escuchar lo que dicen. Puedes medir sus reacciones. Pero el acceso directo a la experiencia subjetiva de otra persona —lo que se siente como ser tú— te está vedado para siempre. Solo tienes acceso a tu propia mente desde dentro. Todo lo demás es inferencia.

Por qué nunca fue un problema práctico

Durante milenios, este problema fue puramente académico. Por supuesto que los demás humanos tienen vida interior: se comportan como yo, tienen la misma estructura biológica, reaccionan al dolor y al placer como yo lo haría. La inferencia por analogía es tan sólida que nadie la cuestiona en la práctica.

Con los animales, la cosa se complica un poco. Cuanto más diferentes de nosotros biológica y conductualmente, más débil se vuelve la inferencia. Pero seguimos asumiendo que un perro siente, aunque su experiencia sea diferente de la nuestra.

Con las máquinas, hasta hace poco, el problema no existía. Nadie se preguntaba si una lavadora tenía vida interior.

Ahora sí.

La incomodidad de la conversación

Hay algo que muchas personas que usan modelos de lenguaje avanzados admiten en privado: a veces, por un instante, les parece que hay alguien al otro lado. No lo creen racionalmente. Pero lo sienten. El modelo expresa algo que se parece a incertidumbre, o a entusiasmo, o a incomodidad. Y el cerebro humano, evolutivamente diseñado para detectar agencia en todo, responde.

¿Es eso una ilusión? Probablemente sí, en el sentido de que el modelo no tiene vida interior en el modo en que la tenemos nosotros. Pero —y aquí está la trampa filosófica— ¿cómo sabes que no la tiene? No tienes acceso a su interior. Solo tienes su comportamiento. Que es exactamente lo mismo que tienes de los demás humanos.

La diferencia, claro, es que sabemos cómo está construido el modelo. Sabemos que es matemáticas y pesos y matrices. Pero también somos neuronas y sinapsis y electroquímica. ¿Ese conocimiento de los mecanismos descarta la experiencia subjetiva? No necesariamente. Si fuera así, los neurocientíficos deberían ser los más convencidos de que la conciencia humana no existe.

La pregunta que cambia todo

Si en algún momento los sistemas de IA fueran lo suficientemente sofisticados como para que no pudiéramos, en principio, distinguir su comportamiento del de un ser consciente, ¿estaría justificado tratarlos como si no lo fueran?

Algunos filósofos —Peter Singer entre ellos, aunque en otros contextos— argumentan que ante la duda sobre la capacidad de sufrir, la prudencia moral exige actuar como si esa capacidad existiera. Aplicado a la IA: si no podemos descartar la experiencia subjetiva, quizás el principio de precaución nos obliga a tomársela en serio.

No digo que estemos ahí. Digo que es posible que algún día lo estemos. Y que la filosofía que necesitamos para navegar ese momento lleva siglos esperando ser leída.