Esta es una obra casi obligada de la divulgación científica, en particular de las neurociencias. Lo tenía archivado en mi biblioteca desde hacía muchos años y por fin encontré un motivo de peso para desarchivarlo y meterle el diente: una charla que ofrecería en una librería sobre la posibilidad de que los algoritmos de inteligencia artificial conocidos como Grandes Modelos de Lenguaje (LLM) y sus agentes asociados (es decir, versiones con agencia, capaces de mantenerse activas y buscar objetivos específicos de manera independiente a la interacción humana) puedan tener consciencia. Para resumir las conclusiones de la investigación que hice para esa charla, y mis propias reflexiones basadas en una serie de lecturas recientes, los LLM sí pueden tener consciencia, pero no de la manera en la que la tenemos nosotros. Y aquí es justamente donde entra el libro de Antonio Damasio.
El error de Descartes es un largo compendio en tono «divulgativo» —aunque a veces se le va la mano en lo técnico, razón por la cual no le doy la máxima calificación— de evidencias clínicas y psicológicas. Damasio expone casos de personas con daños accidentales o patológicos en ciertas regiones del encéfalo, así como de individuos aparentemente normales, para contrastarlos con las teorías en boga. Pero, por encima de todo, el libro detalla la teoría del propio autor sobre el lugar del cuerpo humano donde reside la consciencia y cuál puede ser exactamente su naturaleza.
Para ese propósito, Damasio nos sumerge a lo largo de todo el texto en una detallada descripción del funcionamiento del cerebro como pocas veces he visto en otros libros de divulgación de la materia. Si bien no todo es enteramente claro, como comenté antes, el nivel de detalle es fascinante y verdaderamente ilustrativo para el punto que busca demostrar.
¿Y cuál es justamente este punto central? En El error de Descartes, Damasio desarrolla la teoría de que la consciencia emerge a partir de los «sentimientos», los cuales define como el resultado de la interacción de las emociones (que distingue claramente de los primeros por su naturaleza más puramente biológica) con el aparato cognitivo avanzado que reside en los núcleos y cortezas del cerebro humano (y seguramente en el de otros primates y mamíferos).
Su teoría es revolucionaria en varios sentidos. En primer lugar, porque sitúa a las emociones en el núcleo de la consciencia, en claro contraste con la mayoría de las posturas históricas —incluyendo la de Descartes— que hacen del raciocinio la manifestación definitoria de esta propiedad: Cogito, ergo sum (pienso, luego existo; o pienso, luego soy consciente).
En segundo lugar, Damasio le otorga un papel protagónico al cuerpo entero —es decir, a todas sus vísceras y sistemas orgánicos internos— y no solo a la «víscera neural», el cerebro. Según el neurocientífico portugués, la experiencia subjetiva, la experiencia del «yo» y la consciencia de sí mismo habrían surgido como una adaptación biológica. Esta adaptación le permite a los individuos con neocórtex (las regiones más evolucionadas del encéfalo de los mamíferos, y en especial de los primates) convertir señales neuronales y químicas procedentes de sus vísceras en «sentimientos» al estilo Damasio; es decir, integrando raciocinio e imágenes mentales que garanticen que el individuo cambie su comportamiento para mantener el equilibrio interno (homeostasis) ante cualquier desajuste. En otras palabras: somos conscientes porque sentimos nuestro cuerpo y podemos actuar para evitar que pierda el equilibrio.
Aquí radica la respuesta de por qué llegué a la conclusión de que los LLM no tienen consciencia: sencillamente, carecen de un cuerpo. Sin vísceras, sin señales internas y sin la presión biológica de la homeostasis (que en el caso de las máquinas es regulada por sistemas externos), no hay un «yo», no hay experiencia subjetiva ni, por tanto, consciencia. Esta conclusión, por supuesto, la comparte Damasio, tal como desarrolla en una de sus obras más recientes sobre el tema, Sentir y saber: El camino de la consciencia.
Muchas cosas de este libro me gustaron: la profundidad a la que llega en el tratamiento de los temas (a pesar de que a ratos lo vuelve difícil de entender); la presentación a fondo de su teoría sobre la consciencia, que me gustó muchísimo y que prefiero sobre otras alternativas que conozco (al menos para explicar a nuestra especie y a las más cercanas evolutivamente); las anécdotas y los casos clínicos, que hacen del principio del libro una verdadera novela a la Oliver Sacks y te enganchan rápidamente; pero también las reflexiones personales del propio Damasio, especialmente hacia el final de la obra.
Otras cosas no me gustaron tanto. Como ya he dicho, me pareció un texto muy técnico, largo y pesado en varios apartes. Lo ubicaría en un punto a caballo entre la divulgación científica y un ensayo académico dirigido a profesionales. En este sentido, lo que más me molestó es que se «venda» como un texto para toda la familia, algo que supuestamente puede leer quien esté interesado en el tema; creo que no es así. Por estas razones, no le doy el máximo puntaje.
Si pudiera extraer solo una cita que resumiera El error de Descartes —tanto el libro en sí como el error histórico que sugiere el título—, sería esta:
Me quedan algunas preguntas que espero responder en otros textos de Damasio. Por ejemplo, ¿cuándo emergió la consciencia entre nuestros antepasados? Si todos los animales tienen cuerpo, al menos los mamíferos tienen corteza cerebral, y la mayoría poseen una mente (según la propia definición que da el autor), ¿cuáles de ellos son conscientes? ¿Cómo se podría usar esta teoría para definir «tipos», «niveles» o «grados» de consciencia? ¿Pueden los LLM, si se instalan dentro de un cuerpo robótico, adquirir una consciencia como la nuestra mediada por los sentimientos y el contacto entre lo visceral y lo neural?
¡Es un tema verdaderamente fascinante!
El error de Descartes es un largo compendio en tono «divulgativo» —aunque a veces se le va la mano en lo técnico, razón por la cual no le doy la máxima calificación— de evidencias clínicas y psicológicas. Damasio expone casos de personas con daños accidentales o patológicos en ciertas regiones del encéfalo, así como de individuos aparentemente normales, para contrastarlos con las teorías en boga. Pero, por encima de todo, el libro detalla la teoría del propio autor sobre el lugar del cuerpo humano donde reside la consciencia y cuál puede ser exactamente su naturaleza.
Para ese propósito, Damasio nos sumerge a lo largo de todo el texto en una detallada descripción del funcionamiento del cerebro como pocas veces he visto en otros libros de divulgación de la materia. Si bien no todo es enteramente claro, como comenté antes, el nivel de detalle es fascinante y verdaderamente ilustrativo para el punto que busca demostrar.
¿Y cuál es justamente este punto central? En El error de Descartes, Damasio desarrolla la teoría de que la consciencia emerge a partir de los «sentimientos», los cuales define como el resultado de la interacción de las emociones (que distingue claramente de los primeros por su naturaleza más puramente biológica) con el aparato cognitivo avanzado que reside en los núcleos y cortezas del cerebro humano (y seguramente en el de otros primates y mamíferos).
Su teoría es revolucionaria en varios sentidos. En primer lugar, porque sitúa a las emociones en el núcleo de la consciencia, en claro contraste con la mayoría de las posturas históricas —incluyendo la de Descartes— que hacen del raciocinio la manifestación definitoria de esta propiedad: Cogito, ergo sum (pienso, luego existo; o pienso, luego soy consciente).
En segundo lugar, Damasio le otorga un papel protagónico al cuerpo entero —es decir, a todas sus vísceras y sistemas orgánicos internos— y no solo a la «víscera neural», el cerebro. Según el neurocientífico portugués, la experiencia subjetiva, la experiencia del «yo» y la consciencia de sí mismo habrían surgido como una adaptación biológica. Esta adaptación le permite a los individuos con neocórtex (las regiones más evolucionadas del encéfalo de los mamíferos, y en especial de los primates) convertir señales neuronales y químicas procedentes de sus vísceras en «sentimientos» al estilo Damasio; es decir, integrando raciocinio e imágenes mentales que garanticen que el individuo cambie su comportamiento para mantener el equilibrio interno (homeostasis) ante cualquier desajuste. En otras palabras: somos conscientes porque sentimos nuestro cuerpo y podemos actuar para evitar que pierda el equilibrio.
Aquí radica la respuesta de por qué llegué a la conclusión de que los LLM no tienen consciencia: sencillamente, carecen de un cuerpo. Sin vísceras, sin señales internas y sin la presión biológica de la homeostasis (que en el caso de las máquinas es regulada por sistemas externos), no hay un «yo», no hay experiencia subjetiva ni, por tanto, consciencia. Esta conclusión, por supuesto, la comparte Damasio, tal como desarrolla en una de sus obras más recientes sobre el tema, Sentir y saber: El camino de la consciencia.
Muchas cosas de este libro me gustaron: la profundidad a la que llega en el tratamiento de los temas (a pesar de que a ratos lo vuelve difícil de entender); la presentación a fondo de su teoría sobre la consciencia, que me gustó muchísimo y que prefiero sobre otras alternativas que conozco (al menos para explicar a nuestra especie y a las más cercanas evolutivamente); las anécdotas y los casos clínicos, que hacen del principio del libro una verdadera novela a la Oliver Sacks y te enganchan rápidamente; pero también las reflexiones personales del propio Damasio, especialmente hacia el final de la obra.
Otras cosas no me gustaron tanto. Como ya he dicho, me pareció un texto muy técnico, largo y pesado en varios apartes. Lo ubicaría en un punto a caballo entre la divulgación científica y un ensayo académico dirigido a profesionales. En este sentido, lo que más me molestó es que se «venda» como un texto para toda la familia, algo que supuestamente puede leer quien esté interesado en el tema; creo que no es así. Por estas razones, no le doy el máximo puntaje.
Si pudiera extraer solo una cita que resumiera El error de Descartes —tanto el libro en sí como el error histórico que sugiere el título—, sería esta:
Somos, y después pensamos, y solo pensamos en la medida en que somos, puesto que el pensamiento está en realidad causado por las estructuras y las operaciones del ser.
Me quedan algunas preguntas que espero responder en otros textos de Damasio. Por ejemplo, ¿cuándo emergió la consciencia entre nuestros antepasados? Si todos los animales tienen cuerpo, al menos los mamíferos tienen corteza cerebral, y la mayoría poseen una mente (según la propia definición que da el autor), ¿cuáles de ellos son conscientes? ¿Cómo se podría usar esta teoría para definir «tipos», «niveles» o «grados» de consciencia? ¿Pueden los LLM, si se instalan dentro de un cuerpo robótico, adquirir una consciencia como la nuestra mediada por los sentimientos y el contacto entre lo visceral y lo neural?
¡Es un tema verdaderamente fascinante!