El cerebro como computadora: por qué esta metáfora puede engañar

En este artículo verás:

• Lo que Anil Seth, Ned Block y Giulio Tononi argumentan en Nature
• Por qué el cerebelo muestra que la inteligencia no es conciencia
• Lo que el informe de 19 especialistas concluyó sobre los LLMs
• Por qué los modelos de lenguaje parecen conscientes sin serlo

Qué dicen Seth, Block y Tononi

Anil Seth, Ned Block y Giulio Tononi pasaron décadas investigando la conciencia desde perspectivas de la neurociencia experimental, la neurobiología teórica y la filosofía de la mente. Su comentario responde a voces como el biólogo Richard Dawkins y el pionero de la IA Geoffrey Hinton, que consideran que los sistemas de IA podrían ya ser conscientes.

Los autores también citan un estudio que Anthropic publicó este año. La empresa reportó patrones internos de procesamiento en Claude que recuerdan propiedades del procesamiento de información conscientemente accesible. Anthropic no lo ve como evidencia de experiencia subjetiva.

El cerebelo es inteligente pero no consciente

La evidencia central de los autores es el cerebelo humano. Contiene casi cuatro quintos de todas las neuronas del cerebro y planifica movimientos con precisión, velocidad y capacidad de aprendizaje. Nada de eso ocurre conscientemente. Si se remueve el cerebelo, la conciencia no se ve directamente afectada.

Los autores atribuyen la confusión entre inteligencia y conciencia a dos tendencias psicológicas. Las personas ven el mundo a través de su propia lente y atribuyen cualidades humanas a las cosas. El lenguaje se consideró algo exclusivamente humano durante mucho tiempo. Pero los modelos de lenguaje se entrenan con grandes volúmenes de texto humano que tratan de pensamientos y sentimientos. Como dicen los autores: los LLMs son espejos que reflejan una imagen de nuestro pasado colectivo digitalizado.

Para comparación, Seth, Block y Tononi señalan a AlphaFold, de Google DeepMind. También es una red neuronal poderosa en hardware de silicio, pero casi nadie la considera consciente. El motivo, según ellos, es simplemente que AlphaFold predice estructuras de proteínas en lugar de conversar con nosotros.

Este debate recuerda la discusión reciente sobre computación e inteligencia, como mostramos en la publicación sobre Rich Sutton refuerza que la computación sola no crea inteligencia. El mismo Nous Research que reeducó a Qwen para valores occidentales, como mostramos en la publicación sobre Arete-27B: Nous reeduca a Qwen para valores occidentales, también analiza cómo el sesgo y el comportamiento se manifiestan en los modelos de lenguaje.

Lo que concluyó el informe de Butlin y colegas

Para entender el alcance del comentario, vale la pena mirar el informe "Consciousness in Artificial Intelligence", de Patrick Butlin, Robert Long y otros 17 especialistas, incluyendo al investigador de IA Yoshua Bengio. El equipo se basó en teorías neurocientíficas sobre cómo surge la conciencia en el cerebro humano y derivó una lista de 14 indicadores. Cuanto más indicadores cumple un sistema de IA, más fuerte es el caso de que podría ser consciente.

Los investigadores luego evaluaron varios sistemas actuales, incluyendo modelos de lenguaje como GPT-4. El informe concluye que ninguno de los sistemas examinados es un fuerte candidato a la conciencia. En ese punto, se alinea con Seth, Block y Tononi. Para los modelos de lenguaje, Butlin y colegas encontraron solo señales débiles de que los modelos cumplen con los indicadores de una de las teorías de conciencia más prominentes.

Al mismo tiempo, el informe ve barreras técnicas obvias para construir sistemas futuros que cumplan con más indicadores. Si tales sistemas serían de hecho conscientes permanece abierto. Los autores suavizaron una formulación anterior más fuerte sobre ese punto.

También hay una premisa fundamental. El equipo asumió que la conciencia depende solo del tipo de procesamiento de información, no de ocurrir en células nerviosas o en chips de computadora. Los especialistas llaman a esto funcionalismo computacional. Los autores adoptaron esa premisa explícitamente por razones pragmáticas, porque es lo que hace posible examinar sistemas de IA para conciencia. El propio informe reconoció que sus indicadores no serían más confiables si la conciencia estuviera ligada a propiedades de organismos vivos. Citó a Anil Seth, entre otros, como defensor de esa visión opuesta. Ahí es donde se conecta el comentario de Nature.

Por qué los LLM parecen conscientes sin serlo

Los autores argumentan que la conciencia es lo que desaparece durante el sueño sin sueños o la anestesia general y regresa al despertar o soñar. Inspirados en el filósofo Thomas Nagel, lo describen así: las experiencias conscientes se sienten como algo. La inteligencia, por otro lado, significa realizar funciones. Una no se deduce de la otra.

El informe de Butlin y colegas rechazó pruebas conductuales para la conciencia de IA, porque los sistemas de IA pueden ser entrenados para imitar el comportamiento humano incluso funcionando de manera completamente diferente por dentro. También advirtieron que los modelos de lenguaje probablemente llevarán a muchas personas a creer que conversan con una contraparte consciente. Como ejemplo, citaron al ex ingeniero de Google Blake Lemoine, que creía que el chatbot LaMDA era sentiente.