Cérebro como computador: por que essa metáfora pode enganar

O que dizem Seth, Block e Tononi

Anil Seth, Ned Block e Giulio Tononi passaram décadas pesquisando consciência sob perspectivas da neurociência experimental, da neurobiologia teórica e da filosofia da mente. O comentário deles responde a vozes como o biólogo Richard Dawkins e o pioneiro da IA Geoffrey Hinton, que consideram sistemas de IA possivelmente já conscientes.

Os autores também citam um estudo que a Anthropic publicou neste ano. A empresa relatou padrões internos de processamento no Claude que lembram propriedades do processamento de informações conscientemente acessíveis. A Anthropic não vê isso como evidência de experiência subjetiva.

O cerebelo é inteligente mas não consciente

A evidência central dos autores é o cerebelo humano. Ele contém quase quatro quintos de todos os neurônios do cérebro e planeja movimentos com precisão, velocidade e capacidade de aprendizado. Nada disso acontece conscientemente. Se o cerebelo for removido, a consciência não é diretamente afetada.

Os autores traçam a confusão entre inteligência e consciência a duas tendências psicológicas. As pessoas veem o mundo pela própria lente e atribuem qualidades humanas a coisas. A linguagem foi considerada algo exclusivamente humano por muito tempo. Mas modelos de linguagem são treinados em grandes volumes de texto humano que tratam de pensamentos e sentimentos. Como os autores dizem: LLMs são espelhos que refletem uma imagem do nosso passado coletivo digitalizado.

Para comparação, Seth, Block e Tononi apontam para o AlphaFold, da Google DeepMind. É também uma rede neural poderosa em hardware de silício, mas quase ninguém a considera consciente. O motivo, segundo eles, é simplesmente que o AlphaFold prevê estruturas de proteínas em vez de conversar conosco.

Esse debate lembra a discussão recente sobre computação e inteligência, como mostramos no post sobre Rich Sutton reforça que compute sozinho não cria inteligência. O mesmo Nous Research que reeducou o Qwen para valores ocidentais, como mostramos no post sobre Arete-27B: Nous reeduca Qwen para valores ocidentais, também discute como viés e comportamento se manifestam em modelos de linguagem.

O que o relatório de Butlin e colegas concluiu

Para entender o alcance do comentário, vale olhar o relatório "Consciousness in Artificial Intelligence", de Patrick Butlin, Robert Long e outros 17 especialistas, incluindo o pesquisador de IA Yoshua Bengio. A equipe se baseou em teorias neurocientíficas sobre como a consciência surge no cérebro humano e derivou uma lista de 14 indicadores. Quanto mais indicadores um sistema de IA atende, mais forte o caso de que ele poderia ser consciente.

Os pesquisadores então avaliaram vários sistemas atuais, incluindo modelos de linguagem como o GPT-4. O relatório conclui que nenhum dos sistemas examinados é um forte candidato à consciência. Nesse ponto, ele se alinha com Seth, Block e Tononi. Para modelos de linguagem, Butlin e colegas encontraram apenas sinais fracos de que os modelos atendem aos indicadores de uma das teorias de consciência mais proeminentes.

Ao mesmo tempo, o relatório vê barreiras técnicas óbvias para construir sistemas futuros que atendam a mais indicadores. Se tais sistemas seriam de fato conscientes permanece em aberto. Os autores suavizaram uma formulação anterior mais forte sobre esse ponto.

Há também uma premissa fundamental. A equipe assumiu que a consciência depende apenas do tipo de processamento de informação, não de acontecer em células nervosas ou em chips de computador. Especialistas chamam isso de funcionalismo computacional. Os autores adotaram essa premissa explicitamente por razões pragmáticas, porque é o que torna possível examinar sistemas de IA para consciência. O próprio relatório reconheceu que seus indicadores não seriam mais confiáveis se a consciência estiver ligada a propriedades de organismos vivos. Citou Anil Seth, entre outros, como defensor dessa visão oposta. É aí que o comentário da Nature se conecta.

Por que LLMs parecem conscientes sem sê-lo

Os autores argumentam que a consciência é o que desaparece durante o sono sem sonhos ou a anestesia geral e retorna ao acordar ou sonhar. Inspirados no filósofo Thomas Nagel, descrevem assim: experiências conscientes sentem como algo. Inteligência, por outro lado, significa realizar funções. Uma não decorre da outra.

O relatório de Butlin e colegas rejeitou testes comportamentais para consciência de IA, porque sistemas de IA podem ser treinados para imitar o comportamento humano mesmo funcionando de maneira completamente diferente por dentro. Eles também alertaram que modelos de linguagem provavelmente levarão muitas pessoas a acreditar que conversam com uma contraparte consciente. Como exemplo, citaram o ex-engenheiro do Google Blake Lemoine, que acreditava que o chatbot LaMDA era senciente.