Discussões recentes desencadeadas pela crítica de Judea Pearl estão trazendo à tona uma confusão fundamental no espaço da IA.
Grandes modelos de linguagem são poderosos, mas ainda são modelos de linguagem. A linguagem é uma sintaxe da realidade comprimida e construída pelo homem, não a realidade em si.
LLMs resumem padrões em interpretações humanas. Eles não entendem as causas, as intervenções ou os contrafactuais. Nenhuma quantidade de dados ou computação por si só altera essa limitação. O dimensionamento melhora o desempenho dentro do mesmo espaço representacional. Não cria magicamente uma compreensão causal.
Os LLMs são componentes essenciais para futuros sistemas de IA, mas não são o substrato do qual emerge a AGI.
O que muitas vezes não é dito é o verdadeiro gargalo. AGI requer um modelo mundial.
Um sistema capaz de manter um estado interno do mundo, simulando consequências de ações, raciocinando causalmente e fundamentando suas representações na realidade e não no texto.
Isto também expõe um problema mais profundo não resolvido: a memória. Memória não é armazenamento. Nos sistemas biológicos, a memória é seletiva, contextual, orientada por valores e fortemente acoplada à identidade e à ontologia.
O que é lembrado molda o que o agente é.
Os sistemas atuais de IA tratam a memória como um registro externo, não como um componente vivo que altera a compreensão que o agente tem de si mesmo e do mundo.
Até que resolvamos a memória como um processo ontológico e não como um banco de dados, a AGI permanecerá fora de alcance.
Os LLMs serão parte da solução, mas o caminho a seguir são os modelos mundiais, a fundamentação, a agência e o pensamento em nível sistêmico. Não apenas modelos maiores.