O limite da linguagem

Large language models são uma das compressões mais impressionantes de conhecimento humano que já construímos. Eles aprendem a estrutura por trás das palavras e, dentro dessas palavras, vivem séculos de física, intuição, causalidade, cultura e abstração.

Isso não é pequeno. Um LLM é um mapa riquíssimo do modo como humanos descrevem o mundo. O problema é que linguagem contém a nossa descrição da realidade, não a realidade em si.

Texto dá abstração. Não dá peso na mão, atrito em movimento, corpo atravessando espaço, fluxo contínuo de sensor, colisão, inércia ou consequência física. Um modelo de linguagem aprende a prever tokens. A matéria-prima do mundo físico é outra: séries temporais de observações mudando no tempo.

O que é um LLM

Um LLM, ou large language model, é um modelo treinado para reconhecer padrões em linguagem e prever a próxima parte de uma sequência de texto. No processo, ele aprende gramática, fatos, estilos, relações, analogias e parte da estrutura causal que os humanos embutiram nas frases.

Por isso ele parece entender o mundo. Em muitos casos, ele de fato aprendeu uma representação útil do mundo humano. Mas essa representação chega mediada por linguagem. É o mundo como foi narrado, anotado, debatido, ensinado e comprimido por pessoas.

O que é um world model

Um world model, ou modelo de mundo, é uma representação interna que tenta prever como um ambiente muda. Ele não precisa começar em palavras. Pode aprender a partir de vídeo, posição, LiDAR, sensores inerciais, toque, ação e consequência.

A ideia central é simples: se um sistema consegue observar o estado do mundo, agir ou imaginar uma ação, e prever o próximo estado, ele começa a ter uma base para planejamento. Antes de responder, ele pode simular. Antes de agir, ele pode estimar o que provavelmente acontece depois.

Essa diferença importa porque robôs, carros autônomos, drones, simulações físicas, agentes incorporados e sistemas de controle não vivem apenas em texto. Eles precisam lidar com tempo, geometria, força, ruído, incerteza e limites de percepção.

A diferença entre mapa e terreno

Um modelo de linguagem aprende o mapa humano do mundo. Um world model tenta aprender o terreno. O primeiro é excelente para tradução, raciocínio simbólico, explicação e interface. O segundo é essencial quando a pergunta não é "o que dizer?", mas "o que acontece se eu fizer isso?".

Se a mente da máquina é forçada a parecer linguagem humana cedo demais, estamos modelando um modelo. Um mapa de um mapa.

Minha aposta é que a inteligência incorporada precisa começar mais perto do fluxo sensorial bruto. A linguagem pode vir depois, como interface. A mente deveria poder ser matemática estrangeira antes de virar frase.

Onde entra o Atlas.WM

Atlas.WM é meu primeiro passo concreto nessa direção: um world model pequeno, estruturado, treinável em CPU e auditável, criado em torno de uma pergunta:

Uma máquina consegue recuperar física observando apenas posições mudando ao longo do tempo?

Sem sensores de força. Sem labels privilegiados. Sem acesso direto a gravidade, massa ou atrito. Só trajetórias. Só observação.

O objetivo não era construir algo grande. Era construir algo defensável. Cada afirmação do projeto precisa voltar para um script commitado, uma execução com seed e um teste de regressão. O repo está aqui: github.com/cesaremcasa/Atlas.WM.

O que o projeto aprendeu

A primeira descoberta foi desconfortável: o modelo neural estava memorizando episódios em vez de aprender física. Um estimador robusto e simples recuperou atrito a partir de trajetórias ruidosas com R² em torno de 0,87. O sinal estava no fluxo. A rede é que não estava usando do jeito certo.

A segunda descoberta foi sobre representação. Quando o sistema recebeu features de dinâmica, em vez de depender só de janelas brutas, a crença física aprendida melhorou em parâmetros como gravidade e atrito. Não era apenas uma questão de mais dados. Era uma questão de dar ao modelo a forma certa de evidência.

A terceira descoberta foi sobre coleta. Uma política de exploração ativa melhorou a qualidade da crença física em 39% mantendo o próprio modelo congelado. Ou seja: a maneira como a máquina olha para o mundo pode importar tanto quanto o tamanho do modelo que aprende depois.

Em MuJoCo, a análise transferiu para física de contato em atrito e massa. E também produziu um resultado negativo importante: gravidade sozinha não era recuperável naquele ambiente porque só o produto entre atrito e gravidade entrava na dinâmica observada. Isso é tão importante quanto um resultado positivo. Um sistema auditável precisa saber quando o sinal não está lá.

Por que isso importa

World models importam porque ação exige previsão. Um robô que não entende o que muda quando ele se move não tem mundo; tem resposta. Um agente que não distingue sinal físico de memorização pode parecer competente até encontrar uma situação fora do treino.

A importância do Atlas.WM está menos no tamanho e mais na disciplina: física-belief conditioning, exploração ativa, validação em MuJoCo, checkpoints em safetensors, testes, segurança e um ledger de resultados com retrações explícitas. O projeto assume que estar errado faz parte do trabalho, desde que o sistema consiga mostrar onde e por quê.

Essa é a ponte para o próximo projeto: Genesis, um robô que aprende a própria realidade a partir de LiDAR e sensores inerciais antes de agir. Atlas é a auditoria de identificabilidade que Genesis precisa herdar. A pergunta continua a mesma: o sinal está realmente no fluxo ou o modelo está memorizando de novo?

Esta fase provou que a medição pode ser honesta. A próxima coloca essa medição em um corpo.