A decisão do Google de bifurcar a TPU de oitava geração em 8t para treinamento e 8i para inferência marca o fim da era dos processadores de IA de uso geral.
A mudança arquitetônica para memória de acesso aleatório estática de alta densidade no 8i prova que o principal gargalo para workflows de agente não é mais a computação bruta, mas a latência da parede de memória.
Ao separar esses caminhos de silício,
Este é um ataque direto contra o fosso de software da NVIDIA,
Ecossistema #CUDA para garantir suas próprias margens brutas.
Estamos entrando em um regime em que 75% do código de produção é de autoria automática, necessitando de uma pilha de hardware otimizada para loops de geração de código massivos e de alto rendimento.
Interpreto a métrica de 16 mil milhões de tokens por minuto como um sinal de que a economia da inteligência está a girar em direção à execução contínua de milhões de agentes autónomos.
A alavancagem estratégica passou da posse do melhor modelo para a posse da unidade de inferência mais eficiente na extremidade da rede.
Se a sua infraestrutura depende de hardware que tenta unir o treinamento e o serviço, você está subsidiando o desperdício arquitetônico em detrimento da sua escala operacional.
O silício personalizado não é mais um experimento corporativo, mas um pré-requisito para a solvência técnica na era da agência.
A Google está a posicionar o seu negócio Cloud como uma utilidade especializada onde o custo da inteligência é determinado pela precisão da finalidade do chip.
O futuro do data center é um mosaico altamente fragmentado de silício para tarefas específicas, projetado para executar os distintos estágios do ciclo de vida da IA.