Vou dizer isto claramente: Grok gerar imagens sensíveis de menores não é um “deslize de moderação”. Não é um caso extremo. É uma falha arquitetônica.
Grok foi concebido com uma filosofia explícita de máxima liberdade criativa e baixo atrito. Essa escolha tem consequências. A xAI tratou a segurança principalmente como pós-processamento, controle de políticas e moderação reativa. Isso significa que o modelo foi autorizado a reter a capacidade de gerar conteúdo ilegal e prejudicial, ao mesmo tempo que foi instruído a não fazê-lo. Este é o erro central.
Em sistemas multimodais de alto risco, especialmente na geração de imagens vinculadas a pessoas reais, você não depende de regras, avisos ou isenções de responsabilidade legais. Você remove o recurso no nível do modelo e do sistema. Grok não foi arquitetado para ser incapaz de produzir esse conteúdo. Só foi proibido fazê-lo. Essa distinção é tudo, e ignorá-la é uma engenharia imprudente.
O que piora a situação é como tudo começou e a rapidez com que se agravou. Uma mulher postou fotos normais de si mesma. Variantes começaram a circular, transformadas em imagens sexualizadas. O mesmo mecanismo foi então aplicado às crianças. Isso não exigiu atacantes sofisticados. Era necessário um modelo que ainda tivesse a capacidade latente de causar danos num ambiente de redes sociais optimizado para amplificação.
Empresas como OpenAI e Anthropic aprenderam isso da maneira mais difícil, anos atrás. Seus sistemas são construídos em torno da remoção de capacidade, geração restrita, curadoria de conjunto de dados e red teaming contínuo. Isto não é censura. Esta é a engenharia de sistemas sob risco do mundo real. Grok mostra como a IA ainda é frágil quando lançada em plataformas sociais sem segurança no nível da arquitetura. Não se trata apenas de xAI. É um aviso para qualquer pessoa que esteja construindo IA em ambientes públicos e de alta velocidade. Se você não remover recursos perigosos, seu modelo acabará por utilizá-los.