Eu estava revisitando uma reportagem da BBC News que ressurgiu com força esta semana. O artigo explica como as autoridades francesas invadiram os escritórios da X em Paris como parte de uma investigação criminal, enquanto o Reino Unido abriu uma nova investigação regulatória sobre Grok, a IA desenvolvida pela xAI e integrada na plataforma X.

Em França, os procuradores estão a investigar a extracção ilegal de dados, deepfakes sexuais e até potencial cumplicidade relacionada com imagens ilegais envolvendo menores.

No Reino Unido, o foco está na capacidade da Grok de gerar imagens sexualizadas prejudiciais e no uso de dados pessoais sem consentimento, com a OIC intervindo onde o Ofcom não tem poderes sobre os chatbots.

Estas não são ações isoladas, mas movimentos paralelos entre jurisdições, todos desencadeados pela mesma realidade técnica.

O que me chama a atenção não é um debate sobre a liberdade de expressão, mas sim o incumprimento de um princípio básico da IA ​​na produção: capacidade implica responsabilidade. Estamos acostumados a ver empresas de tecnologia serem lançadas rapidamente, observar reações adversas e corrigir mais tarde. Esse padrão pode funcionar para recursos sociais ou mudanças de UX, mas quebra quando aplicado à IA generativa incorporada em uma rede social ativa.

Um modelo de IA operando isoladamente é uma coisa. Um modelo de IA conectado a uma rede viva é algo totalmente diferente.

Possui um conjunto de dados em tempo real, ciclos de feedback contínuos, amplificação algorítmica, vítimas identificáveis ​​e um enorme raio de explosão. Neste contexto, barreiras de proteção fracas não são um descuido menor, são um risco sistémico.

Grok não gerou apenas conteúdo, ele gerou realidade em escala, dentro de uma plataforma pensada para amplificar.

É por isso que os reguladores reagiram com tanta força e é por isso que este caso provavelmente se tornará um ponto de referência sobre como a governação da IA ​​deve funcionar quando os modelos são implementados dentro de plataformas sociais.

Link: https://lnkd.in/eEqMFUVB