A OpenAI comprometeu US$ 7.5 milhões para o The Alignment Project, um fundo global administrado pelo UK AI Security Institute para apoiar pesquisas independentes de segurança.
A bolsa visa diversificar a busca por soluções de alinhamento, com foco em campos teóricos como teoria dos jogos e complexidade computacional que estão fora do roteiro imediato dos laboratórios de fronteira.
Ao apoiar a investigação sobre métodos “não correlacionados”, a OpenAI está efetivamente a proteger as suas apostas no caso de as atuais leis de escala de força bruta não conseguirem resolver o problema de alinhamento à medida que abordamos a AGI.
Esta medida também fortalece o vínculo entre os laboratórios privados de IA e os reguladores de segurança nacionais, posicionando o AISI do Reino Unido como um centro central para os padrões globais de segurança de IA.
No entanto, a escala deste investimento é insignificante em comparação com a perda operacional projetada de 14 mil milhões de dólares da OpenAI para 2026, levantando questões sobre se esta é uma mudança estratégica central ou um exercício de relações públicas.
Existe um “viés sistémico” inerente quando um organismo regulador aceita financiamento das próprias entidades que está encarregado de supervisionar, comprometendo potencialmente a sua independência.
Além disso, concentrar-se na investigação teórica do tipo "céu azul" pode funcionar como uma distração dos riscos imediatos e tangíveis da deploy de modelos em grande escala nas infraestruturas atuais.
A verdadeira investigação independente sobre alinhamento requer mais do que apenas financiamento; requer acesso aos pesos internos e aos dados de treinamento que laboratórios de fronteira como o OpenAI ainda mantêm a portas fechadas.
Sem transparência estrutural, a investigação externa continua a ser um exercício de caixa negra que poderá ter dificuldades em acompanhar a velocidade real das capacidades do modelo.
Link: https://lnkd.in/eti_gXpA