O cenário da IA se move mais rápido do que podemos processar. Para um engenheiro de IA, o FOMO constante é real. Somos bombardeados com centenas de novos artigos sobre arXiv, blogs do setor e atualizações de produtos.
Tentar rastrear tudo manualmente não consome apenas tempo; isso é impossível. O ruído abafa rapidamente o sinal.
Eu precisava de uma maneira de superar o caos e conseguir apenas o que importa, entregue exatamente como preciso. É por isso que construí o Orca.
Orca é um agente autônomo de IA projetado para atuar como meu filtro de inteligência pessoal. Não apenas coleta dados; ele vasculha ativamente a bagunça para encontrar o ouro. Ele examina laboratórios de pesquisa de alto nível, como Google DeepMind e OpenAI, rastreia mudanças de hardware da NVIDIA e TSMC e monitora as tendências do setor, filtrando o boato para fornecer um resumo executivo conciso do que é realmente relevante.
A engenharia por trás do Orca está focada na eficiência de custos e na velocidade. Afastei-me dos caros bancos de dados de vetores em nuvem e construí toda a camada de persistência usando SQLite-VSS para pesquisa de vetores locais. O pipeline de ingestão usa uma estratégia de filtragem em dois estágios. Primeiro, um mecanismo heurístico determinístico filtra ruídos e marketing óbvios antes mesmo de pensarmos em chamar um LLM. Em seguida, passamos apenas os itens de alto sinal para OpenAI (GPT-4o-mini) para síntese usando o modo JSON. Essa abordagem reduz drasticamente os custos de token e garante que eu obtenha dados estruturados e acionáveis, em vez de textos incoerentes.
Construí esta pilha usando Python 3.11, feedparser para ingestão de RSS e Pydantic para validação estrita de dados em vários buckets. O resultado é um sistema que funciona localmente, respeita meu tempo e me devolve o controle sobre a mangueira de informações.
Todos os dias leio as notícias geradas e o que me interessa me aprofundo.