Vibrações do verão de 26: voos internacionais, calor em Riad e muitas conversas com CISO. Cada conversa (independentemente da localização geográfica ou vertical do setor) atualmente começa e termina com uma estratégia de IA. Vamos desvendar a nuance.
Todo executivo deveria ser contemplando duas questões neste momento:
- Estamos construindo, testando e escalando agentes para o próximo ataque de atividades adversárias habilitadas por IA?
- Temos a amplitude de inteligência necessária para nos movermos na velocidade da máquina?
Por que agentes e por que agora?
O tempo é tudo na vida. Portanto, a questão é: por que investir agora em agentes para fluxos de trabalho defensivos? Duas premissas precisam ser explicadas aqui.
Primeiro, vamos nos concentrar nos adversários com motivação financeira que não recebem salário do governo (direta ou indiretamente). Os adversários patrocinados pelo Estado têm um conjunto diferente de recursos à sua disposição.
Há casos controlados em que os modelos Frontier AI permitem atividades adversárias autônomas na geração de malware ou cadeias de intrusão holísticas. Até os Cinco Olhos são avisando oficialmente sobre o uso adversário de modelos de fronteira. No entanto, o ataque de agentes ofensivos ainda não se materializou. Como o Uruk-hai atacando as Profundezas de Helm O Senhor dos Anéisesperamos que a onda esteja chegando, mas o exército automatizado ainda não chegou. Por que não?
Os modelos de fronteira podem ser suscetíveis a envenenamento de contexto ao longo do tempo, mas é difícil usá-los em qualquer escala para operações ofensivas automatizadas. As grades de proteção são suficientes no momento. Os adversários também ficam presos entre a tensão OPSEC de usar APIs de terceiros (o que aumenta o risco de atribuição) e investir os recursos para construir modelos locais de código aberto.
Embora muito tenha sido feito sobre as capacidades do modelo de código aberto, a realidade é que são necessários tempo, esforço e recursos financeiros para utilizá-los de forma eficaz em campanhas ofensivas. Para ficar nerd por um segundo (porque os detalhes são importantes), um experimento recente com Bate-papo grátis e Lhama-golfinho3:14b (LLM sem censura) em um servidor local de US$ 3 mil (contendo uma GPU Nvidia razoável com 16GB de VRAM) revelou que tarefas simples como codificar um novo web shell ainda estão fora de alcance.
O nível de esforço e hardware necessários para construir um recurso local capaz de orquestrar agentes de ataque autônomos eficazes só diminuirá com o tempo. Quantização é o relógio que os defensores deveriam estar atentos. Uma explicação de quantização redutiva neste contexto de IA é usar menos memória ao arredondar bilhões de números (pesos) em vez de manter a precisão, diminuindo assim o tamanho de um modelo de IA. Embora o modelo seja um pouco menos capaz, ainda é útil para a maioria das tarefas. A quantização reduz a barra de hardware e, quanto mais baixa essa barra, mais cedo os atores oportunistas poderão executar ataques em grande escala.
O perigo para os defensores não são os modelos de fronteira que chamam a atenção; é a facilidade com que os adversários podem implantar modelos locais eficazes em hardware modesto. Com base no 18 meses anteriores de adiantamentosos próximos 6 a 12 meses provavelmente produzirão avanços semelhantes nas capacidades do modelo de código aberto com investimento mínimo em hardware. É aí que os atores oportunistas começam a atuar em grande escala.
O que nos leva de volta à proteção da proverbial casa com agentes defensivos de IA. Agora é a hora construirnão pondere. Não entramos em carros autônomos até que tenhamos alguma confiança de que os casos extremos foram resolvidos. Da mesma forma, os casos extremos do fluxo de trabalho agente não podem ser descobertos e resolvidos sem iteração e testes.
CISOs inteligentes estão construindo uma Aviões de controle de IA (em colaboração com unidades de negócios adjacentes) para permitir transparência no consumo de tokens de IA, visibilidade do ROI do projeto e segurança de código. Construir e testar agentes faz parte de um projeto maior de plano de controle e é particularmente sensível ao tempo.
Imprensados entre a disponibilidade de dados e as regulamentações de segurança da informação, os CISOs precisam gerar confiança nos agentes. Os seres humanos podem permanecer no ciclo de decisão num futuro próximo, mas observar os agentes num ambiente que não seja de produção é fundamental. Da aplicação de um patch à geração e aplicação de uma assinatura, à quarentena de um PC ou à revogação de credenciais, não há substituto para a iteração ao longo do tempo. Os fornecedores são certamente úteis para compartilhar conhecimentos e soluções de domínio, mas dadas as implicações dos agentes que falham em ambientes de produção, as equipes devem possuir e observar os fluxos de trabalho por um período prolongado.
As organizações que não começarem a construir e interagir com agentes agora encontrar-se-ão numa desvantagem significativa, à medida que os actores motivados financeiramente (especificamente) aumentam as suas capacidades autónomas utilizando modelos de IA de código aberto.
Para onde os agentes devem ir primeiro?
Esta é a segunda questão na prática. Os agentes são tão bons quanto os dados disponíveis para eles, e a movimentação na velocidade da máquina requer inteligência ampla e rastreável. Há muitos frutos ao alcance da mão (proteção da marca, por exemplo), mas as três categorias a seguir são de grande valor.
1. CTEM (Gerenciamento Contínuo de Exposição a Ameaças). Todos os cinco estágios CTEM são adequados para agentes. Especificamente, vulnerabilidade liderada por IA descoberta está explodindomas patches confiáveis nem sempre estão disponíveis. O nome do jogo é KEV. KEVs (vulnerabilidades exploradas conhecidas) e assinaturas de detecção construídas por agentes são a prioridade urgente em um mar de informações amplamente irrelevantes Pontuações CVSS. Quando os KEVs recentemente identificados são combinados com um inventário abrangente de ativos e serviços enumerados, tanto do ponto de vista interno como externo, surge um poderoso fluxo de trabalho de agência. A amplitude da visibilidade da inteligência KEV é diretamente proporcional à qualidade dos resultados do CTEM.
2. BAS (simulação de violação e ataque). Pense em Red Teaming contínuo. Os controles raramente previnem ou detectam ameaças com a taxa de eficácia anunciada. A IA adversária mapeará recursos e desmontará controles em minutos. Validar a cobertura e expor lacunas antes que os agentes do adversário entrem é aconselhável. A inteligência necessária para alimentar o BAS começa com malware ferramentas, táticas e procedimentos (TTPs)mas as ferramentas para viver da terra e as novas permutações de procedimentos são igualmente importantes. No curto prazo, os agentes acelerarão a orquestração entre novos TTPs e plataformas BAS. Os agentes de longo prazo substituirão muitas das ações da plataforma BAS.
3. Operações de Segurança. É aqui que há atualmente movimento substancial no espaço de fornecedores iniciantes de IA, à medida que alertas táticos de SIEM e possíveis investigações de resposta a incidentes são triados com mais rapidez. A inteligência profunda de diversas classes de origem em torno de indicadores e artefatos permite uma vantagem de decisão do agente para escalar, remediar ou fechar um ticket. A disciplina consiste em combinar a autonomia com as consequências. Fechar um ticket benigno e revogar credenciais de produção situam-se em extremos opostos do espectro de risco, e o modelo de governação deve permitir que os agentes atuem rapidamente no primeiro caso, mantendo um ser humano no segundo.
Adoção antecipada da Agentic ou espera?
Os agentes de segurança de nível de produção ainda podem ser um trabalho em progresso, mas investir agora em investigação e desenvolvimento permitirá uma resiliência organizacional mais profunda à medida que os modelos continuam a melhorar e a quantização acelera. A urgência defensiva está apenas começando; o objetivo é preparar-se antes que atores oportunistas possam implantar facilmente modelos locais de IA.
Combinar o suporte de serviços de fornecedores com experiência interna em IA e domínio de segurança acelerará a curva de aprendizado. Os humanos permanecem informados onde o julgamento é importante, enquanto os agentes assumem a maior parte do trabalho repetível. Não espere. Comece a construir hoje.
