Orca Security riporta 93% di token in meno, 90% di riduzione del costo e 75% della latenza passando da un prompt enorme a nove fasi Amazon Bedrock. Conta ciò che non raggiunge più il modello: lo schema inutile per la maggior parte delle domande.
Discovery AI traduce linguaggio naturale in filtri Sonar. Oltre 900 modelli coprono risorse, identità, vulnerabilità e relazioni. Prima gli analisti dovevano scrivere JSON, conoscere nomi e scegliere fra 18 operatori. Ridurre questa barriera non elimina la necessità di indagini corrette e autorizzate.
Il caso parla di migliaia di query al giorno da marzo 2026. È un resoconto AWS–Orca del proprio sistema, non confronto indipendente con altri fornitori.
Il prototipo mostrava il limite produttivo
La prima versione inseriva oltre 900 definizioni, relazioni ed esempi in un grande modello. Partner e interni apprezzavano, dice Orca, ma un carico comparabile consumava due milioni di token e circa 60 secondi. Relazioni annidate, più modelli e condizioni richiedevano ulteriori correzioni.
Il nuovo percorso aggiunge contesto organizzativo, provider cloud e metadati. Un matcher deterministico riconosce IP, CVE, hash, nomi, URL e allarmi. Schemi noti restituiscono filtri predefiniti senza modello.
Altre richieste passano dal controllo contro iniezioni, fuori tema e input non supportati. Separa percorso esatto e interpretazione, rendendo localizzabili i guasti invece di nascondere ogni responsabilità in un’istruzione.
Più fasi possono significare meno generazione, se ciascuna restringe l’incertezza restante. È questa la modifica architetturale.
Recupero e selezione riducono il materiale
Embedding Titan recupera 20 esempi validati; Cohere Rerank 3.5 li riduce a cinque. Top-K produceva spesso quasi duplicati, MMR aumentava varietà ma poteva spostare il migliore. Recupero e riordino sono il compromesso.
Una corrispondenza esatta o molto sicura può riusare il filtro noto. Altrimenti gli esempi guidano il generatore. La soglia conta: domande simili possono richiedere condizioni diverse.
Il selettore legge descrizioni compatte di scopo, campi e relazioni Sonar. Solo gli schemi completi scelti arrivano alla generazione. Claude Haiku 4.5 seleziona e genera; Nova 2 Lite serve controlli e validazione più rapidi ed economici.
Controlli statici verificano modello, campo e operatore; segue l’API Sonar. Errori strutturati consentono correzioni mirate con tentativi limitati. L’ultima fase del diagramma elabora la risposta e costruisce URL Discovery, non considera testo grezzo il prodotto.
Due milioni diventano 140 mila token, meno 93%. Costo meno 90%, 60 secondi diventano 15, meno 75%. Il riferimento è il prototipo interno, non una promessa universale.
Valido non significa indagine corretta
Lo schema esclude campi inventati e operatori illegali, non prova l’intento completo. Possono mancare eccezioni, tempi o relazioni.
“Mostra database esposti” dipende da percorsi, tipi e rischio accettato. Assunzioni o filtro dovrebbero essere visibili. Il caso descrive generazione e verifica più dell’intera revisione dell’analista.
I dati comprendono asset interni, difetti, configurazione e conti. Il classificatore di attacchi non è autorizzazione. Occorre limitare dati prima del modello ed eseguire con i diritti del richiedente, non i poteri più ampi del servizio.
AWS raccomanda propagare identità e controllare l’accesso fuori dal modello. Evita il delegato confuso: una persona poco privilegiata usa un intermediario potente. Orca non dettaglia tutta l’isolazione fra tenant e utenti.
Non è prova di vulnerabilità, ma limite dei risultati. Validità, intento e accesso sono tre test, non sostituibili con percentuali di efficienza.
Persone ed esempi governati sostengono il miglioramento
Si misurano correttezza, completezza ed equivalenza con riferimenti, per domanda e modello. Il giudice LLM è integrato da prodotto, supporto, ricercatori e clienti.
Le query incerte vanno alla coda quotidiana di etichettatura. Correzioni esperte sono recuperabili senza distribuzione di codice. Or Gabay, direttore AI, definisce questa interfaccia il maggiore investimento qualitativo duraturo: un processo umano.
Serve per domande e minacce nuove. La matrice cloud MITRE organizza indagini, ma una libreria statica invecchia con risorse e percorsi d’attacco.
Correzioni richiedono politica comune, versioni, eliminazione, revisione e tutela di dati sensibili. Bedrock semplifica cambio modello, non elimina regressioni dalla selezione alla validazione.
Efficienza precisa, accuratezza pubblica incompleta
Mancano dataset, campione, tasso di superamento e aumento esatto di accuratezza. La dichiarata qualità migliore sui casi complessi non è riproducibile indipendentemente.
Rubrica, riferimenti e accordo umano influenzano il giudice. Non si conoscono tentativi esauriti o quota di filtri diretti e riutilizzati.
Quindici secondi non separano mediana e coda. Carico comparabile dipende da richieste, cache, output, modelli e tentativi. Migliaia di query non rivelano utenti, accettazione, abbandono, modifiche o tempo risparmiato.
La lezione non è “nove vincono sempre”. È scegliere contesto, dividere ruoli, riusare esempi e applicare regole deterministiche. Anche Security Lake traduce domande; Orca riduce soprattutto lo schema prima di generare.
Il disegno simile a compilatore rende visibili costi e guasti, ma aggiunge dipendenze e valutazione. La qualità dopo aggiornamenti determina la tenuta.
Il miglioramento rispetto al prototipo è notevole secondo Orca. Servono risultati per categorie difficili, adozione continuativa e regressione dopo cambiamenti. Solo così l’inferenza economica si collega a decisioni rapide, valide, fedeli all’intento e consentite.