Orca Securityは巨大なプロンプトをAmazon Bedrockの9段階工程に替え、Discovery AIの入力トークンを93%、費用を90%、遅延を75%削減したと報告します。重要なのは、多くの質問に不要なスキーマをモデルに送らなくなった点です。
自然言語をSonarフィルターへ変換します。Sonarは資源、ID、脆弱性、関係を含む900超のモデルを持ち、従来は正確なJSON、名称、18種の演算子を知る必要がありました。障壁を下げても、正確で権限内の調査は必要です。
2026年3月以降、1日数千件を処理するとされています。AWSとOrcaによる自社事例であり、他社との独立比較ではありません。
試作の成功が本番の問題を示した
初期版は900超の定義、関係、例を大モデルへ送りました。利用者は結果を評価したといいますが、同等の負荷で約200万入力トークンと60秒を要し、複数モデル、入れ子、複条件はなお修正が必要でした。
新工程は接続クラウドやメタデータなど組織文脈から始まります。規則による照合がIP、CVE、ハッシュ、名称、URL、警告IDを認識し、既知の型はモデルなしで定義済みフィルターを返せます。
残りは注入、無関係な質問、未対応入力のガードレールへ進みます。明確な高速経路と解釈が必要な要求を分け、失敗箇所も識別できます。
段階を増やして生成量を減らすのが変化です。各工程が残る不確実性を絞ります。
検索と選択で推論対象を小さくする
Titan埋め込みで検証済み例を20件検索し、Cohere Rerank 3.5で5件に絞ります。単純top-Kは類似例が重複し、MMRは多様性と引き換えに最適例を下げる場合があったため、この組合せを選びました。
完全一致または高信頼なら既存フィルターを直接使い、それ以外は生成の手本にします。似た質問でも条件が違うため閾値が重要です。
選択モデルはSonarの用途、主要フィールド、関係の短い説明を読み、必要な完全スキーマだけを生成へ渡します。Claude Haiku 4.5が選択・生成、Nova 2 Liteが速度と費用を重視するガードレール・検証を担当します。
モデル、フィールド、演算子を静的検査し、Sonar APIでも確認します。構造化エラーで該当箇所を修正し、再試行は有限です。図の最終段階は応答後処理とDiscovery URL生成で、生テキストだけを成果にしません。
入力は約200万から14万へ93%減、費用90%減、60秒から15秒へ75%短縮です。自社の旧版との比較であり、どのシステムにも同じ削減を保証しません。
有効なフィルターと正しい調査は違う
存在しないフィールドや演算子は排除できますが、意図の完全な保持は保証できません。有効でも例外、期間、関係を落とせます。
「露出したデータベース」はネットワーク経路、種類、許容リスクの定義で変わります。仮定やフィルターの表示が必要ですが、事例は利用者の全確認体験より生成と検証を詳しく説明します。
データには内部資産、脆弱性、設定、口座関係があります。攻撃分類器は認可機構ではありません。モデルに入る情報を制限し、要求者の権限で実行し、助手の広い権限を貸してはいけません。
参照AWS指針はID伝達とモデル外のアクセス制御を推奨します。低権限者が高権限の仲介を使う「混乱した代理」を避けます。Orca資料は組織文脈を示しますが、全テナント隔離・利用者権限の詳細はありません。
これは脆弱性の証明ではなく、説明できる範囲の限界です。有効性、意図、アクセスは別々の試験で、効率の数字では置き換えられません。
人と管理された例が改善を支える
正しさ、完全性、参照との意味的一致を、質問・モデル別に評価します。LLM裁判に加え、製品、サポート、研究者、顧客も誤りを報告します。
低信頼の本番質問は日次ラベル付けに入り、専門家の訂正をコード配布なしで次の検索に反映できます。AI責任者Or Gabayが最重要の長期投資としたのは、この人による品質過程です。
新しい質問や脅威への対応に役立ちます。MITREクラウド行列も調査整理を助けますが、静的例集は資源と攻撃経路の変化で古くなります。
訂正には共通方針が要り、例集には版、削除、品質審査、機密流入防止が必要です。Bedrockでモデル交換しやすくても、選択から検証まで回帰試験が要ります。
効率は具体的、精度の証拠は不足
データセット、件数、合格率、正確な改善幅は公開されていません。複雑な質問が改善したという主張を独立再現するには不足です。
裁判基準、参照、人工評価の一致も重要です。再試行上限率、直接照合や例再利用の割合も不明です。
15秒が中央値か裾かは区別されず、同等負荷も要求構成、キャッシュ、出力量、モデル、試行数に依存します。日次数千件は利用者数、採用率、放棄、手修正、省時間ではありません。
教訓は9段階が必勝ではなく、文脈を選び、役割を分け、既知例を再利用し、強制可能な規則を確定処理に置くことです。Security Lakeの先行例も質問を構造化しますが、大きな領域スキーマの削減が特徴です。
コンパイラーに似た分担は費用と失敗を可視化する反面、依存と評価を増やします。変更後の品質が持続性を決めます。
自社試作比では大きな改善です。次は難しい分類別の精度、継続利用、更新後の回帰結果が必要です。それによって安い推論を、有効で意図に忠実かつ権限内の迅速な安全判断へ結べます。