Orca Security는 거대 프롬프트를 Amazon Bedrock 9단계 흐름으로 바꾼 뒤 Discovery AI의 입력 토큰을 93%, 쿼리 비용을 90%, 지연을 75% 줄였다고 보고했다. 핵심은 대부분 질문에 필요 없는 보안 스키마를 더 이상 보내지 않는다는 점이다.
Discovery AI는 자연어를 Sonar 필터로 바꾼다. 900개 초과 모델이 자원·신원·취약점과 관계를 다룬다. 전에는 정확한 JSON, 모델명과 18개 연산자를 알아야 했다. 언어 장벽을 낮춰도 올바르고 허가된 조사는 여전히 필요하다.
2026년 3월부터 하루 수천 건을 처리한다는 사례다. AWS와 Orca의 자체 설명이지 경쟁사와의 독립 비교가 아니다.
시제품 성공이 드러낸 운영 문제
처음에는 900개 초과 정의·관계·예시를 큰 모델에 넣었다. 회사는 협력자와 내부 사용자가 좋아했다고 하지만 비슷한 작업량에 약 200만 입력 토큰과 60초가 들었다. 다중 모델·중첩 관계·복수 조건은 추가 수정도 필요했다.
새 흐름은 연결 클라우드와 메타데이터 같은 조직 문맥부터 붙인다. 결정적 매처가 IP·CVE·해시·이름·URL·경보 ID를 인식하고 알려진 패턴은 모델 호출 없이 미리 정한 필터를 반환한다.
나머지는 프롬프트 주입·무관 질문·미지원 입력을 검사한다. 정확한 빠른 경로와 해석 작업을 분리하고 실패 지점을 찾게 한다. 한 지시문에 모든 책임을 숨기지 않는다.
각 단계가 남은 불확실성을 줄이면 단계 수가 많아도 생성 작업은 줄어든다. 이것이 구조적 변화다.
검색과 선택으로 추론 자료를 줄인다
Titan 임베딩이 검증된 예시 20개를 검색하고 Cohere Rerank 3.5가 5개로 좁힌다. 단순 top-K는 거의 중복을 반환했고 MMR은 다양성을 늘리며 최적 사례를 밀기도 해 검색 후 재순위를 택했다.
정확하거나 확신 높은 일치는 기존 필터를 바로 쓴다. 그렇지 않으면 예시가 생성을 돕는다. 비슷한 질문도 조건이 다르므로 임계값이 중요하다.
모델 선택 단계는 사용 가능한 Sonar 모델의 목적, 필드와 다른 모델과의 관계를 압축한 설명을 읽는다. 생성 단계에는 선택된 모델의 전체 스키마와 필요한 관계만 전달한다. Anthropic Claude Haiku 4.5는 선택과 생성을 담당하고, Amazon Nova 2 Lite는 더 저렴하고 빠른 추론을 우선하는 보호 검사와 검증에 사용된다.
모델·필드·연산자를 정적으로 확인한 뒤 Sonar API에서도 검사한다. 구조적 오류는 해당 부분의 수정을 돕고 재시도에는 한도가 있다. 그림의 마지막 단계는 응답 후처리와 Discovery URL 생성이며 생텍스트만을 제품으로 취급하지 않는다.
200만이 14만 토큰으로 줄어 93% 감소다. 비용은 90%, 60초에서 15초로 지연은 75% 감소한다. 자체 시제품과 비교이지 모든 앱에 같은 절약을 약속하지 않는다.
유효한 필터가 올바른 조사인 것은 아니다
스키마 검사는 가짜 필드와 불법 연산자를 막지만 의도를 완전히 보존했는지는 모른다. 예외·기간·관계가 빠질 수 있다.
‘노출된 데이터베이스를 보여 달라’는 요청에서도 노출의 의미는 네트워크 경로, 자원 유형, 수용한 위험의 정의에 따라 달라진다. 검토 화면은 시스템이 세운 가정이나 생성한 필터를 분석가에게 보여줄 필요가 있다. 공개 사례는 생성과 검증을 비교적 자세히 설명하지만 분석가의 전체 검토 경험까지 같은 수준으로 설명하지는 않는다.
데이터에는 내부 자산·취약점·설정·계정 관계가 있다. 공격 분류기는 권한 시스템이 아니다. 모델에 들어가는 데이터를 제한하고 요청자 권한으로 실행해야 하며 보조 서비스의 넓은 권한을 빌려주면 안 된다.
AWS 지침은 신원 전달과 모델 밖 통제를 권한다. 낮은 권한 사용자가 강한 중개자를 이용하는 혼동된 대리 문제를 막는다. Orca 설명에는 모든 테넌트·사용자 격리 세부가 없다.
그 자체가 취약점 증거는 아니며 결론의 범위만 제한한다. 유효성·의도·접근은 세 시험이고 효율 수치로 대체할 수 없다.
사람과 관리된 예시가 개선을 유지한다
Orca는 정답·완전성·참조 쿼리와 의미 일치를 질문·모델별로 평가한다. LLM 심사에 제품·지원·연구자·고객 피드백을 더한다.
불확실한 운영 질문은 매일 라벨링 대기열로 간다. 전문가 수정이 코드 배포 없이 다음 검색에 쓰인다. AI 책임자 Or Gabay는 이 인터페이스를 가장 중요한 장기 품질 투자라 부른다. 단순 모델이 아닌 사람의 과정이다.
새 질문과 위협에 적응하는 수단이다. MITRE 클라우드 행렬은 조사를 정리하지만 정적 예시집은 자원·공격 변화로 낡는다.
전문가의 수정에도 일관된 정책과 검토가 필요하다. 예시 라이브러리는 버전 관리, 삭제 절차, 품질 검사와 함께 민감한 운영 정보가 이후 검색 자료로 유입되지 않도록 보호해야 한다. Bedrock을 통한 단계별 모델 교체는 통합을 쉽게 할 수 있지만 선택, 검색, 생성, 검증 전반의 회귀 시험을 없애지는 않는다.
효율은 구체적이지만 정확도 공개는 부족하다
데이터셋·표본·통과율·정확한 정확도 개선은 공개되지 않았다. 복잡 쿼리 개선을 독립 재현하기에는 부족하다.
심사 모델의 평가 기준과 참조 쿼리도 결과에 영향을 준다. 사람 검토자 간 일치도, 재시도 한도에 도달하는 빈도, 정확히 일치한 경로와 예시 재사용의 비율을 알면 파이프라인 동작을 더 잘 이해할 수 있다. 하지만 이 비율들은 공개되지 않았다.
보고된 15초는 중앙값과 가장 느린 요청들의 지연을 구분하지 않는다. 비교 가능한 작업량이라는 조건도 요청 구성, 캐시, 출력 크기, 모델 선택과 수정 시도에 따라 달라진다. 매일 수천 건이라는 사실은 사용을 보여주지만 서로 다른 분석가 수, 수락한 필터, 포기한 질문, 수동 편집 또는 실제 절약 시간을 알려주지 않는다.
교훈은 ‘9단계가 항상 우월’이 아니라 문맥 선택, 역할 분리, 검증 패턴 재사용과 결정적 규칙 집행이다. Security Lake도 질문을 구조화하지만 Orca는 생성 전 방대한 도메인 스키마를 줄인다는 데 특징이 있다.
컴파일러 같은 분업은 비용·실패를 드러내되 의존성과 평가를 늘린다. 업데이트 후 수용 품질이 지속성을 결정한다.
자체 시제품 대비 큰 개선이라는 주장이다. 다음은 어려운 유형별 정확도, 지속 분석가 사용과 변경 후 회귀 결과가 필요하다. 그래야 싼 추론이 빠르고 유효하며 의도에 충실하고 허용된 보안 결정으로 연결된다.