독립 감사는 안전 선언의 서명자보다 많은 것을 바꿉니다. 누가 모델을 살피고 개발자 증거에 이의를 제기하며 배포에 영향을 줄 수 있는지를 바꿉니다. Maria Cantwell의 2026년 10월 7일 여섯 원칙은 외부 판단을 공개 전에 두고 이후 지속 검토와 연결합니다.
정책 틀이지 통과된 법률이나 구속력 있는 공개 규칙이 아닙니다. NIST에 새 집행 권한을 주거나 최종 모델 기준과 준수 기한을 만들지 않습니다. 개발자와 구매자는 어떤 증거가 필요한지, 어떤 미결 설계가 실현 가능성을 정하는지 물어야 합니다.
의무보다 적용 범위부터 정하기
Cantwell은 측정 가능한 위험 기반 연방 기준, 배포 전 독립 감사와 지속 시험을 제안합니다. 여섯 원칙에는 투명성·책임, 민관 협력, 사회 보호와 국제 협력도 있습니다. 처음 셋이 검증 핵심이고 나머지는 실험실 밖으로 범위를 넓힙니다.
범위는 어렵습니다. 학습 연산 기준은 도구나 미세조정으로 강해진 소형 모델을 놓칠 수 있습니다. 능력 시험은 유연하지만 신뢰할 평가가 필요합니다. 공개 가중치는 원개발자, 수정자와 배포자 책임을 나눠야 합니다. 제안은 별도 처리를 인정하되 면제, 부담과 집행을 정하지 않습니다.
외부 시험과 개발자 요약 구분하기
대조되는 방식은 주로 개발자 자체 시험과 주의 의무에 의존합니다. 내부 팀은 기술을 알고 빠르게 시험하지만 상업적 출시 압력은 외부 검토의 구조적 이유가 됩니다. 독립성 요구가 모든 내부 평가자를 부정직하다고 비난하는 것은 아닙니다.
믿을 만한 감사에는 정한 접근권, 적격 평가자와 이해충돌 규칙이 필요합니다. 선택한 요약만으로 부족할 수 있지만 가중치, 프롬프트, 안전 구조와 사고 기록은 기밀을 담습니다. 안전한 접근, 공개 한도, 이의 절차와 감사 책임을 함께 설계해야 합니다. 외부 업체에 지불한다고 전문성과 독립성이 보장되지는 않습니다.
배포 시스템의 수명주기 평가하기
기반 모델을 한 번 시험해도 도구, 권한, 업데이트와 협업 변경 후의 안전을 입증하지 못합니다. Cantwell은 사이버 및 중대 과학 오용, 감시 회피, 통제 상실과 위험한 자동 개선을 강조합니다. 무엇을 어떤 접근·보호 조건에서 시험하고 무엇을 제외했는지 밝혀야 합니다.
지속 시험과 중대 사고 보고는 변화에 대응하지만 세부가 중요합니다. 어떤 변경이 재감사를 요구하고 누가 민감한 발견을 받아 시정을 요구하며 사용자에게 무엇을 쉽게 알릴까요? 평가는 선택한 행동을 관찰하지 무위험이나 모든 미래 상호작용을 증명하지 않습니다.
현행법을 만들지 말고 증거 준비하기
모델 버전, 도구 권한, 시험, 한계, 완화 결과, 사고 보고와 책임 있는 출시 판단은 지금도 기록할 수 있습니다. 구매자는 누가 평가하고 발견을 어떻게 검토했는지 물을 수 있습니다. 기록 정리는 준비이지 자율 NIST 절차가 미래 법을 충족한다는 뜻은 아닙니다.
법안 본문, 초당적 합의와 예산을 받은 평가 역량을 함께 보세요. 정의, 접근, 집행력, 벌칙, 자격과 사법 검토가 아직 필요하며 주 보호와 관계도 미정입니다. 사람과 안전 인프라 없는 기준 발표로 실질적 독립 검증은 이루어지지 않습니다.
핵심 차이는 개발자의 보장과 다른 적격 주체가 검토할 증거 사이에 있습니다. 제안은 그 차이를 공개 전으로 옮깁니다. 구속 규칙이 생기기 전에는 거버넌스 제안으로 설명하고 증거 개선에 활용하되, 아직 없는 승인 요건이나 기한을 알리지 마세요.