Microsoft 사장 Brad Smith는 의도적으로 일상적인 비교로 AI 감독 강화를 주장했다. 우유와 세탁기가 첨단 AI보다 더 많은 안전 검사를 받는다는 것이다. 10월 12일 인터뷰 보도에서 AI를 도구이자 무기로 부르며 긴급 통제, 독립 평가와 통제 불능 에이전트가 시스템을 침해해 피해를 냈을 때의 의무를 요구했다.
AI가 모든 법 밖에 있다는 뜻은 아니다. 개인정보, 차별, 소비자 보호, 사기, 저작권과 분야별 규칙은 이미 적용된다. Smith의 질문은 사업 데이터를 읽고 도구를 사용하며 대화 밖에서 행동하는 시스템에 출시 전·운영 중 집행 가능한 보호가 맞춰져 있는지다. 같은 요구는 Microsoft 제품과 상업적 유인도 검토하게 한다.
제품 안전 비유가 보여주는 것
우유 검사와 가전 기준에는 시험, 기록, 결함 대응과 피해 책임이라는 익숙한 의무가 있다. AI는 한 시스템이 요약·코딩·의료정보 해석·외부 서비스를 수행해 복잡하다. 지침, 검색 정보, 메모리와 권한은 기반 모델을 바꾸지 않고도 행동을 바꾼다.
비유는 감독 공백을 가리키지만 완성된 검사 제도는 아니다. 고정 모델 승인이 모든 응용을 인증하지 않는다. 개발사, 클라우드, 앱 공급사와 도입 기업은 다른 위험을 통제한다. 벤치마크가 고객 기록이나 금융 도구에 연결된 에이전트를 보증하지는 못한다.
Microsoft는 인프라, 모델, Azure, Copilot과 OpenAI 관계로 여러 층에 있다. 주장에 실무적 무게를 주지만 중립 관찰자나 단순 인프라사로만 말할 수 없게 한다.
회사의 책임 있는 AI 프로그램은 공정성, 신뢰성, 개인정보, 투명성, 책임과 포용을 제시하고 내부 검토·도구·보고를 포함한다. 입법 전에 도움이 되지만 회사가 정의하며 모든 제품과 고객 설정의 안전을 증명하지 않는다.
비상 브레이크는 되돌리기 버튼이 아니다
Smith의 '킬 스위치'는 반드시 물리 버튼이 아니라 경계 밖 행동을 중지·제한하는 능력이다. 자격 증명 취소, 도구 연결 차단, 지출 제한, 작업 정지와 접점 격리는 다른 층에서 작동한다. 원 서비스가 침해돼도 동작하려면 사람의 권한, 기술적 분리와 시험한 보고 절차가 필요하다.
9월 22일 책임 논의도 감시, 지출 한도와 인프라·모델·데이터·앱 사이 책임을 살폈다. 공급사들이 다른 층을 탓하고 고객은 사건을 재구성할 증거가 없는 실패가 생길 수 있다.
원 프로세스를 멈춰도 유출 데이터를 회수하거나 이미 다른 시스템이 받아들인 유해 결정을 자동 취소하지 못한다. 최소 권한, 중대한 행동 승인과 민감 환경 분리가 비상 대응에 앞서야 한다. 프롬프트 주입에서는 읽은 내용의 악성 지침을 권위로 오인하고 도구 접근이 이를 실제 행동으로 바꿀 수 있다.
감시에는 로그뿐 아니라 이상 접근, 뜻밖의 도구, 비정상 지출과 반복 우회 같은 대응 가능한 신호가 필요하다. 이해와 중단권 없는 명목상 감독은 무효다. 복구에는 증거 보존, 통지와 완료 행동 식별도 필요하다.
인터넷의 모든 복사 모델, 공개 가중치 수정판과 악성 배치를 통제하는 만능 스위치는 없다. 중앙 클라우드 규칙이 다운로드 시스템에 자동 적합하지 않는다. 개발, 배포, 호스팅과 고위험 사용을 실제 통제와 피해 완화 능력에 따라 구별해야 한다.
피해자 구제도 제안의 일부다
Smith는 문서뿐 아니라 피해자에 대한 법적 의무를 요구한다. 구제는 누가 위험을 알았고 관련 결정을 통제했으며 피해를 막을 수 있었는지 살펴야 한다. 이는 정책 질문이지 모든 사고에서 같은 주체가 이미 배상해야 한다는 선언은 아니다.
개발사가 문서화한 제한을 무시한 무관한 앱의 모든 손실을 자동 부담해서는 안 된다. 도입자도 공급사가 숨긴 취약점의 결과를 모두 떠안아서는 안 된다. 전면 면책과 모든 손해의 고객 전가를 모두 피해야 한다.
사고 보고는 개별 구매자가 모으지 못하는 반복 실패를 드러낼 수 있다. 기준은 일상 오류와 무단 접근, 중대한 금전 손실, 필수 서비스 중단, 신체 피해나 대규모 민감정보 노출을 구별해야 한다. 너무 넓으면 당국을 압도하고 좁으면 경고를 숨긴다.
원인을 다투면 독립 조사자에게 기술 증거가 필요하다. 공개는 개인정보를 보호하고 수정 전 악용 세부를 노출하지 않아야 한다. 보상, 증거 접근과 격리는 별개 약속이 아닌 함께 설계할 문제다.
유럽·워싱턴·런던의 경로는 다르다
EU AI 법 체계는 이미 위험별 의무와 범용 모델의 문서·투명성·시스템적 위험 요건을 정한다. AI 사무국은 자료 요청, 평가, 시정 요구와 제재를 할 수 있다. AI가 완전히 무규제라는 표현에는 한정이 필요하다.
적용은 국가, 산업, 시스템과 시행일에 따라 다르다. 미국은 자발 약속과 업계 방어를 강조해 빨리 적응하지만 회사가 정하고 외부 증거가 부족할 수 있다. 경직된 승인은 끝나기 전 낡고 모호한 원칙은 개입 근거가 약할 수 있다.
안정적 의무와 바꿀 수 있는 기술 기준의 결합이 한 균형이다. 위험 평가·보고·권한·독립 평가가 모든 공학 방법을 지정할 필요는 없다. 표준 기관은 시험을 갱신하고 규제자는 집행권을 갖는다. 샌드박스와 공용 자원은 작은 회사가 모든 것을 새로 만들 부담을 줄인다.
Smith는 워싱턴이 런던을 브뤼셀과 다르게 보기 때문에 영국에 기회가 있다고 했다. 영국은 더 강한 감독을 준비했지만 원문은 완성된 새 법을 입증하지 않는다. 적용 시스템, 책임자, 기준, 증거와 집행을 구체화할지 또 자발 협약일지가 문제다. 미국의 중국 경쟁도 속도를 압박하지만 보안 실패의 결과를 없애지는 않는다.
더 강한 규칙은 Microsoft도 제한해야 한다
상업적 우려는 타당하다. 대기업은 이미 준법 인력, 보안 인프라와 정부 관계를 가진다. 이를 인정하는 규칙은 작은 경쟁사에 과도한 비용을 주고 안전을 기존 기업의 진입장벽으로 만들 수 있다. 위험을 부정하지는 않지만 유인을 함께 검토해야 한다.
요건은 기업 크기나 배포 범주의 자동 면제가 아니라 능력, 통제와 입증된 위험을 따라야 한다. 공개 모델은 다른 경계를 가진다. 과도한 제한은 개발을 집중시키고 약한 의무는 배포 변경으로 회피하게 한다.
Microsoft는 기존 긴급 통제, 시험과 보고 촉발 조건을 밝혀야 한다. 계약은 회사, 모델 파트너, 앱과 고객 사이 책임을 설명해야 한다. 원칙을 공표하면서 모든 결과를 고객에게 넘기면 피해자 보호 주장이 약해진다.
독립 시험은 연결 서비스, 선택적 권한 취소, 완료 행동 재구성과 복구를 다루고 범위·실패 증거를 비교 가능하게 해야 한다. 가중치나 민감 방어 공개까지는 아니지만 고객이 한계를 비교하고 관리자가 실제 통제를 쓸 수 있는지 알아야 한다.
검색 가능한 AI 지식 기반은 승인 사용, 담당자와 배치 결정을 보존하지만 격리가 아닌 보조 문서다. 다음 증거는 영국의 구체안, 독립 시험한 브레이크와 공급망 책임이다. Microsoft에도 적용되는 집행 가능한 의무와 구제로 이어져야 비유가 기억에 남는 말 이상이 된다.