영국 초지능 안전 법안을 읽는 방법

Geoffrey Hinton은 영국의 Artificial Superintelligence Security Bill을 지지했다. 노동당의 Alex Sobel 의원이 9월 8일 하원에 낸 제안으로, 영국에서 인공지능 초지능의 개발·배포·운영을 금지하고 가능한 전구 능력을 살피며 국제 협정을 추진하는 내용이다. 이는 프런티어 AI 논쟁에 중요한 개입이지만, 이미 시행 중인 금지나 합의된 기술 정의는 아니다.

ControlAI의 설명은 제안자의 목표를 보여 준다. 독립 보도에 따르면 전체 법안은 이후 의회 절차에서 제시될 예정이며, 정부 지원이 없는 의원 발의 법안은 법률이 되는 경우가 드물다. 따라서 기업과 독자는 이를 현재의 준수 의무가 아니라 검토할 정책안으로 봐야 한다.

먼저 입법 단계를 확인해야 한다

발의 자체는 구체적 토론을 시작하게 할 수 있지만, 법안은 수정·연기되거나 의회 시간을 얻지 못할 수 있다. 전문이 공개됐는가? 인공지능 초지능은 어떻게 정의되는가? 어느 활동과 주체가 대상인가? 누가 판단하고 어떻게 이의를 제기할 수 있는가?

이 질문들은 정치적 목표를 완성된 법 장치로 오해하지 않게 한다. 지지자들은 능력에 단단한 경계를 두려 하지만, 의회는 증거 기준, 불복 절차, 기존 규제와의 관계를 정해야 한다. Guardian의 초당적 서한 보도는 정치적 지지를 보여 줄 뿐 정부가 법안을 채택했다는 증거는 아니다.

능력 경계는 관찰 가능해야 한다

‘초지능’은 강한 표현이지만 안정된 법적 범주는 아니다. 시스템은 프로그래밍에서는 뛰어나도 일상적 판단에서 실패할 수 있고, 성능은 도구, 모델 버전, 프롬프트, 추론 시간, 운영자가 준 권한에 따라 달라진다. ‘인간보다 똑똑하다’는 말만으로는 연구소·법원·규제기관이 재현 가능한 결론에 이를 수 없다.

실행 가능한 규칙은 평가 과제, 허용된 자율성과 도구, 성공 기준, 시험 주체, 독립 검증을 명시해야 한다. 모델과 주변 소프트웨어도 분리해야 한다. 과도한 자격 증명을 받은 에이전트는 현재 심각한 위험이지만, 그 사실만으로 기반 모델이 미래의 법정 정의를 충족한다는 뜻은 아니다.

국내 집행은 세계적 통제가 아니다

영국 법은 국내 활동과 일부 영국 이용자 대상 서비스를 포괄할 수 있지만, 해외 훈련을 혼자 막을 수는 없다. 그래서 국제 협력 목표가 들어간다. 칩, 데이터센터, 계약, 자본, 전문 인력은 가시성을 제공하지만, 지식과 모델 가중치는 국경을 넘고 효율 향상은 단순 컴퓨팅 기준을 약화시킨다. 신뢰할 수 있는 국제 체계에는 공통 정의, 보호된 보고, 감사, 우회에 대한 결과, 방어적 안전 연구의 여지가 필요하다.

이는 이미 논의 중인 좁은 안전장치와 다르다. Cyber Security and Resilience Bill 수정안의 공식 기록은 핵심 시스템 보호에 관한 것이며 일반적 초지능 금지가 아니다. Hinton의 경고는 통제에 관한 검증 가능한 주장이지 임박한 재앙의 증명은 아니다.

팀은 지금도 최소 권한 자격 증명, 분리된 승인, 행동 로그, 독립 평가, 시험된 중지 절차로 연결형 에이전트 위험을 줄일 수 있다. 다음으로 볼 것은 전문, 정의, 연구 규칙, 규제기관 권한, 불복 절차, 정부 입장이다. 책임 있는 정책에는 측정 가능한 문턱, 검증 가능한 제도, 오늘의 배포 규율이 필요하다.