Super Intelligence Force의 구성과 AI 정책 권한

Donald Trump가 10월 4일 발표한 4인 “Super Intelligence Force”는 정보, 경쟁법 집행, 국방 기술, 연방 인사를 대통령 조정 그룹에 모은다. 현재 AI가 기술적 초지능에 도달했다는 증거도, 새로운 허가 제도 발표도 아니다. 당장 바뀌는 것은 기존 책임을 연결할 담당자이며, 무엇을 강제할 수 있는지는 불명확하다.

보도된 구성원은 책임자인 국가정보국장 Jay Clayton, FTC 위원장 Andrew Ferguson, 국방부 기술 관료 Emil Michael, OPM 국장 Scott Kupor다. 대통령과 비서실장 Susie Wiles에게 보고한다. 예산, 독립 인력, 구속력 있는 규제 권한, 상세 공개 계획은 명시되지 않았다. 고위급 참여는 잠재적 영향력이지 효과적인 거버넌스의 증거가 아니다.

네 관료의 다른 임무와 보도된 120일 검토

공개 보도는 120일간 AI 위험과 기회를 평가하며, 과잉 규제나 규제 포획 없이 AI 기반 위협에 대응하는 임무를 설명한다. 기술 기업, 소비자, 핵심 인프라 운영자, 공익 단체, 종교 조직이 참여 대상이다. 고용, 사이버보안, 경쟁, 군사, 소비자 보호, 인프라 신뢰성과 공공 신뢰까지 포괄할 수 있다.

관심사가 자동으로 일치하지는 않는다. 정보기관은 해외 위협과 기밀 역량, FTC는 소비자와 시장 행위, 국방부는 작전 우위와 신뢰할 수 있는 도입, OPM은 채용·인사·인력 능력을 우선한다. 회의는 관점을 모으지만 충돌 때 어느 임무가 앞설지 결정하지 않는다.

직접 입법 권한이 없어도 우선순위, 공동 사업, 연구와 대통령에게 가는 정보를 조정할 수 있다. 하지만 독자적으로 법을 바꾸거나 의회가 다른 기관에 준 권한을 가져올 수 없다. 계약, 법적 요건, 유인, 공동 이해관계 없이 민간 협력을 보장하지도 못한다. 자발적 참여는 기업의 지속적인 동의에 달린다.

백악관은 최근 기술 경영진을 모아 구속력 없는 안전 약속을 논의했다. 원칙을 빨리 만들 수 있지만 해석, 증거, 관행이 다르거나 공개 없이 바뀔 수 있다. 검토가 의미 있으려면 혁신·안전의 일반론 대신 담당자, 시한, 측정 가능한 결과를 정해야 한다.

새 이름은 기술 개념보다 넓다

9월 29일 용어 명령은 행정부의 여러 공개 소통, 보고서, 웹사이트, 정책 문서와 비법정 자료에서 “Artificial Intelligence”와 “AI”를 “Super Intelligence”와 “SI”로 바꾸도록 했다. 기존 규정, 계약, 보조금, 역사 기록을 다시 쓰라는 요구는 아니다. 초기에는 기존 법정 AI 정의를 새 범주에 적용한다.

그 정의는 인간이 정한 목표에 따라 예측·권고·결정을 만드는 기계 시스템에 관한 것이다. 이름 변경은 행정적 재포장이지 새 능력 문턱을 넘었다는 과학적 판정이 아니다. Trump는 “artificial”이 기술을 가짜처럼 들리게 한다고 했지만 언어 선호는 성능 시험이 아니다.

기술 논의에서는 폭넓은 인지 업무를 인간 수준으로 수행하는 일반 AI와, 중요한 영역 대부분에서 인간을 넘는 초지능을 구별한다. 검색·게임·번역·특정 문제에서의 좁은 우위는 어느 쪽도 입증하지 않는다. 현재 시스템은 거짓 진술, 맥락 오독, 악성 지시 추종, 낯선 조건의 실패를 보인다. 보통 자동화를 초지능이라 부르면 같은 기술을 다루면서 기대만 높일 수 있다.

법률, 연구, 국제 표준, 계약, 기술 자료가 AI를 써 호환 문제도 있다. 명령은 60일 안에 연방 정의 입법안을 제안하도록 하지만 의회 통과 법률은 아니다. 국제 파트너는 별도로 결정한다. California 관계자 등은 정치적 메시지라 비판하고 지지자는 성장한 능력을 언어에 반영하자고 한다. 어떤 해석도 구체적인 모델·과제·배치를 식별하는 일을 대신하지 못한다.

자발적 시험은 출시 전 의무 허가가 아니다

Clayton은 고급 AI를 기회와 위협으로 보고 중국이 발전하는 동안 미국이 멈추는 데 반대했다. 경쟁과 빠른 민간 개발을 중시하는 정부와 맞지만 동일 역량에는 공격·방어 용도가 있다. 연구·코딩·인프라를 돕는 동시에 선전·사기·군사 계획에도 쓰인다. 접근, 보호, 배치, 인간 감독이 노출을 바꾼다.

6월 보안 명령은 사이버 사업과 일부 프런티어 모델의 자발적 절차를 만들었다. 현재 최전선에 가까운 고성능 범용 시스템으로, 개발자는 넓은 출시 전 연방 평가에 제공할 수 있고 접근은 최대 30일이다. 명령은 출시의 의무 라이선스, 사전 심사, 정부 허가를 만들지 않는다고 명시한다.

그래서 기존 권한 연결이 중요하다. NIST는 기술 지침, CISA는 인프라 사이버보안, FTC는 불공정·기만 행위, 정보기관은 해외 위협, 국방은 군사 용도를 맡는다. 상무는 수출·기술, 노동·교육·에너지·보건·금융은 부문별 영향을 다룬다. 공동 채널은 모순과 중복을 줄이되 법정 임무를 대체하지 않는다.

영향은 새 법보다 조달로 퍼질 수 있다. 연방 평가가 비공식 기준이 되고 구매 기대가 운영자와 기업으로 확산할 수 있다. 이는 가능한 시장 효과이지 이미 발표한 의무가 아니다. 시한, 공통 지표와 대통령 지원이 작동하는 연결체인지 토론장인지 결정한다.

속도와 안전을 평가할 사람도 필요하다

Ferguson의 FTC는 일관된 측정 없는 정확도·자율성·안전·보안 주장을 검토할 수 있다. Michael은 상용 기술을 빠르게 쓰면서 작전·인력·민간인에 미칠 실패를 고려하는 역할이다. Kupor는 평가, 기술 계약, 데이터 관리, 보안, 감독을 할 사람을 가리킨다. 공급사를 반박하고 자동화 실패에 개입하지 못한다면 접근권만으로 부족하다.

6월 국방 지침은 안전한 컴퓨팅, 책임, 상용 도입과 복수 공급사를 강조한다. 다양성은 한 회사 의존을 낮추지만 구조·통제·학습·한계의 차이로 시험이 복잡해진다. 공통 질문이 동일 위험을 뜻하지 않으며 중대한 발견에는 행동 책임자가 필요하다.

취약점 발견 모델은 병원·은행·공공사업·정부 방어를 강화하고 초보 공격자도 도울 수 있다. 사용자가 다르다고 기술이 달라지는 것은 아니다. 운영 문턱, 강화 시험 조건, 증거, 민감 정보 공유가 양쪽 용도를 다루고 자발성이 충분하지 않은 시점을 정해야 한다.

속도 중시 측은 높은 준수 비용이 기존 대기업을 보호하고 작은 개발사를 배제한다고 걱정한다. 안전 측은 시장이 빠른 배치를 보상하면 약속이 무너져 위험을 사용자와 운영자에게 넘긴다고 본다. 둘 다 타당하다. 제한 연구, 저위험 생산성, 자율 공공서비스, 무기 연결 시스템의 노출은 다르다. 빠른 연구와 민감 배치의 강한 통제는 양립할 수 있다.

기밀 증거와 업계 관계에는 규칙이 필요하다

정보 주도 그룹은 외국 모델·사이버 위협·적대 활용의 중요한 자료를 볼 수 있지만 기밀은 공적 검증을 막기도 한다. 제한된 기술 결과를 공개 권고·방법·집계와 분리하면 악용 가능한 허점이나 영업비밀을 공개하지 않으면서 책임을 높일 수 있다. 이는 필요한 거버넌스이지 발표에 상세히 담긴 메커니즘이 아니다.

민간 경험은 정책을 개선하고 공개·회피가 필요한 이해충돌도 만든다. Kupor는 벤처투자, Michael은 기업 고위직을 거쳤다. 경험이 자동 결격이라는 뜻은 아니다. 권고가 특권 접근이 아니라 공적 책임에 봉사하는지 확인할 수 있느냐가 문제다.

FTC의 이중 역할도 긴장을 낳는다. 자발적으로 약점을 내는 기업은 집행 결과를 두려워할 수 있으나 비밀 협력이 기만·유해 행위를 보호해서는 안 된다. 무엇을 비밀로 유지하고 언제 집행 담당자에게 보내며 세부 보안을 어떻게 지킬지 규칙이 필요하다. 백악관은 이를 해결할 운영 세부를 즉시 주지 않았다.

참여는 영향력의 증거가 아니다. 선정, 이견, 거절 제안, 소규모·독립 전문가의 진입을 공개하면 협의와 비공식 관계를 구별할 수 있다. 측정 과제, 한계, 적대 시험, 재현 결과, 책임과 이의 제기가 구호보다 중요하다. 보안은 개별 공개를 제한해도 모든 절차의 비밀을 정당화하지 않는다.

개발사·구매자·직원·소비자가 볼 변화

개발사는 접근을 얻고 정보·국방·소비자 당국의 검토도 받을 수 있다. 주장이 구매와 집행을 바꾸므로 기술·법률·정책 설명은 일치해야 한다. 작은 회사는 시험·보고 비용을 큰 회사만 감당할 위험도 있다. 포획 방지는 단어가 아니라 실행 가능한 참여를 뜻해야 한다.

병원·공공사업·은행·통신은 방어와 자동화 혜택을 얻지만 오류와 공격의 물리·경제 피해도 진다. 구매자는 학습 데이터 출처, 접근 통제, 평가, 감시와 장애·무단 행동·정보 노출·모델 변경 계약을 요구할 수 있다. 이는 권고가 강화할 수 있는 실무 압력이지 발표가 만든 법적 의무가 아니다.

공공·민간 인력에는 훈련, 인간 검토, 사고 담당, 상향 보고가 필요하다. 소비자는 공개·민원·보호·서비스를 얻거나 설명 없는 빠른 자동화를 겪을 수 있다. 참여는 접근과 구제를 모두 다룬다. 공익·종교 단체는 권고에 영향을 줘야 논의를 넓힌다. 중국과의 경쟁은 경쟁질서·시민권·신뢰성·안전의 국내 책임을 없애지 않는다.

이름보다 제도 변화를 평가해야 한다

공식 헌장과 첫 보고서는 권한·기관·정의·시한·산출물을 밝히고 자발성과 법적 의무를 구별해야 한다. 보도된 120일 검토는 용어 명령의 60일 입법 제안이나 6월 절차의 최대 30일 접근과 다르다. 어느 것도 이미 확보한 안전이나 미국 리더십의 증거가 아니다.

두 번째는 평가 기준·공동 사업·안보와 경쟁 및 소비자 충돌의 상향 조정이 정렬되는지다. 시험·사고·공급사 다양성·인간 감독 조달 조건은 관찰 가능하다. 모순된 정의, 중복, 설명 없는 관할 다툼은 약점을 드러낸다.

마지막으로 기록된 평가, 사고 보고, 고친 실패는 기업 공약보다 중요하다. 보안이 허용하면 공개 권고·협의·반대·진척으로 책임을 검증할 수 있다. 기능하는 그룹은 기관 틈을 줄이지만 견제 없는 집중은 영향력만 모을 수 있다. 의미는 공식 글의 “SI”가 아니라 측정 가능한 결정과 행동에 달린다.

출처

도구 디렉터리 둘러보기 →

Trump의 4인 Super Intelligence Force, 권한은 아직 불명확하다