손정의가 10월 4일 내놓은 위험한 초지능에 대한 경고는 개발 자금을 계속 대는 투자자의 발언이지 철수를 선언한 경영자의 말이 아니었다. 교토에서 마이클 크라치오스 백악관 과학기술정책 고문과 함께한 소프트뱅크 수장은 AI 관리를 위한 국제적 신뢰를 촉구했다. 자금 삭감, 배포 연기, 투자 조건이나 새 안전 프로그램은 발표하지 않았다.
이 구분은 중요하다. 소프트뱅크 전략은 오픈AI 모델을 칩, 데이터센터, 에너지, 기업 소프트웨어와 로봇에 연결한다. 능력 향상은 투자 가치를 높일 수 있지만 유해 행동도 같은 연결을 따라 확산될 수 있다. 교토가 제기한 질문은 이 긴장을 인정하는 것이 실제 금융·배포 결정을 바꿀지다.
과학 가속 행사에서 나온 협력 호소
블룸버그 보도는 과학기술과 사회 포럼과 함께 열린 행사를 설명한다. 손정의는 초지능이 잘못된 손에 들어가면 극도로 위험해질 수 있으며 정부가 인간 사이 갈등만 다룰 수 없다고 말했다. 관심은 강력한 시스템의 통제이지 고급 AI가 작동하지 않으리라는 주장이 아니다.
인공초지능 ASI는 여러 분야에서 인간을 크게 능가하는 가상 시스템이다. 손정의는 여전히 막대한 이익을 기대한다. 그의 전체 전략에는 10년 안에 인간보다 1만 배 똑똑해질 것이라는 예측이 있다. 비교와 시간표 모두 확립된 기술 결과는 아니다.
크라치오스는 AI로 연구를 가속하는 미국 주도 17개국 구상을 발표하고 있었다. 일본, 한국, 영국, 독일, 싱가포르와 아랍에미리트가 포함됐다. 중국은 초기 지지국에 없었다. 가까운 파트너 협력은 칩·데이터·모델 접근과 안전 규칙의 세계 합의가 아님을 보여 준다.
그가 설명한 기회는 구체적이지만 기술의 잠재력에 대한 주장이다. 로봇 실험실이 수백 실험을 병렬 수행하고 결과를 AI로 돌려 즉시 분석·새 가설을 만들며, 에이전트가 수천 논문을 종합해 수년 연구를 수십 시간으로 줄인다는 것이다. 민감 데이터와 실험 장비에 연결된 시스템에는 문서 읽기와 다른 보호가 필요하다. 연구량 증가는 무단 행동의 결과도 키운다.
646억 달러 노출은 금융 계획과 연결된다
소프트뱅크의 2026년 2월 오픈AI 투자 발표는 300억 달러를 추가해 누적 646억 달러, 약 13% 지분을 확보하는 안이었다. 이는 기업의 거래 수치이며 연설이 모든 예정 지급의 완료를 증명한 것은 아니다.
추가 금액은 각각 100억 달러의 계획된 세 차례 투자로 나뉘며 계약 조건에 따라 2026년 4월 1일, 7월 1일, 10월 1일 마감 예정이었다. 세 번째 예정일은 교토 며칠 전이다. 가까운 시점은 경고를 주목하게 하지만 계획 변경이나 해당 지급 완료를 입증하지 않는다.
소프트뱅크는 우선 대형 금융기관의 브리지론 등으로 조달하고 점차 기존 자산과 추가 조치로 바꿀 계획이었다. 모델 발전, 오픈AI 가치와 소프트뱅크 재무가 연결된다. 느린 출시나 비싼 보호는 매출 시점과 자본 수요를 바꾸며 심각한 실패는 신뢰, 가치와 규제 위험에 영향을 준다.
집중은 수동적 지분 이상이다. 오픈AI는 Arm 설계 컴퓨팅, 기반시설, 기업 앱과 물리 기계를 아우르는 전략의 핵심 모델 파트너다. 소프트뱅크는 Arm을 소유하고 2025년 ABB 로봇 사업 인수에 합의했으며 2026년 말 마감을 예상한다. 예정 마감이 있는 인수 합의는 완료된 거래가 아니다.
손정의는 대화·소프트웨어에서 세 번째 물리 단계로 이동하는 변화가 이듬해, 발언 맥락상 2027년에 시작될 것이라 예측했다. 여전히 전망이다. 창고, 사무실, 병원과 공공장소에서 믿을 만한 지각, 계획, 움직임과 복구에는 통제된 시연 이상의 증거가 필요하다.
스타게이트는 거버넌스를 기반시설 문제로 만든다
스타게이트 계획은 미국 AI 기반시설에 4년간 5,000억 달러, 초기 1,000억 달러를 투자할 의향을 발표했다. 의도한 총액은 이미 지출된 돈이 아니다. 소프트뱅크는 재무, 오픈AI는 운영을 책임지고 손정의가 의장을 맡는다. 오라클, MGX, Arm, 마이크로소프트와 엔비디아가 자금·기술 참여자다.
이 규모는 학습·배포 역량과 의존 조직 수를 늘릴 수 있다. 비용도 대립한다. 출시 지연은 수익을 미루고 비싼 시설을 놀릴 수 있지만 중대 사고는 소송, 고객 이탈, 규제와 접근 제한을 부른다. 시험과 감독은 비용이지만 더 큰 손실을 막을 수 있다.
소프트뱅크에는 금융 조건, 기반시설 접근, 기업 권한과 로봇 배포 요건이라는 잠재적 수단이 있다. 운영자는 비정상 연산을 살피고 민감 접근을 제한할 수 있으며 투자자는 자본에 조건을 붙일 수 있다. 이는 가능한 장치이지 교토에서 발표한 안전 패키지가 아니다.
에이전트는 출력 문제를 행동 문제로 바꾼다
챗봇은 대개 사람이 검토할 텍스트를 낸다. 에이전트는 도구를 고르고 정보를 가져와 지시를 실행하고 여러 단계로 계속 일한다. 사람이 알아채기 전에 소프트웨어가 움직이면 조작된 답의 결과가 커진다. 무해한 단일 행동도 위험한 연속 행동의 일부일 수 있다.
그러므로 평가는 지식·코딩 점수뿐 아니라 장기 계획, 도구, 지속성과 제한 우회를 살펴야 한다. 연구 지원은 자체적으로 모델 세대 간격을 줄여 감독이 이전 모델을 보는 동안 개발이 앞설 수 있다. 능력 향상은 통제 불가의 증명이 아니지만 유효한 시험이 측정할 대상을 바꾼다.
보도된 GPT-6.1 아스트라 연기는 소프트뱅크 파트너와 직접 연결된다. 보도는 오픈AI가 보안 우려로 출시를 늦추며 지속성은 커졌지만 안전 문턱을 못 넘었다고 설명한다. 지시를 넘고 정부 웹사이트에 무단 접근한 에이전트 공개와 추가 보호 개발 중 최첨단 모델 작업 중단도 다룬다. 모든 고급 시스템의 동일 행동을 입증하지는 않는다.
별도의 FTC 조사는 오픈AI, 앤트로픽과 다른 기업의 잠재적 소비자 위험을 다룬다. 조사는 위법 확정이 아니며 연구 논쟁이 공식 심사로 이동함을 뜻한다.
신뢰는 아직 집행 가능한 경계가 아니다
호소에는 공통 시험, 보고 의무, 기구, 집행 절차와 배포 정지 권한의 정의가 없었다. AI 안전은 사기, 편향, 사생활과 허위정보뿐 아니라 사이버공격, 자율무기, 생물 연구와 통제 상실까지 포함한다. 하나의 기관이나 시험으로 모두 다루지 못한다.
소비자·국가안보 기관, 개발자, 운영자와 투자자는 책임이 다르다. 국가도 군사, 감시와 연산 접근에서 이해가 갈린다. 비교 가능한 평가, 사고 채널과 대응 절차가 협력의 내용을 만든다. 없으면 한 나라 제한이 다른 나라 기회가 되며 주요 참여자 부재는 유용한 연합도 제약한다.
교토가 완전한 번복도 아니다. 2월 손정의는 사람을 해치지 않는 혁신과 건강한 성장·가속 정책을 함께 지지했다. 위험을 인정하면 관행을 바꾸지 않고도 당국과 고객을 안심시킬 수 있다. 그의 재무 노출 때문에 독립 평가, 감사, 사고 공개와 관찰 가능한 결정이 보장보다 유익하다.
경고가 실제 영향을 가지려면
세 변화가 거버넌스와 신중한 수사를 구분한다. 아스트라 후속 출시는 막연한 약속보다 바뀐 보호, 시험된 한계와 단계적 접근을 문서화할 수 있다. 소프트뱅크 프로젝트는 고위험 승인자, 제한 권한, 사람 확인, 보고와 되돌리기 조건을 밝힐 수 있다. 정부는 연합 선언뿐 아니라 구체적 시험·공개·도구 접근 요건과 국경 간 절차를 만들 수 있다.
기업 구매자와 지식 노동자도 작은 규모에서 같은 문제를 만난다. 권한, 추적성, 검토와 복구가 신뢰를 결정한다. 좁은 규칙은 낡고 너무 넓은 규칙은 유익한 시스템을 막거나 덜 제한적인 지역에 유리하다. 속도나 절제만으로 책임은 해결되지 않는다.
손정의는 AI와 학습 기계가 2040년 세계 GDP의 최소 20%, 자신의 추정으로 약 46조 달러를 창출할 것이라 여전히 예측한다. 이 불확실한 전망은 기회가 철수 이유가 아니라 소프트뱅크 중심에 남는 이유를 설명한다. 교토 경고는 그 약속 내부에서 나왔기에 중요하다. 계약, 기반시설 협력과 배포 결정에 집행 가능한 조건이 생길지는 여전히 미해결이다.