10월5일 예정 청문회에 앞서 뉴욕 시의회는 OpenAI·Anthropic·Google·Meta가 AI 위험에 선서 답변할 대표를 보낸다는 약속을 받았다. 또 하나의 자발적 안전 선언보다 구체적이었다. 독립 검증·내부고발 보상·사고 공개·법적 구제가 식별 가능한 근거를 요구하는 방향이었다.
전원위원회는 시청 오전11시, 특정 상임위가 아니라51명 의원 전체의 자리로 예정됐다. 감독 항목1개와 입법 제안9개가 의제였다. 패키지는 제안이지 최종 표결이나 시행법이 아니었다. 사전 보도에는 완료된 증언·회의록·그 결과의 입법 결정이 없었다.
출석은 설명 책임의 분쟁이 됐다
Meta는 강제 소환 위협 전에 고위 대표를 약속했다. OpenAI·Google은 경고 뒤 동의했고 Anthropic은 처음 거부했다가 시한 직전 확인했다. 의회는4개사의 AI 위험과 입법 대응에 관한 첫 공개 선서 증언이라고 설명했다. 이는 의회 표현이지 증인이 실제로 무엇을 인정했는지 보여 주는 결과가 아니다.
Bloomberg는 CEO 대신 정책·안전 담당자가 나올 것으로 보도했다. 기술 질문에 답할 권한은 회사 이름만큼 중요하다. 공개 답변을 듣는 것과 그 답을 검증할 증거에 접근하는 것은 다르다.
Julie Menin 의장은 초기 초청에 응답하지 않은 SpaceXAI에도 소환장을 발부했다. 의회는 불응 시 New York State Supreme Court에 집행을 구할 수 있다고 했다. 뒤의 지역 보도는 참여를 예상했지만 그 기대를 완료된 증언으로 바꾸면 안 된다.
전 Anthropic 연구자 Jacob Coxon도 예정 증인으로 보도됐으며 전 Google DeepMind Alex Turner와 전 OpenAI이자 AI Futures Project 대표 Daniel Kokotajlo가 함께 거론됐다. Coxon은 두 회사에서 사전학습을 연구하고9월 Anthropic을 떠났다고 한다. 후속 정교화 전 대규모 학습 단계라는 경력은 그가 주장한 내부 관점과 관련된다.
보도는 첨단 AI 개발자들이 이번10년 말 전 AI가 인류를 죽일 수 있다고 믿는다는 경고를 Coxon에게 돌렸다. 매우 중대한 귀속 위험 주장이지 확립된 전망이 아니다. Reuters는 Bloomberg의 출석 보도를 독립 확인하지 못했고 의회는 별도로 사직을 청문회 이유로 들었다. 이런 증거 수준 구분은 기업의 안심 주장 검증만큼 중요하다.
모델 제공 전 검증 제안
T2026-2602는 외부 검증 없이 대상 AI 모델을 시에서 마케팅·판매·배포하는 것을 금지하고 인간의 기술적 중단 능력도 요구하는 안이었다. 과제 성능·차별적 영향·개인정보·안전·중단 기능 실제 작동이 평가 분야다.
검증자는 모델 관련 이해관계를 밝히고 통과 또는 배포 준비를 보고해야 한다. Cyber Command가 시행 규칙과 자격을 정한다. 평가자도 책임을 지며 민사 벌금은 최대25,000달러, 필수 검증 없는 제공·배포 건당 고정25,000달러와 허위 검증에도 같은 금액이 제안됐다.
외부 검토는 내부의 당연한 가정에 질문하고 업체 간 근거를 비교할 수 있다. 그러나 접근·기술·시간 부족으로 실패할 수도 있다. 개발자가 돈을 대는 검증자는 고객 승인 압박을 받을 수 있고 관계 공개만으로 경제적 종속이 사라지지 않는다. 서류가 위험 감소를 입증하지는 않는다.
중단 장치에도 범위가 필요하다. 호스팅 회사는 서비스 접근을 끊어도 복사 출력·수출 산출물·고객 통합·이미 촉발된 행동을 회수하지 못할 수 있다. 서비스 비활성화와 사고 억제는 다른 결과다. 무엇을 누가 어떤 배포에서 멈추는지 정해야 한다.
신고·보상과 두 개의 시계
한 제안은 Department of Consumer and Worker Protection에 대상 AI 위반을 신고하게 한다. 경솔·허위·중복 외에는 원칙적으로 조사한다. 시가 제보 사실로 사건을 추진하면 회수금25%, 위반 통지 전달이나 민사 행동을 맡기면50%까지 신고인에게 줄 수 있다.
보상은 외부에 안 보이는 평가 설계·무시된 경고·배포 결정 정보를 가진 직원과 계약자를 겨냥한다. 별도 안은 AI 개발·사용이 상당하고 구체적인 공공 안전 위험이라고 합리적으로 믿고 보고한 시 직원과 대상 계약자의 보호를 명확히 한다. 모든 민간 직원의 포괄 보호라고 쓰면 안 된다.
자격·기밀·민감 자료 처리·누가 결정적 사실을 먼저 제공했는지 분쟁 절차가 필요하다. 약하거나 전략적인 신고는 조사 역량을 소모한다. 믿을 제보 보호와 부정확한 주장에 맞서는 적법절차가 공존해야 한다. 공개가 개인정보·악용 가능한 결함·보호 기술자료 유출이 되어서는 안 된다.
대상 시 계약에서는 기관·계약자가 보고 대상 AI 사고를 발견한 뒤24시간 안에 Cyber Command에 통지하고, 이후 또24시간 안에 이 조직이 공개하는 안이다. 연속한 두 시계이지 모든 챗봇 오류에 대한 보편 의무도, 발생24시간 안에 모든 것을 공개한다는 규칙도 아니다.
책임과 광고는 연구소 밖으로 이어진다
T2026-2600은 상업 모델이 제삼자 악의·부적절 사용으로 피해를 냈을 때 사적 소송권을 제안했다. 예견 가능한 피해와 그 오용에 연결된 방어 부족이 필요하다. 나쁜 출력마다 자동 개발자 책임을 지우는 것은 아니다.
예견 가능성은 다툼의 경계다. 모든 지시·수정을 막을 수 없지만 마지막 요청이 타인 것이라는 이유로 예상 가능한 오용이 예상 불가가 되지는 않는다. 평가·악용 예측·내부 경고·공개 결정은 회사 정책 논쟁을 넘어 증거가 된다.
다른 안은 챗봇 개인정보·보안·투명성·사용자 접근을 다룬다. 면허 전문가와 동등한 조언을 암시하지 못하고 광고는 제삼자 검증 여부를 밝힌다. 중대하게 거짓이거나 오도하는 안전 주장은 최대25,000달러 대상이다. 비상 계획과 중대 실패·중단도 패키지에 들어간다.
의무는 검증자·유통·배포자·시 계약자·기관·광고·구매자에 걸친다. 기초 개발자는 능력을, 앱은 작업을, 고객은 데이터와 도구 권한을 제공한다. 메일·데이터베이스·결제·코드 저장소와 연결한 모델은 고립 대화와 위험이 다르다.
채용 감사 선례는 더 좁다
Local Law144는 이미 최근 편향 감사와 통지 없는 대상 자동 채용 결정 도구 사용을 제한한다. 고용주·고용기관에 대한 집행은2023년7월 시작됐다. 지역 외부 감사의 선례이지 훨씬 넓은 모델 안의 쉬운 집행을 증명하지 않는다.
채용 도구는 업무·사람·결정이 정해져 있지만 범용 모델은 코딩·법률 초안·연구·고객 대응·에이전트 행동을 지원하며 통합에 따라 위험이 달라진다. 마케팅·판매·배포에는 모델/앱, 업데이트/신규판, 공급망 책임 문제가 생긴다.
외부에서 학습하고 타주에 호스팅하며 중개자로 뉴욕 주민에게 제공하면 관할이 어렵다. 도시는 소비자·조달·영업 권한과 큰 시장 영향이 있다. 영향력이 곧 집행 가능성이나 국가 연구·칩 수출·모든 외부 배포 통제는 아니다.
약한 기준은 오도하는 보증에 도장을 찍는다. 모호하고 넓은 규칙은 유익한 서비스를 막고 비용을 감당할 대기업을 유리하게 할 수 있다. 혁신·안전 균형은 정의·갱신·기술적 실행 의무에 달려 있지 구호로 결정되지 않는다.
양쪽 모두 시험 가능한 증거가 필요하다
전 직원의 파국 전망은 특정 시스템·능력·결정에 관한 문서화한 발견과 분리해야 한다. 회사 안전 문화도 유의미한 적대 시험이나 사업 압력 아래 공개를 막는 직원 권한을 입증하지 않는다. 경고와 보증에 같은 기준을 적용해야 한다.
누가 연기하고 누가 뒤집으며 이견 뒤 기록은 무엇이 남는지, 외부는 무엇에 접근하고 갱신 후 재검증은 어떻게 하는지 물어야 한다. OpenAI·Anthropic은 첨단/안전, Google은 검색·클라우드·생산성·소비자, Meta는 모델·플랫폼·광고를 결합한다. 공통 의무에도 사업 맥락이 필요하다.
신고·공개 체계에는 조사자·기술·기밀 관리·예산이 필요하다. Cyber Command와 소비자 보호는 기업 약속만으로 넓은 임무를 수행하지 못한다. 미검증 배포 탐지와 작은 변경/새 시스템 구별은 실제 운영 과제이지 법 문구만으로 자동 실행되지 않는다.
구매자는 버전·시험 사례·평가 로그·접근 권한·사고 결정·방어 변경을 남겨야 한다. 검색 지식 베이스는 맥락을 보존해도 독립 평가·권한·대응을 대신하지 않는다. 기록이 없으면 책임은 기억 다툼이 된다.
청문회가 의미 있으려면
사전 계획의 세 시험은 구체적 선서 증거·실질 법안 수정·믿을 집행 경로다. 평가 방법·상향 보고·공개 임계값이 포괄적 책임 선언보다 낫고 내부 기제가 파국 예측만보다 낫다.
대상 모델·배포·검증 갱신·인간 중단·합리적 방어·신고 자격 정의가 실행성을 정한다. 인력·접근·규칙·조사가 집행을 정한다. 출석 동의만으로 어떤 결과도 확인되지 않는다.
의회 계획은 어떤 증거를 누가 검사하고 경고 무시 뒤 무엇이 일어나는지라는 진짜 책임 질문을 드러냈다. 이 기준으로 평가해야 하며 시행 의무나 기업이 이미 답했다는 증거로 보도해서는 안 된다.
출처와 관련 자료
시의회 청문회 의제 · Coxon 출석 보도와 검증 한계 · 시의회 입법 제안 · 기존 채용 감사 규칙 · 지식 베이스 거버넌스 · 기업 증언 계획 · 원래 Bloomberg 보도