xAI는 10월 2일 항소 중 미네소타가 자동 AI 누드화 서비스 관련 법을 집행하지 못하도록 하는 금지명령을 받았다. 연방 제8순회 항소법원은 이유 없이 한 문장만 내놓았다. 즉각적 구제지만 최종 위헌 승리도, 회사 보호장치가 작동한다는 인정도 아니다.
이 구분이 핵심이다. 미네소타는 확산 전 이미지 악용을 막으려 하고, xAI는 비동의 성적 이미지 방지의 정당한 이익을 인정하면서도 합법 표현까지 규제한다고 주장한다. 이유가 공개되지 않은 이번 임시 명령은 어떤 표현이 보호되고 어느 범위까지 플랫폼에 책임을 물을 수 있는지에 관한 최종 경계를 정하지 않았다.
항소까지의 경위
보도된 항소 중 금지명령은 지방법원의 두 차례 거절 뒤 나왔다. 팀 월즈는 하원 132 대 1, 상원 65 대 0 통과 뒤 2026년 5월 7일 서명했고 8월 1일 발효됐다. 찬성 197표와 반대 1표는 정치적 합의이지 그 자체로 합헌 증거가 아니다.
xAI는 7월 27일 소송, 이틀 뒤 임시 제한명령을 신청했으며 7월 31일 긴급 요청이 기각됐다. 도너번 프랭크 판사는 더 넓은 예비 금지명령도 9월 4일 거절했다. 지방법원 결정은 사실적 성적 이미지 방지 공익과 손해 비교에서 주정부를 지지하고 입법 뒤 지연을 즉각적 회복 불가 손해 주장에 불리하게 보았다.
10월 명령은 항소 중 실제 상황을 바꾼다. 주는 이 금지를 집행하지 못하며 xAI는 잠재적 책임을 피하고 헌법 도전을 계속한다. 주정부는 서면·변론으로 방어할 수 있다. 항소 기록은 X.AI LLC v. Keith Ellison이다. xAI는 법을 다투는 원고이며 이 소송에서 기소된 이미지 생성기가 아니다.
개입 이유는 공개되지 않았다. 보호 표현, 회복 불가 손해, 법적 정의와 하급심 분석은 가능한 쟁점이지 확인된 설명이 아니다. 명령은 본안 무효 판단이나 다른 주의 영구 기준이 아니고 악용 이미지 허가도 아니다. 괴롭힘, 착취, 유포와 아동 성착취물 관련 다른 법은 별개로 남는다.
게시뿐 아니라 접근을 규제하는 법
사건에서 설명된 법문은 식별 가능한 사람의 이미지·영상, 원본에 없는 사적 신체 부위, 그 사람의 것으로 보일 충분한 사실성으로 누드화를 정의한다. 여러 사건을 조작하는 일반 딥페이크보다는 좁고 완성물 게시만 다루는 규칙보다는 넓다.
적용 웹사이트·앱·소프트웨어·서비스 소유자나 통제자는 금지 용도의 접근·다운로드·사용을 허용하거나 대신 이미지를 생성할 수 없다. 광고와 홍보도 포함된다. 피해자가 나중에 개별 제작자를 찾도록만 맡기지 않고 유포 전 기반 기술을 규제한다.
숙련 예외는 중요하다. 사용에 상당한 개별 기술·예술 능력이 필요하면 제외된다. 쉽게 자동화되는 소비자 기능과 의미 있는 사람 지시가 필요한 도구를 구분한다. 수작업과 동일한 프롬프트 이미지의 처우가 다를 수 있다. 대규모 자동화를 겨냥하지만 창작 노력의 법적 기준도 쟁점이다.
묘사된 사람은 정신적 고통을 포함한 보상, 실제 손해 최대 세 배, 징벌적 배상과 소송비를 민사 청구할 수 있다. 법무장관도 민사 집행하며 불법 접근·다운로드·사용마다 최대 50만 달러 벌금이 가능하다. 이는 법정 구제와 상한이지 xAI에 이미 선고된 금액이 아니다.
동의, 범위와 없는 세이프하버
xAI는 수정헌법 제1조상 내용 기반의 과도한 제한이라고 주장한다. 묘사 내용으로 책임이 생겨 비동의 악용 방지에 필요한 범위를 넘을 수 있다는 것이다. 모든 이미지의 보호를 주장하거나 주의 이익을 부정하지 않는다. 가상·풍자 이미지, 정치예술, 복원사진과 합의 프로젝트를 든다.
금지가 동의 부재만으로 정의되지 않아 동의가 핵심이다. xAI는 동의 성인과 자기 사진 편집도 포함될 수 있고 다른 법에서 온 신체 정의가 공공장소에서 드러나는 부위와 예술·의료·보도·개인 표현을 건드릴 수 있다고 한다. 이는 기업 주장이지 한 문장 명령이 채택한 결론이 아니다.
주는 이 해석에 반대하며 식별성, 실제 그 사람의 사적 부위처럼 보이는 사실성, 숙련 예외와 보호 목적을 강조한다. 쟁점은 예방의 정밀성이지 비동의 합성 이미지가 일·교육·관계·안전에 심각한 피해를 줄 수 있는지 여부가 아니다.
사용자가 우회했을 때 지정된 합리적 조정 조치를 취한 제공자의 세이프하버도 없다. xAI는 실질적 인식·의도 요건 없이 특정 이미지 신고 전 책임을 비판한다. 주는 건별 신고가 피해자에게 부담을 돌린다고 보고 책임을 의도적으로 앞당겼다. 범위가 지나친지는 미해결이다.
책임을 앞당긴 이유
키스 엘리슨 법무장관의 방어는 피해·괴롭힘·존엄과 초당 지지를 강조한다. 사실적 성적 이미지가 퍼지면 계정·서비스마다 사본이 남는다. 신고·삭제는 소멸이나 완전 복구를 보장하지 못한다. 예방 근거지만 모든 이미지가 같은 피해를 주거나 모든 제한이 합헌이라는 증거는 아니다.
그록과 그록 이매진은 X 등에서 생성과 대형 유통망을 가깝게 해 문제를 현실화한다. xAI는 풍자·예술·애니메이션·일반 편집도 든다. 여성과 아동의 성적 이미지 생성 뒤 논란이 커졌고 회사는 실제 인물의 노출 의상 편집 일부를 막았다고 했다. 통제 변경 주장이지 독립 검증된 포괄적 보호는 아니다.
xAI는 불법·유해·사생활 침해 악용을 금지하며 위반자 정지·종료와 의심 아동 성착취물 신고도 한다고 말한다. 실제 증거가 필요하다. 문서 정책은 실패 빈도나 대응 속도를 보여 주지 않는다.
집행이 계속되면 주내 서비스를 제한한다는 이전 발언은 지역 불확실성의 제품 영향을 보인다. 위치 차단은 위치 은폐로 우회되며 합법 접근을 오차단할 수 있다. 작은 개발자도 xAI의 소송 자원 없이 지역 통제·광범위 중단·소송을 택하고 숙련 예외 충족을 판단해야 한다.
다른 구제책의 다른 한계
더 넓은 법적 보도는 연방 삭제 절차와 동의 부재를 알거나 신고 후 신속히 삭제하지 않는 경우의 텍사스 책임을 비교한다. 미네소타는 유포나 같은 신고 순서를 기다리지 않는다. 게시 전 보호는 빠르지만 합법 경계 용도에 더 압박을 준다.
좁은 규칙은 적응하는 가해자에게 여지를 남기고 넓은 책임은 신중한 제공자의 합법 표현 억제를 부른다. 약관은 탐지·집행에 의존하고 악성 사용자는 표현 변경·출력 결합·서비스 이동을 한다. 주는 주요 플랫폼 접근을 줄여도 로컬 모델·해외 서비스·이미 내려받은 이미지를 없애지 못한다.
다층 대응은 예방·신고·집행·신속 삭제와 쓸 수 있는 민사 구제를 결합한다. 동의·의도·식별·사실성·유포 요건은 피해를 정밀하게 겨냥하나 입증과 시간을 어렵게 한다. 생성 전 대규모 동의 확인 자체가 신원·사생활 위험을 만든다. 약한 면책은 형식 준수만 보상할 수 있다.
다음 증거는 이유와 제품 행동
첫 신호는 본안 논리다. 과도한 범위라면 정의 축소, 동의·인식이라면 수정 경로가 보이고 절차 판단이면 큰 표현 문제가 남을 수 있다. 생성·제공·유포는 주체와 예방 기회가 달라 지속 기준이 구분해야 한다.
주는 문구 방어·추가 구제 또는 동의·인식·보호·면책 개정을 고려할 수 있다. xAI는 접근 복구·자발적 제한·정밀 통제를 택할 수 있다. 실제 실패와 응답 시간의 독립 평가는 양측 선언보다 중요하며 소송은 안전공학을 대체하지 못한다.
정지는 항소 중 한 법의 집행만 다룬다. 플랫폼 면책, 충분한 xAI 보호, 피해 부재나 최종 헌법 기준을 확립하지 않는다. 서면 이유·입법 대응·관측 가능한 통제가 정밀 규제인지 재설계 지연인지를 보여 줄 것이다.