xAIは10月2日、自動AIヌード化サービスを対象にするミネソタ州法の執行を、控訴中に止める差止命令を得た。連邦第8巡回区控訴裁判所の命令は理由のない一文だけだ。会社への即時救済だが、最終的な合憲性判断でも、自社の安全対策が有効だという認定でもない。
ここが事件の中心だ。州は拡散前の画像悪用を防ぎたい。xAIは非同意の性的画像を防ぐ正当な利益を認めながら、規制が合法表現も取り込むと主張する。理由のない暫定命令は、その境界を決めていない。
控訴までの経緯
報道された控訴中の差止めは、地裁での二度の拒否に続く。2026年5月7日にTim Walz知事が署名し、下院132対1、上院65対0で可決、8月1日に施行された。賛成合計197、反対1は政治的合意を示すが、それだけで合憲性は決まらない。
xAIは7月27日に提訴、2日後に一時的差止めを求め、7月31日に緊急申請を拒まれた。Donovan Frank地裁判事は9月4日、より広い仮差止め申請も却下した。地裁判断は損害衡量と写実的性的画像防止の公益で州を支持し、成立後の申請遅延を即時の回復不能損害の主張に不利と扱った。
10月命令は控訴中の実務を変える。州はこの禁止を執行できず、xAIは潜在責任を避けて憲法上の異議を続ける。州は書面と弁論で擁護できる。控訴記録の事件名はX.AI LLC v. Keith Ellisonで、xAIは法律を争う原告側であり、この訴訟はGrokへの処罰を求めるものではない。
介入理由は示されていない。保護表現、回復不能損害、定義、地裁分析はいずれも可能な論点で、確定した説明ではない。本案で法律を無効とせず、他州へ恒久基準も示さず、虐待画像を作り配る許可も与えない。嫌がらせ、搾取、配布、児童性的虐待資料に関する他法は別に残る。
公開だけでなくアクセスを対象にする法律
事件で説明された法文は、識別可能な人物の画像・動画で、元の素材にない親密な身体部位を、その人のものに見えるほど写実的に描くことをヌード化と定義する。多様な出来事を偽造できる一般のディープフェイクより狭いが、完成画像の最終公開のみを規制するより広い。
対象ウェブサイト、アプリ、ソフト、サービスの所有・管理者は、禁止用途へのアクセス、ダウンロード、利用を認めたり、利用者に画像を作ったりできない。広告・宣伝も含む。被害者が後から個別の制作者を探して追及するだけでなく、配布前の実現技術を規制する仕組みだ。
技能例外は重要だ。実質的な個別技術・芸術技能が必要なサービスは対象外となり、容易に自動化される消費者機能と人の指示を要する道具を分ける。同等画像でも手編集とプロンプト生成で扱いが変わり得る。大規模自動化への対策だが、作者の努力を法的境界にすることも争点となる。
描かれた人には私的民事訴権があり、精神的苦痛を含む補償、実損害の最大3倍、懲罰賠償、訴訟費用を求め得る。司法長官も民事執行でき、不法なアクセス、ダウンロード、利用1件ごとに最大50万ドルの制裁金がある。法定の可能な救済と上限で、xAIへの確定賠償や制裁ではない。
同意、範囲、欠けたセーフハーバー
xAIは修正第1条上、内容に基づく過度に広い制限だと主張する。画像内容で責任が生じ、非同意被害防止に必要な範囲を超えるという。全画像の保護や州の利益否定ではない。訴状は仮想・風刺画像、政治芸術、復元写真、合意した企画を挙げる。
禁止が許可の欠如だけで定義されないため、同意は中心論点だ。xAIは同意した成人や自身の肖像編集も含まれ得るとし、別法から取り込んだ身体部位定義が普通の公共場面で見える部位にも及び、芸術、医療、報道、個人的表現に影響すると論じる。これは会社の主張で、一文命令が採用した結論ではない。
州はその解釈に反対し、識別可能な人、その人に実在する親密部位に見える写実性、技能例外、保護目的を強調する。争点は予防規則の限定であり、非同意の合成性的画像が仕事、教育、関係、安全へ重大被害を与え得るかではない。
指定された合理的対策を取っても利用者に回避された場合のセーフハーバーもない。xAIは実質的な認識・意図要件なしで、特定画像の通報前に責任が生じることを批判する。州は一枚ごとの申告が被害者へ負担を戻すとして早期責任を意図した。この設計が広すぎるかは未解決だ。
州が責任を上流へ移した理由
Keith Ellison司法長官の擁護は被害、嫌がらせ、尊厳、超党派支持を強調する。写実的性的画像はSNSへ入ると複数アカウント・サービスにコピーが残る。通報削除は消滅や完全回復を保証しない。予防の根拠だが、全対象画像の同一被害や全制限の合憲性を自動で証明しない。
GrokとGrok ImagineはXなどで大規模配布網の近くに画像作成を置くため問題を現実化する。xAIは風刺、芸術、アニメ、通常編集も支援すると述べる。女性や子供の性的描写の生成後に論争が拡大し、会社は実在人物の露出衣服への一部編集を防ぐ措置を述べた。企業の対策変更の主張で、包括的保護の独立検証ではない。
xAIは違法、有害、プライバシー侵害の悪用を規則で禁止し、違反者の停止・終了と疑わしい児童性的虐待資料の報告を行うともいう。執行には実証が必要だ。文書だけで失敗頻度や対応速度は分からない。
執行継続なら州内サービスを制限するとした以前の発言は、法域不確実性の製品への影響を示す。所在地による遮断は位置偽装で回避され合法アクセスも誤遮断し得る。小規模開発者も、xAIほどの訴訟資源なしに地域制御、広範停止、訴訟を選び、技能例外を満たすか判断する。
救済ごとに違う限界
広い法的報道は、連邦の対象サービス削除手続きと、同意欠如を知る場合や通報素材を速やかに消さない場合のテキサス責任を対比する。ミネソタは配布や同じ通知順序を待たないアクセス型だ。公開前保護は早いが、合法境界用途への圧力も強い。
狭い規則は適応の速い加害者へ余地を残し、広い責任は慎重な会社に合法表現を抑えさせる。規約は検知・執行に依存し、悪意ある利用者は要求の言い換え、出力結合、サービス移転を行う。州の執行で主要サービスへのアクセスは減らせても、ローカルモデル、海外サービス、既に保存された画像はなくせない。
多層策は予防、通報、有効な執行、迅速削除、使える民事救済を組み合わせる。同意、意図、識別性、写実性、配布という精密な要件は被害へ近づける反面、立証を複雑にし遅らせる。生成前の大規模同意確認自体がプライバシー・本人確認リスクを生む。弱い免責は真剣な制御より形式的遵守を報いる恐れがある。
次の証拠は理由付き判断と製品の動き
第一は控訴本案の理由だ。過度の広範性なら出力定義縮小、同意・認識なら修正経路、手続き判断なら大きな表現問題が残る可能性がある。作成、提供、配布は主体も予防機会も異なり、持続的基準には区別が必要だ。
州は法文の擁護、追加救済、同意・認識・保護・免責の改正を検討できる。xAIはアクセス復旧、自主制限、精密な制御を選べる。失敗と対応速度の独立評価は双方の声明以上に重要で、訴訟は安全工学の代わりにならない。
現状は継続中の控訴で一法の執行だけを止める。プラットフォーム免責、十分なxAI保護、被害不存在、最終憲法基準は確立しない。控訴理由、立法対応、観察可能な製品制御が、精密な規制になるか再設計を遅らせるだけかを示す。