英国のスーパーインテリジェンス安全法案を読む方法

Geoffrey Hinton氏は、英国の「人工スーパーインテリジェンス安全法案」を支持している。労働党のAlex Sobel議員が9月8日に下院へ提出した案で、英国における人工スーパーインテリジェンスの開発、配備、運用を禁じ、前駆的な能力の監視と国際協定の追求を求める。しかしこれは施行済みの禁止法ではなく、技術的な定義について合意された制度でもない。

ControlAIの説明は提案側の目標を示すものだ。独立報道によれば、法案は今後の議会手続で詳細が提示される予定で、政府の後押しがない議員立法は成立しにくい。したがって、すでに守るべき規制ではなく、具体的な政策案として読むべきである。

まず立法段階を確認する

提出は議論の出発点になるが、修正、延期、審議時間不足で終わることもある。全文は公開されているか。「人工スーパーインテリジェンス」はどう定義されるか。対象となる行為と主体は何か。誰が判定し、どのように異議を申し立てられるか。こうした問いが先に必要だ。

目的だけを既存の法的仕組みとして扱ってはいけない。支持者は能力に明確な上限を設けたいが、議会は証拠基準、審査、既存の規制との関係を決めなければならない。Guardianの報道にある超党派の書簡は政治的支持を示すが、政府採択の証拠ではない。

境界は観察できなければならない

「スーパーインテリジェンス」は印象的な言葉だが、安定した法的カテゴリーではない。あるモデルはプログラミングで優れても日常的な判断を誤ることがあり、性能はツール、プロンプト、推論時間、権限で変わる。「人間より賢い」だけでは、研究所、裁判所、規制機関が同じ結論に達する方法にならない。

実行可能な規則には、評価課題、自律性とツール権限、成功基準、試験者、独立検証の方法が必要である。またモデルと周辺ソフトウェアを分ける必要がある。広い認証情報を与えられた不安全なエージェントは現在の危険だが、それだけで基礎モデルが将来の法定定義を満たす証拠にはならない。

国内の規制と国際的な統制は別問題

英国法は国内活動や一部の英国向けサービスを対象にできても、他国での訓練を単独で止められない。だから提案には国際協定の目標がある。大規模学習にはチップ、データセンター、資金、人材という可視的な要素が残る一方、ソフトウェア知識と重みは国境を越え、効率化は単純な計算量基準を弱める。国際的な仕組みには共通定義、安全な報告、監査、回避への対応、正当な安全研究の余地が必要だ。

これは既存の狭い安全策と同一ではない。Cyber Security and Resilience Billの修正案記録は重要システムの保護に関するもので、一般的な禁止法ではない。Hinton氏の警告は、より能力の高いシステムを開発者が制御できるのかという検証すべき論点であって、差し迫った破局の証明ではない。

今できる対策もある。接続型AIには最小権限の認証情報、分離した承認、監査ログ、独立評価、訓練済みの停止手順を用いるべきだ。次に見るべきものは見出しではなく、法案全文、対象と前駆能力の定義、研究例外、規制権限、異議申立て、政府の立場である。責任ある判断には、検証可能な基準、実行できる制度、今日の配備規律が必要になる。