Jak czytać brytyjski projekt ustawy o bezpieczeństwie superinteligencji

Geoffrey Hinton poparł brytyjski Artificial Superintelligence Security Bill. Poseł Partii Pracy Alex Sobel przedstawił go 8 września w Izbie Gmin. Projekt zakłada zakaz tworzenia, wdrażania i prowadzenia sztucznej superinteligencji w Wielkiej Brytanii, monitorowanie możliwych prekursorów oraz dążenie do umowy międzynarodowej. To ważny głos w sporze o systemy frontier, lecz nie obowiązujący zakaz ani uzgodniona definicja techniczna.

Opis ControlAI przedstawia cel zwolenników. Niezależne relacje wskazują, że pełny tekst ma zostać przedstawiony w dalszym toku prac, a projekty poselskie bez wsparcia rządu rzadko stają się prawem. Firmy powinny więc traktować go jako propozycję do oceny, a nie istniejący obowiązek.

Najpierw sprawdź etap legislacyjny

Samo wniesienie projektu może rozpocząć konkretną debatę, ale tekst może zostać zmieniony, odłożony lub nie otrzymać czasu parlamentarnego. Czy opublikowano pełny tekst? Jak zdefiniowano superinteligencję? Jakie działania i podmioty obejmuje? Kto podejmuje decyzję i jak można ją zakwestionować?

Takie pytania chronią przed przedstawianiem celu politycznego jako gotowego mechanizmu prawnego. Zwolennicy chcą twardej granicy zdolności, lecz Parlament musiałby określić standard dowodowy, procedurę odwoławczą i relację z obowiązującymi przepisami. Relacja Guardiana o liście ponad podziałami pokazuje poparcie polityczne, a nie przyjęcie projektu przez rząd.

Granica zdolności musi być obserwowalna

„Superinteligencja” jest nośnym hasłem, lecz niestabilną kategorią prawną. System może przewyższać ludzi w programowaniu i zawodzić w zwykłym osądzie; wyniki zależą od narzędzi, wersji modelu, promptu, czasu rozumowania i uprawnień operatora. Sam zwrot „mądrzejszy od człowieka” nie daje laboratorium, sądowi ani regulatorowi powtarzalnego testu.

Wykonalna reguła musiałaby wskazać zadania ewaluacyjne, dozwoloną autonomię i narzędzia, kryterium sukcesu, osobę testującą oraz niezależną weryfikację. Należy też odróżnić model od otaczającego go oprogramowania. Agent z szerokimi poświadczeniami to dzisiejsze zagrożenie, ale nie dowód, że model bazowy spełnia przyszłą definicję ustawową.

Krajowe egzekwowanie nie jest globalną kontrolą

Prawo brytyjskie może obejmować działania w kraju i niektóre usługi dla brytyjskich użytkowników, ale samo nie zatrzyma szkolenia za granicą. Stąd cel międzynarodowy. Układy scalone, centra danych, kontrakty, kapitał i personel dają pewną widoczność, lecz wiedza i wagi modeli przemieszczają się przez granice, a wydajniejsze algorytmy osłabiają prosty próg obliczeniowy. Wspólne rozwiązanie wymagałoby definicji, bezpiecznych zgłoszeń, audytów, konsekwencji za obchodzenie zasad i przestrzeni dla obronnych badań nad bezpieczeństwem.

Nie należy mylić tego z węższymi środkami bezpieczeństwa. Oficjalny zapis poprawki do Cyber Security and Resilience Bill dotyczy systemów krytycznych, a nie powszechnego zakazu. Ostrzeżenie Hintona jest argumentem o kontroli wymagającym sprawdzenia, nie dowodem nieuchronnej katastrofy.

Już teraz zespoły mogą ograniczać ryzyko połączonych agentów przez minimalne uprawnienia, rozdzielone zatwierdzenia, rejestry działań, niezależne testy i przećwiczone wyłączenie. Następne dowody to pełny tekst, definicje, zasady badań, uprawnienia regulatora, odwołania i stanowisko rządu. Odpowiedzialna polityka wymaga mierzalnych progów, weryfikowalnych instytucji i dyscypliny przy obecnych wdrożeniach.