Wie der britische Superintelligenz-Sicherheitsgesetzentwurf zu lesen ist

Geoffrey Hinton unterstützt den britischen Artificial Superintelligence Security Bill. Der Labour-Abgeordnete Alex Sobel brachte den Entwurf am 8. September im Unterhaus ein. Vorgesehen sind ein Verbot der Entwicklung, Bereitstellung und des Betriebs künstlicher Superintelligenz im Vereinigten Königreich, die Beobachtung möglicher Vorstufen und das Ziel eines internationalen Abkommens. Das ist ein gewichtiger Beitrag zur Debatte über Frontier-KI, aber kein geltendes Verbot und keine bereits konsentierte technische Definition.

ControlAI beschreibt die Ziele der Befürworter. Unabhängige Berichterstattung weist darauf hin, dass der vollständige Entwurf erst im weiteren Parlamentsverfahren vorgelegt werden soll und private Gesetzentwürfe ohne Regierungsunterstützung selten Gesetz werden. Unternehmen sollten ihn daher als zu prüfenden Vorschlag lesen, nicht als bereits geltende Pflicht.

Zuerst den Gesetzgebungsstand prüfen

Schon die Einbringung kann eine konkrete Debatte auslösen. Ein Entwurf kann aber geändert, vertagt oder mangels Zeit nicht weiterbehandelt werden. Ist der Volltext öffentlich? Wie wird künstliche Superintelligenz definiert? Welche Tätigkeiten und Personen erfasst er? Wer entscheidet, und wie lässt sich die Entscheidung überprüfen?

Diese Fragen verhindern, dass ein politisches Ziel als fertiger Rechtsmechanismus dargestellt wird. Die Unterstützer wollen eine harte Fähigkeitsgrenze. Das Parlament müsste aber Beweise, Verfahren für Einwände und das Verhältnis zu bestehendem Recht bestimmen. Der Guardian-Bericht über einen parteiübergreifenden Brief zeigt Unterstützung, nicht die Übernahme des Gesetzentwurfs durch die Regierung.

Eine Fähigkeitsgrenze muss beobachtbar sein

„Superintelligenz“ ist ein eingängiger, aber kein stabiler Rechtsbegriff. Ein System kann beim Programmieren stark sein und bei Alltagsurteilen versagen. Seine Leistung ändert sich mit Werkzeugen, Prompt, Modellversion, Inferenzzeit und erteilten Berechtigungen. Die Formel „klüger als Menschen“ liefert Laboren, Gerichten und Aufsicht keine wiederholbare Entscheidung.

Vollziehbare Regeln müssten Aufgaben, zulässige Autonomie und Werkzeuge, Erfolgskriterien, Prüfer und unabhängige Kontrolle benennen. Auch das Modell und die umgebende Software sind zu trennen. Ein Agent mit zu weitreichenden Zugangsdaten ist heute ein ernstes Risiko; daraus folgt nicht automatisch, dass das Basismodell eine künftige gesetzliche Schwelle erfüllt.

Nationale Durchsetzung ist nicht globale Kontrolle

Britisches Recht kann Aktivitäten im Land und manche Dienste für britische Nutzer erfassen, aber Training im Ausland nicht allein verhindern. Deshalb enthält der Vorschlag ein internationales Ziel. Chips, Rechenzentren, Verträge, Kapital und Fachkräfte schaffen zwar Ansatzpunkte für Sichtbarkeit. Gewichte und Know-how können jedoch Grenzen überschreiten, und Effizienzfortschritte schwächen reine Rechengrenzen. Eine internationale Lösung bräuchte gemeinsame Definitionen, geschützte Meldungen, Audits, Folgen für Umgehung und Raum für defensive Sicherheitsforschung.

Das ist etwas anderes als engere aktuelle Schutzmaßnahmen. Der offizielle Änderungsantrag zum Cyber Security and Resilience Bill betrifft kritische Systeme und ist kein allgemeines Superintelligenzverbot. Hintons Warnung ist ein prüfbares Argument über Kontrolle, kein Nachweis einer unmittelbar bevorstehenden Katastrophe.

Gegenwärtige Risiken lassen sich trotzdem mindern: mit minimalen Berechtigungen, getrennten Freigaben, Protokollen, unabhängigen Tests und geübten Abschaltwegen für verbundene Agenten. Entscheidend sind als Nächstes Volltext, Definitionen, Forschungs- und Untersuchungsregeln, Befugnisse, Rechtsmittel und die Regierungsposition. Verantwortliche Politik braucht messbare Schwellen, überprüfbare Institutionen und Disziplin beim heutigen Einsatz.