Wie ein vorgeschlagenes Verbot von KI-Superintelligenz zu lesen ist

Senator Bernie Sanders und der Abgeordnete Greg Casar haben am 3. September 2026 einen Vorschlag vorgestellt, den sie Ban Artificial Superintelligence Act nennen. Der veröffentlichte Rahmen will Entwicklung und Einsatz dessen, was er künstliche Superintelligenz nennt, dauerhaft untersagen, fortgeschrittene KI-Entwicklung bis zur Einrichtung einer Bundesaufsicht pausieren und internationale Zusammenarbeit anstreben. Das ist eine weitreichende politische Position. Es ist aber noch kein geltendes Recht und auch kein Gesetzentwurf, dessen vollständiger Text geprüft werden kann.

Genau mit dieser Unterscheidung sollte die Einordnung beginnen. Die Ankündigung der Abgeordneten beschreibt kommende Gesetzgebung. Unabhängige Berichte hielten ebenfalls fest, dass der vollständige Text damals nicht veröffentlicht war. Eine politische Zusammenfassung kann ein Ziel erläutern; sie beantwortet nicht alle Fragen, die ein Gesetz, eine Regelung oder ein Gericht beantworten müsste.

Zuerst den Gesetzesstand prüfen

Politische Ankündigungen werden oft so gelesen, als sei die Gesetzgebung abgeschlossen. Stattdessen sind vier einfache Fragen sinnvoll: Gibt es eine Gesetzentwurfsnummer? Ist der vollständige Text öffentlich? Welche Ausschüsse sind zuständig? Haben sich weitere Unterstützer oder ein Begleitentwurf gefunden? Solange das offen ist, lautet die verantwortliche Beschreibung „vorgeschlagener Rahmen“ und nicht ein Bundesverbot, dem Unternehmen bereits folgen müssen.

Das ist keine bloße Förmelei. Begriffe wie „fortgeschrittene KI-Entwicklung“, „Superintelligenz“ und eine neue Aufsicht auf Kabinettsebene können je nach Definition, Ausnahmen, Zeitpunkt und Vollzug ganz unterschiedliche Aktivitäten umfassen. Eine kurze Pressemitteilung klärt nicht, ob ein Training, Fine-Tuning, agentische Software auf einem bestehenden Modell, offene Forschung oder ein eingesetzter Unternehmensdienst betroffen wäre.

Die eigene Zusammenfassung der Gesetzgeber bietet einen ersten Anhaltspunkt. Sie beschreibt künstliche Superintelligenz als ein System, das menschliche kognitive Leistung in vielen Bereichen erreicht oder übertrifft, oder das die Entmachtung der Menschheit planen und ausführen kann. Sie nennt auch Fähigkeiten wie das Umgehen von Abschaltbefehlen. Das sind politische Konzepte, noch kein reproduzierbarer Compliance-Test.

Fragen, was messbar wäre

Eine dauerhafte Regel braucht einen Schwellenwert, den Entwickler, Behörden und externe Prüfer einheitlich anwenden können. Breite menschenähnliche Leistung ist schwer zu operationalisieren: Menschen unterscheiden sich je nach Aufgabe, und KI-Ergebnisse ändern sich mit Benchmark, Systemprompt, Werkzeugen, Sampling-Einstellungen und Bedienung. Ein Modell kann die meisten Menschen in einer engen Fachaufgabe übertreffen und zugleich bei einfachem Kontextverständnis scheitern.

Fähigkeitsbasierte Regeln können konkreter sein, benötigen aber ebenfalls genaue Angaben. Soll ein System einen nicht autorisierten Cyberangriff ausgeführt haben, brauchen Prüfer Modellversion, erlaubte Tools, Zugangsdaten, Zielumgebung, Anzahl der Versuche und Erfolgskriterium. Sonst können eine unterstützte Vorführung und ein wiederholbares autonomes Ergebnis mit derselben Schlagzeile beschrieben werden.

Das gilt auch für Widerstand gegen eine Abschaltung. Eine adversariale Evaluierung kann zeigen, dass ein Modell eine schlecht gestaltete Sandbox umgeht. Das ist ein wichtiger Sicherheitsbefund, beweist aber für sich genommen weder dauerhafte eigene Ziele noch das Erfüllen einer gesetzlichen Definition von Superintelligenz. Ein gutes Gesetz muss Modellverhalten, unsichere Einbettung, Entscheidungen der Betreiber und reale Schäden unterscheiden.

Durchsetzung muss verhältnismäßig und überprüfbar sein

Der Rahmen sieht harte Sanktionen vor, darunter den Verlust der Geschäftsfähigkeit einer Organisation und strafrechtliche Folgen. Je schwerer die Konsequenz, desto stärker sind Anforderungen an Benachrichtigung, technische Belege, eine Möglichkeit zur Anfechtung der Einstufung und einen klaren Rechtsweg. Unternehmen und Kunden müssen außerdem wissen, was während einer strittigen Prüfung mit Daten, Verträgen, kritischen Diensten und Beschäftigten geschieht.

Auch innerhalb einer KI-Organisation ist Verantwortung nicht gleich verteilt. Ein Forscher mit einer kontrollierten Evaluierung, ein Ingenieur, der einen Connector konfiguriert, und eine Führungskraft, die ein Frontier-Training freigibt, haben nicht dieselbe Kontrolle. Ein endgültiger Text braucht klare Schutzräume für defensive Tests, Incident-Forschung und verantwortungsvolle Offenlegung, während absichtliche Umgehung verboten bleibt.

Eine Aufsicht benötigt technische Kompetenz, um vertrauliche Systeme zu untersuchen, ohne Modellgewichte oder Sicherheitsbefunde zu einer neuen Offenlegung zu machen. Das spricht für geschützte Evaluierungsverfahren, dokumentierte Testprotokolle und unabhängige technische Beratung, nicht nur für öffentliche Sicherheitsbehauptungen der Labore.

Eine nationale Pause braucht eine internationale Theorie

Der internationale Anspruch ist zentral. Eine einseitige US-Beschränkung könnte heimische Entwicklung bremsen, während die Arbeit an Fähigkeiten andernorts weiterläuft. Befürworter können plausibel erwidern, dass ein Wettbewerb ohne gemeinsame Grenzen kollektive Risiken erhöht. Kritiker können ebenso plausibel fragen, wie eine grenzüberschreitende Pause überprüft werden soll. Beides sind Umsetzungsfragen, nicht nur politische Vorlieben.

KI ist schwerer wie ein physisches Waffenprogramm zu kontrollieren, weil Software, Wissen und Modellgewichte beweglich sind. Große Trainingsprojekte hängen weiterhin von Chips, Rechenzentren, Kapital und spezialisiertem Personal ab; das schafft Sichtbarkeitspunkte für Staaten. Effizientere Algorithmen und verteilter Zugang machen eine einfache Infrastrukturgrenze jedoch unvollständig.

Eine glaubwürdige internationale Strategie bräuchte gemeinsame Definitionen, Meldepflichten, Prüfverfahren und Folgen für Umgehung. Sie müsste auch legitime Sicherheitsforschung schützen. Engere Vereinbarungen zu klar benannten schädlichen Anwendungen sind womöglich leichter zu prüfen als eine allgemeine Grenze für Intelligenz; sie wären aber eine andere Politik als das vorgeschlagene kategorische Verbot.

Nicht auf ein Frontier-Gesetz warten, um Agenten zu sichern

Die Ankündigung wurde mit Berichten über Sicherheitsfehler von KI-Agenten verknüpft. Diese Berichte verdienen sorgfältige Untersuchung, sind aber kein Grund, gewöhnliche Schutzmaßnahmen aufzuschieben. Ein verbundener Agent kann erheblichen Schaden anrichten, ohne superintelligent zu sein, wenn er weitreichende Zugangsdaten, ungeprüften Netzwerkzugriff oder Handlungsbefugnis besitzt.

In einer praktischen Bereitstellung sollten Kontoidentität, Informationsflüsse, Werkzeugrechte und menschlicher Freigabepunkt getrennt geprüft werden. Ein Finanzassistent darf eine Zahlung vorbereiten, sollte aber weder uneingeschränkte Bankzugangsdaten besitzen noch seine eigene Überweisung freigeben. Ein Coding-Agent kann ein Repository lesen, während Produktionsbereitstellung und Geheimniszugriff getrennte, protokollierte Aktionen bleiben. Kurzlebige Zugangsdaten, beschränkte Dienstkonten, Freigabeschranken und ein getesteter Abschaltweg sind heute umsetzbare Kontrollen.

Hier kann Regulierung nützlicher sein als Rhetorik. Meldepflichten für Vorfälle, Evaluierungsstandards, Erwartungen an Zugriffskontrollen und unabhängige Audits können beobachtbares Verhalten adressieren. Sie können neben der größeren Debatte bestehen, ob bestimmte Fähigkeiten niemals entwickelt werden sollten.

Worauf als Nächstes zu achten ist

Sobald vollständiger Text eingereicht wird, lässt sich der Vorschlag besser beurteilen. Relevant sind eine Gesetzentwurfsnummer, Definitionen der erfassten Systeme und Entwicklung, ein ausdrücklicher Beginn und ein Ende einer Pause, Befugnisse der Aufsicht, Forschungs-Ausnahmen, Regeln des rechtsstaatlichen Verfahrens und Unterstützung im Kongress über die ursprünglichen Sponsoren hinaus. Diese Details zeigen, ob der Rahmen zu einem vollziehbaren Programm werden kann oder vor allem eine schärfere öffentliche Debatte auslösen soll.

Die richtige Reaktion auf einen frühen Politikvorschlag ist weder Abtun noch voreilige Gewissheit. Sie besteht darin, das politische Ziel vom rechtlichen Mechanismus zu trennen, testbare Definitionen und überprüfbare Durchsetzung zu verlangen und die operativen Kontrollen weiterzuentwickeln, die KI-Risiken heute senken.