Vor einer für den 5. Oktober geplanten Anhörung erhielt New Yorks Stadtrat Zusagen von OpenAI, Anthropic, Google und Meta, Vertreter für vereidigte Fragen zu KI-Risiken zu entsenden. Es ging nicht bloß um freiwillige Sicherheitserklärungen: Beraten wurden externe Validierung, Whistleblower-Anreize, Vorfalloffenlegung und Rechtsmittel, die überprüfbare Belege verlangen würden.
Die Committee-of-the-Whole-Sitzung sollte um 11 Uhr im Rathaus alle 51 Ratsmitglieder statt nur einen Fachausschuss einbeziehen. Die Agenda enthielt einen Aufsichtspunkt und neun Gesetzesvorschläge. Das Paket war ein Entwurf, keine Schlussabstimmung oder geltendes Recht. Der Vorbericht enthielt weder abgeschlossene Aussagen, Protokolle noch daraus entstandene Beschlüsse.
Teilnahme wurde zum Streit über Rechenschaft
Meta sagte einen hochrangigen Vertreter vor der Zwangsandrohung zu. OpenAI und Google folgten nach einer Vorladungswarnung; Anthropic lehnte zunächst ab und bestätigte kurz vor Fristende. Der Rat bezeichnete die geplante Sitzung als erste öffentliche vereidigte Aussage dieser vier Firmen zu KI-Gefahren und gesetzgeberischen Antworten. Das ist seine Einordnung, kein Befund darüber, was Zeugen schließlich einräumten.
Bloomberg erwartete Politik- und Sicherheitsverantwortliche statt Vorstandschefs. Ihre Befugnis, technische Fragen zu beantworten, war ebenso wichtig wie die Firmennamen. Öffentlich zu antworten bedeutet nicht, Zugang zu den Belegen einer Antwort zu gewähren.
Sprecherin Julie Menin lud SpaceXAI verpflichtend vor, nachdem die erste Einladung unbeantwortet blieb. Bei Nichtbefolgung könne der Rat Durchsetzung beim New York State Supreme Court beantragen. Ein späterer Lokalbericht erwartete Teilnahme; Erwartung darf nicht in bestätigte abgeschlossene Aussage umgeschrieben werden.
Als möglicher Zeuge wurde auch Ex-Anthropic-Forscher Jacob Coxon genannt, neben Alex Turner, früher Google DeepMind, und Daniel Kokotajlo, früher OpenAI und Leiter des AI Futures Project. Coxon soll bei OpenAI und Anthropic Pretraining erforscht und Anthropic im September verlassen haben. Diese große Lernphase vor späterer Verfeinerung ist für seine behauptete Insiderperspektive relevant.
Berichte schrieben Coxon die Warnung zu, Entwickler fortgeschrittener KI glaubten an mögliche Vernichtung der Menschheit noch vor Jahrzehntende. Das ist eine außergewöhnliche zugeschriebene Risikobehauptung, keine gesicherte Prognose. Reuters konnte Bloombergs Bericht zur geplanten Teilnahme nicht unabhängig bestätigen; der Rat verwies gesondert auf seinen Rücktritt. Solche Beweisgrenzen zählen ebenso wie die Kontrolle von Firmenzusicherungen.
Validierung vor dem Angebot eines Modells
T2026-2602 wollte Vermarktung, Verkauf und Einsatz erfasster Modelle ohne Drittvalidierung in der Stadt verbieten, ergänzt um menschlich auslösbare technische Abschaltung. Aufgabenleistung, unterschiedliche Auswirkungen, Datenschutz, Sicherheit und tatsächliche Abschaltfunktion gehörten zu Prüfbereichen.
Prüfer sollten Modellinteressen offenlegen und Validierung beziehungsweise Einsatzbereitschaft melden. Cyber Command würde Umsetzung und Qualifikationen regeln. Auch Evaluatoren hätten Pflichten: Zivilstrafen bis 25.000 Dollar, darunter feste 25.000 je Angebot/Einsatz ohne erforderliche Prüfung und derselbe Betrag bei gefälschter Validierung.
Externe Prüfung hinterfragt interne Gewohnheiten, vergleicht Anbieter und kontrolliert Aussagen. Fehlender Zugang, Können oder Zeit können sie aber entwerten. Vom Entwickler bezahlte Prüfer können wirtschaftlichen Genehmigungsdruck erleben; Interessentransparenz beseitigt keine Abhängigkeit. Papierkonformität beweist keine Risikominderung.
Die Abschaltung braucht ebenfalls einen Rahmen. Ein Host kann seinen Dienst sperren, nicht unbedingt kopierte Ausgaben, exportierte Artefakte, Kundeneinbindungen oder ausgelöste Folgehandlungen zurückholen. Dienstabschaltung und Vorfalleindämmung sind unterschiedliche Ergebnisse. Regeln müssen Gegenstand, Kontrolle und betroffene Deployments definieren.
Beschwerden, Anreize und zwei Meldefristen
Ein Vorschlag erlaubte Beschwerden über erfasste KI-Verstöße beim Department of Consumer and Worker Protection. Es sollte grundsätzlich ermitteln, außer bei mutwilligen, falschen oder doppelten Meldungen. Verfolgt die Stadt den Fall anhand der Angaben, könnten Hinweisgeber 25% der Rückflüsse erhalten, bei Beauftragung mit Zustellung oder Zivilklage 50%.
Der Anreiz betrifft interne Informationen zu Testdesign, Warnungen und Veröffentlichungsentscheidungen. Ein weiteres Gesetz sollte Stadtbeschäftigte und erfasste Auftragnehmer schützen, die begründet eine erhebliche und konkrete Gefahr für öffentliche Sicherheit durch KI melden. Das ist kein pauschaler Schutz sämtlicher privater Arbeitnehmer.
Belohnungen brauchen Zulässigkeit, Vertraulichkeit, Umgang mit sensiblen Belegen und Regeln für konkurrierende Anspruchsteller. Schwache oder taktische Meldungen verbrauchen Kapazität. Glaubwürdige Offenlegung muss mit fairem Verfahren für unzutreffend beschuldigte Unternehmen vereinbar sein. Öffentlichkeit darf keine Personendaten, ausnutzbaren Fehler oder geschützten Technikdetails freisetzen.
Bei erfassten Stadtverträgen sollten Behörden und Auftragnehmer binnen 24 Stunden nach Entdeckung eines meldepflichtigen KI-Sicherheitsvorfalls Cyber Command informieren; dieses sollte innerhalb weiterer 24 Stunden öffentlich melden. Es sind aufeinanderfolgende Fristen, keine allgemeine Pflicht für jeden Chatbotfehler und keine Veröffentlichung sämtlicher Vorfälle 24 Stunden nach deren Eintritt.
Haftung und Werbung betreffen mehr als Labore
T2026-2600 sah ein privates Klagerecht bei Schäden durch böswillige oder unangemessene Drittnutzung kommerziell verfügbarer Modelle vor. Erforderlich wären Vorhersehbarkeit und unzureichende Schutzmaßnahmen im Zusammenhang mit dem Missbrauch. Nicht jede schlechte Ausgabe würde automatisch Entwicklerhaftung bedeuten.
Vorhersehbarkeit ist umstritten: Entwickler können nicht jede Anweisung oder Änderung verhindern, aber vorhersehbarer Missbrauch wird nicht unvorhersehbar, nur weil jemand anderes den letzten Prompt eingibt. Evaluation, Missbrauchsprognosen, Warnungen und Releaseentscheidungen würden Beweismittel statt nur interne Politik.
Andere Vorschläge behandelten Datenschutz, Sicherheit, Transparenz und Nutzerzugriff bei Chatbots. Anbieter dürften keine Beratung gleichwertig zu zugelassenen Fachleuten suggerieren. Werbung müsste Drittvalidierung offenlegen; wesentlich falsche oder irreführende Sicherheitsbehauptungen könnten bis 25.000 Dollar kosten. Notfallplanung gehörte neben schweren Ausfällen und Abschaltung ebenfalls zum Paket.
Betroffen wären Prüfer, Distributoren, Betreiber, Stadtauftragnehmer, Behörden, Werber und Käufer. Entwickler liefern Fähigkeiten, Anwendungen definieren Abläufe, Kunden erteilen Daten-/Werkzeugrechte. Ein Modell mit Mail, Datenbanken, Zahlungen oder Codezugang hat andere Risiken als isolierter Chat.
Das Einstellungs-Audit ist ein engerer Präzedenzfall
Local Law 144 beschränkt schon erfasste automatisierte Einstellungswerkzeuge bei Arbeitgebern und Arbeitsvermittlern ohne aktuellen Bias-Audit und Hinweise. Durchsetzung begann im Juli 2023. Das schafft einen lokalen externen Prüfpräzedenzfall, beweist aber keine einfache Durchsetzung der breiten Modellregel.
Ein Einstellungswerkzeug hat begrenzte Aufgaben, Nutzer und Entscheidungen. Allgemeine Modelle unterstützen Code, Rechtstexte, Forschung, Kundenservice und Agentenaktionen mit jeweils anderer Integration. Vermarktung, Verkauf und Einsatz werfen Fragen zu Modell versus Anwendung, Update versus Neuveröffentlichung und Verantwortung entlang der Kette auf.
Ein anderswo trainiertes, in anderem Staat gehostetes und über Vermittler von New Yorkern genutztes Modell schafft Zuständigkeitsfragen. Städte haben Verbraucher-, Beschaffungs- und Geschäftsrechte; New Yorks Markt beeinflusst Anbieter über Grenzen. Einfluss garantiert aber keine Durchsetzbarkeit und keine Kontrolle nationaler Forschung, Chipexporte oder aller externen Einsätze.
Schwache Standards könnten irreführende Zusicherungen abstempeln. Vage breite Regeln könnten nützliche Dienste hemmen und große Firmen mit Compliancebudget bevorzugen. Das innovations- und sicherheitsfreundliche Ziel hängt deshalb von Definitionen, Erneuerungsregeln und technisch erfüllbaren Pflichten ab, nicht vom Slogan.
Beide Seiten brauchen testbare Belege
Katastrophenschätzungen ehemaliger Mitarbeiter sind von dokumentierten Befunden über bestimmte Systeme, Fähigkeiten und Entscheidungen zu trennen. Firmenkultur beweist ebenfalls keine aussagekräftigen Angriffstests oder die Möglichkeit, unter Geschäftsdruck ein Release zu stoppen. Warnungen und Entwarnungen verdienen denselben Maßstab.
Sinnvolle Fragen betreffen Verzögerungsbefugnis, Aufhebung eines Stopps, erhaltene Dissensunterlagen, Prüferzugang und Neuvalidierung nach Updates. Geschäftsmodelle unterscheiden sich: OpenAI/Anthropic betonen Frontier-Entwicklung und Sicherheitsforschung, Google verbindet Suche, Cloud, Produktivität und Verbraucherprodukte, Meta Modelle, Plattformen und Werbung. Gemeinsame Pflichten brauchen Kontext.
Beschwerde- und Meldesysteme benötigen Ermittler, Fachwissen, Vertraulichkeit und Mittel. Cyber Command und Verbraucherschutz können breite Aufgaben nicht allein durch Zusicherungen erfüllen. Unvalidierte Einsätze erkennen und kleine Updates von neuen Systemen unterscheiden sind operative Aufgaben, keine selbstwirkenden Gesetzeswörter.
Käufer brauchen Modellversionen, Testfälle, Evaluationslogs, Zugriffe, Vorfallentscheidungen und Schutzänderungen. Eine durchsuchbare Wissensbasis bewahrt Kontext, ersetzt aber weder unabhängige Prüfung noch Rechte und Reaktion. Ohne Aufzeichnungen wird Rechenschaft zum Streit über Erinnerung.
Was die Anhörung bedeutsam machen würde
Der Vorabplan setzte drei Prüfsteine: konkrete vereidigte Belege, sinnvolle Änderungen und glaubwürdige Durchsetzung. Evaluationsmethoden, Eskalation und Freigabeschwellen wären nützlicher als allgemeine Verantwortung; konkrete Insidermechanismen nützlicher als Katastrophen allein.
Definitionen von Modellen, Einsatz, Erneuerung, Abschaltung, angemessenen Schutzmaßnahmen und Hinweisberechtigung bestimmen die Praktikabilität. Personal, Zugang, Regeln und Ermittlungen bestimmen Durchsetzung. Die Teilnahmezusage beweist keines dieser Ergebnisse.
Die Initiative machte eine reale Frage sichtbar: Welche Belege gibt es, wer kann sie prüfen und was folgt einer ignorierten Warnung? Daran sind die Voranhörungspläne zu messen – nicht als geltende Pflichten oder als Beweis bereits gegebener Antworten.
Quellen und weiterführende Lektüre
Tagesordnung der Ratsanhörung · Bericht über Coxon und Verifikationsvorbehalt · Gesetzesvorschläge des Stadtrats · Bestehende Regeln für Einstellungsprüfungen · Governance von Wissensdatenbanken · Plan zur Unternehmensanhörung · Ursprünglicher Bloomberg-Bericht