Przed przesłuchaniem zaplanowanym na 5 października Rada Nowego Jorku uzyskała zobowiązania OpenAI, Anthropic, Google i Meta do wysłania przedstawicieli odpowiadających pod przysięgą o ryzykach AI. Stawką nie była kolejna dobrowolna deklaracja: rozważano niezależną ocenę, zachęty dla sygnalistów, publikację incydentów i środki prawne oparte na identyfikowalnych dowodach.
Sesja Committee of the Whole miała odbyć się w ratuszu o 11, przed 51 radnymi zamiast jedną komisją. Porządek zawierał nadzór i dziewięć projektów ustaw. Pakiet był propozycją, nie końcowym głosowaniem ani prawem. Przedspotkaniowa relacja nie zawierała ukończonych zeznań, protokołów i wynikających decyzji.
Udział stał się sporem o rozliczalność
Meta zgodziła się wysłać wysokiego rangą przedstawiciela przed groźbą przymusu. OpenAI i Google po ostrzeżeniu o wezwaniu; Anthropic początkowo odmówiło, potwierdzając przed końcem terminu. Rada określała planowane spotkanie jako pierwsze publiczne zeznania czterech firm pod przysięgą o zagrożeniach i legislacji. To jej opis, nie ustalenie, co świadkowie przyznali.
Bloomberg spodziewał się urzędników polityki i bezpieczeństwa zamiast prezesów. Ich uprawnienia do odpowiedzi technicznych miały znaczenie jak nazwy firm. Publiczna odpowiedź nie jest dostępem do materiałów pozwalających ją sprawdzić.
Przewodnicząca Julie Menin wystosowała też wezwanie wobec SpaceXAI po braku odpowiedzi na zaproszenie. Rada mówiła o egzekucji w New York State Supreme Court w razie odmowy. Późniejsza lokalna relacja oczekiwała udziału firmy; oczekiwanie nie jest potwierdzeniem odbytych zeznań.
Jako potencjalnego świadka wskazano byłego badacza Anthropic Jacoba Coxona, a obok Alexa Turnera z Google DeepMind i Daniela Kokotajlo, dawniej OpenAI, obecnie kierującego AI Futures Project. Coxon miał badać pretraining w OpenAI i Anthropic i odejść we wrześniu. Ten wielkoskalowy etap uczenia przed późniejszym dostrajaniem ma znaczenie dla deklarowanej perspektywy wewnętrznej.
Przypisywano mu ostrzeżenie, że twórcy zaawansowanej AI uważają zniszczenie ludzkości przed końcem dekady za możliwe. To nadzwyczajna przypisana ocena ryzyka, nie ustalona prognoza. Reuters nie mógł niezależnie potwierdzić relacji Bloomberga o planowanym udziale; Rada osobno cytowała rezygnację. Te granice dowodowe są równie ważne jak weryfikacja zapewnień firm.
Walidacja przed oferowaniem modelu
T2026-2602 proponowało zakaz marketingu, sprzedaży lub wdrożenia objętego modelu bez walidacji zewnętrznej oraz techniczną możliwość wyłączenia przez człowieka. Ocena miała obejmować skuteczność zadań, nierówny wpływ, prywatność, bezpieczeństwo i działanie wyłączania.
Walidatorzy ujawnialiby interesy związane z modelem i informowali o zatwierdzeniu lub gotowości. Cyber Command określałoby zasady i kwalifikacje. Odpowiedzialność obejmowałaby oceniających: kary cywilne do 25 tys. dolarów, w tym stałe 25 tys. za każde oferowanie/wdrożenie bez wymaganej oceny oraz tyle samo za jej fałszowanie.
Zewnętrzny przegląd podważa wewnętrzne założenia, porównuje dostawców i sprawdza zapewnienia. Może jednak zawieść z powodu braku dostępu, umiejętności lub czasu. Oceniający opłacany przez klienta może odczuwać presję; ujawnienie zależności nie usuwa jej ekonomii. Dokument zgodności nie dowodzi mniejszego ryzyka.
Wyłącznik także potrzebuje granic. Dostawca hostowany zatrzyma usługę, ale niekoniecznie cofnie skopiowane odpowiedzi, eksporty, integracje i uruchomione działania. Wyłączenie modelu i opanowanie incydentu są różne. Reguła musi określać przedmiot, władzę i objęte wdrożenia.
Skargi, nagrody i dwa zegary
Projekt pozwalał skarżyć naruszenia do Department of Consumer and Worker Protection. Zasadą byłoby dochodzenie z wyjątkiem błahych, fałszywych i powtarzalnych skarg. Zgłaszający mógłby otrzymać 25% odzyskanych środków, jeśli miasto wykorzysta fakty, lub 50%, gdy upoważniono go do doręczenia zawiadomienia albo pozwu cywilnego.
Zachęta dotyczy informacji pracowników i wykonawców o testach, ignorowanych ostrzeżeniach i decyzjach. Inny projekt precyzował ochronę pracowników miasta i objętych wykonawców, którzy rozsądnie widzą znaczne, konkretne zagrożenie publiczne w rozwoju lub użyciu AI. Nie jest to uniwersalna ochrona każdego pracownika prywatnego.
Nagrody wymagają kwalifikacji, poufności, ochrony materiałów i rozstrzygania konkurujących roszczeń do faktów. Słabe lub strategiczne skargi pochłaniają zasoby. Ochrona wiarygodnych sygnałów musi współistnieć z prawem firmy do obrony przed fałszywym zarzutem. Publikacja nie może ujawniać danych osobowych, exploitów czy chronionych materiałów.
Przy objętych kontraktach miejskich agencje i wykonawcy zgłaszaliby raportowalny incydent AI do Cyber Command w 24 godziny od odkrycia. Ono publikowałoby informację w kolejnych 24 godzinach. To zegary następujące po sobie, nie obowiązek dla każdego błędu chatbota ani ujawnienia wszystkiego 24 godziny od wystąpienia.
Odpowiedzialność i reklama sięgają poza laboratoria
T2026-2600 proponowało prywatne powództwo, gdy model komercyjny powoduje szkody przez złośliwe lub niewłaściwe użycie osoby trzeciej. Potrzebne były przewidywalność i niedostateczne zabezpieczenia związane z nadużyciem. Nie każda zła odpowiedź oznacza automatyczną odpowiedzialność producenta.
Przewidywalność jest sporna: twórca nie zatrzyma każdej instrukcji lub zmiany, lecz przewidywalne nadużycie nie staje się nieprzewidywalne tylko przez cudzy ostatni prompt. Oceny, prognozy nadużyć, ostrzeżenia i wydania stałyby się dowodami, nie samą polityką wewnętrzną.
Inne projekty dotyczyły prywatności, bezpieczeństwa, przejrzystości i dostępu użytkownika. Chatbot nie mógłby sugerować porad równoważnych licencjonowanym specjalistom. Reklama ujawniałaby zewnętrzną walidację; istotnie fałszywe zapewnienia bezpieczeństwa groziłyby do 25 tys. dolarów. Pakiet obejmował też planowanie awaryjne i poważne awarie.
Obowiązki sięgałyby oceniających, dystrybutorów, wdrażających, wykonawców miasta, agencji, reklamodawców i nabywców. Twórca daje możliwości, aplikacja proces, klient dostęp do danych i narzędzi. Model z pocztą, bazami, płatnościami lub repozytoriami ma inne ryzyko niż odizolowany czat.
Audyt rekrutacji jest węższym precedensem
Local Law 144 już ogranicza użycie objętych narzędzi automatycznej rekrutacji bez aktualnego audytu uprzedzeń i zawiadomień. Egzekwowanie zaczęło się w lipcu 2023. To precedens zewnętrznego audytu lokalnego, nie dowód prostoty szerszych zasad modelu.
Narzędzie zatrudnienia ma określone zadanie, odbiorców i decyzje. Model ogólny pisze kod, dokumenty prawne, badania, obsługuje klientów i agentów; ryzyko zależy od integracji. Marketing, sprzedaż i wdrożenie rodzą pytania o model/aplikację, aktualizację/nowe wydanie i odpowiedzialność łańcucha.
Model szkolony poza miastem, hostowany w innym stanie i używany przez pośrednika tworzy spory jurysdykcyjne. Miasta mają władzę konsumencką, zakupową i biznesową; wielkość Nowego Jorku wpływa poza granice. Wpływ nie jest egzekwowalnością ani kontrolą badań, eksportu chipów i wszystkich zewnętrznych zastosowań.
Słabe standardy mogłyby stemplować mylące zapewnienia. Niejasne szerokie mogłyby odstraszać użyteczne usługi i premiować duże firmy. Równowaga innowacji i bezpieczeństwa zależy od definicji, odnowień i wykonalności technicznej, nie hasła.
Obie strony potrzebują sprawdzalnych dowodów
Katastroficzne prognozy byłych pracowników należy oddzielać od udokumentowanych ustaleń o konkretnych systemach i decyzjach. Kultura bezpieczeństwa nie dowodzi sensownych testów ani możliwości zatrzymania wydania pod presją biznesu. Ostrzeżenia i zapewnienia wymagają tej samej miary.
Ważne pytania dotyczą prawa wstrzymania, odwrócenia decyzji, zapisów sporu, dostępu walidatora i ponownej oceny po zmianach. Firmy różnią się: OpenAI/Anthropic podkreślają modele graniczne i bezpieczeństwo, Google wyszukiwarkę, chmurę, produktywność i konsumentów, Meta modele, platformy i reklamę. Wspólne obowiązki potrzebują kontekstu.
Skargi i publikacje potrzebują śledczych, wiedzy, poufności i środków. Cyber Command i ochrona konsumentów nie wykonają szerokiego mandatu samymi zapewnieniami. Wykrycie niewalidowanego wdrożenia i rozróżnienie drobnej zmiany od nowego systemu to praca, nie samoczynny zapis ustawy.
Kupujący potrzebują wersji modeli, przypadków testowych, logów ocen, praw dostępu, decyzji i zmian zabezpieczeń. Baza wiedzy przechowuje kontekst, nie zastępuje niezależnej oceny, uprawnień i reakcji. Bez zapisów rozliczenie staje się sporem o pamięć.
Kiedy przesłuchanie miałoby znaczenie
Plan stawiał trzy testy: konkretne dowody pod przysięgą, istotne poprawki projektów i wiarygodną egzekucję. Metody ocen, eskalacje i progi wydań są cenniejsze niż ogólna odpowiedzialność; mechanizmy wskazane przez insiderów niż sama katastrofa.
Definicje modeli, wdrożeń, odnowienia walidacji, wyłączania, rozsądnych zabezpieczeń i kwalifikacji sygnalistów określą wykonalność. Kadry, dostęp, reguły i dochodzenia określą egzekucję. Zgoda na udział nie dowodzi żadnego wyniku.
Inicjatywa odsłoniła realne pytanie: jakie dowody istnieją, kto je sprawdzi i co wynika z ignorowania ostrzeżeń? Na tej podstawie należy oceniać zapowiedzi, nie przedstawiać ich jako prawa lub dowodu, że firmy już odpowiedziały.
Źródła i materiały powiązane
Porządek przesłuchania Rady · Relacja o Coxonie i ograniczenie weryfikacji · Propozycje legislacyjne Rady · Obowiązujące zasady audytów rekrutacji · Zarządzanie bazą wiedzy · Plan zeznań firm · Pierwotny raport Bloomberga