Prima dell'audizione prevista per il 5 ottobre, il Consiglio di New York aveva ottenuto l'impegno di OpenAI, Anthropic, Google e Meta a inviare rappresentanti per domande giurate sui rischi IA. Non si trattava di un'altra promessa volontaria: si valutavano validazione esterna, incentivi ai segnalatori, pubblicazione di incidenti e rimedi legali basati su prove identificabili.
La sessione Committee of the Whole era fissata alle 11 al municipio davanti a 51 consiglieri, non a una sola commissione. L'agenda comprendeva supervisione e nove proposte. Il pacchetto era legislazione proposta, non voto finale o legge vigente; il resoconto precedente non conteneva verbali, testimonianze concluse o decisioni risultanti.
Partecipare diventò una disputa di responsabilità
Meta accettò un rappresentante senior prima della minaccia coercitiva. OpenAI e Google dopo l'avvertimento di convocazione; Anthropic rifiutò inizialmente e confermò vicino alla scadenza. Il Consiglio definiva la sessione la prima testimonianza pubblica giurata delle quattro sui pericoli e le risposte legislative. Era la sua descrizione, non un accertamento di ciò che i testimoni avrebbero ammesso.
Bloomberg prevedeva funzionari politici e di sicurezza, non amministratori delegati. La loro autorità tecnica contava quanto i nomi. Rispondere pubblicamente non equivale a dare accesso alle prove necessarie per verificare.
La speaker Julie Menin convocò anche SpaceXAI dopo la mancata risposta iniziale. Il Consiglio prospettava ricorso alla New York State Supreme Court per far rispettare l'ordine. Un successivo racconto locale ne prevedeva la partecipazione; aspettativa non significa testimonianza confermata e conclusa.
Fra i possibili testimoni c'era l'ex-Anthropic Jacob Coxon, con Alex Turner, ex-Google DeepMind, e Daniel Kokotajlo, ex-OpenAI e responsabile AI Futures Project. Coxon avrebbe lavorato al pretraining in OpenAI e Anthropic, lasciando quest'ultima a settembre. La grande fase di apprendimento prima della rifinitura è pertinente alla prospettiva interna dichiarata.
Gli veniva attribuito l'allarme che sviluppatori di IA avanzata credessero possibile la morte dell'umanità prima di fine decennio. È un'affermazione di rischio straordinaria e attribuita, non una previsione accertata. Reuters non verificò indipendentemente la notizia Bloomberg sulla presenza; il Consiglio citò separatamente le dimissioni. Distinzioni probatorie importanti quanto controllare le rassicurazioni aziendali.
Validare prima di offrire il modello
T2026-2602 proponeva divieto di marketing, vendita o distribuzione di modelli coperti senza validazione terza nella città, più capacità tecnica di arresto umano. Prestazione, impatto differenziato, privacy, sicurezza e funzionamento dell'arresto sarebbero aree di valutazione.
I validatori dovrebbero dichiarare interessi e riferire validazione o prontezza. Cyber Command fisserebbe attuazione e qualifiche. Anche i valutatori avrebbero obblighi: sanzioni civili fino a 25 mila dollari, comprese 25 mila fisse per offerta/uso senza verifica e altrettante per validazione falsa.
Revisione esterna contesta assunti interni e confronta prove, ma può fallire senza accesso, competenza o tempo. Il valutatore pagato dal cliente può subire pressione ad approvare; trasparenza non elimina dipendenza economica. Documenti di conformità non dimostrano rischio ridotto.
Anche l'arresto richiede un confine. Il fornitore host può bloccare accesso, non necessariamente recuperare output copiati, esportazioni, integrazioni o azioni già avviate. Spegnere il servizio e contenere l'incidente sono distinti. La regola deve definire oggetto, responsabile e distribuzioni.
Reclami, ricompense e due orologi
Una proposta permetterebbe reclami al Department of Consumer and Worker Protection, normalmente investigati salvo frivoli, falsi o duplicati. Il segnalante riceverebbe 25% del recuperato se la città usa i fatti, fino a 50% se designato a notificare violazione o iniziare azione civile.
L'incentivo cerca informazioni interne su test, avvisi ignorati e decisioni. Un altro progetto chiarirebbe protezioni per dipendenti municipali e appaltatori coperti che ragionevolmente vedono rischio pubblico sostanziale e specifico nello sviluppo/uso IA. Non è protezione universale di ogni dipendente privato.
Ricompense richiedono ammissibilità, riservatezza, trattamento di prove sensibili e soluzione di pretese concorrenti. Denunce deboli o strategiche consumano capacità. Tutelare segnalazioni credibili deve convivere con difesa da accuse inesatte. Pubblicare non deve rivelare dati personali, falle sfruttabili o materiali protetti.
Nei contratti cittadini coperti, agenzie e appaltatori notificherebbero Cyber Command entro 24 ore dalla scoperta di un incidente IA segnalabile; esso pubblicherebbe entro altre 24 ore. Sono scadenze sequenziali, non obbligo per ogni errore chatbot né pubblicazione universale 24 ore dopo l'accaduto.
Responsabilità e pubblicità oltre i laboratori
T2026-2600 proponeva azione privata se un modello commerciale causasse danno per uso malevolo o improprio di terzi. Servirebbero prevedibilità e protezioni inadeguate collegate all'abuso. Non ogni cattiva risposta diventerebbe responsabilità automatica dello sviluppatore.
La prevedibilità è controversa. Non si previene ogni prompt o modifica, ma un abuso prevedibile non cessa di esserlo perché un altro inserisce l'ultima richiesta. Valutazioni, previsioni, avvisi e decisioni sarebbero prove, non solo dibattiti interni.
Altre misure riguardavano privacy, sicurezza, trasparenza e accesso utenti dei chatbot. Vietato suggerire consigli equivalenti a professionisti autorizzati. La pubblicità dichiarerebbe la validazione esterna; affermazioni sostanzialmente false o ingannevoli sulla sicurezza potrebbero costare 25 mila dollari. Anche pianificazione d'emergenza e gravi guasti erano inclusi.
Gli obblighi raggiungerebbero validatori, distributori, operatori, appaltatori, agenzie, pubblicitari e compratori. Il modello fornisce capacità, l'applicazione i flussi, il cliente dati e strumenti. Email, database, pagamenti e codice generano rischi diversi dal semplice dialogo isolato.
L'audit delle assunzioni è un precedente più stretto
Local Law 144 già limita strumenti coperti di selezione automatica senza audit recente dei bias e avvisi. L'attuazione è iniziata a luglio 2023. Crea precedente di controllo esterno locale, non prova semplicità della proposta più vasta.
Uno strumento d'assunzione ha compiti, utenti e decisioni definiti. Un modello generale supporta codice, testi legali, ricerca, clienti e agenti con rischi variabili. Marketing, vendita e uso pongono problemi modello/app, aggiornamento/nuova versione e responsabilità di filiera.
Un modello addestrato fuori, ospitato in altro Stato e intermediato a un residente crea questioni giurisdizionali. Le città regolano consumatori, acquisti e attività; il mercato newyorkese influenza oltre confine. Influenza non garantisce applicabilità o controllo della ricerca nazionale, chip e ogni uso esterno.
Standard deboli timbrerebbero garanzie fuorvianti. Regole vaghe e vaste possono scoraggiare servizi utili e favorire grandi imprese. Il bilanciamento innovazione/sicurezza dipende da definizioni, rinnovi e obblighi tecnicamente praticabili, non slogan.
Servono prove verificabili da entrambe le parti
Le previsioni catastrofiche di ex-dipendenti vanno separate da risultati documentati su sistemi e decisioni. Cultura di sicurezza non prova test significativi o potere di fermare sotto pressione commerciale. Allarmi e rassicurazioni meritano lo stesso standard.
Domande utili: chi ritarda, chi annulla lo stop, quali documenti restano, quale accesso ha il valutatore e come si rinnova dopo modifiche? Le aziende differiscono: OpenAI/Anthropic insistono su frontiera e sicurezza, Google ricerca/cloud/produttività/consumo, Meta modelli/piattaforme/pubblicità. Doveri comuni richiedono contesto.
Reclami e divulgazioni richiedono investigatori, tecnica, segretezza e risorse. Cyber Command e tutela consumatori non eseguono un mandato con sole promesse. Trovare distribuzioni non validate e distinguere piccole modifiche da nuovi sistemi è lavoro operativo, non parole autoesecutive.
Compratori hanno bisogno di versioni, test, log, accessi, decisioni e cambi di protezioni. Una base di conoscenza conserva contesto, non sostituisce valutazione, permessi e risposta. Senza registri la responsabilità diventa disputa di memoria.
Quando l'audizione avrebbe valore
Il piano proponeva tre prove: evidenza giurata concreta, modifiche significative e attuazione credibile. Metodi, escalation e soglie contano più di responsabilità generica; meccanismi interni più della sola catastrofe.
Definizioni di modelli, distribuzione, rinnovo, arresto, protezioni ragionevoli e segnalatori determinano praticabilità. Persone, accesso, norme e indagini determinano applicazione. Un impegno a partecipare non prova alcun esito.
L'iniziativa rendeva visibile una domanda reale: quali prove esistono, chi le esamina e che cosa segue a un avviso ignorato? I piani vanno valutati così, non come doveri vigenti o prova che le imprese abbiano già risposto.
Fonti e letture correlate
Agenda dell'audizione · Notizia su Coxon e limite di verifica · Proposte legislative del Consiglio · Regole esistenti sugli audit di assunzione · Governance della conoscenza · Piano delle testimonianze aziendali · Notizia originale Bloomberg