Avant l'audition prévue le 5 octobre, le Conseil municipal de New York avait obtenu d'OpenAI, Anthropic, Google et Meta l'engagement d'envoyer des représentants répondre sous serment sur les risques IA. Il ne s'agissait pas d'une nouvelle promesse volontaire : les élus étudiaient validation externe, incitations aux alertes, divulgation d'incidents et recours nécessitant des preuves identifiables.
La session Committee of the Whole était prévue à 11 heures à l'hôtel de ville, devant les 51 élus plutôt qu'une commission spécialisée. Son agenda comportait un point de contrôle et neuf propositions. Le paquet restait un projet, non un vote final ou une loi ; le récit préalable ne contenait ni témoignages achevés, ni procès-verbal ou décisions résultantes.
La participation devint un conflit de responsabilité
Meta accepta un représentant de haut niveau avant la menace coercitive. OpenAI et Google après l'avertissement de convocation ; Anthropic refusa puis confirma près de l'échéance. Le Conseil décrivait la session comme premier témoignage public sous serment des quatre sur dangers et législation. C'est son appréciation, pas un constat des concessions finalement faites.
Bloomberg attendait des responsables politiques et de sécurité plutôt que des dirigeants. Leur pouvoir de répondre techniquement importait autant que les noms. Répondre publiquement n'est pas donner accès aux preuves permettant la vérification.
Julie Menin adressa aussi une assignation à SpaceXAI après l'absence de réponse initiale. Le Conseil envisageait l'exécution auprès de la New York State Supreme Court. Un récit local ultérieur attendait sa participation ; une attente ne doit pas devenir une déposition confirmée et accomplie.
Jacob Coxon, ancien chercheur Anthropic, était aussi présenté comme témoin possible, avec Alex Turner, ex-Google DeepMind, et Daniel Kokotajlo, ex-OpenAI et dirigeant d'AI Futures Project. Coxon aurait travaillé au préentraînement chez OpenAI et Anthropic, quittant cette dernière en septembre. Cette phase d'apprentissage massif avant ajustements éclaire sa perspective d'initié revendiquée.
On lui attribuait l'avertissement que des développeurs croyaient l'IA capable de tuer l'humanité avant la fin de la décennie. C'est une affirmation extraordinaire de risque, pas une prévision établie. Reuters ne pouvait vérifier indépendamment le récit Bloomberg sur sa présence ; le Conseil citait séparément sa démission. Ces nuances comptent autant que l'examen des garanties des entreprises.
Valider avant de proposer un modèle
T2026-2602 proposait d'interdire marketing, vente et déploiement de modèles couverts sans validation tierce, avec capacité technique d'arrêt humain. Performance, effets différenciés, vie privée, sécurité et fonctionnement de cet arrêt étaient des domaines d'évaluation.
Les validateurs déclareraient leurs intérêts et indiqueraient validation ou aptitude. Cyber Command fixerait modalités et qualifications. Les évaluateurs auraient aussi des obligations : sanctions civiles jusqu'à 25 000 dollars, dont 25 000 fixes par offre/déploiement sans validation, et autant pour une validation falsifiée.
L'examen externe conteste des présupposés internes et compare les preuves, mais échoue sans accès, compétence ou temps. Un évaluateur payé par le développeur peut subir la pression du client ; déclarer la relation n'efface pas la dépendance. Des documents ne prouvent pas un risque réduit.
L'arrêt requiert également un périmètre. Un hébergeur peut couper son service sans rappeler sorties copiées, artefacts, intégrations ou actions déjà déclenchées. Arrêt et confinement d'incident diffèrent. La règle doit préciser objet, autorité et déploiements concernés.
Plaintes, récompenses et deux délais
Une proposition autorisait des plaintes au Department of Consumer and Worker Protection. Il enquêterait normalement sauf signalements futiles, faux ou répétitifs. Le plaignant pourrait recevoir 25% des sommes recouvrées si la ville utilise les faits, jusqu'à 50% s'il est désigné pour notifier une violation ou lancer une action civile.
L'incitation vise les informations internes sur tests, avertissements ignorés et décisions. Un autre texte préciserait la protection des employés municipaux et prestataires couverts qui croient raisonnablement à un risque public substantiel et précis lié à l'IA. Ce n'est pas la protection générale de tout salarié privé.
Les récompenses exigent admissibilité, confidentialité, traitement des preuves sensibles et arbitrage des demandes concurrentes. Des plaintes faibles ou stratégiques consomment des ressources. Protéger les alertes crédibles doit respecter la défense contre les accusations inexactes. Publier ne doit révéler ni données personnelles, failles exploitables ou documents protégés.
Dans les contrats municipaux couverts, agences et prestataires notifieraient Cyber Command sous 24 heures après découverte d'un incident IA déclarable ; celui-ci publierait dans 24 heures supplémentaires. Délais successifs, pas devoir universel pour chaque erreur ni publication de tout 24 heures après survenue.
Responsabilité et publicité dépassent les laboratoires
T2026-2600 proposait un recours privé lorsqu'un modèle commercial cause un dommage par usage malveillant ou impropre d'un tiers. Il faudrait prévisibilité et protections insuffisantes liées à l'abus. Toute mauvaise réponse ne deviendrait pas responsabilité automatique.
La prévisibilité est controversée. Le développeur ne prévient pas chaque instruction ou modification, mais un abus prévisible ne cesse de l'être parce qu'un autre soumet la dernière demande. Tests, prévisions, alertes et décisions deviendraient preuves plutôt que politique interne.
D'autres textes visaient vie privée, sécurité, transparence et accès utilisateurs des chatbots. Interdiction de suggérer un conseil équivalent à un professionnel agréé. La publicité déclarerait la validation ; des allégations matériellement trompeuses pourraient coûter 25 000 dollars. Planification d'urgence et défaillances graves faisaient aussi partie de l'ensemble.
Seraient concernés validateurs, distributeurs, déployeurs, prestataires, agences, annonceurs et acheteurs. Le modèle donne la capacité, l'application définit le flux, le client ouvre données et outils. Email, bases, paiements ou code rendent les risques différents d'un dialogue isolé.
L'audit de recrutement est un précédent plus étroit
Local Law 144 limite déjà les outils couverts d'emploi automatisé sans audit récent des biais et notifications. L'application a commencé en juillet 2023. C'est un précédent local d'examen externe, pas la preuve d'une mise en œuvre facile du texte général.
Un outil d'embauche a tâche, personnes et décisions identifiées. Un modèle général sert code, droit, recherche, clients et agents avec risques variables. Marketing, vente et déploiement soulèvent modèle/application, mise à jour/nouvelle version et responsabilité de chaîne.
Un modèle entraîné ailleurs, hébergé dans un autre État et intermédié pour un New-Yorkais crée des conflits de compétence. Les villes régulent consommation, achats et affaires ; New York influence au-delà de ses limites. Influence n'est ni exécution garantie ni contrôle de recherche nationale, puces et tous usages externes.
Des standards faibles tamponneraient des assurances trompeuses. Des règles vagues et vastes pourraient écarter des services utiles et favoriser les grandes entreprises. L'équilibre innovation/sécurité dépend des définitions, renouvellements et obligations techniquement réalisables, non du slogan.
Les deux camps ont besoin de preuves testables
Les prévisions catastrophiques d'anciens salariés doivent être séparées des constats documentés sur systèmes et décisions. La culture de sécurité ne prouve pas des tests sérieux ou le pouvoir d'arrêter un lancement sous pression. Alertes et assurances méritent le même standard.
Les questions utiles concernent qui retarde, qui annule, quels documents restent, quel accès reçoit le validateur et comment réévaluer après changement. Les entreprises diffèrent : OpenAI/Anthropic insistent sur frontière et sécurité, Google recherche/cloud/productivité/consommateurs, Meta modèles/plateformes/publicité. Les devoirs communs exigent du contexte.
Plaintes et publications nécessitent enquêteurs, technique, confidentialité et ressources. Cyber Command et protection des consommateurs ne remplissent pas un mandat avec des promesses. Détecter du non-validé et distinguer petite modification et nouveau système sont des tâches, pas des mots autoexécutoires.
Les acheteurs ont besoin de versions, tests, journaux, accès, décisions et changements de protections. Une base de connaissances garde le contexte, sans remplacer évaluation indépendante, permissions ou réponse. Sans traces, la responsabilité devient un conflit de souvenirs.
Ce qui rendrait l'audition importante
Le plan préalable posait trois tests : preuves concrètes sous serment, amendements significatifs et exécution crédible. Méthodes, escalade et seuils valent mieux qu'une responsabilité générale ; mécanismes internes mieux que catastrophe seule.
Définir modèles, déploiement, renouvellement, arrêt humain, protections raisonnables et admissibilité détermine la faisabilité. Personnel, accès, règles et enquêtes déterminent l'exécution. L'accord de venir n'établit aucun résultat.
L'initiative rendait visible une vraie question : quelles preuves, qui les examine et que suit une alerte ignorée ? Les projets doivent être jugés ainsi, pas décrits comme devoirs en vigueur ou preuve de réponses déjà données.
Sources et lectures complémentaires
Agenda de l'audition · Récit sur Coxon et réserve de vérification · Propositions du Conseil · Règles existantes d'audit de recrutement · Gouvernance des connaissances · Plan de témoignages des entreprises · Article original Bloomberg