Comment lire une proposition d'interdiction de la superintelligence artificielle

Le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé le 3 septembre 2026 une proposition qu'ils nomment Ban Artificial Superintelligence Act. Le cadre publié viserait à interdire durablement le développement et le déploiement de ce qu'il appelle la superintelligence artificielle, à interrompre le développement d'IA avancée jusqu'à la création d'un régulateur fédéral et à rechercher une coopération internationale. C'est une position politique conséquente, mais ce n'est pas encore une loi en vigueur, ni même un texte dont on peut examiner l'intégralité.

C'est par cette distinction qu'il faut commencer. Leur annonce décrit une future initiative législative ; la presse indépendante a également indiqué que le texte complet n'avait pas été publié au moment de l'examen. Un résumé politique peut expliquer une intention, mais pas trancher toutes les questions qui relèvent d'une loi, d'une autorité ou d'un tribunal.

Commencer par le statut législatif

Les annonces politiques sont souvent lues comme si la législation était achevée. Il vaut mieux poser quatre questions : un numéro de projet existe-t-il ? Le texte intégral est-il public ? Quelles commissions sont compétentes ? Le projet a-t-il d'autres soutiens ou un texte compagnon ? Tant que ces réponses manquent, la formulation responsable est « cadre proposé », et non interdiction fédérale à laquelle les entreprises seraient déjà soumises.

Ce n'est pas un point de procédure secondaire. Des expressions comme « développement d'IA avancée », « superintelligence » ou nouveau régulateur de niveau ministériel peuvent couvrir des activités très différentes suivant les définitions, les exceptions, le calendrier et l'application. Un bref communiqué ne permet pas de savoir si une règle viserait un entraînement, du réglage fin, un logiciel agentique fondé sur un modèle existant, la recherche ouverte ou un service d'entreprise déployé.

Le résumé des auteurs donne un premier repère : il décrit une superintelligence artificielle comme un système qui atteint ou dépasse les performances cognitives humaines dans un large éventail de domaines, ou qui peut planifier et exécuter la mise hors de pouvoir de l'humanité. Il cite aussi des capacités préoccupantes, comme le contournement des commandes d'arrêt. Ce sont des notions de politique publique, pas encore un test de conformité reproductible.

Demander ce qui peut être mesuré

Une règle durable a besoin d'un seuil que développeurs, autorités et évaluateurs externes appliquent de façon cohérente. Une performance générale de niveau humain est difficile à opérationnaliser : les humains varient selon la tâche, et le résultat d'une IA change avec le benchmark, l'instruction système, les outils, les réglages d'échantillonnage et l'habileté de l'opérateur. Un modèle peut dépasser la plupart des personnes sur une tâche technique étroite tout en commettant des erreurs contextuelles élémentaires.

Les règles fondées sur les capacités peuvent être plus concrètes, mais elles exigent elles aussi des détails. Si l'on reproche à un système une opération informatique non autorisée, les examinateurs ont besoin de la version du modèle, des outils autorisés, des identifiants, de l'environnement cible, du nombre d'essais et du critère de réussite. À défaut, une démonstration assistée et un résultat autonome reproductible peuvent recevoir le même titre.

Il en va de même pour la résistance à l'arrêt. Une évaluation adversariale peut révéler qu'un modèle contourne un bac à sable mal conçu. C'est une découverte importante de sécurité, mais elle ne prouve pas à elle seule des objectifs indépendants durables ni le respect d'une définition légale de la superintelligence. Une bonne loi doit distinguer comportement du modèle, intégration non sûre, choix de l'opérateur et dommage réel.

L'application doit être proportionnée et contrôlable

Le cadre envisage des sanctions graves, y compris la perte du droit de faire des affaires et des peines pénales. Plus la conséquence est lourde, plus il faut de notification, de preuves techniques, de possibilités de contester la qualification et de voie de recours définie. Une entreprise et ses clients doivent également savoir ce qu'il advient des données, contrats, services essentiels et salariés pendant une décision contestée.

La responsabilité ne se répartit pas uniformément dans une organisation d'IA. Un chercheur qui réalise une évaluation contrôlée, un ingénieur qui configure un connecteur et un dirigeant qui autorise un entraînement de frontière n'exercent pas le même contrôle. Le texte définitif devrait préserver des exceptions pour les tests défensifs, la recherche sur les incidents et la divulgation responsable, tout en interdisant l'évasion délibérée.

Le régulateur devra posséder les capacités techniques pour inspecter des systèmes confidentiels sans faire des poids de modèle ou des constats de sécurité une nouvelle exposition. Cela plaide pour des procédures d'évaluation protégées, des protocoles documentés et un conseil technique indépendant, pas seulement pour des déclarations publiques des laboratoires.

Une pause nationale exige une théorie internationale

L'ambition internationale est centrale. Une restriction unilatérale américaine pourrait réduire le développement intérieur tout en laissant se poursuivre ailleurs le travail sur les capacités. Les partisans peuvent répondre avec raison qu'une course sans limites communes accroît le risque collectif ; les critiques peuvent demander comment vérifier une pause au-delà des frontières. Ce sont dans les deux cas des questions d'exécution, et non de seule préférence politique.

L'IA est plus difficile à contrôler qu'un programme d'armement physique car logiciels, savoir-faire et poids de modèles se déplacent. Les grands projets d'entraînement dépendent encore des puces, des centres de données, des capitaux et de talents spécialisés, ce qui offre quelques points de visibilité aux États. Mais des algorithmes plus efficaces et un accès distribué rendent insuffisant un simple seuil d'infrastructure.

Une stratégie internationale crédible exigerait des définitions communes, des règles de signalement, des procédures de vérification et des conséquences en cas d'évasion. Elle devrait aussi protéger la recherche légitime sur la sécurité. Des accords plus étroits sur certains usages nocifs peuvent être plus vérifiables qu'une frontière universelle de l'intelligence, mais ils constitueraient une politique différente de l'interdiction catégorique proposée.

Ne pas attendre une loi de frontière pour sécuriser les agents

L'annonce a été associée à des rapports sur des défaillances de sécurité d'agents d'IA. Ils méritent une enquête soigneuse, mais ne doivent pas servir à reporter les protections ordinaires. Un agent connecté peut créer un risque matériel sans être superintelligent s'il possède des identifiants étendus, un accès réseau non révisé ou l'autorité d'exécuter des actions.

Dans un déploiement pratique, examinez séparément l'identité du compte, les flux d'information, les autorisations d'outils et le point d'approbation humaine. Un assistant financier peut préparer un paiement, mais ne devrait pas détenir à la fois un accès bancaire illimité et le droit d'approuver son propre virement. Un agent de programmation peut lire un dépôt tandis que le déploiement en production et l'accès aux secrets restent des actions distinctes et journalisées. Des identifiants de courte durée, des comptes de service limités, des étapes d'approbation et une procédure d'arrêt testée sont des contrôles réalisables dès aujourd'hui.

Ici, la réglementation peut être plus utile que la rhétorique. Les obligations de signalement d'incidents, les normes d'évaluation, les attentes de contrôle d'accès et les audits indépendants ciblent des comportements observables. Elles peuvent coexister avec le débat plus large sur la question de savoir si certaines capacités ne devraient jamais être développées.

Ce qu'il faut suivre ensuite

La proposition sera plus facile à évaluer lorsque le texte complet sera déposé. Il faut surveiller un numéro de projet, les définitions des systèmes et du développement couverts, un début et une fin explicites de toute pause, les pouvoirs du régulateur, les exemptions de recherche, les règles de procédure régulière et le soutien au Congrès au-delà des premiers promoteurs. Ces éléments montreront si le cadre peut devenir un programme applicable ou s'il reste surtout un moyen de rendre le débat public plus précis.

La bonne réponse à une proposition politique précoce n'est ni le rejet ni la certitude prématurée. Il faut séparer l'objectif politique du mécanisme juridique, exiger des définitions testables et une application révisable, tout en améliorant les contrôles opérationnels qui réduisent aujourd'hui les risques liés à l'IA.