Geoffrey Hinton soutient l'Artificial Superintelligence Security Bill britannique. Le député travailliste Alex Sobel a présenté cette proposition à la Chambre des communes le 8 septembre. Elle vise à interdire au Royaume-Uni le développement, le déploiement et l'exploitation d'une superintelligence artificielle, à surveiller de possibles précurseurs et à rechercher un accord international. C'est une intervention importante dans le débat sur l'IA de pointe, mais ni une interdiction déjà en vigueur ni une définition technique faisant consensus.
L'explication de ControlAI expose l'objectif des promoteurs. Un article indépendant indique que le texte complet doit être présenté au cours de la procédure et que les projets portés par des parlementaires deviennent rarement loi sans soutien gouvernemental. Il faut donc le lire comme une proposition à examiner, et non comme une obligation de conformité actuelle.
Commencer par le stade législatif
Le dépôt d'un texte peut structurer un débat, mais le projet peut être amendé, reporté ou ne pas recevoir de créneau parlementaire. Le texte intégral est-il public ? Comment définit-il la superintelligence artificielle ? Quelles activités et quelles personnes couvre-t-il ? Qui décide, et comment cette décision peut-elle être contestée ?
Ces questions empêchent de prendre un objectif politique pour un mécanisme juridique achevé. Les soutiens veulent une limite nette de capacité ; le Parlement devrait encore fixer la preuve requise, les recours et l'articulation avec les règles existantes. Le Guardian rapporte une lettre transpartisane : elle établit un soutien politique, pas l'adoption du projet par le gouvernement.
Une limite de capacité doit être observable
« Superintelligence » est une formule parlante, mais une catégorie juridique instable. Un système peut exceller en programmation et échouer dans le jugement ordinaire ; son résultat varie avec les outils, la version, le prompt, le temps d'inférence et les permissions de l'opérateur. Dire seulement « plus intelligent que les humains » ne donne pas aux laboratoires, tribunaux ou régulateurs un test reproductible.
Une règle applicable devrait préciser les tâches évaluées, l'autonomie et les outils permis, le seuil de réussite, l'auteur du test et la vérification indépendante. Il faut aussi séparer le modèle du logiciel qui l'entoure. Un agent auquel on donne des identifiants trop larges est aujourd'hui un risque sérieux ; cela ne prouve pas que son modèle sous-jacent franchit une future définition légale.
L'application nationale n'est pas le contrôle mondial
Le droit britannique peut couvrir des activités sur le territoire et certains services destinés aux utilisateurs britanniques, mais il ne peut arrêter seul l'entraînement à l'étranger. D'où l'objectif international. Puces, centres de données, contrats, capitaux et spécialistes offrent encore des points de visibilité ; les connaissances et poids de modèles traversent cependant les frontières, et les gains d'efficacité affaiblissent un seuil fondé uniquement sur le calcul. Un dispositif international crédible nécessiterait définitions communes, signalements protégés, audits, conséquences de l'évasion et place pour la recherche défensive.
Il ne faut pas confondre cela avec des garanties plus ciblées déjà discutées. Le dossier officiel d'un amendement au Cyber Security and Resilience Bill porte sur les systèmes critiques, pas sur une interdiction générale. L'avertissement de Hinton est un argument vérifiable sur le contrôle, non la preuve d'une catastrophe imminente.
Les équipes peuvent déjà réduire le risque par des identifiants à privilèges minimaux, des validations séparées, des journaux d'action, des évaluations indépendantes et une procédure d'arrêt testée. Les prochains éléments utiles seront le texte complet, les définitions, les règles de recherche, les pouvoirs du régulateur, les recours et la position du gouvernement. Une politique responsable exige des seuils mesurables, des institutions contrôlables et de la discipline dans les déploiements actuels.
Nous croisons sources primaires, documentation produit et cas d’usage réels pour vous aider à déterminer si un outil convient à votre manière de travailler.