Geoffrey Hinton apoya el Artificial Superintelligence Security Bill del Reino Unido. El diputado laborista Alex Sobel presentó la propuesta en la Cámara de los Comunes el 8 de septiembre. Busca prohibir el desarrollo, despliegue y operación de superinteligencia artificial en el Reino Unido, vigilar posibles precursores y perseguir un acuerdo internacional. Es una intervención importante en el debate sobre IA de frontera, pero no es una prohibición vigente ni una definición técnica ya acordada.
La explicación de ControlAI recoge el objetivo de sus impulsores. Información independiente señala que el texto completo se presentará durante las fases posteriores y que los proyectos de iniciativa parlamentaria rara vez se convierten en ley sin apoyo del gobierno. Por eso empresas y lectores deben tratarlo como una propuesta que se debe evaluar, no como una obligación de cumplimiento actual.
Empezar por la fase legislativa
La presentación puede hacer concreto un debate, pero el proyecto puede modificarse, aplazarse o no conseguir tiempo parlamentario. ¿Está publicado el texto íntegro? ¿Cómo define la superinteligencia artificial? ¿Qué actividades y personas abarca? ¿Quién decide y cómo se puede revisar la decisión?
Estas preguntas evitan confundir una meta política con un mecanismo jurídico terminado. Los partidarios buscan un límite estricto de capacidad, pero el Parlamento tendría que determinar pruebas, recurso y relación con la normativa existente. El artículo de The Guardian sobre una carta multipartidista muestra apoyo político, no adopción gubernamental.
Un límite de capacidad debe ser observable
«Superinteligencia» es una expresión potente, pero una categoría legal inestable. Un sistema puede sobresalir al programar y fallar en el juicio cotidiano; su rendimiento cambia con herramientas, versión, prompt, tiempo de inferencia y permisos del operador. Decir solo «más inteligente que los humanos» no da a laboratorios, tribunales o reguladores una conclusión reproducible.
Una norma aplicable tendría que indicar tareas de evaluación, autonomía y herramientas permitidas, criterio de éxito, quién prueba y verificación independiente. También debe separar el modelo del software que lo rodea. Un agente con credenciales demasiado amplias es un riesgo serio hoy, pero no demuestra que el modelo base alcance una futura definición legal.
La aplicación nacional no es control global
La ley británica puede abarcar actividades dentro del país y algunos servicios dirigidos a usuarios británicos, pero no puede detener por sí sola el entrenamiento en el extranjero. De ahí el objetivo internacional. Chips, centros de datos, contratos, capital y especialistas ofrecen puntos de visibilidad, pero el conocimiento y los pesos cruzan fronteras y las mejoras de eficiencia debilitan un umbral solo computacional. Un arreglo internacional creíble requeriría definiciones comunes, informes protegidos, auditorías, consecuencias por elusión y espacio para investigación defensiva.
No debe confundirse con garantías más limitadas ya debatidas. El registro oficial de una enmienda al Cyber Security and Resilience Bill trata de sistemas críticos, no de una prohibición general. La advertencia de Hinton es un argumento verificable sobre control, no prueba de una catástrofe inminente.
Los equipos ya pueden reducir riesgo con credenciales de mínimo privilegio, aprobaciones separadas, registros de acciones, evaluaciones independientes y una desconexión probada para agentes conectados. La evidencia útil siguiente será el texto completo, las definiciones, las reglas de investigación, los poderes del regulador, los recursos y la posición del gobierno. Una política responsable exige umbrales medibles, instituciones revisables y disciplina en los despliegues actuales.
Combinamos fuentes primarias, documentación de producto y casos de uso reales para ayudarte a valorar si una herramienta encaja en tu flujo de trabajo.