Antes de la audiencia prevista para el 5 de octubre, el Concejo de Nueva York obtuvo compromisos de OpenAI, Anthropic, Google y Meta para enviar representantes a responder bajo juramento sobre riesgos IA. No era otra promesa voluntaria: se estudiaban validación externa, incentivos a denunciantes, publicación de incidentes y recursos legales con pruebas identificables.
La sesión Committee of the Whole estaba prevista a las 11 en el ayuntamiento, ante 51 concejales en vez de una comisión. La agenda incluía supervisión y nueve propuestas. Era legislación propuesta, no votación final ni ley vigente; el relato previo no incluía actas, testimonios concluidos o decisiones resultantes.
Participar se convirtió en disputa de rendición de cuentas
Meta aceptó enviar un alto representante antes de la amenaza compulsoria. OpenAI y Google después de la advertencia de citación; Anthropic rechazó inicialmente y confirmó cerca del plazo. El Concejo describía la sesión como primera declaración pública jurada de las cuatro sobre peligros y legislación. Es su caracterización, no lo que los testigos finalmente admitieron.
Bloomberg esperaba responsables políticos y de seguridad, no CEO. Su autoridad técnica importaba tanto como los nombres. Responder públicamente no significa dar acceso a las pruebas necesarias para verificar.
Julie Menin también citó a SpaceXAI después de su silencio inicial. El Concejo contemplaba pedir cumplimiento en New York State Supreme Court. Una noticia local posterior esperaba participación; expectativa no equivale a testimonio confirmado y realizado.
El exinvestigador Anthropic Jacob Coxon figuraba como posible testigo junto a Alex Turner, ex-Google DeepMind, y Daniel Kokotajlo, ex-OpenAI y director de AI Futures Project. Coxon habría investigado preentrenamiento en ambas empresas y dejado Anthropic en septiembre. Esa fase de aprendizaje masivo antes de ajustes importa a su perspectiva interna declarada.
Se le atribuía la advertencia de que desarrolladores creían posible que la IA matase a la humanidad antes de fin de década. Es una afirmación extraordinaria atribuida, no pronóstico establecido. Reuters no verificó independientemente la noticia Bloomberg sobre asistencia; el Concejo citó aparte su renuncia. Estas distinciones importan tanto como examinar garantías empresariales.
Validar antes de ofrecer un modelo
T2026-2602 proponía prohibir marketing, venta y despliegue de modelos cubiertos sin validación externa, más capacidad técnica de apagado humano. Rendimiento, impacto desigual, privacidad, seguridad y funcionamiento del apagado serían áreas de evaluación.
Validadores declararían intereses y comunicarían validación o preparación. Cyber Command definiría aplicación y cualificaciones. También habría deberes para evaluadores: multas civiles hasta 25.000 dólares, incluidas 25.000 fijas por oferta/despliegue sin revisión y la misma cantidad por validación falsificada.
La revisión externa desafía supuestos, compara proveedores y prueba afirmaciones, pero falla sin acceso, competencia o tiempo. Un evaluador pagado por el desarrollador puede sentir presión para aprobar; declarar vínculos no elimina dependencia económica. Papeles de cumplimiento no demuestran menor riesgo.
El apagado necesita frontera. Un proveedor alojado puede detener servicio, pero no recuperar necesariamente respuestas copiadas, exportaciones, integraciones o acciones ya iniciadas. Desactivar y contener un incidente difieren. Reglas deben definir objeto, control y despliegues.
Quejas, recompensas y dos relojes
Una propuesta permitía denunciar al Department of Consumer and Worker Protection. Investigaría salvo quejas frívolas, falsas o duplicadas. El reclamante podría recibir 25% de lo recuperado si la ciudad usa los hechos, hasta 50% si le encarga notificar una violación o iniciar acción civil.
El incentivo busca información interna sobre pruebas, advertencias ignoradas y decisiones. Otro proyecto aclararía protección de empleados municipales y contratistas cubiertos que razonablemente crean en un riesgo público sustancial y específico. No es protección universal de todo trabajador privado.
Premios necesitan elegibilidad, confidencialidad, pruebas sensibles y resolución de reclamaciones rivales. Quejas débiles o estratégicas gastan recursos. Proteger avisos creíbles debe coexistir con defensa ante acusaciones inexactas. Publicar no puede filtrar datos personales, fallos explotables o material protegido.
En contratos municipales cubiertos, agencias y contratistas avisarían a Cyber Command en 24 horas desde descubrir un incidente IA reportable; este publicaría en otras 24 horas. Son plazos sucesivos, no deber universal para cada error ni publicación de todo 24 horas desde que ocurre.
Responsabilidad y publicidad van más allá de laboratorios
T2026-2600 proponía demanda privada cuando un modelo comercial causase daño mediante uso malicioso o impropio de terceros. Requeriría previsibilidad y defensas inadecuadas vinculadas al abuso. No todo resultado malo significaría responsabilidad automática.
La previsibilidad es controvertida. No se evita cada instrucción o modificación, pero abuso previsible no se vuelve imprevisible porque otro envía la petición final. Evaluaciones, previsiones, advertencias y decisiones serían pruebas, no solo política interna.
Otros proyectos trataban privacidad, seguridad, transparencia y acceso del usuario de chatbots. No podrían insinuar consejo equivalente a profesional autorizado. Publicidad declararía validación externa; afirmaciones de seguridad materialmente falsas podrían costar 25.000 dólares. Planes de emergencia y fallos graves también formaban parte.
Afectaría a validadores, distribuidores, desplegadores, contratistas, agencias, anunciantes y compradores. El desarrollador aporta capacidad, aplicación el flujo, cliente datos y herramientas. Correo, bases, pagos o código crean riesgos distintos de chat aislado.
La auditoría de contratación es un precedente más estrecho
Local Law 144 ya limita herramientas cubiertas de empleo automatizado sin auditoría reciente de sesgo y avisos. El cumplimiento comenzó en julio 2023. Es precedente externo local, no prueba de sencillez para el modelo general.
Una herramienta de selección tiene tarea, usuarios y decisiones definidos. Un modelo general sirve código, derecho, investigación, clientes y agentes con riesgos variables. Marketing, venta y despliegue plantean modelo/aplicación, actualización/nueva versión y responsabilidad de cadena.
Un modelo entrenado fuera, alojado en otro estado e intermediado a un neoyorquino genera jurisdicción difícil. Ciudades regulan consumo, compras y negocios; el mercado neoyorquino influye más allá. Influir no garantiza ejecutar ni controlar investigación, exportación de chips y todos los usos externos.
Estándares débiles sellan garantías engañosas. Reglas vagas y extensas pueden desalentar servicios útiles y favorecer grandes firmas. Equilibrar innovación y seguridad requiere definiciones, renovación y deberes técnicamente practicables, no un lema.
Ambas partes necesitan pruebas comprobables
Pronósticos catastróficos de exempleados deben separarse de hallazgos documentados sobre sistemas y decisiones. Cultura de seguridad no prueba evaluación útil ni poder de frenar con presión comercial. Avisos y garantías merecen el mismo estándar.
Preguntas útiles: quién retrasa, quién revierte, qué registros quedan, qué acceso recibe el evaluador y cómo renovar tras cambios. Empresas difieren: OpenAI/Anthropic enfatizan frontera y seguridad, Google búsqueda/nube/productividad/consumo, Meta modelos/plataformas/publicidad. Deberes comunes necesitan contexto.
Quejas y publicaciones requieren investigadores, conocimiento, confidencialidad y recursos. Cyber Command y protección del consumidor no cumplen con promesas. Detectar despliegues no validados y distinguir retoques de nuevos sistemas es trabajo operativo, no palabras automáticas.
Compradores necesitan versiones, pruebas, registros, acceso, decisiones y cambios de defensa. Una base de conocimiento conserva contexto, no sustituye validación, permisos y respuesta. Sin registros la responsabilidad es discusión de memoria.
Cuándo importaría la audiencia
El plan planteaba tres pruebas: evidencia jurada concreta, enmiendas relevantes y aplicación creíble. Métodos, escalamiento y umbrales valen más que responsabilidad genérica; mecanismos internos más que catástrofe sola.
Definir modelos, despliegue, renovación, apagado, defensas razonables y denunciantes determina viabilidad. Personal, acceso, normas e investigación determinan aplicación. Aceptar asistir no demuestra resultados.
La iniciativa hizo visible una pregunta real: qué pruebas hay, quién las examina y qué sucede tras ignorar avisos. Así deben juzgarse los planes, no como deberes vigentes ni prueba de respuestas ya dadas.
Fuentes y lecturas relacionadas
Agenda de la audiencia · Relato sobre Coxon y límite de verificación · Propuestas legislativas del Concejo · Reglas existentes de auditoría de contratación · Gobernanza del conocimiento · Plan de testimonios empresariales · Reportaje original Bloomberg