Antes da audiência marcada para 5 de outubro, o Conselho de Nova York obteve compromissos de OpenAI, Anthropic, Google e Meta de enviar representantes para perguntas sob juramento sobre riscos de IA. Não era outra promessa voluntária: legisladores consideravam validação externa, incentivos a denunciantes, divulgação de incidentes e recursos legais exigindo evidências identificáveis.
A sessão Committee of the Whole estava marcada para 11 h na prefeitura, diante dos 51 conselheiros, não apenas uma comissão. A agenda reunia um item de supervisão e nove propostas. Era legislação proposta, não votação final ou lei vigente; o relato prévio não continha depoimentos concluídos, atas ou decisões resultantes.
Participar virou disputa de responsabilização
A Meta concordou em enviar representante sênior antes da ameaça de convocação compulsória. OpenAI e Google concordaram depois; Anthropic recusou inicialmente, confirmando perto do prazo. O Conselho descreveu a sessão planejada como primeiro depoimento público sob juramento das quatro sobre perigos e legislação. É a caracterização do Conselho, não conclusão sobre o que testemunhas admitiram.
A Bloomberg previa responsáveis de política e segurança em vez de CEOs. Sua autoridade para responder questões técnicas importava tanto quanto os nomes. Responder publicamente não equivale a permitir acesso às provas da resposta.
Julie Menin também emitiu convocação à SpaceXAI depois de silêncio ao convite inicial. O Conselho disse poder pedir execução na Suprema Corte do Estado de Nova York. Um relato local posterior esperava participação; expectativa não deve virar depoimento confirmado e concluído.
O ex-pesquisador Anthropic Jacob Coxon também foi citado como possível testemunha, ao lado de Alex Turner, ex-Google DeepMind, e Daniel Kokotajlo, ex-OpenAI e líder do AI Futures Project. Coxon teria trabalhado com pré-treinamento nas duas empresas e saído da Anthropic em setembro. Essa fase de aprendizado em escala anterior ao refinamento importa para sua perspectiva interna alegada.
Relatos atribuíram a Coxon o alerta de que desenvolvedores acreditavam possível a IA matar a humanidade antes do fim da década. É uma afirmação extraordinária de risco atribuída, não previsão estabelecida. A Reuters não verificou independentemente o relato Bloomberg sobre sua presença; o Conselho citou separadamente a demissão. Essas distinções importam tanto quanto examinar garantias empresariais.
Validar antes de oferecer o modelo
T2026-2602 propunha impedir marketing, venda e implantação de modelos abrangidos sem validação de terceiro na cidade, além de capacidade técnica de desligamento humano. Desempenho, impacto desigual, privacidade, segurança e funcionamento desse controle seriam avaliados.
Validadores divulgariam interesses ligados ao modelo e informariam validação ou prontidão. Cyber Command definiria implementação e qualificações. Haveria obrigações para avaliadores: multas civis até US$25 mil, incluindo valor fixo por oferta/implantação sem validação e igual quantia para validação falsificada.
Revisão externa contesta premissas internas, compara fornecedores e verifica declarações. Também falha sem acesso, competência ou tempo. Um avaliador pago pelo desenvolvedor pode sofrer pressão para aprovar; transparência não elimina dependência financeira. Papelada não comprova redução de risco.
Desligar também precisa de fronteira. Um fornecedor hospedado pode bloquear seu serviço, mas não necessariamente recuperar saídas copiadas, artefatos exportados, integrações e ações já disparadas. Desativação e contenção de incidente não são iguais. Regras devem dizer o que para, quem controla e quais implantações abrangem.
Reclamações, incentivos e dois relógios
Uma proposta permitiria reclamar ao Department of Consumer and Worker Protection sobre violações abrangidas. Em geral investigaria, salvo alegações frívolas, falsas ou duplicadas. O reclamante poderia receber 25% dos valores recuperados se a cidade usasse os fatos, chegando a 50% se designado para notificar uma infração ou iniciar ação civil.
A recompensa procura informações internas de empregados e contratados: desenho das avaliações, avisos ignorados e decisões de implantação. Outro projeto esclareceria proteções para empregados municipais e contratados abrangidos que razoavelmente vejam risco substancial e específico à segurança pública. Não é proteção geral para todo trabalhador privado.
Incentivos precisam de elegibilidade, confidencialidade, manejo de provas e solução de disputas sobre quem trouxe fatos decisivos. Reclamações fracas ou estratégicas consomem recursos. Proteger denúncias críveis deve coexistir com defesa contra acusações inexatas. Publicar não pode vazar dados pessoais, vulnerabilidades exploráveis ou material protegido.
Em contratos municipais abrangidos, órgãos e contratados notificariam Cyber Command até 24 horas após descobrir incidente de segurança IA reportável; o órgão publicaria em outras 24 horas. São prazos sequenciais, não obrigação geral para todo erro de chatbot nem publicação de tudo 24 horas após ocorrência.
Responsabilidade e publicidade vão além dos laboratórios
T2026-2600 propunha ação privada quando modelo comercial causasse dano por uso malicioso ou impróprio de terceiros. Exigiria previsibilidade e salvaguardas inadequadas ligadas ao abuso. Não tornaria toda saída ruim responsabilidade automática.
Previsibilidade é fronteira disputada. Desenvolvedores não impedem toda instrução ou modificação, mas abuso previsível não vira imprevisível porque outro enviou o prompt final. Resultados, previsões de abuso, avisos e decisões se tornariam provas, não só política interna.
Outras medidas cobriam privacidade, segurança, transparência e acesso do usuário. Chatbots não poderiam insinuar conselho equivalente a profissional licenciado. Anúncios informariam validação externa, e declarações de segurança materialmente falsas ou enganosas poderiam gerar até US$25 mil. Planejamento de emergência também integrava o pacote.
Obrigações alcançariam validadores, distribuidores, implantadores, contratados, órgãos, anunciantes e compradores. O desenvolvedor cria capacidade, a aplicação define fluxo, o cliente libera dados e ferramentas. Modelo com e-mail, banco de dados, pagamentos ou repositórios tem risco diferente de chat isolado.
O precedente de contratação é mais estreito
Local Law 144 já limita ferramentas abrangidas de decisão de emprego sem auditoria recente de viés e avisos. A fiscalização começou em julho 2023. Cria precedente municipal de revisão, não prova simplicidade da proposta geral.
Uma ferramenta de contratação tem tarefa, pessoas e decisões definidas. Modelo geral faz código, documentos jurídicos, pesquisa, atendimento e ações, com risco conforme integração. Marketing, venda e implantação levantam questões de modelo/aplicação, atualização/novo lançamento e responsabilidade da cadeia.
Um modelo treinado fora, hospedado em outro estado e intermediado para um morador cria disputas jurisdicionais. Cidades têm poder de consumo, compras e negócios; o mercado nova-iorquino influencia além da fronteira. Influência não garante execução nem controle de pesquisa nacional, chips e todos os usos externos.
Regras fracas carimbam garantias enganosas. Regras vagas e amplas podem afastar serviços úteis e favorecer grandes empresas com orçamento. O equilíbrio inovação/segurança depende de definições, renovação e deveres tecnicamente executáveis, não do slogan.
As duas partes precisam de provas testáveis
Previsões catastróficas de ex-funcionários devem ser separadas de achados documentados sobre sistemas, capacidades e decisões. Cultura de segurança não prova testes importantes nem poder de parar lançamento sob pressão. Alertas e garantias merecem o mesmo padrão.
Perguntas úteis identificam quem atrasa implantação, quem reverte, quais registros sobrevivem, qual acesso recebe o avaliador e como renovar após atualizações. Empresas diferem: OpenAI/Anthropic enfatizam fronteira e segurança, Google busca/nuvem/produtividade/consumo, Meta modelos/plataformas/anúncios. Deveres comuns exigem contexto.
Reclamações e divulgação precisam de investigadores, técnica, confidencialidade e recursos. Cyber Command e proteção do consumidor não cumprem mandato só com garantias. Detectar modelos não validados e separar mudança pequena de sistema novo é trabalho operacional, não linguagem automática.
Compradores precisam de versões, casos de teste, registros de avaliação, acessos, decisões de incidente e mudanças de proteção. Base de conhecimento preserva contexto, não substitui avaliação independente, permissões e resposta. Sem registros, responsabilização vira disputa de memória.
O que tornaria a audiência relevante
O plano prévio estabelecia três testes: provas concretas sob juramento, alterações significativas dos projetos e execução crível. Métodos, escalonamento e limiares seriam melhores que responsabilidade genérica; mecanismos internos melhores que catástrofe isolada.
Definições de modelos, implantação, renovação, desligamento, salvaguardas razoáveis e elegibilidade determinariam viabilidade. Pessoas, acesso, normas e investigação determinariam execução. Concordar em comparecer não estabelece esses resultados.
A iniciativa tornou visível uma pergunta real: que provas existem, quem as inspeciona e o que acontece ao ignorar alertas? Os planos devem ser avaliados assim, não descritos como deveres vigentes ou prova de que as empresas já responderam.
Fontes e leituras relacionadas
Agenda da audiência · Relato sobre Coxon e ressalva de verificação · Propostas legislativas do Conselho · Regras existentes de auditoria de contratação · Governança da base de conhecimento · Plano de depoimentos empresariais · Reportagem original da Bloomberg