OpenRouter于10月8日加入GPT-6 Luna Decisions,扩大了开发者对OpenAI分类、评分与动作选择新接口的访问。OpenAI两天前才以公开测试版推出底层Decisions API。模型上架扩大的是分发范围,并不等于已有证据证明,其概率输出经过充分校准,足以控制生产系统。
OpenAI称,Decisions回答决策问题的速度,最高可达通过Responses API使用GPT-6 Luna的十倍。这是厂商对同一模型家族两种调用模式的比较,不是已独立证实优于所有分类器、规则引擎或工作负载。整洁的类型化答案更容易解析,但不自动意味着判断正确,更不意味着有权执行操作。
分发的究竟是什么
OpenRouter模型页将OpenAI列为提供商。这不是OpenRouter单独训练的模型,推理仍由OpenAI提供。既有用户可在模型组合中增加一个端点,可能简化采购、计费和实验;仍须验证请求结构、错误行为、地区可用性、可观测性,以及与OpenAI直连接口的功能一致性。
直连Decisions使用专用端点,而非Responses;在报道所述公开测试阶段,GPT-6 Luna是唯一支持的模型。它接收证据和受限问题,不要求生成开放式段落。predicate估计某条件是否为真;choice从开发者指定选项中选择;score按评分量表中有顺序的等级评估输入。
输入可以是文本,或结合文本与内嵌图像的消息;描述应用状态的JSON也可作为文本提供。输出带有命名答案,因此一次请求能让多个独立问题评估同一证据。它可在索引前分类文档、选择模型或标记需升级处理的案例,但不会自行执行所选动作。
这些边界也区分了相关接口。需要定制JSON对象时,OpenAI建议通过Responses使用Structured Outputs;需要模型提出工具及参数时,使用函数调用。一般Responses仍适合开放内容、解释、信息提取和更广的工具流程。只有任务适合可观察条件、已知选项或有意义的有序量表时,Decisions缩小输出契约才有价值。
狭义决策为何能改变关键路径
客服应用可能只需选择账单、技术支持、配送或其他部门,而非生成解释。审核系统可判断图片是否违反政策,销售筛选可按量表评分。在模块化应用中,审核、意图识别、检索、模型选择、工具选择和输出检查,都可能需要判断而不需要书面回答。
同样机制可选择网络搜索、内部检索、代码执行或更强推理模型,也可在无关文档占用上下文前将其排除。OpenAI语音委派示例从应用当前状态选择动作,再由其他组件报告结果。视觉例子包括产品照片损坏、待审核媒体及提取前的图片分类。这些是可能工作流,不是已公布的跨领域准确率结果。
限制输出可能减少无谓生成和解析,但开发者必须提供有用边界:真实部门、获准动作、可观察条件,以及具有业务含义的评分级别。固定选项可能防止编造工具名称,却不能证明选中的工具合适或已获授权。
“最高十倍”是最佳情况,不是保证倍数。输入长度、图片尺寸、问题数量、网络位置与提供商路由都会影响延迟。OpenRouter自身也增加服务边界。路由器必须比它省掉的工作更便宜、更快;否则所有请求都多经过一次判断,可能抹平收益。
额外调用也带来可用性依赖。开发者可通过OpenRouter调用一个选择下一个模型的模型,但决策服务失败时,下游工作可能根本不启动。确定性规则、默认模型或直连提供商路径可作回退。精确文件扩展名、账户权限和地区限制通常应由代码处理,概率判断更适合歧义,而非替代精确政策。
概率需要解释,也需要检验
类型化输出不能让判断变成确定性,也不能证明概率已校准。数字可能代表现实频率、选项间相对偏好,或特定提示下的信心,不能安全地假定三者相同。校准需要验证,相近预测置信度是否对应相近的实测准确率。
早期社区讨论说明问题,不代表性能排名已有定论。一名参与者称,竞争决策模型在数百项游戏相关测试中更好,同时明确提醒样本狭窄,不是通用基准。另一名参与者报告,合成偏置硬币测试中的predicate与choice行为不同,choice概率比预期更集中。两种轶事都不是正式、广泛适用的评估。
错误成本也因任务而异。审核误报与漏报后果不同,跨语言、图片类别或政策变化时,校准也可能变化。路由把复杂任务送给廉价模型可能降低质量,把简单请求全送大模型则可能失去节约。阈值应反映下游结果,而非只看路由准确率。
罕见紧急客服案例可能被漂亮的总体准确率掩盖。评估应分别覆盖predicate、choice与score、置信度分段、关键子群、延迟分布及错误动作成本。输入不属于选项时,还需弃答策略。加入“其他”可以是一种方法,但必须测试模型如何使用,不能假定可靠。
选择动作不是授权执行
“检索内部知识”而非“发送邮件”等结果,可构成应用控制层的一部分。工具运行前,独立代码仍须检查身份、权限、用户同意、业务政策与确认要求。高置信分类不提供任何这类授权,尤其不能替代具有外部后果的操作许可。
记录输入状态、允许选项、返回概率、阈值和最终动作,有助于区分模型、阈值或执行层错误。Responses也能记录类似信息,但较窄接口鼓励把一个选择独立出来,在工作流变化时单独测试。这是架构区别,不是OpenAI与其分发商之间的对抗。
输入、计费和数据路径限制仍然重要
报道所述Decisions文档采用仅输入计费,初始版本未宣传缓存输入处理。这是尚需明确的设计问题,不是断言永远不能增加缓存。即便单次调用看似高效,反复发送同一长政策、目录或应用状态,也会积累token和传输开销。
在同一证据上批量提出独立问题,可减少重复输入,但不支持在同一批中让后一个问题依赖前一个答案。先判断是否损坏、再分类损坏类型的序列,需要不同调用,增加延迟,也多了一个传播不确定性的节点。
文档所述图像路径要求内嵌base64数据URL,而非托管图片链接或既有文件ID。媒体库集成必须考虑负载尺寸和传输。OpenRouter用户还需确认哪些限制和能力原样保留;请求限制、错误码、重试与可观测性,取决于精确端点行为,不能只看市场页面摘要。
OpenAI称,直连端点支持符合资格的Zero Data Retention和受监管医疗配置;数据控制文档也说明支持的处理和驻留区域。这些能力有条件。接入OpenRouter会多一个中间方、改变数据路径,因此要另行确认其日志、提供商路由与适用合同。底层模型资格不自动覆盖每个中间方。
市场中的新类别仍须证明生产价值
共用账户与接口降低切换阻力,但可比较的决策模型元数据仍有限。编程或推理基准不能替代校准、弃答、延迟和按后果加权的错误测试。OpenRouter未来可能加入决策遥测、评估或回退比较,但这些是潜在发展,不是上架已经证明的功能。
更换提供商也不只需要统一语法。置信度、评分与拒答可能具有不同语义,必须保持稳定的内部契约并逐供应商验证。其他实验室、小模型与开放权重系统能在速度、校准或本地控制上竞争。稳定、标注充分的任务中,传统训练分类器可能优于语言模型;精确逻辑仍适合规则。
Decisions面向无需单独训练流程的零样本或提示定义判断,尤其适合类别变动、语言与图像混合的输入。任务成熟、标签积累后,其便利优势可能缩小,专用分类器可能有更可预测延迟与较低复杂度。OpenAI掌控模型、原生端点、SDK和企业数据选项;OpenRouter提供集中接入与模型选择。两条分发路径都不能免除评估。
三项发展能说明其持续性:独立任务测试;团队核算错误与运营成本后,仍保留且请求一致、可用性稳定的生产负载;正式可用前的变化。更多模型、缓存改进、图片处理、SDK行为和校准指导都值得观察。快速推进测试版是公司预期,不是承诺日期;早期Playground显示字段与请求结构不一致,是社区反馈,不代表每种集成都失败。
测试阶段接口、配额和行为可能变化。可逆部署可与现有路由器并行,在相同标注流量上比较Responses、简单规则和已有分类器。记录概率、阈值、实际结果和下游成本时,应分开审查误报漏报,并包含对抗、模糊和分布外案例;例子与政策历史可随评估结果保存。
中等置信案例可交给大模型或人工,高风险动作即使置信很高也保留明确授权。如果专用端点可靠改善决策与端到端成本,更模块化的架构可能出现;校准或可观测性不足,则可能让结构化Responses、既有分类器或规则更有优势。OpenRouter让实验更容易开展,却不能决定实验结果。
来源与相关阅读
OpenRouter公告 · 模型页面 · Decisions接口文档 · 公开测试公告与讨论 · 语音委派指南 · 数据控制 · 相关阅读:个人与团队知识库
