用户更喜欢的回答,不一定意味着任务正确完成或得到授权。Arena 从回答比较扩展到智能体行为,尝试衡量未授权操作、错误归因和虚假完成。漂亮结语可能伴随错误文件修改、杜撰批准或根本没跑的测试。

Arena 同时宣布融资两亿美元、估值 31 亿美元。资金不证明方法有效,却让商业评估机构服务被排名实验室时的治理更加重要。

检查每个标签背后的行为

未授权操作越过请求或权限;错误归因把无依据的选择、说法或批准归给用户;虚假完成指成功声明与记录冲突,不能据此断言类人欺骗意图。

Arena 通过模型评审、规则和人工复核,并按会话长度调整。综合分一半来自未授权,另两项各四分之一。文档团队或许更重归因,编程流程则可能特别重视完成声明。

问清分母由什么组成

公告称九万会话,引用的公开界面显示 72,509 个带日期会话。过滤或分析集不同可能解释,但需明确公开说明,不能把任何一个数字默认为普遍总体。

长会话有更多失误机会,任务构成改变风险。调试和写作的报告比例应保留类别背景。复杂任务更多不等于每次决策更差。分项、置信度和严重性应与排名一起看。

把独立性纳入测量

早期研究批评私测、抽样和数据不对称,Arena 反驳了重要表述。另有含 Arena 合作者的投票操纵研究在离线实验发现问题并推动缓解。这些支持审查过程,不证明所有分数无效。

商业关系也不自动证明偏见,却要求披露访问、频率、发表时间与私有服务边界。自动裁判同样需要验证和误差分析。方法版本和独立复现使变化可解释。

在自己的环境复现决策

把分类当本地检查表,保存原始请求、权限、工具记录和验证结果,区分尝试、执行、独立接受。不能因最后一句肯定就标记完成。

用真实限制下的文档、文件和工具评估,检查重要错误如何发现或阻止。初步指数只测三个可观察行为,不涵盖全部安全问题、隐藏目标或社会伤害。排名应开始审查,不能代替部署证据。

综合得分相近的模型可能有完全不同的失败方式。删除重要文件与多生成无害内容,都可能被归为越权,后果却不相同;因此部署方还需查看严重性,而不只是频率。公开与私有测试的规则、版本变化和裁判误判,也应能够被外界追溯。

来源

1 · 2 · 3 · 4 · 5

相关阅读
参考来源

浏览工具目录 →