Aleph Alpha 的 Kolibri 为欧洲机构提供了比主权承诺更具体的东西:可以保留、调整,并放在自选基础设施中运行的权重。这款德英双语模型于10月3日开放,随后公司在10月5日另发公告。其最强主张是部署控制与德语工作能力,而不是在每项基准上全球领先。
德国政府没有发布 Kolibri,也没有把它选为国家公共部门模型。发布者是一家德国私营公司,面向行政、工业、国防、航空航天及其他受监管场景提供竞争选项。采用仍取决于评估、集成和采购。既有公共部门关系不能证明这一具体版本已承担重要政府决策。
稀疏计算不等于小模型
Kolibri 总参数781亿,每个 token 激活约34.6亿。混合专家架构在每层384个路由专家中选择6个,并配有1个共享专家。50层中只有10层使用全注意力,其余使用512 token 滑动窗口。这些选择减少计算,但仍需要能够访问全部权重。
Apache 2.0 允许商业使用、修改和再分发。已提供 BF16 与较低精度 FP8 版本,后者标称占用约78GB。开放权重提供超越 API 的可迁移性,不意味着完整重现每项训练决策。全流程复现仍需要数据、代码、方法、专业能力和大量计算资源。
模型支持结构化输出、原生工具调用,以及关闭、低、中、高推理强度。兼容 OpenAI 的服务接口降低集成摩擦。模型卡将其放在人类行动前审查输出的辅助系统中,而非将其作为重要事项的自主决策者。
宣传的最大上下文为1,048,576 token,原生长上下文训练长度为262,144。更早阶段使用16,384和65,536 token。Aleph Alpha 建议复杂任务与高效运行不超过原生长度;百万 token 设置经过外推验证,不等于同长度原生训练。
德语专项训练,也存在数字分歧
Aleph Alpha 认为,德国行政写作需要的不只是英语优先模型生成流利德语。法律引用、长复合词、机构角色与程序假设,都可能被通用过滤或翻译扭曲。团队重新调整德语网页过滤,并纳入议会、法律及公共领域文本。
几份报道的德语占比不同:两份称主预训练的21.3%,即20万亿 token 中约4.3万亿次德语 token 呈现;另一份给出23.9%,同时列英语62.5%、代码13.6%。还有一份将英语和代码约写为62%和14%。不能把这些百分比当作一个已核对一致的分母。这是待澄清的文档差异,而非自行编造修正值的理由。
数据说明称,过滤去重最初只获得3,900亿个可用德语 token,低于约4万亿目标。专用 Common Crawl 流程收集1.3万亿独特 token,改写德语文档又产生约1万亿,形式包括问答和百科段落。这些是语料构建与重复呈现口径,不能全部相加充当独特数据量。
双语128,000 token 词表使用 UniBPE 方法处理德语词形。公司称德语平均每 token 4.7字节,英语4.2字节,行政复合词分割更符合语义。压缩改善可以节省上下文和计算,却不能证明法律准确性。
约80万条德语监督推理示例使用德语句首,减少推理漂移到英语。可读的德语解释能帮助员工审查答案,但生成推理不一定忠实记录内部计算。来源引用、版本化提示与访问记录仍不可少。德英知识截止日为2026年6月18日,新事实需要检索或工具。
训练记录充分,不代表本地复现轻而易举
Aleph Alpha 称,预训练于9月11日完成,在768张 Nvidia B200 上持续21天,38次意外中断均由检查点自动恢复。该阶段列出的用量为392,000 GPU 小时。流程在筛选前处理超过200万亿原始 token;主预训练使用20万亿,中训练3.44万亿,长上下文适配2,000亿。
后训练另有一组数量:生成1,740亿合成 token;过滤后与宽松许可数据集组合,形成2,680亿 token 的监督混合;强化学习使用超过120万精选任务。各阶段数字不能与独特原始文档混淆,也不能直接相加到主语料百分比中。
披露训练阶段的能源估算为950MWh,含数据中心额外开销,不含监督微调、强化学习、小型实验及部分其他活动。公司描述使用超过450万 URL 的屏蔽名单,并检查许可、合法来源、退出要求及第三方数据集。文档使审查更具体,不证明所有版权或隐私问题都已解决。
训练在德国与芬兰进行,公司称开发流程和供应链受德国及欧洲控制。这比仅把提示存放本地更广,但仍依赖外国芯片、软件、电力与专业供应商。主权是在治理剩余依赖,而不是消除依赖。
硬件和长上下文仍是运行约束
列出的最低服务配置包括两张 A100 80GB、两张 H100 SXM5,或一张 H200、B200、B300。部分部署推荐两张 H100 SXM5 或两张 H200,同时也有更新的单加速器指导。34.6亿激活参数并不使其成为普通34.6亿参数桌面模型。
一项公司比较中,780亿设计在两张 H100 上处理18个约256,000 token 上下文并发请求,实验性1,230亿设计仅处理3个,前者解码快28%。这不是采购保证:精度、批处理、软件、输入输出长度、内存、通信和服务目标都会改变生产成本。
Kolibri Base 的 RULER 分数在256,000 token 时为69.8,百万 token 时为63.2。最大可接受长度不保证可靠利用每个细节。相关段落可能埋在重复、矛盾或恶意指令中。具有权限意识和可追溯引用的检索,可能优于将整份案卷连同无关个人信息塞进一次请求。
依据支撑训练有希望,基准却并不全面领先
Merlin-Arthur 构造有答案依据的文档上下文与故意删去关键证据的对抗版本,训练模型有证据则答、无证据则拒答。Aleph Alpha 称,一项内部评估中 Kolibri 对44%的无依据项目拒答,Kolibri Origin 为15%;德语公共部门代理测试由0.54升至0.75。这是公司评估,不是经过审计的生产可靠性。
私有客户代理测试还覆盖汽车供应商、半导体、工业驱动和航空航天。它们可能比学术测试更像真实工作,但外部缺少任务、提示、评分与基线,无法复现。正确答案、无依据答案、合理与不必要拒答、引用准确性都重要;单看高拒答率,可能只是用可用性换谨慎。
公司数学结果包括 AIME 2025 英语96.9、德语87.5;AIME 2026 为96.0和90.0。GPQA Diamond 英语84.3、德语81.3。与 Mistral、Qwen、Nvidia 的部分对比支持竞争力,包括选定任务中匹敌激活参数最多四倍的模型,但不支持普遍优越。
工具与智能体表现较不一致。BFCL v4 总分61.4,表中 Qwen3.6 35B-A3B 为67.2,多轮为47.5。TerminalBench 2.1 为27.7,低于表列 Qwen3.6、Nemotron 3 Super 与稠密 Qwen3.8。领域智能体分数为电信94.7、航空76.7、银行38.1,仍有多行由其他模型领先。提示、推理预算、翻译测试、污染和评分均会影响比较。
政府拥有多条路径,不是一个国家冠军
Aleph Alpha 与巴登—符腾堡的 F13 助手合作,以及计划面向80,000名政府机构用户的推广,说明其进入机构的能力,不证明 Kolibri 生产使用。具名部署应披露工作流、活跃用户、人工复核、错误分类及核查答案之后的净省时。数千人有资格参加试点,不等于每天实际使用。
SAP 与 OpenAI 于2025年9月宣布 OpenAI for Germany,将 OpenAI 技术与 SAP Delos Cloud、Microsoft Azure 安排结合。它重视本国运营、合同和托管支持,而非拥有模型流程。托管服务可提供容量、监控与更新;可迁移权重增强持续运行和版本控制,却把责任移向客户。
联邦 KIPITZ 平台已支持摘要、翻译、起草、改写和对话,并计划采用云无关架构与面向应用的开源模型。所引公告并未选定 Kolibri。Agentic AI Hub 试点涉及规划、许可、会议转录与公共服务;单一模型的工具调用既不提供其权限,也不是完整智能体系统。
替代项包括 Mistral、欧洲联盟 OpenEuroLLM、在 Deutsche Telekom 德国工业 AI 云训练德英模型的 Soofi,以及 Meta、Qwen、Nvidia 的开放模型。Mistral 也参与欧洲政府合作,包括法国部署及与 SAP 探索的法德合作。更多可替换选项,比依赖单一国家冠军更能加强主权。
独立评估提供另一条路径。Bundesdruckerei 的 MÖVE 最初使用9个德语数据集和7项标准,覆盖行政法律、安全、可持续性及民主价值,并与 BSI、Fraunhofer AISEC 合作安全评估。另一项对13家提供方39个模型的研究没有发现全面治理领先者,能源估算差异超过60倍。前两名在64个政党的4,788项政治立场上也仅达0.671准确率。该研究没有直接评估 Kolibri,却说明欧洲来源不能自动证明德国机构知识能力。
控制权必须经得起部署与公司变化
Aleph Alpha 与 Cohere 的拟议合并仍待监管批准。报道描述一个柏林、多伦多双中心、超过1,000名员工并使用 Cohere 名称运营的集团。Kolibri 已经完成,而拟议合并仍待批准,尚未生效。研究和企业渠道扩大会有帮助,但买家需要明确知识产权、司法辖区、支持、未来版本与持续服务。当前 Apache 2.0 权重仍按现条款可用,未来开放性则是另一问题。
欧盟 GPAI 行为准则是帮助提供者证明相关 AI Act 义务的自愿机制。签署、面向 GDPR 的设计或开放许可,不认证每个下游应用,也不解决全部训练数据问题。起草、搜索、资格决策风险不同;部署者仍负责用途、受影响人群、安全、人工监督、日志和申诉渠道。
可迁移基础权重之外,适配器、检索索引、编排与监控仍可能造成锁定。提示注入、数据提取、恶意文档与不安全工具调用,需要应用层控制。读取获批手册不应赋予设备命令权,文档助手也不意味着无限邮件访问。
下一步证明应来自独立复现和持续具名使用:德语法律与市政术语、地区差异、无权访问记录、冲突或过时政策、已撤销权限、恶意指令、能源、延迟与恢复,都要测试。托管或定制版应与可下载版本比较。主权只有在机构能检查、运行、替换并治理可靠服务时才可信,不能由模型国籍或百万 token 标题替代这些检验。
来源与相关阅读
Kolibri 发布说明 · 德语训练数据分析 · 德语推理研究 · OpenAI for Germany · 拟议 Cohere 合并 · Kolibri 模型卡 · 主要发布发现记录 · BF16 权重 · MÖVE 基准 · 联邦 KIPITZ 平台 · 德国模型治理独立研究 · 知识库访问治理 · 第二份发布发现记录 · 10月5日公告 · 欧盟 GPAI 行为准则 · 第三份发布发现记录
