10 月 3 日,德国统一日,海德堡的 Aleph Alpha 把一个叫 Kolibri(德语"蜂鸟")的模型整个放上了 Hugging Face——权重 78.1B、许可证 Apache 2.0、可商用、可再分发。它当天冲上 Hacker News 榜首(545 分),靠的不是跑分第一,而是把一组平时很难凑齐的条件凑到了一起:开放权重、能搬进自己机房、超长上下文,再加一套"数据不出境"的合规叙事。它给自己的定位是欧洲的主权模型,面向公共管理、工业、航空航天这类受监管场景。
一、这事是什么,三段说清
- 它是一个德英双语混合专家(MoE)模型。总参数 78,103,074,560(约 78.1B),但每个 token 只激活 3,457,573,120(约 3.46B),激活比约 4.4%。
- 官方给的硬指标:原生上下文 262,144 token,官方称可外推到 1,048,576(即 100 万);支持 none / low / medium / high 四档推理强度;自带工具调用解析器。
- 发布姿态很有指向性:选在德国统一日,强调由德国团队端到端开发、在德国与芬兰的基础设施上训练、从数据策展到评测的管线全部自有,受欧洲和德国法律管辖。随权重一起放出的还有一份 189 页技术报告。
一句话:它不是"更大的模型",而是一个把"够用"和"能搬进自己机房"放在一起的模型。
二、先分清:哪些是实锤,哪些是宣传口径
| 官方与各家转述的说法 | 现在能确认到什么程度 |
|---|---|
| Apache 2.0 开放权重,可商用、可再分发 | 实锤。模型卡与许可都挂在 Hugging Face 上,可下载核对 |
| 78.1B 总参 / 3.46B 激活 / 262K 原生上下文 | 实锤。模型卡和 config.json 里能直接读到精确数字 |
| AIME 2025 英文 96.9、AIME 2026 英文 96.0、GPQA 84.3、LiveCodeBench v6 85.9、τ²-bench telecom 94.7 | 厂商自报。对照模型由厂商挑选,目前没有第三方在统一评测里复现 |
| “单卡可跑” | 有条件成立,见第三节的显存账 |
| “支持 100 万 token 上下文” | 262K 是设计值,1M 是官方外推并验证过;真要拉满得手动改服务端参数 |
| 拒答率 44%(上一代 15%) | 官方数字,衡量的是"信息不足时倾向说不确定"的比例 |
先记住一句:所有跑分都出自 Aleph Alpha 自己的口径。这不等于注水,但按经验,厂商自选对比对象的成绩,落地前值得自己压一遍。
三、部署账:要什么机器才跑得起
这是 Kolibri 最实际的一节,也是它和"打开网页就能用的免费模型"最大的区别。
- FP8 权重约 78GB。官方说能跑在单张 B200、B300 或 H200 上,也可以放在两张 H100 SXM5 上。
- 注意那个"两张 H100":一张 H100 SXM5 是 80GB 显存,78GB 权重装进去只剩约 2GB,给 KV 缓存和运行时留不下任何空间——所以单张 H100 不是"不推荐",而是根本起不来。官方给出的双卡配置,本质是被显存算出来的必然结果。
- 服务端走 vLLM,并且带了专门的 Kolibri 推理解析器和工具调用解析器,不用自己从零接。
- 拉满 100 万上下文要手动改参数:默认上下文是 262,144;想开到 1M,得传
--max-model-len 1048576并覆盖max_position_embeddings。官方自己的建议是,实际服务控制在 262,144 以内以保证效率。 - 官方推荐采样参数:temperature 1.0、top-p 0.97、top-k 128。
把门槛说死一点:这是一个要"完整加载 78GB 权重"的模型,消费级显卡(24GB、48GB 这一档)完全没有可能,官方也没发量化版本。它对准的是机房那一档硬件。
四、架构的取舍:为什么停在 78B,不做成 123B
- 50 层全部是 MoE 层,每层 384 个路由专家,每个 token 只送进其中 6 个,外加 1 个始终运行的共享专家;总参与激活比约 22.6:1。
- 注意力是混合式的:40 层只看 512 token 的滑动窗口,每第 5 层(共 10 层)做一次全上下文注意力。因为位置编码只施加在滑动窗口层上,模型不用做位置缩放就能外推到 100 万 token——这就是"1M 上下文"的技术来源。
- 为什么不做大? 团队自己算过这笔账:做到 123B 参数时性能还在涨,但同样两张 H100,123B 只能同时处理 3 个 256k 长上下文请求;退回 78B,同样的硬件能跑 18 路,解码还快 28%。它选择的是"单机服务几路",不是"参数能堆多大"。
- 训练规模也几乎全公开:768 张 B200、21 天预训练(9 月 11 日结束),约 24T token 分三段——20T 在 16k 长度、3.44T 在 64k、200B 做长上下文适配;原始数据超过 200T token;知识截止 2026 年 6 月 18 日。数据配比里英语约 62%、德语约 21.3%(约 4.3T token)、代码约 14%,翻译语料只占 6%——官方强调这是"为双语而设计",而不是"读过点德语的英语模型"。预训练期间遇到 38 次非计划中断。
五、语言与场景:德英是主场,中文不在名单里
- 分词器是自研的 UniBPE,专门处理德语大量拼接复合词的特点。技术报告给出的德语压缩率约 4.90 字节/token,高于 GPT-5 的 4.35 和 Qwen3-Next 的 3.59——同一个德语句子,它花的 token 更少。
- 推理过程也说德语。团队做了德语推理链的 SFT 与 RL,让德语思考过程就是德语,方便用户跟读。
- 防幻觉是重点宣传项:训练里引入三角博弈式的负样本生成,让模型在上下文不支持时倾向拒答,官方给出的拒答率是 44%,上一代只有 15%。配合 262K 上下文,它对法律文书、工业材料、政务文件这类长文本检索增强(RAG)场景是有的放矢。
- 短板也说得挺直白:多轮工具调用、代码生成,以及德英以外的语种(中文正在其中)表现偏弱。
对中文用户的直接结论:除非你手头有德语或英语的长文档要处理,这个模型帮不上你多少。它不是一个"通用免费助手"。
六、主权叙事的另一面:技术报告里的一句话
这一节是 Kolibri 最有意思的地方。
- 189 页技术报告披露:在监督微调(SFT)的数据生产环节,智谱 GLM-5.2、GLM-5.3 与阿里 Qwen3.8-27B 被列为生成数据、以及重新生成部分开放数据的主要模型。
- 也就是说,这个"欧洲主权模型"的后训练数据,主要底座来自中国模型。德国社区直接把这个梗玩成了笑话:AAK = Alle Abhängigkeiten Kaufen,大意是"把所有依赖都买来"。
- 另一条线是合作方的动作:Cohere 官方当天转发并评价"这是来自 Aleph Alpha 的新 Apache 2.0 模型,真的很不错;如果你喜欢它,你会更期待我们一起构建的东西"——加拿大公司加德国工程队,围的正是"主权 AI"这块市场。
- 这不是要否定它。主权叙事讲的是数据不出境、算力在自己辖区、流程自己可控——开放权重、本地部署这几条它确实做到了。但"主权"不等于"技术栈完全自主",把"训练在哪儿"和"数据、模型从哪儿来"分开看,才是对官方口径最稳的读法。
七、我的判断
- 该上的:在欧洲有合规要求、需要本地部署、且主力处理德英长文档的机构与团队——法律、工业、政务类的长文本 RAG 是最对口的场景。另外是想找一个 Apache 2.0、可商用、能做自托管长上下文底座的人,前提是机房里有 H200 / B200 这一档卡。这几个条件的交集里,Kolibri 是目前少有的现成选项。
- 再等等的:想拿它当"中文能力媲美 Qwen / DeepSeek 的免费替代"的人——语言配比摆在那儿,它没有这个定位;以及所有只有消费级显卡的个人玩家,78GB 权重这一条就是硬墙。真想试,先等社区的量化版本或托管 API 出来再说。
- 别碰的:把它当成"免费版 GPT / Claude 通用助手"的人。多轮工具调用和代码是它自己承认的短板,它的设计目标是受监管行业的长文档底座,不是全能聊天模型。
- 一句话总结:Kolibri 的价值不在榜单名次,而在"Apache 2.0 + 可自托管 + 长上下文 + 数据不出境"这四个条件的交集。满足这套条件的人值得认真评估;不满足的,看看它的架构取舍和那份技术报告,也够本了。
把它放回这两个月的开源节奏里看,路径很一致:一边是参数与稀疏比落在同一区间的中美开源模型(可以回看我们对 LongCat-2.5-Preview 的拆解),另一边是欧洲用"合规 + 可自托管"切差异化的尝试。许可证上还有个现成的对照:Qwen-Image-2.1 把能力放开、却用许可证把商用门关上,而 Kolibri 是能力不算顶尖、但把 Apache 2.0 和本地部署一起给足。它真正的增量不是能力天花板,而是给"数据必须留在自己辖区"的团队多了一个能下载、能商用、还能长出 100 万上下文的选择——这个选择对你有没有意义,取决于你的数据是不是真的不能出境。
顺带一提:「能自托管」三个字别想得太美,78B 放不进家用机器——多大内存能跑动什么,这篇1.6 GiB 服务器实测是按真机跑出来的。
本文由拾光札记编辑部整理,勘误请联系我们。