10 月 29 日(当地时间),Mistral 把旗舰模型 Mistral Large 4 的完整权重放上了 Hugging Face,仓库名 Mistral-Large-4-1T-A52B。这只模型内部代号 Le Chonk,三周前以预览版露过一次面,当时承诺“十月底放权重”,这次按期交付。同一天出现的还有三样东西:API 通道、Ollama 库里的条目,以及微软 Foundry 作为第一家承载它的云平台。
发布之后,群里流传两种说法。一种很燃:“开源最强编程模型来了。”另一种很冷:“万亿参数只排第五。”两句话都是真的,区别在于看哪张考卷。这篇不复述发布稿,只回答四个问题:它到底改了哪一层、跑分该怎么读、省下来的那 47% token 能变成多少钱,以及“权重免费”和“你自己能跑”之间隔着多远。
一、先分清:白送的是权重,不是算力
- 参数量要成对读。总参数约 1.05 万亿,每个 token 只激活 490 亿,把嵌入层和输出层算进去是 520 亿。前一个数字决定显存和下载量,后一个数字决定算力账单,只报其中一个都是话术。
- 模态与上下文。原生接收文本和图片、只输出文本;上下文窗口 100 万 token;官方称原生流畅支持 160 多种语言,涵盖欧盟全部官方语言。函数调用、JSON 输出、严格 JSON Schema 约束都在。
- 三档推理强度。
reasoning_effort可设 low / medium / high,默认 high。官方给出的理由是客户反馈“想自己决定模型想多久”,但要注意:推理不能被完全关闭,这条约束后面算钱时会出现。 - 许可不是 Apache 2.0。它用的是 Mistral Ecosystem Open-Weight License,一份 MIT 的衍生许可:个人、学术、修改、微调、常规商业使用都放行;想把它包装成 MaaS 对外售卖,必须单独向 Mistral 拿商业授权。
- 训练账本。Mistral 说模型在自家欧洲数据中心、用 3,800 张 NVIDIA Grace Blackwell 从零训练;跟进报道给出的口径是约两个月、约 10 兆瓦。CEO Arthur Mensch 的对比是:其他实验室为同等能力融了几千亿美元,自己三年只融了约 60 亿。
一句话定位:这是一份可以拿走的旗舰权重,不是一份可以随便跑的服务。拿得走,和跑得动,是两件事。
二、一万亿这个数字,得拆成两半看
- 稀疏结构很具体。128 个路由专家,每个 token 选 4 个,外加 1 个常驻共享专家,实际参与计算的就是那 52B 左右。总参数是仓库的体积,激活参数是每次前向的工资单。
- 注意力有两层稀疏。注意力块用 MLA 压缩 KV 表示,再叠一层稀疏注意力索引器,每个 query 最多挑 2048 个历史位置来看;层间按 3:1 的 RoPE 与 NoPE 交替。视觉端是 1.6B 的 Pixtral 风格编码器,能处理不同尺寸和长宽比。
- checkpoint 自带加速件。权重旁边内置了 DSpark 投机解码草稿头,官方说法是开箱即可用,不必自己再训一个 draft 模型。
- 百万上下文不是免费的。MLA 把 KV 压小了,稀疏索引把要算的位置减了,但缓存仍然随对话长度线性增长。真要塞满 100 万 token,账单里占大头的不是权重,是 KV。
所以看到“1T”先别慌,看到“52B”也别松气。前一个决定你要不要下载,后一个决定你每次调用付多少。
三、成绩单:哪几项真领先,哪几项口径不一
| 评测 | 官方给的数 | 另一套口径或说明 |
|---|---|---|
| Artificial Analysis 编码智能体指数 | 48% | 有模型卡摘要页记 49.8%;官方称与 GLM-5.3 基本打平,同任务 token 少 47% |
| Terminal-Bench 4.0 | 41%(预览版 28%) | 第三方榜单页记 28.3%,与通稿差 12.7 个百分点 |
| FrontierCode 2.0 | 19.7% | Cognition 的私有基准,测“维护者真愿意合并”的端到端代码;开源第一,但绝对值意味着五分之四过不了 |
| Artificial Analysis 智能指数 v5 | 26 分 | 开放权重阵营第五,低于领先的中国开源模型 |
| Artificial Analysis Cyber Index | 51% | 其中“复现并修复真实开源漏洞”子项 82% |
| Cybench / Lakera B3 | 93% / 93.3% | 40 道题解出 37 道;越狱攻击抵抗率 |
| 越狱与有害请求拒绝率 | 96.6% | JailbreakBench、StrongREJECT、AgentHarm 平均,预览版是 95% |
读这张表的三个要点:
- 编码智能体是它的主战场。指数打平 GLM-5.3,同时每任务少用 47% token——这个组合比单纯跑分高更有商业价值,因为 agent 的账单是按 token 累计的。
- 通用智力不在第一梯队。智能指数 26 分只排开源第五,这个数字是官方自己写在模型卡上的,没有藏。
- 口径能差出 12.7 个百分点。Terminal-Bench 的通稿数字与第三方榜单页对不上,可能是版本、评测框架或采样设置不同。这件事本身值得记住:当官方说法和榜单页打架,唯一可靠的办法是拿你自己的任务去试,别用别人的跑分下单。
顺带说一句网络安全这条线。它在这块被专门训练过:漏洞复现、补丁验证、日志检查、代码审计,OpenAI 和 Anthropic 的模型在“复现开源软件真实漏洞并修复”这类测试里常常因为拒答而拿接近零分,ML4 拿到 82%。Mistral 对外明确把定位放在防御性用途,同时给 Orange Cyberdefense 这类安全厂商开了预览变体。
四、省下的 47% token,折成钱是多少
先把三家的公开价放一张表(单位:美元/百万 token):
| 模型 | 输入 | 缓存命中输入 | 输出 |
|---|---|---|---|
| Mistral Large 4 | 0.70 | 0.07 | 2.10 |
| GLM-5.3 | 1.40 | 0.26 | 4.40 |
| GLM-5.3-Flash | 0.15 | — | 0.50 |
光看单价,ML4 已经是 GLM-5.3 的一半。但真实的差距在 token 用量上。按一个中等规模的编码 agent 任务算:GLM-5.3 侧消耗 100 万 token(输入 85 万、输出 15 万,输入里七成命中缓存),账单约 1.17 美元;ML4 侧按官方“少 47%”折算成 53 万 token(输入 45 万、输出 8 万),按上表价格算约 0.29 美元。折人民币约 8.3 元对 2.0 元,四倍左右的差距。
这个数字是我按公开价目表算的估算,不是官方账。用的时候记住三条:
- 47% 是“平均每任务”的口径,不是每个任务都省 47%,短任务上这个优势会被稀释。
- 默认 high 档且不能关推理,长任务的实际输出 token 会比你按字数预估的多,先按 high 跑一周再调档。
- 0.07 的缓存价才是 agent 场景的关键。同一个仓库上下文反复读,命中率越高越接近这个价,所以要在客户端把前缀稳定住,别每次都重排提示词。
五、“权重免费”和“你自己能跑”隔着一道 1TB 的门
| 精度 | 权重量级 | 参考硬件 |
|---|---|---|
| FP8 | 约 1.05TB | SGLang 文档给出的验证组合是 8 张 B300 |
| NVFP4 | 约 0.53TB | 4 张 GB300,需要 Blackwell 架构 |
| 社区极低比特量化 | 两百多 GB | 内存够大能塞进去,准确率损失没有官方背书 |
- 先算下载。1.05TB 的权重,光是拉下来、校验、落地存储就是一件工程,不是 clone 一下就完事的量级。
- 再算显存。权重之外还有 KV 缓存和激活开销。100 万上下文听着爽,塞满时 KV 会吃掉一大块,这也是为什么官方推荐的 FP8 组合是 8 卡而不是 4 卡。
- 别被“Ollama 库里有”误导。库里有条目,指的是模型可以被拉取,不代表能在你的笔记本上跑。512GB 统一内存的 Mac Studio 也只能装极低比特版本,而且那类版本的准确率没人给你担保。
- 这不是“小机器能不能试”的问题。我们之前写过的 Meta 8160 亿参数模型同样是这条路:权重公开是真的,四万美元起步也是真的。ML4 的门槛只会更高。
六、三条上手路径,按成本从低到高
- 先用 API,一小时能跑通。模型在 Mistral API 上的名字就是
mistral-large-4,接口是 OpenAI 兼容,把现有 SDK 的base_url指到https://api.mistral.ai/v1、模型名换掉就能跑。调用时用reasoning_effort控档:交互式问答给 low,写代码的 agent 给 high。 - 走托管。微软 Foundry 是第一天就承载它的云平台,已经有 Azure 账期的团队走这条比新开账号省事。Ollama 库同日有了条目,本地能不能跑见上一节。
- 自建。vLLM 与 SGLang 发布当天支持,transformers 提供
AutoModelForMultimodalLM;NVFP4 checkpoint 需要 Blackwell 卡,vLLM 版还带 DSpark 投机解码。想压延迟就开,想省钱先别开——投机解码省的是时间,不是 token。
七、许可证与风险:三条要写进合同里
- MaaS 转售要单独授权。权重免费不等于可以拿它开一家 API 转售店,这条限制决定了它的身份是“可自建的前沿模型”,而不是“可转售的云商品”。
- 开放权重自带双用风险。Mistral 自己在发布说明里承认过这一点:96.6% 的拒绝率是加分项,但拒答不是安全边界,真正兜底的是你自己的部署环境和审计流程。
- 版本迭代太快。10 月 6 日预览、10 月 29 日开权重,二十来天换了两个版本、加了两个推理档位。生产环境请把模型版本锁死,别用浮动标签。
八、我的判断:谁该上、谁再等等、谁别碰
- 该上的三类人:账单被 token 量压着的编码 agent 团队(省 token 比降单价更有效);要在欧洲节点做数据不出域部署的团队(权重在手里,代码和日志不必经过第三方);做代码审计和漏洞预筛的安全团队(这是它被专门训练的方向)。
- 该再等等的:需要通用知识问答最强那档的(智能指数 26 分只排开源第五);拿它做中文内容与营销文案的(强项不在这儿);计划做大规模微调的(1T 参数的训练成本不是小团队能承受的,官方给的方向也是“自建推理”而非“自建训练”)。
- 别碰的:想在自己机器上跑的个人(1TB 权重那道门);想做 MaaS 转售的(许可直接卡住);指望用 100 万上下文把整个代码库塞进去还省钱的(长上下文的 KV 账单会回来找你)。
这次发布真正的意义不在“最强”那两个字,而在它给出的定价参照:一个万亿参数的旗舰,API 输入价压到 0.70 美元,权重还能拿走,许可只卡转售不卡使用。对使用者是好消息;对中间层是坏消息——当旗舰的价格逼近 Flash 档,靠“调用别家模型再转卖”的生意会最先消失。我们之前写过 德国 780 亿参数的主权模型和 放了话但权重没到位的 501B 开源模型,这次的区别只有一条:权重真的在仓库里了。
本文由拾光札记编辑部整理,勘误请联系我们