Perplexity 开源 Decider v1.3：判断只走一次前向，还学会了「定位原文」
Perplexity 放出 Decider v1.3 与 Flash：Apache 2.0 权重、27B / 4B 两档，判断不走逐 token 生成，新增 locate 抽原文片段。厂商报分类均值 91.6%。
2026-11-15 · Perplexity 官方发布（模型卡，本网络不可达） / AITechArchive / himiao.ai / Unite.AI 转述 / ecneproject
发布 2026-11-15核实 2026-11-15取证说明：
huggingface.co在本机网络下全站返回 000（不可达），模型卡原文与pplx_decider包文档均未能取得。本篇事实取自四家相互独立的二次报道（AITechArchive、himiao.ai、ecneproject、TheNextGenTechInsider 的引述），并用 Perplexity 自有产品入口做了反向核对：在openrouter.ai/api/v1/models实取的 471 个模型里没有decider条目，与官方「已在 OpenRouter 上架」的说法不一致，已列为待核实。因此firsthand: false。
要点
- Perplexity 2026-11-12 发布 Decider v1.3 与 Decider Flash v1.3，权重以 Apache 2.0 放出，同时上 Perplexity 的 Decisions API。
- 两档规格：v1.3 基于 Qwen3.8-27B（BF16 约 49 GiB），Flash 基于 Qwen3.5-4B（约 8.5 GiB），Flash 由大模型以 KL 散度蒸馏而来。
- 定位没变——决策模型：给一段共享输入 + 若干问题，一次前向返回各选项概率，不生成任何 token。支持是/否、多选（单题最多 255 选项）、有序打分。
- v1.3 的真增量是
locate：按字段名或自然语言描述，直接从原文抽出片段，返回起止字符位置 + 置信度，没命中返回空列表。文本专用，单请求最多 128 个 locate 问题。 - 厂商自测：63 项分类任务均值 91.6%，比自己线上的生产分类器高 6.54 个百分点；七个领域（事实核查、医疗、安全、编程、政务、法律、金融）对 TypeSafe Jev 1.14 全胜，金融最多 +12.9 分、法律 +9.3 分。
- 成本口径：同样 100 万次请求，v1.3 $26.47 / Flash $13.24 / Jev 1.14 $68.10。
- 稳定性是差距最明显的一项：打乱选项顺序后 v1.3 只有 0.27% 的答案翻转，Jev 1.14 是 2.69%–4.84%。
- API 定价：Decisions API 输入 $0.02 / 百万 token（v1.3）、$0.01（Flash）。
一次前向做判断，到底省在哪
把「判断」塞进生成式模型，成本结构是这样的：写一段判据 prompt → 模型逐 token 吐「分类结果：A，理由：……」→ 你再正则解析。你付的钱里，绝大部分花在了那句理由和格式化上，而真正要的只是一个标签。
决策模型把最后一层换成了读出头：全注意力层改成双向（非因果），让整段输入能被一次性看完，然后针对每个选项输出一个概率。官方说他们试了三种注意力形态——「全看全」、「问题隔离」、「完全可缓存」——最终选了问题隔离：共享上下文对所有问题可见，但问题之间互不可见。代价是共享上下文被重复计算，收益是「加一个新问题不会改动已有问题的答案」。
这个取舍很重要。因为决策模型最典型的用法是「同一份文档问 20 个问题」，如果问题之间互相影响，你就得为顺序、为组合方式负责，工程复杂度会炸。
locate：把 NER 收进了同一个接口
v1.3 最有意思的不是跑分，是 locate 这个新问题类型。
传统做法里，「判断这段内容属于哪一类」和「把承诺的交付日期抽出来」是两套完全不同的管线：前者用分类器，后者用 NER（GLiNER 那一路）或正则，再往前是抽完还要对齐位置。locate 把后者变成了同一接口的另一种 question：你说「找签约人」，它返回原文片段与字符偏移。
官方给的对比（17 个域外任务平均分，厂商自测）：
| 工具 | 平均分 |
|---|---|
pplx-decider-v1.3 | 69.0 |
pplx-decider-flash-v1.3 | 63.6 |
| Liquid d1 | 43.3 |
| Cloudflare Clairic | 41.5 |
| GLiNER large v2.5 | 33.6 |
一个工程细节值得记：locate 走的是独立的 LoRA 适配器 + span head，且官方故意不合并进主干。理由是合并会掉分类准确率。副作用是——同一个请求里混着 locate 和普通判断题时，需要多跑几次前向。想省算力就得按问题类型分批，这会反过来影响你的批处理设计。
别只看那 91.6%
厂商自测数字要按三处打折：
第一，基准本身可信，但领先幅度被压缩了。 七领域全胜、金融 +12.9 分看着很猛，可换到真实流量上，与前沿模型裁判的一致率只有 93.98% vs Jev 的 93.35%——差 0.63 个百分点。也就是说在「真实请求长什么样」这件事上，两家几乎打平；分差主要来自公开数据集。
第二，Flash 不是小号的 v1.3。 报道里明确写了：Flash 在金融、编程、法律三个领域落后 Jev 1.14。如果你的负载恰好在这三块，Flash 不是「便宜的等价替换」，是能力降级。
第三，上下文口径有两处矛盾。 一家写最大序列长度 30,720 token，另一家写 262,144 token 上下文。这两个数差一个数量级，在模型卡不可达的情况下无法裁决。做长文档分类的人必须先自己量，别按 262K 做容量规划。
对开发者的影响
- 「判断」这件事终于可以自托管了。 之前决策模型只有 API 形态（OpenAI Decisions API、Gemini Decision 1），涉及敏感数据（合规审查、医疗分诊、日志判威胁）的团队根本用不了。现在 Apache 2.0 权重 + 单卡可跑的 Flash，等于多了一条「数据不出内网」的路。
- 路由层的成本模型要重算。 站内 每任务成本 那条口径在这里特别适用：把「用大模型分类」换成「用决策模型分类」，省的不只是 token 钱，还有解析失败重试的那部分。前提是你真的验证过校准——概率没验证过就只是排序分。
- 一个 API 拿两种能力，会改变数据管线的形状。 过去「分类 → 抽取」两个服务、两次调用、两套错误处理；现在一条请求里问完。代价是 locate 的适配器不合并、混问要多跑前向，架构上要按问题类型分组。
- 别忽略鲁棒性这项。0.27% vs 2.69%–4.84% 的答案翻转率，在内容审核、风控这类场景里比准确率更值钱——线上系统最怕的是「同一份材料问两次给出两个结论」。
AI 之家 观点
这条新闻的分量被「又一个开源模型」的表象盖住了。真正的变化是模型分层开始固化：通用模型负责理解与生成，专用决策模型负责拍板，而后者正在从「厂商 API 的附属品」变成「你可以自己部署的一层」。
Perplexity 这一手很聪明：它没有去卷通用能力，而是把自己内部天天用的东西（安全规则自迭代、RL rollout 诊断、爬虫页面质量过滤）产品化。这三件事的共同点是「高频、结果只要一个标签、错一次很贵」——正是决策模型的经济学甜点。
需要警惕的是厂商叙事里的「全胜」。七领域全胜、金融 +12.9 分，配上「真实流量只差 0.63 分」，这两句话放在一起才完整。前者是营销素材，后者才是选型依据。
最后一个判断：locate 这类能力会很快变成决策模型的标配。因为它解决了一个很实际的痛点——抽取任务的价值在位置，不在文本。你抽出一句「11 月 30 日前交付」，如果不知道它在原文第几段，就没法做高亮、没法回溯、没法让人复核。这条需求过去靠 NER 模型 + 后处理拼，现在被收进一个概率读出头里了。
相关阅读
- 概念：决策模型（Decision Model） · 每任务成本 · 函数调用
- 同期对手：Gemini Decisions API：零输出 token 卖判断 · OpenAI Decisions API GA · TypeSafe Jev 决策模型
- 落地工具：Perplexity 工具卡 · OpenRouter · LiteLLM
- 工程侧：Agent 编排 · Agent 验证
来源
- { title: "Perplexity Decider v1.3 模型卡（官方，本网络不可达，HTTP 000）", url: "https://huggingface.co/perplexity-ai/pplx-decider-v1.3" }
- { title: "Perplexity Decider v1.3 Open Weights Beat Jev 1.14（AITechArchive，含成本、鲁棒性、多语与视觉分项，标注为厂商数据未独立复现）", url: "https://aitecharchive.com/articles/perplexity-decider-v1-3-open-weights-vs-jev" }
- { title: "Perplexity Open-Sources Decider 1.3, Adding Text-Span Extraction（himiao.ai，含 262,144 上下文与 API 定价口径）", url: "http://himiao.ai/en/news/2026-11-15-perplexity-decider-1-3-open-source" }
- { title: "Perplexity's Decider v1.3 Puts Open-Weight Classification on Your GPU（ecneproject，含 30,720 最大序列长度、isolated 模式与 locate 适配器不合并的细节）", url: "https://pulse.ecneproject.com/articles/perplexity-s-decider-v1-3-puts-open-weight-classification-on-your-gpu-no-token-b-4c8a8f" }
- { title: "Perplexity 发布说明摘要（sitem.co，含三阶段训练配方与读出头实现）", url: "https://sitem.co/public/summary/7337/perplexity-releases-decider-v1-3-and-flash-a-new-era-of-efficient-decision-models" }
- { title: "OpenRouter 模型目录实取（471 个模型，未见 decider 条目，2026-11-15）", url: "https://openrouter.ai/api/v1/models" }
常见问题
决策模型和普通 LLM 调 API 分类有什么本质区别？
普通 LLM 分类是「生成一段文字再解析」，你要为整段输出付 token。决策模型把最后一层换成读出头，一次前向直接返回各选项的概率，不生成任何文本。所以它更快、更便宜，也更容易做批量并发。
locate 是什么？
v1.3 新增的问题类型：给一个字段名或一句描述（比如「签约的那个人」），模型直接从输入原文里抽出对应片段，返回起止字符位置与置信度，没匹配就返回空列表。它把 NER、PII 检测、抽取式问答收进了同一个接口，只支持文本、单次最多 128 个 locate 问题。
能自己部署吗？
可以。权重是 Apache 2.0，v1.3 基于 Qwen3.8-27B、BF16 约 49 GiB，要放多卡；Flash 基于 Qwen3.5-4B、约 8.5 GiB，单张 16GB 消费卡能跑。注意必须用官方 pplx_decider 包才能复现输出，普通 transformers 直接加载结果会不对。
和 TypeSafe 的 Jev 比谁强？
在 Perplexity 自己公布的每一项上 v1.3 都领先（包括七个领域全胜，金融最多 +12.9 分），每百万次请求成本 $26.47 对 $68.10。但这些都是厂商自测，且真实流量上的裁判一致率只差 0.63 个百分点。真正值得换的理由是开放权重和 locate，不是那几分。
可以当 LLM-as-judge 用吗？
在「只判是非、不需要理由」的评审上可以，且便宜得多。需要解释、需要多步推理的评审不行——它不输出理由链。常见组合是决策模型粗筛、生成式模型只处理被挑出来的少数样本。