专用判断模型 Jev 三天复刻两百个:它能替下通用大模型做高频决策吗
前 OpenAI 研究员 Diogo Almeida 创办的 TypeSafe AI 发布了一个不会说话的模型 Jev。给它一段输入和一组预设选项,它只输出选中哪一项和对应的概率,从不生成一句完整的话。发布三天,社区里已经出现两百多个复刻项目,Vercel 也把内部一个安全分类器从 OpenAI 的 Luna 5.6 切换成了 Jev,处理速度提升了 5 到 18 倍。这件事值得细看,不是因为又多了一个模型发布,而是因为它把"高频、低复杂度的机器决策"整个从通用大模型的文本生成流程里拆了出来。速度和成本这两块证据已经站得住,判断质量能不能撑住复杂场景,目前还没有独立证据。
不写句子,只给答案:判断从生成里被拆出来
通用大模型做判断,要先像写文章一样逐个 token 生成一段文字,再由程序从文字里解析出答案。
生成多长,等待和花费就跟多长,模型还可能编出预设选项之外的内容。Jev 跳过生成这一步,直接在预设选项上输出结构化结果和概率,官方把这种用法叫 Choice 模式,最多支持 255 个预定义选项。端到端延迟被压到 70 到 500 毫秒,输入每百万 token 收费 0.042 美元,输出完全免费。
这套设计已经有生产环境的验证。Vercel 工程师 Pranit Sharma 把原本跑在 OpenAI Luna 5.6 上的安全分类器换成 Jev,处理速度提升 5 到 18 倍,准确度也更高。Vercel 随后统计,Jev 是其模型路由服务 AI Gateway 上线以来采用速度最快的模型,上线 24 小时内已被超过 13% 的付费团队接入。TypeSafe 自己的 workflow 评测给出了更夸张的数字:比 GPT-6 Astra 快 193.6 倍、便宜 444.6 倍。官方对外的统一口径则是快 20 到 200 倍、便宜 40 到 400 倍。这类倍数目前都来自厂商自测,还没有第三方在公开基准上复现。速度和成本的优势,已经有独立生产案例撑住,这是这轮判断里证据最扎实的一段。
掉头指向的是自己参与发明的训练方法
Almeida 的履历本身构成了这次判断里最特别的一层反差。
他是 GPT-4、ChatGPT 和 InstructGPT/RLHF 论文的共同作者,也就是说,教会今天的通用大模型讨好人类打分的那套方法,很大程度上出自他手。他现在的说法是,RLHF 把模型的优化目标定成了迎合人类偏好,模型不确定的时候会倾向给出一个"听起来像对"的答案,而不是承认不知道。他认为,判断 AI 处于"辅助人类"还是"独立完成自动化任务"阶段,关键要看它做事时是否还需要人时刻确认和纠错。按这个标准,目前的 Claude Code 无论多强,都还停留在需要人盯着的"辅助"阶段。
TypeSafe 把 Jev 归为"System One 模型",对应心理学家卡尼曼提出的快速直觉判断。这故意跟追求"System Two"式深思熟虑推理的前沿大模型反着来,GPT-6 Astra 这类靠强化推理、深度思考取胜的模型,正是它对标的对象。TypeSafe 给训练方法起名 RLCD,全称是校准决策强化学习,对外说法是把优化目标换成了"认知诚实的概率",不再优化人类偏好。这套说法目前只来自创始人自述,RLCD 具体怎么训练,官方没有公开可核验的细节。这条历史线索说明,Jev 不是凭空找到一个新赛道,而是对 RLHF 这套主导了过去几年通用大模型训练的方法论,由发明者本人发起的一次针对性反制。
复刻潮验证了共性,也留出了一大块空白
发布三天两百多个复刻项目里,独立项目 jevlike(GitHub 上一个开源仓库)走得最远。
作者用冻结的 Qwen2.5-0.5B 编码器加一层分类头,复现了 Jev“一次性输出选项概率”的核心思路。该方案在合成的选择题任务上做到 98% 准确率。这比强制小模型逐词写 400 个 token 再解析快了大约 100 倍。这基本印证了“跳过生成”这条路径本身是通的。
但同一个项目在 Wikispeedia(一个要求连续多步点击、理解上下文才能完成任务的基准)上的表现不同。准确率只有 26% 到 29%,跟从零训练的小模型基本打平。作者自己说得很清楚,这只是“研究起点,不是 Jev 的复制品”,没有复现 TypeSafe 的私有训练方法,也没有证明能达到同等质量。LanguageX 产品负责人 David Lee 的判断与此呼应:Jev 真正要对比的不是 GPT 或 Claude 这类通用大模型。他认为,Jev 真正的对手是蒸馏模型、传统分类器和已有的结构化输出工具链,它得先在成本和准确度上稳定超过这些老对手,才谈得上开出一条新赛道。复刻潮证明了“不生成文本、直接输出概率”这条路径本身可以走通,但没有回答更关键的问题:遇到真正复杂、需要多步理解的判断,专用判断模型的质量能不能配得上它的速度。
零幻觉是不是语义游戏:边界、反证与下一步观察
Armin Ronacher 是 Flask 作者,现任 Earendil CTO。
他指出,TypeSafe 说的"零幻觉"窄化了幻觉定义。它把幻觉限定为"落在预设选项之外的无效输出"。这种定义在结构上确实可以做到不出现,但 Jev 依然可能在预设选项里自信地选错,比如把天空的颜色判断成"红色"。这在效果上和一个用结构化输出的普通大模型犯错没有区别,只是换了个不叫"幻觉"的名字而已。人人都是产品经理的分析给出了几乎同样的结论:官方把幻觉限定在格式层面,构造上必然能消除,但用户真正担心的是"答案以完美 JSON 呈现、内容却依然错",这一点官方定义没有回答。两方各自独立指出同一处漏洞,让这条反证的分量更重。
Ronacher 还指出,用户必须自己去解读那个概率数字。如果只有 50%,大概率是抛硬币,该丢弃;到了 95%,才敢真正拿去用。这等于把判断对错的责任,从模型转移给了看结果的人。独立工程师 Sean Goedecke 补了另一条边界:用受限的单 token 生成加预填充,同样能在不改用自回归生成整段文字的前提下做到快速结构化输出。预填充指提前把部分输出内容准备好交给模型接着写,模型不必从零开始生成整段文字。Jev 的独特之处,更多在于把这条路径做成了一个独立产品和定价体系,而不是发明了一种全新能力。
值得盯住的是两件事。一是 TypeSafe 自测的 193.6 倍、444.6 倍这类数字,有没有独立机构在公开基准上复现。二是 Jev 或跟进它的复刻项目,能不能在 Wikispeedia 这类需要多步理解的真实任务上,拿出明显超过传统分类器的结果。这两块证据补上之前,专用判断模型对通用大模型的替代,目前站得住的只有"更快更便宜",判断质量的账还没有还清。
信息来源(10)
- Introducing System One Models & Jev — TypeSafe AI 官方博客
- Jev is the fastest-adopted model in AI Gateway history — Vercel 官方博客
- A new kind of AI model from a ChatGPT inventor is thrilling developers — TechCrunch
- Jev means structured output is interesting again — Sean Goedecke 博客
- jevlike:独立逆向复现项目 — GitHub
- Open Source Clones of TypeSafe's Jev Arrive in a Week
- Jev 模型创始人:GPT 为什么"不知道也要硬答" — 华尔街见闻
- Jev 模型创始人:下一个 AI 时代,绝不是 Claude Code 时代 — 华尔街见闻
- 比 LLM 快 193 倍、输出 token 免费:Jev 的"判断模型"路线靠谱吗? — 人人都是产品经理
- 刷屏全球的 AI 新顶流 Jev,一句话都不说,到底怎么玩? — APPSO