Attention is All Human Need: What is Jev

仙人指路:Introducing System One Models & Jev — TypeSafe 官网文章

机器之心推文:刷屏了!前OpenAI研究员做的Jev,大家为啥抢着用?

TL;DR

Jev,TypeSafe AI公司于2026年9月15日发布的模型

将大模型最后一层改成分类器,自回归变成直接输出判决(类型化的概率决策)。

面向的问题是 自动化(Automation) 而非 聊天(Chat)。

是典型的System1模型——快、直觉化。而现有的大模型大多是System2模型——慢,复杂。

采用校准决策强化学习(RLCD) 替代了RLHF和RLVR。

没有公开基准测试的性能对比结果。

声称“不会产生幻觉”。(原句The model never makes type errors. & It’s optimized for structured outputs and can’t hallucinate.)

不属于LLM。(原句Jev is neither small nor an LLM, hence being off the intelligence Pareto curve.)

Dev 可能的用途:

  1. Agent / Harness 决策器:选 tool、选模型、判断是否继续 reasoning
  2. LLM 回答校验器 :检查 jailbreak、prompt injection、回答质量
  3. 超便宜 Semantic Search / Reranker:RAG 选 context、搜索结果相关性打分、rerank,部分替代 embedding pipeline
  4. 洗数据:给几百万条文本/Agent trajectory 做分类、打分、抽 feature
  5. 实时 AI :约 150ms 级决策延迟,可嵌进 UI、同声传译、游戏等实时系统

Fun Facts

「System One」来自 Daniel Kahneman 在《Thinking, Fast and Slow》中提出的 System 1 概念,即快速、直觉式的判断系统;「Jev」则来自经济学家 William Stanley Jevons。TypeSafe 借用了「杰文斯悖论」的含义:当一种资源的使用效率大幅提高,其总体使用量反而可能迅速增长。

Jev 并行输出所有概率,而不是像 LLM 那样按词元自回归生成。字符串功能强大且通用,但成本很高。“放弃”字符串实际上赋予了我们许多超能力!

TypeSafe 主要是一个数据研究实验室,人工智能领域最伟大的成果正是通过数据研究产生的。我们所有的数据都是自己生成的。


随便写一点

来点组里讨论的笑话(

Attention is All Human Need:人类也有注意力额度与窗口,分为等待时间和专注时间。

人类希望得到即时的反馈。大模型费力推理Thinking一大堆时,尤其是不展示CoT的模型,你会忍不住去摸鱼刷几条小红书,去对抗等待答案的焦急。Chrome连不上网可以玩小恐龙跑酷。GPT-image-2.5生图时右键可以玩贪吃蛇。以后全部全双工!以后大模型推理时会不会有邪恶公司在这个等待时间植入一些可交互广告(x

人类对阅读一个问题的解答耐心有限。现在的system2模型无论什么小问题都会回答一大坨,首先很多都不是用户想得到的重点,其次太长的文本会给用户阅读带去一个额外的心理准备的负担,导致不想看了。只能每次加上【TL;DR】的尾缀。不过有些问题本身就应该有更好的回答方式,这个应该被后训练到啊?感觉是很人机交互的课题。

所以System1可以部分解决这些问题啊

申请了试用,正在蹲蹲


9.22 更新

Jev该怎么用呢?

我已经拿到了Jev API Key,思忖了几分钟火速利用codex写了一个chrome插件:Jev-AI-Detector ,用于给网页中任何一段文字检测AIGC率,只需要选中-右键即可。快点给我点star

这个应用场景符合Jev应用所需要的

  1. 需要AI做理解判断
  2. 只需输出选择/logit
  3. 快速响应 是的,根据这个条件筛选,像具身、自动驾驶、游戏AI、视频理解、洗数据pipeline之类的相关作品即将如雨后春笋一样冒出来,以及随处可见的教你使用Jev的卖课教程,让我们拭目以待

以及,已经看到arxiv上挂出了Jev相关的文章了《Jev-Mem: System-One-Controlled Agentic Memory for Efficient Al Agents》,我记得Jev不是9.15刚发布吗,这对吗,这不对,arxiv从上传到过审核不也要几天吗,可恶,我也要蹭热点(bushi


9.23 更新

嗯,网上有一些人提到了一个观点,这个Jev不就是古早NLP的BERT文艺复兴吗?

众所周知Jev是没有开源的,它一开始公布了训练方法RLCD(Reinforcement Learning for Calibrated Decisions),面向校准决策的强化学习,但是也只给了名字。社区主要猜测以下几种架构

A. Encoder + Decision Head

State + Question + Options
        ↓
 Transformer Encoder
        ↓
 hidden representation
        ↓
  Decision Head
        ↓
 logits(A,B,C...)
        ↓
      softmax

现在最火的开源 Jev-like 模型 Laya 就这么干:ModernBERT-large + 2-layer Transformer decision head + option-marker scorer,每个 option 用 [MASK] 位置打分。

B. Decoder LLM + 直接读 option logits

Qwen
 ↓
prefill state 一次
 ↓
A / B / C 分支并行
 ↓
读取 candidate logits
 ↓
softmax

指路 harshatheg/Qwen-2.5-1B-RLCD Qwen-2.5-1B-RLCD 复现

KV-cache broadcast + candidate vocabulary projection。 但它没有训练 RLCD,甚至没有新权重,只是 stock Qwen + inference trick。

“我渴望不平凡的东西。”

✨ 留言板 / Message Box

后端部署中,敬请期待喵...