Jev 带来一种新形态的 LLM——System One，也就是决策模型

上周TypeSafe AI揭幕紫杉他们第一个提到的新型模型类别，称之为“系统一模型”（我和Maggie Appleton观点一致，我认为“决策模型”是这样）一个更好的名字对于这些。

Jev 是常见 LLM 格式的一个有趣变体：它仍然接受文本输入，但输出的不是文本，而是返回浮点数，对应类别、是非题、评分及相关置信度分数。

TypeSafe这样描述Jev：

可以把Jev想象成一个前沿智能函数调用：输入非结构状态，输出类型化的概率决策。

而且速度也非常快，而且非常便宜.常规大型语言模型价格在输入和输出代币方面，输出通常收取更高的费率。Jev只对输入收费——输出免费——他们的首个模型的输入价格是每百万个代币0.042美元——甚至比OpenAI还便宜GPT-5 纳米（0.05美元/百万）。

Jev 允许你提问关于文本或半结构化数据的问题。你要写一个“状态”对象，包含字符串、字符串数组或一组名值对——这可能描述一篇文章、客户，或任何其他类型的记录。

然后你把它发送到他们的 API，并附带一个或多个问题，每个问题都会得到回复。

你可以问三种类型的问题：

• 是/否问题，Jev称之为“Noul”——他们的CEO在Hacker News确认这是伯努利的缩写，源自伯努利分布.你提出一个陈述，得到一个浮点数介于0和1之间，表示模型对该陈述真实性的信心。
• 选择题，模型从一组选项中选出一个——实际上是一个置信度分数加上所有选项的概率分布。
• 分数题，你提供一连串数字等级和描述，然后给出一个浮点分数，位于该范围的某个位置。

Jev API 可以接受一份文档（“状态”）和尽可能多的问题，输入上下文窗口。问题是并行评估的，所以发送多问题的时间应该和发送一个问题差不多。

我觉得决策模型框架化有助于理解Jev的使用位置。它非常适合任何可以表达为分类任务的事情——比如垃圾邮件检测、建议标签、优先排序和排名。

我也在尝试用它进行搜索排名，比如用像BM25这样的廉价算法获取100个可能匹配，然后让Jev对这100个候选人进行与原始查询的相关性评分。

黑盒子重新流行起来了

我对Jev感到有些不舒服的是，它实际上更进一步地向黑箱机器学习系统退化了。

大型语言模型本身就是黑箱——你可以让他们为自己的决定辩解，但不能保证他们说的话是有用或准确的。

Jev甚至都不给你这个：你想写多少文字，你得到的只有浮点数。如果Jev标记某事为垃圾邮件，是哪些内容信号提醒的？

这也意味着偏见问题应当成为焦点。我真心希望没人用Jev来给求职者排名——浮点数可能隐藏模型中各种看不见的偏见，实验性地剖析这些偏见将是一件棘手的事。

（我尝试过一个实验，让Jev对旧金山湾区每个城市的“好城市”是否“进行是非对答——评分库比蒂诺顶部和东帕洛阿尔托底层。嗯。）

实际上，这意味着评估和结构化实验比普通LLM项目更为重要。幸运的是，Jev成本非常低，运行数百甚至数千个实验提示只需几分钱。

Jev的非传统用途

过去几天看到更广泛的社区成员们不断提出Jev的潜在应用场景，真的很有趣。以下是一些吸引我注意的创意案例：

• Jevchat作者：Kyle Pena将Jev变成了一个（糟糕的）聊天模型。“每一步它都会问Jev一个问题：根据用户的问题和目前的回复，接下来会是哪个符号？”Hacker News上的ericpruitt：“这就像莫蒂和死亡水晶对话一样的数字版。”
• jev-leftpad作者：Fatih Kadir Akın 实现左键提示为“在达到目标长度之前需要多少格子才能达到目标长度？”以及选择查询允许从“需要0格”到“需要10格”的选项。
• JEV-2048作者：Andy Gayton，使用Jev来演奏2048年滑动益智游戏.

无障碍重量休闲

还有一阵项目试图用开放重量模型来创建像Jev这样的模型。凯文是一个有趣的例子，利用Qwen 3.5生成0.8B、4B和9B模型。以下是附带的黑客新闻讨论串，其中有人链接到了JevBench已经出现的基准测试用来比较“Jev级决策模型”。

鉴于Jev发布不到一周，围绕它的活动量极为惊人。

标签：前往,生成式人工智能,大型语言模型