一句话:Jev 不生成文本,只做判断。 你给它一段内容和几个带类型的问题,它在几十到几百毫秒里一次性答完,返回代码能直接
if、能排序、能路由的结构化结果。本文面向 Java 后端同学,讲清楚它是什么、怎么用、优势在哪、怎么接进 Spring Boot,以及有哪些开源/大厂替代。文中数据我都标了出处——厂商自评和第三方独立评测请分开看。
先看一段我们几乎都写过的代码:
java// 想让 LLM 判断这条工单该派给哪个组
String prompt = "请判断下面这条客服工单属于 billing/technical/sales 哪一类,"
+ "只返回 JSON,格式 {\"dept\":\"...\"}。工单内容:" + ticket;
String reply = chatModel.call(prompt); // 逐 token 生成一大段
reply = stripMarkdownFence(reply); // 剥掉 ```json 代码块
Dept dept = objectMapper.readValue(reply, Dept.class); // 解析,可能抛异常
if (dept == null) { retry(); } // 失败重试
绕这么大一圈——拼 prompt、生成、剥 markdown、readValue、校验、重试——只为了拿回 "billing" 这一个词。这段代码你我都不陌生。
Jev 想省掉的就是这一整圈。它属于一类新模型,官方叫 System One(系统一),取自卡尼曼"快思考/慢思考"的划分:
| 大语言模型(系统二) | Jev(系统一) | |
|---|---|---|
| 输出 | 字符串,逐 token 生成 | 类型化的值 + 概率 + 置信度 |
| 延迟 | 秒级 | 70–500ms(官方),一次并行 pass 答完所有问题 |
| 输出计费 | 按 token | 不计费(输出只是几个数字) |
| 会不会"违反格式" | 可能,需要重试兜底 | 结构上不可能,合法输出已在 schema 里穷举 |
| 写代码/写文章 | 会 | 完全不会,这是设计 |
| 擅长 | 生成、推理、对话 | 分类、路由、打分、是非判断、抽取、过滤 |
它的原理(官方不公开架构,但开源复现已经拼出来了)说白了是:一个普通 transformer 骨干,外挂一个在候选选项上打分的 readout head,一次前向把所有题答完,不解码文本。所以它压根没有"生成"这一步,也就不存在解析和格式错误。
Jev 会回答四种问题,前三种已生产可用,组合起来覆盖绝大多数高频判断:
| 原语 | 问它什么 | 返回 | 典型用途 |
|---|---|---|---|
| Choice | 从这些选项里选一个 | choice + probabilities + confidence | 意图路由、工单分派、function calling |
| Score | 按这个量表打分 | score + probabilities + confidence | 质量分、情绪强度、优先级、重排序 |
| Noul | 这句话成立吗(是/否) | noul(0–1 的概率) | 护栏、是非校验、内容审核 |
| Box(预览) | 图里那个东西在哪 | top/bottom/left/right(0–1 比例坐标)+ confidence | 图像目标定位(签名、人物等) |
Box 是 jev-1.14.0 新增的第四原语,配合请求体里的 assets 字段传图使用——所以 Jev 并非只吃文本。但官方明确标注它 not production-ready:单目标、没有"未找到"答案、大图里的小目标可能漏检。生产护栏先别押在它上面;本文的 Java DTO 也只覆盖前三种。
同一次请求里的问题对同一份 state 并行求值、彼此隔离——它们互相看不见对方的答案,TypeSafe 官方称"增加问题数量几乎不增加延迟"(社区实测加到 4 题延迟不变)。注意这是 TypeSafe 的口径:阿里云百炼的兼容实现延迟随题数近线性增长,见 5.6。
最重要的一条心法(后面有数据支撑):问题尽量原子,组合逻辑写在你自己的代码里。 别问"这个链接该不该点",要拆成"是否伪装发件人""是否诱导输入密码"……几个是非题,然后在代码里做加权。
Java 没有官方 SDK,见第四节。
bashpip install typesafe-sdk # 注意包名:不是 typesafe-ai(那是占位包)
export TYPESAFE_API_KEY=sk-...
pythonfrom typesafe_sdk import Choice, Noul, Score, TypeSafeClient
client = TypeSafeClient()
response = client.system_one(
state="你好,我的 Stripe 账号连了三天都连不上,再不行我就退订了。",
questions={
"department": Choice(
instructions="这个工单该给哪个组",
criteria={"billing": "支付或订阅问题",
"technical": "Bug 或集成问题",
"sales": "定价或账号咨询"},
),
"frustration": Score(
instructions="客户的不满程度",
criteria=["平静陈述事实", "有情绪但还讲道理", "非常愤怒"],
),
"is_urgent": Noul(instructions="这条消息表达了紧急或时间压力"),
},
)
返回:
json{
"model": "jev-latest",
"answers": {
"department": { "type": "choice", "choice": "billing", "confidence": 0.596 },
"frustration": { "type": "score", "score": 1.035, "confidence": 0.842 },
"is_urgent": { "type": "noul", "noul": 0.999 }
},
"usage": { "input_tokens": 312, "output_tokens": 48 }
}
注意那个 confidence: 0.596——这是官方文档自己的示例,它其实在说"这条不适合直接路由"。因为工单同时提到集成故障(technical)和退订(billing),跨了两类。这里藏着一个新手最容易踩的坑:
choice告诉你是什么,confidence告诉你要不要动手。只取 argmax 不看置信度,等于白买了 RLCD 校准。
正确用法是按风险分级设阈值(官方推荐):
pythonif confidence < 0.5: route_to_human() # 模型真的不确定,别猜
elif choice == "查余额": show_balance() # 低风险,可自动
elif choice == "转账":
if confidence > 0.9: confirm_then_execute() # 高风险高置信,二次确认后执行
else: ask_user_to_confirm() # 高风险中置信,先让用户确认
想立刻试真的 Jev、连注册都不用的最低门槛路径是 classifier.dev:
bashcurl "https://classifier.dev/billing,technical,sales/我的信用卡被扣了两次款"
# → billing
代价是它只暴露了"分类"(Choice 的子集),选项不能带描述。而光给标签词 vs 给带描述的标签,中文数据上准确率能差 13.3 个百分点(awesome-jev-zh 实测 80.0% → 93.3%)。所以摸底用它,上生产走直连。
jev-spam-eval(独立评测,18514 封邮件)显示,仅凭一段文字定义的垃圾邮件判据就拿到 98.3%,和 14800 条标注训练的 TF-IDF(98.4%)持平;换到 2026 年新邮件,Jev 仍有 97.3%,TF-IDF 掉到 72.5%。免训练数据 + 抗漂移,是它最稳的优势。jev-phishing-bench(2000 封钓鱼邮件):直接问 Jev"该不该点这个链接"只有 62.6%,而两行正则规则能到 91.8%。但同一次调用拆成 5 个信号问题 + 代码里做逻辑回归,直接冲到 95.0%。这条数据把"问题要原子"那句心法从口号变成了硬结论。一句话总结定位:Jev 稳定的优势在成本、延迟、抗漂移,不在绝对准确率。 谁要说它在所有任务上都更准,问一句"数据在哪"是合理的。
先说清楚现状:官方 SDK 只有 Python 和 JavaScript。 社区 SDK 覆盖了 Go、Rust、.NET、Scala/ZIO、Ruby、Elixir、PHP……独独没有 Java。(唯一沾边的 JVM 项目是 jev-chat-jarvis,一个 Kotlin 应用,不是通用 SDK。)
所以 TypeSafe 直连的 Java 集成正解是:自己用 RestClient 封装那个 REST 端点(走阿里云百炼则有官方 DashScope Java SDK,见 5.6)。好消息是接口极简——POST https://api.typesafe.ai/v1/systemone,请求体三个字段,无状态。手写约 50 行搞定,零额外依赖。
javaimport com.fasterxml.jackson.annotation.JsonProperty;
// 请求体:state + model + questions
public record SystemOneRequest(
Object state, // 字符串或结构化对象均可
String model, // "jev-latest"
Map<String, Question> questions) {}
// 三种生产可用原语共用一个密封接口,靠 type 字段区分(Box 预览暂不覆盖)
// type() 不是 record 组件,必须 @JsonProperty 显式标注,否则请求体缺 type 直接 422
public sealed interface Question permits Choice, Score, Noul {
String type();
Object instructions();
}
public record Choice(String instructions, Map<String, String> criteria)
implements Question {
@JsonProperty("type") public String type() { return "choice"; }
}
public record Score(String instructions, List<String> criteria)
implements Question {
@JsonProperty("type") public String type() { return "score"; }
}
public record Noul(String instructions)
implements Question {
@JsonProperty("type") public String type() { return "noul"; }
}
// 响应
public record SystemOneResponse(
String model,
Map<String, Answer> answers,
Usage usage) {}
public record Answer(String type, String choice, Double score, Double noul,
Map<String, Double> probabilities, Double confidence) {}
public record Usage(Integer input_tokens, Integer output_tokens) {}
java@Component
public class JevClient {
private final RestClient restClient;
public JevClient(@Value("${jev.base-url:https://api.typesafe.ai}") String baseUrl,
@Value("${jev.api-key}") String apiKey) {
this.restClient = RestClient.builder()
.baseUrl(baseUrl)
.defaultHeader("Authorization", "Bearer " + apiKey)
.defaultHeader("Content-Type", "application/json")
.build();
}
public SystemOneResponse systemOne(Object state, Map<String, Question> questions) {
var req = new SystemOneRequest(state, "jev-latest", questions);
return restClient.post()
.uri("/v1/systemone")
.body(req)
.retrieve()
.onStatus(s -> s.is4xxClientError() || s.value() == 529, (r, b) -> {
// 529 是 5xx,必须显式纳入,否则走默认处理器抛的不是 JevApiException
int code = r.getStatusCode().value();
String body = new String(b.readAllBytes(), StandardCharsets.UTF_8);
// 官方口径:只有 429/529 值得退避重试;401/422 等重试无意义
throw (code == 429 || code == 529)
? new JevRetryableException(code, body)
: new JevApiException(code, body);
})
.body(SystemOneResponse.class);
}
}
Jackson 默认把 record 组件名
input_tokens序列化成同名字段,正好对上 API。但type()不是 record 组件、也不符合 getter 命名,必须加@JsonProperty("type")——官方 API 要求每个 question 带type字段,漏了就是 422。另外准备一个JevRetryableException extends JevApiException(构造器同款),给 5.3 的重试分流用。
官方明确要求:收到 429/529 要指数退避重试,不要立即重试;其余错误(401/422 等)重试无意义。所以 5.2 把这两类单独抛成 JevRetryableException,重试只认它:
java@Retry(name = "jev") // application.yml 里配退避
@CircuitBreaker(name = "jev", fallbackMethod = "fallback")
public SystemOneResponse systemOne(Object state, Map<String, Question> questions) { ... }
// 熔断打开或重试耗尽时的降级——护栏类逻辑要 fail-closed,不要默认放行
private SystemOneResponse fallback(Object state, Map<String, Question> q, Throwable t) {
log.warn("Jev 不可用,转人工: {}", t.getMessage());
throw new NeedHumanReviewException(t);
}
yaml# application.yml
jev:
base-url: https://api.typesafe.ai
api-key: ${TYPESAFE_API_KEY}
resilience4j.retry:
instances.jev:
max-attempts: 3
wait-duration: 500ms
enable-exponential-backoff: true
retry-on-exception: com.example.JevRetryableException # 只重试 429/529
resilience4j.circuitbreaker:
instances.jev:
sliding-window-size: 20
failure-rate-threshold: 50
java@Service
public class TicketRouter {
private static final Map<String, Question> QUESTIONS = Map.of(
"dept", new Choice("这个工单该给哪个组", new LinkedHashMap<>(Map.of(
"billing", "支付、扣款、发票、退款",
"technical", "Bug、报错、集成失败",
"sales", "定价、升级、账号咨询"))),
"urgent", new Noul("这条消息表达了紧急或时间压力")
);
// 注意:Choice 的 criteria 用 LinkedHashMap 保证顺序可读(虽不影响 Jev 结果)
private final JevClient client;
public RouteResult route(String ticket) {
var resp = client.systemOne(ticket, QUESTIONS);
Answer dept = resp.answers().get("dept");
double conf = dept.confidence() == null ? 0 : dept.confidence();
if (conf < 0.5) {
return RouteResult.humanReview("模型不确定 conf=" + conf);
}
return RouteResult.auto(dept.choice(), conf);
}
}
Jev、开源复现(kev)、以及阿里云百炼的决策模型都走同一个 /v1/systemone 线协议,只是 baseUrl 和鉴权不同。把 baseUrl 做成配置项,将来换后端只改一行——这是接 Jev 这类新供应商时成本最低的保险(官方也提供了 adapter 当降级方案,一开始就接上很划算)。
前面"Java 只能手写 RestClient"说的是 TypeSafe 直连。如果你按第六节推荐走阿里云百炼,DashScope Java SDK(≥ 2.23.3)原生支持 decision-model-preview,不用自己封装。两个和 TypeSafe 不一样的地方要记住:
https://{WorkspaceId}.{region}.maas.aliyuncs.com/compatible-mode(region 为 cn-beijing 或 ap-southeast-1),SDK 自动拼 /v1/systemone。不是简单换个域名,WorkspaceId 要进配置。Jev 发布后七周,这个赛道就炸了。分三类看:
| 厂商 | 模型 | 协议 | 输入价/MTok | 备注 |
|---|---|---|---|---|
| TypeSafe | Jev 1.14 jev-1.14.0 | /v1/systemone | $0.042 | 品类开创者,用量仍最大 |
| 阿里云百炼 | decision-model-preview | /compatible-mode/v1/systemone | 限时免费 | 官方写明可直接用 typesafe-sdk;有 DashScope Java SDK;≤16 题且延迟随题数近线性涨(见 5.6) |
| 火山方舟 | doubao-seed-2-1-lite | /api/v1/systemone + beta 头 | 按模型价 | state 可直接放图/视频/音频 |
| 微软 | Microsoft-Decision-1 | /v1/systemone 兼容 | $0.042 | Qwen3.5-9B 后训练 |
| OpenAI | gpt-6-luna | /v1/decisions(自有 schema) | $0.10 | 通用大模型收窄,要改代码 |
| Perplexity | Decider v1.2 | /v1/decisions | $0.02 | 托管里最便宜 |
| Cloudflare | Clef 27B | Jev 兼容 | $0.24 | 托管 + Apache-2.0 权重两头都给 |
国内首选阿里云百炼:兼容
/v1/systemone、限时免费、有北京/新加坡节点,Java 侧可直接用 DashScope SDK,或JevClient改 baseUrl(注意是业务空间子域名,见 5.6)。协议迁移的坑是"题型对齐、合同没对齐"——OpenAI 的字段名要改代码,Vercel Gateway 把noul叫boolean。
| 方案 | 骨干 | 单题延迟 | 许可 | 特点 |
|---|---|---|---|---|
| laya-multilingual | mmBERT-base 322M | 32.8ms(T4) | Apache-2.0 | 覆盖 100+ 语言,中文表现这几个里最好;有 JVM 移植 laya-java |
| kev | Qwen + LoRA | ~160ms–1s | Apache-2.0 | API 与官方兼容,改 base_url 无痛切本地,先写代码后换本地就靠它 |
| SemIf | frozen Qwen3.5-4B | 1.02s | MIT | 不训练,直接读选项 logits |
| Nimble | Qwen3.5-9B | — | 开源 | 324 条样本对齐 90.1%,声明没蒸馏 Jev |
对 Java 同学:laya 有 JVM 移植 laya-java(纯 ONNX Runtime 进程内推理,不走 Python/HTTP,JDK 17+),但它未上 Maven Central、单个 Agent 非线程安全要池化、常驻约 1.3–1.5GB 内存,小规格 ECS 要掂量。
system-one-adapter,把后端暂时挂普通 LLM。| 场景 | 建议 |
|---|---|
| 写文案、写代码、总结、要解释理由 | 不会,这是设计,用 LLM |
| 低频调用(一天几十次) | 不值当,省的钱抵不过多一个供应商 |
| 精确计算(金额、日期差) | 用代码算,别交给任何模型 |
| 窄任务 + 已有标注数据 | 先量一下,正则/TF-IDF 在某些任务上更准(钓鱼那个 91.8% 就是例子) |
| 高风险决策全自动放行 | 保留置信度门控 + 人工兜底 |
RestClient 手写封装那个三字段 REST 端点即可,配 Resilience4j 只对 429/529 退避重试 + 熔断;走百炼则有 DashScope Java SDK(≥ 2.23.3)。docs.typesafe.ai(Models / Confidence / API / jaggedness 必读)help.aliyun.com/zh/model-studio/decision-model-apidatawhalechina.github.io/jev-cookbookgithub.com/yzfly/awesome-jev-zhjev-phishing-bench(钓鱼邮件 62.6% vs 正则 91.8% vs 拆解后 95.0%)、jev-spam-eval(抗漂移)、OpenRouter Banking77(13x/22x 真实倍数)本文数据截至 2026-11,价格与版本变动快,接入前以各家官方文档实时页为准。
本文作者:Weee
本文链接:
版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!