vLLM Semantic Router 放出 Decision 3.0:不问作文,只给选择题、是否、打分的概率
Decision 3.0 是一组 Apache 2.0 决策模型,从约 0.6B 到旗舰 d3(约 26B,含视觉编码器)。一次请求可塞多道题,输入可带图和视频,输出是每道题各选项的概率,不生成长文。旗舰自称在公开 Jev Decision Index 上拿到 65.45,比自家 Decision 2.0 高 8.5 分。
为什么重要 路由、审核、工单分流这种环节要的是稳定、可解析的判断,不是又一段散文。数字来自项目模型卡,生产前应用自己的标注集对一下校准;加载示例要求 trust_remote_code,部署前要审代码、钉死 revision。