ScaleDown 上线「约束解码模型」：分类/抽取/摘要不写字，号称比前沿 LLM 快 200 倍、便宜 467 倍
创始人 Neal Patel 今天发布 Constrained Decoding Models（CDM）：模型只在给定标签或输入片段里作答，不逐 token 生成长文。OpenRouter 已上线 Classify、Extract、Summarize 等型号，输入约 $0.04/百万 token、输出免费，上下文 100 万；LangChain 同步推出 langchain-scaledown 中间件，专管长跑智能体的摘要、工具结果压缩和字段抽取。
为什么重要 智能体里大半调用其实是路由、抽字段、压上下文，却一直在用会「写作」的大模型。CDM 把这类重复活从前沿模型里拆出来，成本结构会变。
Neal Patel 发布帖OpenRouter 上架帖LangChain 集成博客OpenRouter：Summarize