大模型代理有个绕不开的矛盾，思考过程用文字写出来，人能看懂，代价是慢与贵。十月十三日提交的一篇论文给出一个混合方案，同一个模型在隐空间里想事，在文本层面干活，HN 上两天冲到一百九十多分。我把论文、GitHub 仓库与 HN 讨论都过了一遍，先把常见的误读纠正掉，再讲清楚它做了什么、成绩如何、怎么上手。
先纠正一个误读
不少转述把它讲成快思考与慢思考的混合，搬出双系统的类比，论文与代码仓库里都没有这种提法。准确的表述是隐空间推理加文本交互的双模式。隐空间指模型内部的连续向量表示，文本就是你我看到的字。推理段落在隐空间里完成，不经过词表解码成文字，工具调用、最终回答、给人看的监控走文本通道，两套模式在同一次生成里动态切换，靠特殊的锚点记号进出隐空间状态。论文出自斯坦福、伊利诺伊、Together AI 与 Meta 的四方团队，代码托管在 Together AI 的组织下，MIT 许可。
三个构件
第一件叫 HybridLink，一个轻量残差适配器，把模型最后一层的隐藏状态映射回输入嵌入空间，参数量按论文口径约二乘隐藏维度平方，四十亿参数的模型上大约一千万参数，自称数字。第二件是连续工作记忆，用 KV 缓存把文本、隐思考、工具返回三类内容跨轮次留住，隐空间里想过的东西留到下一轮接着用，免去重算。第三件最妙，隐思考可读化，隐向量能映射到最近的词嵌入上渲染成伪文本，检查的人可以看，透明度没有全丢。训练分两步，HybridSFT 做自条件的两遍训练，HybridRL 做混合策略分解加精确的回放重放。整套设计的直觉不复杂，把中间推理从文字世界里搬走，省下的记号与解码时间都是真金白银。
成绩单与口径
论文自称的数字先摆出来。Qwen3-Base 的四十亿、八十亿、一百四十亿三个规模，十一个基准平均性能升一成，token 少三成半到五成半，推理加速一点八到二点六倍，成本省二点七到三点七倍。举两个具体点，最大规模在 AIME25 得四十三点三，MATH500 得八十八点二，同一骨干的 ReAct 基线在 GAIA 均分三十二，这个方案拿到五十二点四。成本账更直观，按每小时二点五美元的 H100 估算，一百四十亿参数规模答一百万道题的开销从四百七十美元降到一百七十六美元。可监控性那组数字最有意思，暴露在外的文本记号少了四成多，弱监控器识别异常的 AUROC 反而从零点八一八升到零点八六，想监控的人没有吃亏。以上全部是论文单方口径，未见独立复现，引用时注明。
开源与上手
GitHub 仓库放出的内容算完整，混合生成引擎、两段训练流程、批量推理、隐模式可视化检查器都有，模型平台上挂了八十亿与一百四十亿的推理权重与配套数据集。门槛在算力，README 写 SFT 要八到十六张卡，强化学习默认三十二张，论文实验用了三十二张 H100，个人玩家基本无缘复训，跑推理与读代码是现实姿势。HN 的争论集中在安全一面，有人戏称这是最被禁止的技术，隐思考不可解释等于不可监督，反方回敬说文本思考链只给人虚假的安全感，KV 缓存里本来全是隐空间数据，这场辩论没有输赢，论文把可读化那条退路做出来算是给了个交代。
解决了什么需求
推理成本与延迟是所有做代理服务团队的痛点，token 账单直接吃利润。这条路给出一个新解法，效率从表示层抠出来，不再只盯着模型规模与蒸馏。对研究者，权重数据集齐全，架构改动点清晰，是很好的实验起点。对自建推理的团队，隐空间缓存与双模式切换的思路可以借走。对普通用户，现阶段看个热闹即可，离产品化还有距离，等下游推理框架把这套机制接进去才有日常可见的收益。
一句收尾，想得快不一定要说出来，这篇论文替模型省了开口的钱。
来源
- 论文页 https://arxiv.org/abs/2610.18861
- GitHub 仓库 https://github.com/togethercomputer/HybridAgent
- HN 讨论帖 https://news.ycombinator.com/item?id=50145337
- 模型权重 https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic