对话无损的秘密:ThinkChat 的上下文优化之道
流年 · 17小时前

## 一场关于"取舍"的哲学
在做 AI 产品时,我们常常面临一个经典困境:<strong>既要 AI 回答得准确,又要响应得及时,还要控制成本。</strong>
这三个目标之间简直就是一个不可能三角——上下文越长,模型理解越充分,但 token 消耗越多,响应越慢,成本也越高。尤其是OpenClaw 及 Hermes 这种产品采用了长效记忆之后,在任务过程中的上下文更是严重超支。
大多数产品的选择是<strong>压缩</strong>:把长文本缩短、把关键信息提取、把对话历史压缩。但压缩总是有代价的——信息会失真,语气会走样,上下文中那些微妙的关联会被稀释。
**ThinkChat 走了另一条路。**
***
## 我们选择"裁剪",而非"压缩"
ThinkChat主要场景在企业的自动化工作流,我们发现大部分自动化任务都属于长程任务,哪怕是1M上下文在连续对话中都很难保证不超出。
于是最近我们对ThinkChat上下文处理机制进行了一次重要升级:在对话过程中,系统会自动对上下文进行<strong>剪裁</strong>,而非压缩。
这两个词的区别,藏着我们对用户体验的理解:
| | 压缩 | 裁剪 |
| --- | --- | --- |
| **原理** | 信息重新编码,去除冗余 | 识别并移除"用过"的数据 |
| **效果** | 所有信息都保留,但被"翻译"过 | 核心对话无损,中间数据消失 |
| **代价** | 可能丢失细微语义 | 工具调用的过程数据不再可见 |
| **对话体验** | 可能出现语义漂移 | 完全保留对话意图和逻辑 |
| **执行** | 异步 | 实时 |
**裁剪的本质,是"只去掉该去掉的"。**

***
## 实测数据:1M 上下文 → 22%
ThinkChat 的策略是<strong>智能的、非破坏性的</strong>:每次发起对话的时候对数据进行实时预处理,裁剪掉上下文中的无用数据和过期数据。那么,实际效果如何呢?
我们模拟了一个真实任务:读取业务系统和企业知识库生成一份 50多页的行业分析报告,经历 8 轮修改、12 次数据查询、5 次图表调整。任务跑完,上下文暴增到 100 万 token……
经过 ThinkChat 的智能裁剪后,上下文长度降低到原来的 <strong>22%</strong>——节省了将近 **80%** 的上下文空间。

这不是压缩算法有多高明,而是因为<strong>长程任务天然产生大量工具调用的中间数据</strong>,这不得不说是一次聪明地"断舍离"。
当你让 ThinkChat 完成一个复杂任务时,背后的流程可能是这样的:
1. 理解意图 → 规划任务
2. 拆解步骤 → 调用工具
3. 获取结果 → 处理结果
4. 继续执行 → 整合输出
在这个过程中,"调用工具"这一步会生成大量的中间数据:API 返回的原始响应、文件处理的临时输出、子步骤的执行日志……这些数据对"理解对话"毫无贡献,却占据着大量上下文空间。
**任务完成后,它们的使命就结束了。**

***
## 压缩机制:最后兜底
ThinkChat 同样具备上下文压缩能力,但我们把它定位为<strong>最后的兜底手段</strong>——只有在裁剪机制最终仍然无法解决上下文问题时,才会触发压缩。
为什么这么设计?
因为压缩是有代价的。压缩算法在重新编码信息的过程中,总会产生细微的语义损耗。日积月累,这些损耗会慢慢影响对话的"手感":AI 开始"听不懂"一些暗示,"记不住"一些约定,语气变得生硬。
* <strong>裁剪</strong>:当一个复杂任务或子任务完成后,它的中间步骤数据就可以"功成身退"了,裁剪是优雅且无损。
* <strong>压缩</strong>:上下文接近上限阀值时系统会进行自动压缩,确保不会因为长度问题影响任务执行,压缩是无奈的抉择。
经过我们的数据测试在使用1M上下文的模型下基本上不太有机会在正常任务中触发压缩机制。
所以我们的策略是:
* **日常** → 裁剪(无损)
* **托底** → 压缩(慎用)
我们希望用户感受到的不是"AI 忘记了一些事",而是"<strong>AI 越来越专注在真正重要的事上</strong>"。
让对话回归对话,让工具服务归于工具。
***
## 写在最后

ThinkChat 的这次优化,表面上是一次技术迭代,背后是对产品哲学的坚持:<strong>不做有损的优化</strong>。
裁剪看起来保守,但我们相信:对话的核心价值在于"理解"和"记忆",任何可能削弱这两点的优化,都值得谨慎对待。
**78% 的冗余数据被清理,100% 的对话意图被保留。**
这就是 ThinkChat 的选择。
资讯来源:https://blog.topthink.com/thinkchat-context-optimization.html
推荐资讯
-
对话无损的秘密:ThinkChat 的上下文优化之道
2026年06月11日
-
ThinkChat 空间知识库技能:让每个团队都拥有自己的"企业大脑"
2026年06月07日
-
ThinkChat IM频道上线——你随身超级工作助理
2026年06月07日
-
你的AI助理,终于能帮你"上网干活"了
2026年05月11日
-
ThinkChat 工作空间:让 AI 成为真正的团队成员
2026年05月07日
最新资讯
-
对话无损的秘密:ThinkChat 的上下文优化之道
2026年06月11日
-
ThinkChat 空间知识库技能:让每个团队都拥有自己的"企业大脑"
2026年06月07日
-
ThinkChat IM频道上线——你随身超级工作助理
2026年06月07日
-
你的AI助理,终于能帮你"上网干活"了
2026年05月11日
-
ThinkChat 工作空间:让 AI 成为真正的团队成员
2026年05月07日