1m 上下文感觉面对 agent 还是少了？预测下接下来哪家会先出真*2m 上下文？

lynn1su · 发表于 4 天前

不是那种跑 30%就开始降性能的那种模型

xiaomushen · 发表于 4 天前

压缩一下呗，带着那么多垃圾历史信息没意义

lynn1su · 发表于 4 天前

@xiaomushen #1 自动压缩感觉会损失很多细节。期待真 2m 上下文模型

SHIINASAMA · 发表于 4 天前

我觉得目前这个上下文大小已经比较甜点了，有用的信息提到项目文档或者个人知识库就好

ktyang · 发表于 4 天前

1M 的时候不担心 token 消耗量么？ 2M 那更不敢想了

lynn1su · 发表于 4 天前

@ktyang #4 公司给买了

hrapunzel · 发表于 4 天前

上下文太多记忆力稀释怎么办

lynn1su · 发表于 4 天前

@hrapunzel #6 所以我说真*2m 上下文，不会因为长上下文稀释降低性能的