目前各个大模型厂家 token 耗费数量还都是黑盒？

libasten · 发表于昨天 22:51

实现一个需求，或者有时候让改一个小功能之前，大概会用掉多少 token ，其实也就是多少费用，你们心里有数么？
我有时候一个小需求，结果 cc 跑了半天，token 耗费巨多。
有时候，我心里预期可能会耗费蛮多的 token ，让它去处理一个大的 word 文件啥的，结果只耗费了少许。

Magicdove · 发表于昨天 23:00

这不太好预测，取决于功能的复杂程度、提示词的详尽程度和模型本身的能力等，影响因素很多

lithiumii · 发表于 14 小时前

Codex 结束会话的时候不是会告诉你吗？
API 就更简单了每次调用都返回。

msg7086 · 发表于 11 小时前

啊？
我 Codex 订阅开个 sub2api 做中转统计，然后每一个请求每一笔交易都会显示啊。

yidinghe · 发表于 6 小时前

你说的只针对包月，按量付费的情况下 token 都是公开的。

mingtdlb · 发表于 6 小时前

这不是正常的吗，你每次问问题回答都不一样啊，思考也不一样，如果 token 量固定，那不是每个人问同一个问题输出都一模一样啦

能做到一次解决问题就不错了，有时候一个简单 bug 反复改 https://www.douyin.com/video/7654112811093675291