claude 和 chatgpt work 写代码的速度跟网速关系大吗？ 300Kbps 够不够？多小就开始影响写代码的速度了？

blackantt

1.claude 和 chatgpt work 写代码的速度跟网速关系大吗？ 300Kbps 够不够？多小就开始影响写代码的速度了？

2.用 claude/gpt 的 cli 写代码是否比他们的 app 快？

zfyime

算力决定的 看任务难度吧

blackantt

@zfyime 跟本地的资源 和 网络资源关系不大了？

imkuang

300Kbps 应该能用，但你大概率会用的很难受，首字响应耗时的很大一部分会花在网络请求上，每次发个消息或者工具调用后都要等很久才有响应。

简单算一下就知道，按 1 个英文字符约等于 0.3 个 token 估计，100k 的纯英文上下文至少需要 333333 个字符，约 325KB （没算 json 请求体中 key 占用等其他消耗，这个估算只少不多），按 300Kbps 的网速计算单单把这些上下文发回给服务器就要约 9s 了，一次任务通常会有几十到上百次的请求，你可以算一下要浪费多少时间在网络传输上。

并且这还只是 100k 上下文，高级点的模型随便几百 k 上下文都是常态了。

imkuang

@imkuang 我有个自用的 api 中转服务器，前段时间被服务商限速刚好验证过 1Mbps 下（由于中转需要同时处理接收和发送，实际应该等效单向 500Mbps ）的使用情况。
上下文超过 90k 就开始能明显感觉到响应开始变慢，上下文达到 300k 左右直接感觉无法使用了，相同的任务平时 10 分钟就完成了，跑了一个小时还没结束

imkuang

@imkuang 500Kbps