GPT-5.6 出来后,我更关心的是:企业 AI 应用怎么快速接新模型?
周末浅浅谈一下~GPT-5.6 的更新挺有意思。
这次不只是“模型更聪明”这么简单,像 Sol / Terra / Luna 分层、ultra mode 、subagents 、computer use 、coding / research 能力增强,其实都在说明一个趋势:大模型正在从单次问答,往更复杂的任务执行和 Agent 协作方向走。
但我自己在做企业 AI 应用相关项目时,感受比较明显的是:模型能力越强,企业侧反而越需要一个稳定的“接入层”。
因为真实项目里很少只用一个模型。
今天可能用 GPT-5.6 做复杂推理,明天用 Claude 做长文本分析,后天又想接一些开源模型、本地模型,或者把 Skills 、RAG 、Agent workflow 接进来。
如果每个业务应用都单独对接一遍 API ,后面维护会很痛苦。
我觉得企业 AI 应用真正麻烦的地方,通常不是“能不能调通模型”,而是这些问题:
多模型怎么统一管理?
GPT 、Claude 、开源模型怎么快速切换?
不同任务能不能走不同模型?
Token 用量和成本怎么统计?
Agent 执行过程怎么留日志?
RAG 召回和工作流怎么接在一起?
权限和私有化部署怎么处理?
后续模型升级时,业务应用能不能少改代码?
这也是我们最近在做 ZGI 的原因。
ZGI 已经开源两周左右,目前 GitHub 有 200+ Stars ,Gitee 也同步上线了。它不是一个单纯的聊天机器人壳子,更像是一个企业 AI 应用基础设施,主要做几件事:
知识库 / RAG
把企业文档、知识库、召回链路接入 AI 应用。
可视化工作流
把 Prompt 、知识检索、工具调用、条件判断、模型推理串起来,少写一些重复胶水代码。
Agent 执行和运行日志
Agent 不只是能调用工具,也需要知道它做了什么、哪一步出错、怎么回溯。
模型网关
统一接 GPT 、Claude 、开源模型和私有模型。后续像 GPT-5.6 这种新模型,也可以通过模型网关更快接入,而不是每个应用都改一遍。
私有化部署与权限控制
企业内部使用 AI ,很多时候数据安全、权限隔离、成本统计比 Demo 效果更重要。
我现在比较想听听大家的真实看法:
如果你们公司要接 GPT-5.6 / Claude / 开源模型,会倾向于每个应用自己接,还是统一走一个模型网关?
做企业 AI 应用时,你觉得最卡的是模型能力、RAG 效果、工作流,还是私有化部署?
ZGI 现在可以在 GitHub / Gitee 查询到,也欢迎直接提 Issue 或拍砖。我们现在最需要的不是夸,而是真实开发者反馈。 如果提 issue ,我们会有开发者小福利的,一些 token 网关层有没有脱敏的功能?比如对 prompt 里面的敏感数据自动脱敏 还能尽量不影响缓存命中 可以理解为一个 web 版的 agent 平台么,我也有类似的想法,正在使用 fastapi + acp + claude 手撸
看来一下 github ,好像是自己实现了一个 agent runtime ,对 skill 、mcp 这些支持程度程度没看到,比大厂开源的 agent 有什么优势吗
cloud.zgi.ai/login 没有提供账号也不允许注册,本来像预览一下的 模型的话,我觉得用类似于 new-API 深度对接到系统里面,做好权限区分和隔离。这一套完全自己手搓的话,也太重了。这个如果只是 runtime 的话,市面上已经有其他很多 Agent 框架了,和这些功能都是重叠的吧? op 这个有什么群组或者联系方式吗?我最近也在搞类似的东西,可以一起交流下。 从开发角度来讲,通常是会有一个对应的供应商和模型配置管理功能,所有的接入,监控,管控通过模型管理模块实现,然后在执行任务时,由用户自由切换,或者配置一个主管模型进行智能调度 这个本来不得先做 Gateway,然后模型路由么?然后 gateway 负责管理整个 app。向不同 app 分发么?包括用量,审计日志,权限,等等。
页:
[1]