查看: 8|回复: 3

[开源] 让人人用上 Claude Fable 5,基于多模型 MoA 编排

[复制链接]

1

主题

2

回帖

7

积分

新手上路

积分
7
发表于 2026-7-18 22:38:39 | 显示全部楼层 |阅读模式
Claude 的额度实在扛不住高频使用。
所以自己折腾了一个东西,把多个模型「组队」起来——不指望一个诸葛亮包打天下,而是让几位军师各出一招、再有个判官做交叉审稿,合起来希望能力逼近 Fable 5

为什么觉得这事儿值得做

OpenRouter 前阵子在 DRACO 深度研究基准上做了个实验:Gemini 3 Flash + Kimi K2.6 + DeepSeek V4 Pro 三个模型 Fusion 起来,得分 **64.7%**,和 Claude Fable 5 单跑的 65.3% 只差 0.6 个百分点,而单任务成本大约只有一半。详见 OpenRouter Fusion

结论很直接:单个模型不是终点,多个模型合体很多时候比单模型更强。

但 OpenRouter 的 Fusion 是云端服务。我更想要的是:

模型可以换、供应商可以换、路由策略可以改

跑在免费 / 便宜的边缘推理上

最好支持多种各种 api 格式

于是就有了这个项目。

做了什么

基于 Mixture-of-Agents 论文,在 Cloudflare Worker 上实现了多层 MoA 编排:

请求
  ├─ Layer 0: AnySearch 联网检索(可选,结果注入 <CONTEXT>)
  ├─ Layer 1: N 个 proposer 并行(不同模型提供多样化视角)
  ├─ Layer 2: judge 冲突分析(产出共识 / 冲突 / 遗漏 / 无证据清单)
  └─ Layer 3: aggregator 综合最终答案(非简单拼接,是带裁决的二次审稿)

关键点:aggregator 不是把几个答案拼一起,而是基于 judge 的分析做二次审稿——保留共识、修正冲突、补上遗漏、删掉无证据的自信表述。

对外暴露两套协议:

/v1/messages:Anthropic Messages API 兼容(非流式 + SSE 流式)

/mcp:MCP Streamable HTTP ,工具 moa_reason

灵活支持各种调用

模型组合

Cloudflare Workers AI 现在有 12 个前沿模型可选,我预置了三套组合:

预设
组合
说明

A (最强)
kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / kimi-k2.6
3 前沿 proposer + kimi-k2.6 aggregator

B (均衡)
kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / gpt-oss-120b
proposer 全前沿,aggregator 省

C
kimi-k2.6 / qwen3-30b-a3b / glm-5.2 / gpt-oss-120b
对标 DeepSeek+Kimi+Qwen Fusion

格式是 proposer1/proposer2/.../aggregator,最后一个做综合。URL 里直接拼模型组合就能切,不用改配置。

还可以使用在线的 moa 模型组合配置器



评测结果

基础基准( GSM8K / ARC / C-Eval ) 70 题,整体准确率 **98.6%**。

DRACO 深度研究基准( 100 个复杂任务,4 维度 rubric ,LLM-as-judge 评分)对标 Fable 5 的 65.3%,达标阈值 ≥ 60%。写这帖的时候评测还在跑,已完成 26/100 ,当前 overall 均值 43.5%,单题最高 70%。完整结果跑完会更新到 README 。

一点想法

做这个最大的感受是:「前沿模型能力」不一定只能靠买更贵的模型获得。 它也可以被拆成一套本地可控的协作流程——谁出推理、谁出代码、谁出事实、谁做裁决。Fable 5 的能力不是黑盒,是几种能力的组合,组合可以被工程化复现。

项目 MIT ,模型组合、搜索 provider 、judge 策略都可以换。如果你有更强的模型组合建议或者评测结果,PR 直接提。

GitHub: cpcc/moa
回复

使用道具 举报

0

主题

16

回帖

32

积分

新手上路

积分
32
发表于 2026-7-18 22:53:28 | 显示全部楼层
https://omo.dev

Oh My OpenAgent 已经实现了类似编排
回复

使用道具 举报

1

主题

2

回帖

7

积分

新手上路

积分
7
 楼主| 发表于 2026-7-18 23:38:01 | 显示全部楼层
@shakaraka 两者编排的对象不一样:
omo 跑在本地
moa 跑在云端

omo 编排任务:计划→委派给专家 agent→验证→写代码
moa 编排推理:proposer→judge→aggregator 把多个便宜模型输出合成一个答案
回复

使用道具 举报

0

主题

6

回帖

12

积分

新手上路

积分
12
发表于 2026-7-19 07:43:27 | 显示全部楼层
什么意思,这是多 agent 讨论的框架吗?能否用于某个论点的审查和优化?能否本地部署?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.

在本版发帖
返回顶部