智谱接下来一年搞出来 Fable 级别的模型概率有多大?
//i.v2ex.co/TrI59MP5.jpeg
不用一年, 估计 10 月就出来了 https://v2ex.com/t/1221181#reply25 想起一个帖子:2004 年初审版高中物理教材在介绍伽利略生平时,以“没有学术的民主和思想的自由,科学就不能繁荣”作为结束语,而这句话已在新版教材中删去。 @Nasdaq 答非所问,人机? 说实话,这种问题没有答案,任何回答你概率的都是猜的。 我感觉是很快的,半年左右 按理说现在 glm5.2 用 700b 逼近 opus ,换成 1.6t 的 v4 水准规模很有可能轻松就能实现 fable 级别 算力跟得上吗 不大,智谱现在的模型 700B,fable 少说是个 5T ,多了是个 10T 的模型,超大规模预训练智谱之前没发过产品,这个就连 openai 都翻过一次车的( gpt4.5 ),理想情况下智谱肯定会选择训一个 < 2T 的模型,然后继续跑分赢就行了。
另外智力提升不是线性的,不能简单用乘法算,还要考虑提升预训练 size 之后之后每 param 分配训练 token 的问题,对他们目前的训练的资料也是一个很大的压力。
页:
[1]
2