公司有一台闲置的昇腾 300I 8GPU 的服务器，有什么好的用法呢

sohk

有没有哪位兄弟觉得有用的，可以租用？有能有点收益就好了。现在是连机都不想开了，配置如下：

昇腾 300iDUO_8 卡：

CPU：2*Kunpeng 920_5250

GPU：8*300 iduo pcie

内存：32*32GB

系统盘：2*480GB SATA

数据盘：2*1.92TB NVMe

网卡 1：2*10GE

网卡 2：2*25GE(光口)，支持 RoCEv2

网卡 3：2*25GE(光口)，支持 RoCEv2

功率：满载 1880w

尺寸：4U

防火墙(20G)：

6 个 10GE ，4 个 GE 电口

YAFEIML

有带宽和固定 IP 吗，有的用 lmstudio 部署些小模型，然后搭建个 sub2api 等网关出售，小模型也有一定的市场需求。

sohk

小模型的需求很少吧？毕竟线上的那些小模型价格我看也很便宜的。

Insolitude

跑点微调破限的模型给玩酒馆的？

之前玩过微调的 gemma4 31b ，玩挺花的，可惜 agent 能力废了，没法搞个能涩涩的 assistant

jacketma

这么豪啊，这套配置大几十万吧。OP 公司算力这么充裕吗，这机器都吃灰了？

Maxwe11

gitee 模力方舟可以接入外部算力，然后在平台统一出售，可以当作是算力届的链家，因为现在有国内适配的需求，所以我看平台上昇腾的资源还挺紧张的，但是你这个资源不是很多，也不知道供应稳定度如何，如果是走正规化合作倒是可以去问问，好处是省心，缺点肯定是要被收佣，而且如果是非企业级合作，想把钱打到 op 个人账户的话，我不清楚能不能合作，可以找商务问问。

sohk

好像说的有搞头哦。现在这个设备不能卖，因为是公司资产，但确实是闲置。如果能够租出去，挣点小钱，给佣金肯定是没问题的。