第四百八十八章 两个突破,一个难题 (第1/2页)
“……兴隆银行有意向向我们采购包括定制硬件在内的全套解决方案;具体采购规模和技术支持期限仍在讨论中。现在预计,硬件采购价格在五亿元左右,后续服务费用为每年几千万元级别。我之后会再汇报。”
姜亦心说完,向其他与会高管点了点头,场中随即响起一片掌声。
这是起源每周一早晨的高管例会。苏念念旗下的汇报通常开场进行——上一周收入端有什么新进展,颇为振奋人心。
韩路一听完,点了点头,对姜亦心说:“我们眼下的算力仍以自用为主,大规模交付恐怕要等L200正式量产之后。这一点你要和他们谈清楚;其他类似机构的接洽,可以转给技术销售部门,算力和硬件供给都要考虑进去。”
随即,韩路一转向江松然,问道:“算力这边,这周有什么进展?”
江松然此刻脸色少见地轻松——往常一到算力盘点环节,他总是皱着眉开场。起源各业务方向的用量增长太快,算力供给一直供不应求,这几乎是全集团都知道的事,连外界媒体和关注行业动向的用户也清楚。
“我先说个好消息:基于豆汁儿模型的轻量调度系统上周已经全量上线,释放出的算力比我们最初预期还大一些。”
此话一出,无论业务线还是支持线的高管,都把目光挪了过来。
大家心里都冒出同一个问题:释放了多少?
江松然没卖关子,接着道:“新调度系统启用后,整个推理算力任务分配的效率达到百分之九十以上。原先卡空转、任务排队或负载不均的部分被填满,如今效率已接近理论极限。这意味着两件事。第一,我们在张家口云垠和临港自由的两个数据中心共有三万五千张计算卡,从中释放出百分之三十的算力;也就是说,过去三万五千张满载跑的任务量,现在大约两万五千张就够了。”
视频那头的赵文渊第一时间激动起来。
富余出一万张卡,这富余是给谁的?不就是给他启动汤圆2.0训练的吗?
不过他又马上反应过来:现在起源的计算卡里,运行效率最高的是L100,而L100满打满算只有一万八千张。从这里抽走一万张,恐怕拿掉的不只是百分之三十的总算力;公司运营也不可能一点算力储备都不留,全拿去冲训练。
那剩下的算力缺口从哪里找?
江松然环顾一圈,接着道:“我们还有第二点新发现,某种程度上比第一点还重要,那就是——”
“使用新调度系统后,我们对租来的算力的利用效率也提高了。即使全按汤圆1.0API直接销售的折扣价计算,减去付给云服务商的租金,我们仍有得赚。”
这话像一枚重磅炸弹,砸进会议室。
汤圆模型的定价在旗舰模型里独一档地低,甚至比不少次一档模型还便宜。这里面自然有汤圆训练、推理全线自研、成本可控的原因;也有韩路一为培养用户习惯、占领市场的原因;对提供反馈数据的用户打折,同样有利于后续训练数据收集。
再加上他并不希望以技术垄断赚取超高额利润的理想主义。
种种原因交织,使起源此前的商业化长期陷在一个困局里:不得不在应用层和用户体验上不断创造新的利润空间;而在纯粹的模型层面,一旦把有限的利润分给云厂商,起源的利润就被大大摊薄。再加上AI军备竞赛、美国对英伟达高端计算卡限制出口等因素,云厂商能租到的算力也在涨价,想租就得赔钱租,越用赔得越多。
在这种情况下,起源的算力才始终不够。
如今,新模型和软件调度层的优化把这个问题解决了。
如此一来,海阔凭鱼跃,天高任鸟飞。国内几家大中型云服务商,只要舍得花钱,仍能再找出不少算力供应。
赵文渊刚压下去的兴奋又冒了出来,忍不住砸了一下面前的桌子。
还好他静着音,这声音没传到海城总部的大会议室;此时此刻,也没多少人关注他的视频画面。
随即,赵文渊又想起一件事,解除静音,开口问:“宋总,我有个问题。现在云服务商提供的租赁算力大头还是英伟达的,以我们公司的情况,能租吗?”
最初被列入美国商务部实体清单的是当时的源智科技;如今源智和源码合并成起源集团,限制并没有取消,整个起源集团都在限制之下。
实体清单限制所有美国受控物项的出口、再出口和二次转让。比如通过其他皮包公司作为渠道转卖,显然违反美国相关法规。但租用呢?
众人的目光集中在首席法务官宋嘉宁身上,她说:“名义上不行,这会落入美国的长臂管辖;但这种租用本身并不违反国际法和我国法律,我国商务部还有专门对应的《不可靠实体清单规定》和《阻断外国法律与措施不当域外适用办法》。所以实际操作中仍有规避方法,具体要看提供服务的企业是否配合。”
韩路一看得出来,受场合限制,宋嘉宁说得不算直接,也不算明白。
这虽是高管群,按理算起源内部信息交流,但高管毕竟有近十人;对这种公然违反外国法律的灰色地带,确实不适合大范围讨论。
不过韩路一听懂了:可行,只是具体怎么执行,还得私下再商量。
这也合理。一项美国法规想管两家中国公司的交易,依靠的还是中国公司提供的披露信息,未免管得太宽。
听完江松然的汇报,韩路一说:“干得不错。这次调度系统升级,研究院和算力部门各记一功。之后的算力租赁,苏总,你和老江协调一下,先与几家有能力的厂商初步接触,看看
(本章未完,请点击下一页继续阅读)