返回第二百八十章 给老板派活儿  路大头首页

关灯 护眼     字体:

上一页 目录 下一页

六个月做算子调优——这是最保守的估计,十五个月以后,可以尝试做训练。”

实际上做过工程的人都知道,这种估计真做起来,花的时间翻倍都不止。但他实在是说不出口,让汤圆10三年之后再开始训练。

09都发布三年了,才训练10,你听听这是人话吗?

江松然对韩路一坚持不用任何云服务商的决定也了解,这是对数据安全的坚持。但是咱们现在只有国产卡,或者,如果实在是等不及,要不采购点英伟达的卡?先用着,也不耽误咱们做国产化,不丢人。

这话他也没说,等着韩路一的回应。

没想到,韩路一没说话,倒是这两天一直和江松然一起准备报告的赵文渊先开了口。

“我觉得三个月太长了,一个月,应该就可以把第一阶段的基本训练链路做完了。”

江松然震惊地看着身旁的赵文渊。

老赵,你知道自己在说什么吗?

这是训练,不是推理!

吹牛不是这么吹的,当着韩总的面,你要把牛皮吹破了。

这下他忍不住了,恨不得上去捂老赵的嘴:“不行不行,韩总,一个月肯定不行,你看看这表里多少算子呢。”

他知道韩路一的技术强,在他加入源智之前,韩路一也在早期的算子适配工作中做过贡献。

但他可太怕韩路一对这个项目的工程量有什么误解了。

现在源智团队里用的还是一个叫「算子打靶法」的工作方法。

这个工作方法还是当时韩路一提出来的。

所谓「算子打靶法」,就是对每一个要进行适配的算子,对标英伟达的算子,用御风来转换生成适配代码,只要达到英伟达对应60的效率就算是达标。

这个60是从当初的80降下来的,为的就是让推理快速上线,牺牲一部分硬件的使用效率。

但是现在要做大模型的训练,60就不够了,甚至80都不够,得至少达到90以上。

话是这么说,效率的提升难道是一件容易事吗?

御风生成起代码来是快,但是该做的验证的活儿一点也少不了,每一个算子的每一个参数得一个个试过去,找到对应l100这个硬件设计的最优解。

如果说60试十次能找到,80可能得试一百次,90可能得试一千次。

这还只是一个算子的一个参数。

所以江松然才说做适配是个苦力活。

没想到韩路一没说话,赵文渊又开口了:“韩总,一个月,您觉得行不行?”

江松然已经无语了,什么行不行,你问老板这个,当然行,一个月之后咱们拿不出东西来怎么办?

那是肯定拿不出来,能做出十个算子都超出预期了。

韩路一听完,没有直接回答,而是思考了一下。

江松然期待韩路一听进去自己说的话了,能意识到一个月是一个多么不可思议的期限。

拒绝老赵,韩总,拒绝老赵啊!

“行,我试试。”在江松然默默的祈祷中,韩路一说。

江松然垂头丧气。

老赵啊老赵,你看,老板答应了吧?咱们可怎么办啊。

章节内容不完整,请退出阅读模式查看完整内容!
『加入书签,方便阅读』

上一页 目录 下一页