大模型Infra王朝2024

教育   2024-12-16 11:17   江苏  

知乎:手抓饼熊(已授权)
链接:https://zhuanlan.zhihu.com/p/12663989502

记录一下2024做大模型Infra的一些破防瞬间。

LLM所有细分方向群+ACL25/ICML25/NAACL25投稿群->LLM所有细分领域群、投稿群从这里进入!

大厂All in大模型的历史背景

不上称四两重

日常GPU余额

当卡被其他人用了

平时的心里状态

接到任务时的心里状态

辛苦优化的功能算法不肯上线

模型训崩了

遇到友商打价格战

与开源方案对比性能前

与开源方案对比性能后

竞品发布指标第一后

最后截取部分评论,哈哈


又一年要过去了,乐呵一下,大家对目前的LLM Infra有何看法,敬请留言,直抒己见!



备注:昵称-学校/公司-方向/会议(eg.ACL),进入技术/投稿群


id:DLNLPer,记得备注呦

深度学习自然语言处理
一个热衷于深度学习与NLP前沿技术的平台,期待在知识的殿堂与你相遇~
 最新文章