机构闭门会:量化割的每根韭菜,都成为了中国AI发展的燃料

财富   2024-12-29 21:53   北京  
这周末,关于百亿私募幻方量化旗下大模型性能匹敌GPT-4o的消息,震动了金融圈和科技圈。
根据媒体报道,幻方De­e­p­S­e­ek V3大约用十分之一的算力就基本实现了Op­e­n­AI最新版本的数理推理能力,被称为大模型界的“拼多多”。
某机构人士表示,这倒不是因为幻方的技术更好,而是用到了一种叫做“数据蒸馏”的技术。
什么叫做数据蒸馏?简单来说,就是对着标准答案来做作业。
大家都知道,做难题的时候,很多时候都是在试错,就是用各种思路都做一遍,最后找到那个对的。
但如果你事先知道标准答案,那很快就可以否定掉大部分路径。
在大模型领域,水平最领先的探索者不知道标准答案是什么,只能这100条路都走一遍。
但当领先者把答案已经做出来以后,后来者就只需要根据其提供的答案,就可以省略掉大部分的探索过程,所以算力成本只是领先者的几分之一。
总之“数据蒸馏”介于做作业和抄作业之间,他没有重头来做这个作业,也没有直接把解题过程和答案都抄全了,而是根据已有答案,极大提升自己解题过程的效率,就和经济上的“后发优势”差不多。
看到这里,也就解释了Altman为何会留下这样一段话。
当然,也不是什么人都能用“数据蒸馏”这个技术,那必须你和领先者水平比较接近才行。
按照业内人士的说法,幻方是国内拥有高性能GPU卡最多的公司之一,比字节都要多。2023年2-3月份,幻方开始在全市场物色AI技术人才。那一时期,全市场都在传,国内有一家非大厂有1万块A100,传闻的主角就是幻方。
所以,就不难理解为什么幻方能开发出这么厉害的AI大模型了,难怪游资不是它的对手,更甭提散户了。所以,在周末的机构闭门会上,有机构人士直言:量化割的每根韭菜,都成为了中国AI发展的燃料。
对于眼下最火的AI,该机构人士也分享了一些内部观点:有三个新的方向供大家参考。

一个是国产AI的算力。原因是在字节的带动之下,国产AI的需求端可能比大家预期的要乐观一些,同时供给端进展也是还不错的,所以就导致国产算力可投的方向是在变多的,包括像芯片PCB模块,IDC服务器,交换机等等,它涉及的标的也比较多,这是第一个方向。

第二个方向就是AI当中算力相关的新的技术。因为我们知道算力现在对能耗,包括单算力的价值都是偏高的,所以新的技术肯定有点像类似当年光伏新的技术,肯定是要值得重视的,比方说像铜缆,AECAC芯片等等。

只不过这些东西它有一个问题就是,机会一旦发掘出来之后,它反应都会非常快,原因就是现在市场有大量的钱,其实都投在了这个方向。可能就导致这个东西一发酵,可能很快用几个10厘米或几个20厘米就快速就涨完了。

第三个方向就是AI的应用。其实AI的应用在这波市场炒AI眼镜、字节、AI玩具等等之前,更多的是在炒软件。近期的热点主要是字节的带动,会导致大家可以去算一些数了,觉得这个空间相对来说更确定一些,大家的共识形成的比较快。

同时,AI软件应用还是相对比较模糊的。但是我们看美股那边可能还是软件更强一些,比方说国内有很多人去喊苹果到4万亿了,所以买苹果的配置逻辑其实跟这个关系是不大的,所以软件肯定还是接下来的重点。

同时,明年上半年软件的催化就会像今年近期AI硬件的催化一样,是比较多的,明年上半年chat gpt5等一系列重磅的海外的十万卡级的模型其实是要推出的,可能又会带来大家对应用的一个更大的想象空间。所以它早晚也是要炒到,当然也不是说AI终端就不行,它是能看到大家还是在里边轮番炒的一个思路。
如希望了解更多机构最新观点,可以扫描下方二维码,也可以添加主理人微信:beijingzhe,进行交流

百亿基金经理内参
在这里,你可以获得百亿基金经理的最新顶层认知,还可以通过订阅“知识星球”,获取更多内参。
 最新文章