你知道训练一次大模型需要多少度电吗?
这是什么概念呢?
据美国国家环保署评定,特斯拉Model Y每百英里(161公里)耗电28千瓦时,1278兆瓦时相当于3000辆特斯拉,每辆跑满20万英里(32.2万公里)。而根据一般的经验法则,大多数司机认为20万英里大关是汽车寿命上限。这意味着3000辆特斯拉跑到报废所需要消耗的电量!
模型训练完当用户使用时,每生成1000个单词大约消耗0.125千瓦时的电量,也就是每问8次就会消耗1度电,这个电量够充电100次手机。ChatGPT现在差不多2亿用户,大家想想Sam Altman这个时候最想干啥?
START
开电厂!
同样贩卖这一焦虑的还有马斯克。
到2025年,我们将缺少足够的电力来运行芯片。
世界将从“缺芯”转到“缺电”。
从新能源发电并网,到下游人工智能的崛起,为避免出现第二次芯片危机,电网改造升级的需求陡然倍增!
未来电力甚至会成为地球上最紧缺的能源。
我在之前一篇介绍小堆的文章说过,人类能源革命的挑战目前看来最有希望的就是可控核聚变。核聚变发电可能是有史以来最具革命性的技术之一。对比传统核电的即用电力和低碳排放的好处,可控核聚变的燃料效率更高,它使用超级丰富且几乎可再生的燃料,并且不产生核废料。
它确实是完美的能源,几十年来人类一直在努力解锁它并将这项科幻技术变为现实。然而,总是差临门一脚,这个和室温超导有很大的不同,前者更多是工程上的挑战,后面我们没有搞清基本原理。
当两个原子被强大的能量强迫聚集在一起,以至于它们克服了使原子分离的排斥力时,就会发生核聚变。然后它们融合成一个新的、更大的原子。然而,由于物理学上的一个奇怪的现象,这个原子实际上比它所形成的两个原子的质量稍轻。在聚变过程中,剩余的质量转化为能量并通过热和辐射释放。
氢是最轻的元素,也是最容易聚变的,因为它需要最少的能量来克服其排斥力,仅聚变33吨氢就能释放出足以满足整个中国一年的用电量。
但有一个问题,启动聚变需要能量。因此,关键是建造一个能够高效地产生聚变的反应堆,使其消耗的总能量小于从聚变反应中获得的能量( ROI大于1)。
旨在解决这一问题的最著名的反应堆设计之一是托卡马克体。
托克马克反应堆有一个环形室,周围环绕着强大的超导电磁体。过热氢等离子体被注入腔室,由于氢等离子体与电磁力强烈相互作用,磁铁可以非常有效地加热和压缩等离子体并引发聚变。
这是迄今为止我们能设计出来的最好的聚变反应堆,它可以返回大约30%的能量。但显然,这远不是一种可行的能源。为了提高效率并获得ROI大于1的反应堆,需要建造更大、更强大的托卡马克,事实上已经在这样做( ITER),并解决托卡马克最重要的缺陷之一 :等离子体不稳定。
等离子体结合了流体动力学、电动力学和量子力学中三个最复杂的部分(好吧,北邮没有开设第一个课程实属遗憾)。等离子体的行为不稳定,产生湍流,从而降低了托卡马克的效率,目前为止不稳定的行为难以预测,更不可能有解析解。
最严重和最常见的等离子体不稳定类型是撕裂不稳定性。在这些情况下,加热和压缩等离子体所需的沿相反方向运行的磁场会偏离其直线路径,并在磁场中形成小涡岛,科学家将这些称为“径向局部磁岛链”, 它们会吸收聚变,从而有效地阻止电磁能流入等离子体,引导电磁能产生电磁湍流。撕裂不稳定性在托卡马克中非常常见,它们吸收的能量显著影响整体输出效率。
但是,如果我们能够找到一种方法来预测托卡马克中何时何地会发生撕裂不稳定,然后积极阻止它的发生,是不是就可以大幅提高整体效率?
这是一直以来科学家梦寐以求的想法。
困难的是撕裂不稳定情况发生在几毫秒内,而且由于它们背后的物理原理非常复杂,我们无法使用传感器和数学来预测它们。
因此,研究人员转向人工智能来尝试控制等离子体不稳定性。
最近来自普林斯顿大学的学者发表在Nature一篇文章揭示,AI根据托卡马克装置现有的诊断数据估计未来300毫秒发生撕裂不稳定性的可能性,然后动态操纵反应堆中的电磁场,将撕裂不稳定性的可能性保持在最低阈值以下。在美国最大的托卡马克DIII-D中进行了测试,结果发现非常有效,即使在具有更高聚变率和更高撕裂不稳定性的“H 模式”下也是一样有效。
人工智能可能刚刚解决了托卡马克最重要的问题之一,即等离子体不稳定是可以预测和控制的!
虽然这个实验尚未在能够达到能源净增益效率水平的托卡马克装置中进行测试。事实上,它可能暂时不会实现,因为ITER(理论上可以达到这点的第一个托卡马克装置)距离完工还需要数年时间。此外在较小的反应堆中可行并不意味着它可以在大型反应堆中发挥作用。因此,虽然这种人工智能在理论上可能是一个巨大的飞跃,但在带来真正任何革命之前,它还有很长的路要走。
但不管怎么说,这离我们真正想要的能源的终极梦想又进了一步,AI终于又为自己的发展铺了一块大大的垫脚石。
END
参考资料
2 Taming the Plasma Edge: Reducing Instabilities in Tokamaks Energy.com, March 30, 2022
3 OpenAI CEO Altman says at Davos future AI depends on energy breakthrough Reuters,January 17, 2024
4 Elon Musk says we're on the verge of the biggest technology revolution with AI, but there won't be enough power by 2025 Windowscentral,March 5, 2024
5 受控核聚变有戏了?《自然》:AI预防反应中断 科学网 2024 2-29
6 可控核聚变新里程碑!AI成功预测等离子体撕裂登Nature,清洁能源「圣杯」更近一步新智元,2024 2-24
往期推荐