马斯克和xAI建设全球最大的AI超级计算机

文摘 2024-11-04 23:58 广西

“马斯克和xAI建设全球最大的AI超级计算机”

世界最大的AI超级计算机，Colossus

马斯克和他的xAI公司打造了全球最大、性能最强的AI训练超级计算机。这台超级计算机被命名为Colossus，它配备了最新的Nvidia GPU硬件，使用大量水进行液冷，并由巨型Tesla Mega pack电池供电，马斯克相信，所有这些结合起来将创造出全球最强大的人工智能，它将真正解决宇宙的奥秘。

建筑前身是Electrolux

项目地址位于田纳西州孟菲斯，位于市中心西南部的一个工业园区，毗邻密西西比河。建筑本身并非由 xAI 建造，它之前是瑞典家电制造商Electrolux的总部所在地。马斯克选择这里的原因，也是为了找到正确的建筑，以便尽快让项目投入运行。

已经集成10万个 H100 GPU

尽管Colossus的外观并不起眼，但其内在才是关键，它里面是世界上最大的人工智能训练集群。目前，超过10万个Nvidia HGX H100 GPU通过超高速网络连接着数EB的数据存储。Nvidia首席执行官黄仁勋曾表示，Colossus无疑是地球上最快的超级计算机。Colossus的构建完全是为了驱动Grok。

部署周期仅有122天

看到的整个设施仅用了122天就建成了，建设速度惊人。更传统的超级计算机集群，一般只有Colossus的一半到四分之一的GPU数量，但这些传统系统的建设从开始到结束需要数年时间。

AI集群的内部结构

AI训练工作在一个叫做数据厅（Data Hall）的区域进行。xAI将系统分成三个层次。上面是电源、下面是冷却，中间是GPU集群。

Colossus内部有四个数据厅，每个数据厅都有25000个 GPU，加上存储空间和将它们全部连接在一起的光纤网络。Colossus使用水进行液体冷却，GPU集群下方是一个巨大的管道网络，将大量的水移入和移出设施。

GPU机架

这些GPU机架就像图中一样，每个托盘都装有八个Nvidia H100 GPU，这是目前最先进的AI训练芯片，这种情况将很快发生变化，马斯克已经计划在Nvidia B200芯片广泛普及后将 Colossus升级到该芯片，但目前没有时间可以浪费。

每个机架有独立水冷系统

每个机柜内置有八个这样的机架，每个垂直堆叠中总共有64个GPU芯片和16 个CPU芯片。每个机架都有自己独立的水冷系统，这些小管直接通入GPU外壳，蓝色管用于输送冷水，红色管用于提取热水。

每个机架能独立维护，减少停机时间

xAI的这些GPU机架的优点在于，每个机架都可以单独拉出进行维护，并且可以在托盘上进行维修，这意味着无需关闭和拆卸整个机柜即可更换一个芯片，然后将其滑回并继续训练。这在AI行业中是独一无二的，只有xAI拥有这样的设置，这将使他们能够将停机时间降至最低。冷却系统也配有可轻松拆卸和维修的单独水泵。

使用英伟达DPU提供每秒400GB的数据连接

每8个GPU配备2个CPU，用于准备数据和运行操作系统。用于训练Grok的所有数据都保存在一个巨大的硬盘存储系统中，数EB的文本、图像和视频被输入到训练集群中（1EB等于10亿GB）。xAI 网络由Nvidia Bluefield-3 DPU提供支持，可以通过光纤电缆网络每秒处理400 GB数据，这比非常快的家庭互联网连接快400倍左右。

使用MegaPack提供稳定电源

如此大量的设备需要同样大量的电力，Colossus使用的是传统电力。当xAI将其十万个GPU系统上线时，来自电网电力的毫秒级波动也会导致训练过程不一致。

xAI引入了特斯拉 Megapack电池组。他们将电网中的电力输送到储能电池，然后电池直接向训练集群放电。这为整个网络提供了超稳定的直接能源，从而实现物理上最高效的训练。未来Colossus扩容时，这种独特的能源方案将变得更加关键。

两个月内将扩容到20万个H100

尽管当前的规模和速度已经让业界惊讶，但马斯克计划两个月内，将Colossus的规模扩大一倍至超过20万个H100 GPU。这是一个疯狂的增长速度，让老牌 AI 巨头Open AI感到害怕。有报道称，Open AI 首席执行官Sam Altman已经告诉微软高管，他担心马斯克很快就会在计算能力方面超越他们。

马斯克期望将xAI估值提高到400亿美元

所有这些都需要资金支持，就在几个月前，xAI刚刚获得60亿美元风险投资，使这家成立仅一年的公司估值达到240亿美元。对于一家当时只有一款基本产品在市场上的年轻公司来说，这是一大笔钱。

但马斯克已经在寻求更多的资金，以将xAI的价值提升到400亿美元。相比之下，行业巨头Open AI目前的估值为1570亿美元。

强大的算力是xAI在实现通用人工智能道路上迈出的重要一步，通用人工智能可以利用这些算力学习更多，发现无法发现的事物、解决无法解决的问题。根据马斯克的说法，这就是我们解开宇宙奥秘和我们自身存在本质的方式。

http://mp.weixin.qq.com/s?__biz=MzkzODQyNzg3Mg==&mid=2247505385&idx=1&sn=edbf69d00557d8cb0d9a737a49f05f06

Achillesccj

一起揭开科技世界的一角，领略浩瀚的太空，体悟时空的魅力，也思索宇宙和生命的意义。

最新文章

马斯克的AI生态野心

追梦者号航天飞机预计2025年5月首飞

人类未来的金星探测之旅

波音放弃Starliner星际客车

Space X 透露Artemis的HLS状态

Block 2版星舰完成低温测试

地狱火导弹的挑战者：梭鱼M100

马斯克和xAI建设全球最大的AI超级计算机

Space X下一阶段任务：测试猛禽发动机的太空表现

模块化核反应堆的理想与现实

AI正在取代科学家

Space X将应用新的火焰处理系统

Space X助力 VAST 打造未来空间站

以色列针对伊朗的忏悔日行动

国际空间站后继无人 & Axiom财务危机

SpaceX完成Starship第六次飞行的助推器静态点火

蓝色起源完成New Glenn火箭堆叠

恐怖分子的噩梦——掩体炸弹GBU 57

Space X已经在准备第六次Starship飞行

IBM的AI及芯片之路

空中的隐形巨无霸—F-35

超薄钙钛矿太阳能电池 & 3D太阳能模块

前途未卜的量子计算

Rocket Lab正在加速准备Neutron火箭发射

无人机的克星：激光武器

猎鹰重型火箭成功部署Europa Clipper

马斯克在德州奥斯汀的万亿投资计划

Space X再创历史，Starship第五次飞行圆满成功

特斯拉发布Robotaxi—CyberCab

特斯拉即将推出新的4680电池

DeepMind的AlphaChip带来芯片设计的效率革命

Space X最快10月13日进行Starship第五次试飞

超导电力传输正在变成现实

人类早期的空间站探索：礼炮号&和平号

ULA的火神半人马座 CERT 2发射成功

世界地空导弹防御系统Top 10

国际空间站泄露 & 新格伦发动机点火测试

黑鸟之子-SR72将于2025年首飞

NASA在贝努Bennu行星样本上探索太阳系的秘密

Starship的超级工厂StarFactory

NASA及Intuitive Machines的众多月球表面探测器

Anduril推出Barracuda梭鱼系列导弹

Space X创造新的发射纪录

AI芯片下一次材料突破：玻璃基板

Space X回收B11 助推器 & 深蓝航空进行回收测试

特斯拉Semi电动卡车走入欧洲

Space X继续为Starship第五次试飞准备

Axiom的商业空间站遭遇资金和时间问题

马斯克按下特斯拉墨西哥超级工厂暂停键

Northrop Grumman的Vanguard战机试飞

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉