WXRedian | 智猩猩芯算

公开课预告：大规模智算网络基础架构与部署规划｜新华三数据中心网络资深产品经理韦赟主讲

科技 2024-12-23 18:10 北京

智算网络是智算集群性能和效率的重要保障。使用智算集群进行大模型训练过程中，模型参数的更新和梯度的传递会在各个计算节点之间频繁进行，因此对数据的传输量和传输速度要求极高。这就 ...

算力网（络），应该是什么

科技 2024-12-23 18:10 北京

公开课预告12月26日19:30，新华三数据中心网络资深产品经理韦赟将以《大规模智算网络基础架构与部署规划》为主题进行直播讲解，欢迎扫码报名~ 编者按算力网和算力网络，是经 ...

先进封装技术解读 | 台积电

科技 2024-12-22 19:07 北京

公开课预告12月26日19:30，新华三数据中心网络资深产品经理韦赟将以《大规模智算网络基础架构与部署规划》为主题进行直播讲解，欢迎扫码报名~ 导读集成电路产业通常被分为芯 ...

IBM 的大规模 A100/H100 GPU 集群 Infra 建设

科技 2024-12-21 21:46 北京

公开课预告12月26日19:30，新华三数据中心网络资深产品经理韦赟将以《大规模智算网络基础架构与部署规划》为主题进行直播讲解，欢迎扫码报名~ 01 背景之前我们已经详细介 ...

22页PPT详解 NVIDIA RTX™ 5880 Ada 及训推一体机【附下载】

科技 2024-12-20 19:51 北京

导读12月18日，由启帆信息联合智猩猩共同策划推出的智猩猩在线研讨会 NVIDIA RTX™ 5880 Ada 应用解决方案专场顺利完结，紫光晓通 AI 高级技术支持工程 ...

AI数据中心：网络设计和选型标准

科技 2024-12-20 19:51 北京

公开课预告12月26日19:30，新华三数据中心网络资深产品经理韦赟将以《大规模智算网络基础架构与部署规划》为主题进行直播讲解，欢迎扫码报名~ 文章转载自公众号：架构师技术 ...

突破内存墙：DRAM技术演进及3D DRAM革命

科技 2024-12-19 16:34 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 目录一、DRAM 困境1.3D D ...

SC24｜谷歌AI加速器：TPU v6e Trillium技术解析

科技 2024-12-18 19:30 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 在刚刚结束的 SC24 大会上，谷 ...

公开课预告：大规模异构GPU集群的互联、运维与调度｜基流科技技术负责人敬阳主讲

科技 2024-12-17 16:01 北京

智算集群是打造大模型的标配。为了支撑更多、更大规模的模型训练与推理，智算集群建设速度和规模正在飞速增长。NVIDIA GPU是构建智算集群的首选计算芯片，但是受产能不足、国 ...

揭秘 AWS 10p10u 最新网络架构！

科技 2024-12-17 16:01 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 在AWS re:Invent 20 ...

AI时代的以太网：应对大规模GPU集群网络挑战

科技 2024-12-16 19:14 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 主要内容1. AI训练对网络架构的 ...

智算中心正在CDN化

科技 2024-12-15 21:52 北京

编者按CDN行业，整体不怎么赚钱。核心原因在于，用户的业务系统构建在公有云或自建的私有云。仅仅是调用CDN资源，对CDN服务没有依赖。当有稍微便宜哪怕仅1%的其他CDN资源 ...

博通3.5D F2F技术：定义AI XPU的未来

科技 2024-12-14 20:33 北京

博通（Broadcom）推出的3.5D F2F（Face-to-Face）技术，为AI加速器（XPU）的下一代设计提供了革命性的系统封装解决方案。这项创新结合了3D堆叠与2 ...

NVIDIA RTX™ 5880 Ada 性能解析与私有化大模型部署｜在线研讨会直播预告

科技 2024-12-14 20:33 北京

NVIDIA RTX 5880 Ada 采用先进的 Ada Lovelace 架构，融合了第三代 RT Core、第四代 Tensor Core、新一代 CUDA® 核心与 ...

AI数据中心历史、技术与关键企业

科技 2024-12-13 18:54 北京

文章转载自公众号：OneFlow。本文只做学术/技术分享，如有侵权，联系删文。过去一年，通过模型架构创新、更优质训练数据和更大算力规模来训练模型，顶尖大模型之间的性能差距急 ...

揭秘！世界第一个采用CXL 3.1交换机的AI集群

科技 2024-12-12 16:39 北京

公开课预告12月13日19:30，# 智猩猩智算集群公开课开讲！阿里云智能集团智算集群产品专家陈祎将以《大模型时代的智算GPU集群》为主题进行直播讲解，欢迎扫码报名~ 在 ...

公开课预告：大模型时代的智算GPU集群｜阿里云智能集团智算集群产品专家陈祎主讲

科技 2024-12-11 15:41 北京

智算集群已成为大模型基建军备竞赛的标配。在大模型训练场景下，随着模型参数规模从千亿向万亿迈进，算力需求激增。同时，随着大模型在不同领域的应用落地，推理算力需求也迎来爆发式增 ...

GPU服务器支持的“卡数”由哪些因素决定？

科技 2024-12-11 15:41 北京

公开课预告12月13日19:30，# 智猩猩智算集群公开课开讲！阿里云智能集团智算集群产品专家陈祎将以《大模型时代的智算GPU集群》为主题进行直播讲解，欢迎扫码报名~ 前 ...

HBM制裁加码下的困境与出路

科技 2024-12-10 19:20 北京

公开课预告12月13日19:30，# 智猩猩智算集群公开课开讲！阿里云智能集团智算集群产品专家陈祎将以《大模型时代的智算GPU集群》为主题进行直播讲解，欢迎扫码报名~ 近 ...

Meta 万卡 GPU 集群稳定性剖析与最佳实践

科技 2024-12-09 17:50 北京

01 背景之前我们已经详细介绍过 Meta LLaMA 3 技术报告， Movie Gen 视频生成技术报告，以及背后的万卡 AI 集群网络建设。也介绍过 Meta、阿里 ...