WXRedian | 算力猩

SC24｜谷歌AI加速器：TPU v6e Trillium技术解析

科技 2024-12-18 19:30 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 在刚刚结束的 SC24 大会上，谷 ...

公开课预告：大规模异构GPU集群的互联、运维与调度｜基流科技技术负责人敬阳主讲

科技 2024-12-17 16:01 北京

智算集群是打造大模型的标配。为了支撑更多、更大规模的模型训练与推理，智算集群建设速度和规模正在飞速增长。NVIDIA GPU是构建智算集群的首选计算芯片，但是受产能不足、国 ...

揭秘 AWS 10p10u 最新网络架构！

科技 2024-12-17 16:01 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 在AWS re:Invent 20 ...

AI时代的以太网：应对大规模GPU集群网络挑战

科技 2024-12-16 19:14 北京

公开课预告12月19日19:30，基流科技技术负责人敬阳将以《大规模异构GPU集群的互联、运维与调度》为主题进行直播讲解，欢迎扫码报名~ 主要内容1. AI训练对网络架构的 ...

智算中心正在CDN化

科技 2024-12-15 21:52 北京

编者按CDN行业，整体不怎么赚钱。核心原因在于，用户的业务系统构建在公有云或自建的私有云。仅仅是调用CDN资源，对CDN服务没有依赖。当有稍微便宜哪怕仅1%的其他CDN资源 ...

博通3.5D F2F技术：定义AI XPU的未来

科技 2024-12-14 20:33 北京

博通（Broadcom）推出的3.5D F2F（Face-to-Face）技术，为AI加速器（XPU）的下一代设计提供了革命性的系统封装解决方案。这项创新结合了3D堆叠与2 ...

NVIDIA RTX™ 5880 Ada 性能解析与私有化大模型部署｜在线研讨会直播预告

科技 2024-12-14 20:33 北京

NVIDIA RTX 5880 Ada 采用先进的 Ada Lovelace 架构，融合了第三代 RT Core、第四代 Tensor Core、新一代 CUDA® 核心与 ...

AI数据中心历史、技术与关键企业

科技 2024-12-13 18:54 北京

文章转载自公众号：OneFlow。本文只做学术/技术分享，如有侵权，联系删文。过去一年，通过模型架构创新、更优质训练数据和更大算力规模来训练模型，顶尖大模型之间的性能差距急 ...

揭秘！世界第一个采用CXL 3.1交换机的AI集群

科技 2024-12-12 16:39 北京

公开课预告12月13日19:30，# 智猩猩智算集群公开课开讲！阿里云智能集团智算集群产品专家陈祎将以《大模型时代的智算GPU集群》为主题进行直播讲解，欢迎扫码报名~ 在 ...

公开课预告：大模型时代的智算GPU集群｜阿里云智能集团智算集群产品专家陈祎主讲

科技 2024-12-11 15:41 北京

智算集群已成为大模型基建军备竞赛的标配。在大模型训练场景下，随着模型参数规模从千亿向万亿迈进，算力需求激增。同时，随着大模型在不同领域的应用落地，推理算力需求也迎来爆发式增 ...

GPU服务器支持的“卡数”由哪些因素决定？

科技 2024-12-11 15:41 北京

公开课预告12月13日19:30，# 智猩猩智算集群公开课开讲！阿里云智能集团智算集群产品专家陈祎将以《大模型时代的智算GPU集群》为主题进行直播讲解，欢迎扫码报名~ 前 ...

HBM制裁加码下的困境与出路

科技 2024-12-10 19:20 北京

公开课预告12月13日19:30，# 智猩猩智算集群公开课开讲！阿里云智能集团智算集群产品专家陈祎将以《大模型时代的智算GPU集群》为主题进行直播讲解，欢迎扫码报名~ 近 ...

Meta 万卡 GPU 集群稳定性剖析与最佳实践

科技 2024-12-09 17:50 北京

01 背景之前我们已经详细介绍过 Meta LLaMA 3 技术报告， Movie Gen 视频生成技术报告，以及背后的万卡 AI 集群网络建设。也介绍过 Meta、阿里 ...

通往万亿晶体管GPU之路

科技 2024-12-08 18:27 北京

人工智能的繁荣发展需要新的芯片技术。1997年，IBM的“深蓝”超级计算机打败了国际象棋世界冠军加里•卡斯帕罗夫。这是超级计算机技术的一次突破性展示，也首次让人们看到了高性 ...

亚马逊芯片帝国背后的功臣

科技 2024-12-07 18:43 北京

文章转载自公众号：半导体行业观察。本文只做学术/技术分享，如有侵权，联系删文。在一个以匿名公司办公塔为主导的平淡的北奥斯汀北部社区中，Amazon工程师正在技术行业最雄心勃 ...

比GPU快20倍？d-Matrix推理性价比分析

科技 2024-12-06 12:04 北京

文章转载自公众号：OneFlow。本文只做学术/技术分享，如有侵权，联系删文。AI推理算力需求正在大幅增长。一方面，像硅基流动、Fireworks这样的AI基础设施软件公司 ...

AWS最强AI芯片，深度解读！

科技 2024-12-05 15:24 北京

文章转载自公众号：半导体行业观察。本文只做学术/技术分享，如有侵权，联系删文。亚马逊目前正在进行全球最大的 AI 集群建设之一，部署了大量 Hopper 和 Blackwe ...

功能安全的图形显示解决方案与汽车制造业模拟数字孪生平台 | NVIDIA 加速汽车制造与智驾开发专场直播预告

科技 2024-12-05 15:24 北京

AI 计算领域一骑绝尘的 NVIDIA，在汽车领域同样拥有雄厚的技术实力，能够从车载计算、智能座舱、自动驾驶应用程序开发与部署，以及整车制造等不同方面，为汽车产业提供全方位 ...

公开课预告：OISA构建开放高性能GPU卡间互联体系｜中国移动研究院李锴主讲

科技 2024-12-04 11:23 北京

10月起，智猩猩芯片与算力教研组全新策划推出「智猩猩智算集群公开课」，聚焦集群构建、互联网络、算力调度、存储等关键技术。目前，「智猩猩智算集群公开课」前四期已顺利完结。腾讯 ...

NVIDIA GH200 内部架构探究

科技 2024-12-04 11:23 北京

大会预告12月5-6日，智猩猩联合主办的2024中国生成式AI大会（上海站）将举办。主会场将进行大模型峰会、AI Infra峰会，分会场将进行端侧生成式AI、AI视频生成和 ...