NVIDIA 在亚马逊云科技 re:Invent 上使用加速计算推进 AI 发展

科技   2024-11-26 18:21   北京  

在 12 月 2 日至 6 日于拉斯维加斯举行的这场年度大会上,了解更多有关 NVIDIA 最新技术的信息。



加速计算正在为 AI 和数据处理工作负载提供超强助力,帮助各行各业的企业以更短的时间和更低的成本实现更高的效率。


十多年来,NVIDIA 一直与亚马逊云科技(AWS)合作,共同为全球企业和开发者带来加速计算。


12 月 2 日至 6 日,NVIDIA 将在于拉斯维加斯举行的亚马逊云科技 re:Invent 2024 上展示全栈产品。与会者可以深入了解在亚马逊云科技上所提供的各种 NVIDIA 软硬件平台,以及合作伙伴和客户如何使用它们来加速计算最密集的工作负载。


重要会议包括:


  • “亚马逊云科技上的 NVIDIA 加速计算平台”,由 NVIDIA 加速计算产品总监 Dave Salvator 主讲 AIM110-S)


  • “在亚马逊云科技上使用 NVIDIA 构建、定制和部署生成式 AI”,由 NVIDIA 产品经理 Abhishek Sawarkar 和 NVIDIA 高级产品市场 Charlie Huang 主讲 (AIM241-S)


  • “推进物理 AI:适用于下一代机器人技术的 NVIDIA Isaac Lab 和亚马逊云科技”,由 NVIDIA 技术市场工程师 Rishabh Chadha、亚马逊云科技高级解决方案架构师 Abhishek Srivastav 和亚马逊云科技首席企业架构师 Shaun Kirby 主讲 (AIM113-S)


  • “NVIDIA AI 初创公司:正在进行的创新”,由 NVIDIA 初创加速计划云合作伙伴关系和产品上市全球负责人 Jen Hoskins,以及来自 Bria、Contextual AI、Hippocratic AI、Mendel AI、Twelve Labs 和 Writer 等初创加速计划会员公司的演讲者主讲 (AIM121-S)


  • “AI 驱动的价值:Capital One 优化客户体验之路”,由 NVIDIA 大语言模型软件产品管理高级总监 Joey Conway 和 Capital One 首席科学家兼企业 AI 负责人 Prem Natarajan 主讲 (AIM130-S)


  • “使用 RAPIDS 将亚马逊云科技上的 Apache Spark 提速 5 倍”,由 NVIDIA 高级工程总监 Sameer Raheja 主讲 (ANT208-S)


若要获得更多上手体验,请参加亚马逊云科技 Jam 会议和工作坊:


  • AWS Jam:使用 NVIDIA NIM 构建 RAG 聊天智能体 (GHJ305)


  • 在 AWS Batch 上使用 NVIDIA Isaac Lab 进行机器人仿真 (MFG319)


  • NVIDIA Jetson 上使用 AWS IoT Greengrass 实现边缘计算 (IOT316)


  • 使用 NVIDIA BioNeMo 构建可扩展的药物发现应用 (HLS205)


  • 使用 NVIDIA Omniverse 从照片、视频和激光雷达创建沉浸式 3D 数字孪生 (CMP315)


NVIDIA 将在 1620 号展台进行各种演示,包括即将在 Amazon Elastic Compute Cloud(Amazon EC2)和 NVIDIA DGX Cloud 上推出的 NVIDIA GB200 NVL72 完整机架,以及来自波士顿动力的敏捷移动机器人 Spot。


(以上议程,请以大会官网公告的会议时间为准)


在亚马逊云科技上展示 NVIDIA 平台的其他演示包括:


  • 使用 NVIDIA Omniverse 驱动数字孪生和物理 AI


  • 使用 NVIDIA NIM 更快部署生成式 AI


  • 使用 NVIDIA AI Blueprint 加速 AI 部署,包括用于加速药物发现的生成式虚拟筛查


  • 亚马逊云科技上的 NVIDIA 加速计算平台:硬件展示与介绍


  • 基于亚马逊云科技的 RAPIDS 欺诈预防参考架构


NVIDIA 还将展示来自精选合作伙伴和客户的演示,包括初创公司 Balbix、Bria、Mendel AI、Standard Bots、Union 和 Writer。


与会者可以进一步了解有关 NVIDIA 在亚马逊云科技上的全栈加速计算平台的更多信息,包括今年发布的三种全新 Amazon EC2 实例类型:适用于大规模 AI 训练和推理的 Amazon EC2 P5e 实例、适用于 AI 和图形的 G6e 实例以及适用于小模型部署的 G6 实例。


此外,与会者还可以了解 NVIDIA 经 GPU 优化的软件堆栈如何为各项亚马逊云科技服务带来高性能,使开发者能够轻松地在云中加速他们的应用,例如:


  • 生成式 AI:NVIDIA NeMo 和 NIM 微服务作为 NVIDIA AI Enterprise 软件平台的一部分提供,并且可在亚马逊云科技 Marketplace 中使用,可在 Amazon EC2、Amazon SageMaker 和 Amazon Elastic Kubernetes Service(EKS)上实现生成式 AI 构建、定制和部署。


  • 数字孪生和物理 AI:亚马逊云科技上的 NVIDIA Earth-2 气象仿真,以及使用 AWS Batch 进行机器人仿真和学习的 NVIDIA Isaac Sim 和 Isaac Lab。


  • 医疗:适用于药物发现应用的 NVIDIA BioNeMo,包括适用于虚拟筛选的 NVIDIA AI Blueprint 以及适用于蛋白质预测和小分子生成的 NIM 微服务,由 AWS Healthomics 提供支持。


  • 数据处理:用于加速分析和机器学习工作负载的 RAPIDS Accelerator for Apache Spark,可在 Amazon EMR、Amazon EC2 和 Amazon EMR on EKS 上使用。


  • 边缘 AI:AWS IoT Greengrass 与 NVIDIA Jetson 结合使用,可简化生成式 AI 模型的部署,以及互联边缘设备群与机器人编队的管理。


NVIDIA 初创加速计划是一项面向前沿初创公司的计划。其成员已经在使用亚马逊云科技上的 NVIDIA 平台来测试、开发和部署最具挑战性的工作负载:


  • Twelve Labs 在升级到 NVIDIA H100 Tensor Core GPU 后,每秒处理请求服务的推理能力最多提高了 7 倍。该公司即将以 NIM 微服务的形式推出 Marengo 和 Pegasus 模型,驱动能够对嵌入式企业视频档案进行语义搜索的视频 Al 解决方案。


  • Wiz 使用 NIM 微服务进行 DSPM 数据分类,其推理吞吐速度较其他替代方案提高一倍。


  • Writer 使用搭载 NVIDIA H100 GPU 的 SageMaker HyperPod 将模型迭代周期加快了 3 倍。借助 NVIDIA 加速计算和亚马逊云科技,Writer 优化了其 Palmyra 模型的训练和推理,大大缩短了客户的产品上市时间。


NVIDIA 初创加速计划通过提供最新的 NVIDIA 技术、接触风投公司的机会以及获取技术资源和专家的支持,帮助初创公司更快发展。


报名参加亚马逊云科技 re:Invent,了解企业如何使用亚马逊云科技上的 NVIDIA 加速计算加快其生成式 AI 和数据处理工作负载:

https://reinvent.awsevents.com/register/


如果想在展会上与 NVIDIA 专家见面,请发送电子邮件

mailto:aws-team@nvidia.com



点击“阅读原文”,或扫描下方海报二维码,观看 NVIDIA CEO 黄仁勋特别演讲以及和软银集团 CEO 孙正义的炉边谈话回放。

NVIDIA英伟达企业解决方案
NVIDIA,一家全栈计算公司,其一直是加速计算领域的先驱,GPU 驱动了PC游戏市场增长,重新定义现代计算机图形,开启现代AI时代,正在推动工业元宇宙的创造。
 最新文章