Trainium是什么?亚马逊狂砸1.1亿美元

文摘   2024-11-17 21:31   北京  

点击蓝字 关注我们 每日更新

当前,生成式人工智能在合成图像、视频、文本和代码方面的应用日益广泛。据相关公司消息,亚马逊决定向大学主导的生成式人工智能研究投入 1.1 亿美元,旨在推动该领域实现突破。

    DALL - E、Midjourney 和 Stable Diffusion 等生成式人工智能系统如今常常能够生成极为逼真的图像。ChatGPT 作为知名度极高的生成式人工智能聊天机器人,不仅成功通过了法学院和商学院的考试,还能顺利回答软件编程工作的面试问题、撰写房地产房源信息以及创作广告内容。
    不过,开发新型生成式人工智能应用对计算能力的需求正不断攀升。正如两位研究人员于 1 月在《电气与电子工程师协会会刊》(Proceedings of the IEEE)发表的一篇略带调侃意味的论文中所提到的,此类计算资源往往远远超出了学术研究人员的能力范围。
    “如今,人工智能学术研究因资源匮乏而受到严重束缚,学术领域也因此迅速落后。” 亚马逊网络服务(AWS)旗下安纳普尔纳实验室(Annapurna Labs)业务发展高级总监加迪・赫特(Gadi Hutt)指出。
  亚马逊的 “基于 Trainium 构建” 计划:人工智能在学术界的新机遇
    赫特表示,作为亚马逊 “基于 Trainium 构建” 这一新计划的组成部分,亚马逊网络服务(AWS)构建了一个计算机集群,研究人员可通过预约使用多达 4 万个 Trainium 芯片。AWS 开发这些处理器是为了实现深度学习的高性能与低成本化。
    “通过‘基于 Trainium 构建’计划,AWS 正投资开展由大学前沿人工智能研究引领的新一轮人工智能研究与课程,这将促进生成式人工智能应用、库以及优化方面的发展。” 赫特说道。
    亚马逊称,一种针对 Trainium 的新编程接口 —— 神经元内核接口(Neuron Kernal Interface)为研究人员赋予了 “裸机” 芯片编程能力,使其能够直接访问芯片指令集,并且让使用者可以为新的模型运算和性能优化构建计算内核。
    “这太棒了。” 纽约大学计算机科学与工程系副教授朱利安・托格利乌斯(Julian Togelius)表示,“许多公司乐于共享资源,但前提是使用者必须使用特定的专有工具链。而现在能让研究人员在底层对硬件自身特性进行调整,这听起来真的很棒。” 托格利乌斯是《电气与电子工程师协会会刊》那篇论文的两位作者之一。
    赫特提到,AWS 的这一计划将与多所大学建立战略合作伙伴关系,其中包括卡内基梅隆大学和加州大学伯克利分校,在未来几周内还会公布更多合作院校信息。此外,该公司将在未来三到五年内通过多轮亚马逊研究奖项(以征集论文的方式),向更广泛的研究群体分配 Trainium 使用额度资助。赫特表示,研究人员现在就可以开始申请这些资助。总之,研究人员将有机会为大规模分布式 Trainium 集群构建新的人工智能架构、机器学习库并进行性能优化。
“基于 Trainium 构建” 计划的后续行动
    通过这一新计划开发的所有代码都将通过开源机器学习软件库对外公开。“亚马逊一直非常积极地与初创企业接触,如今将目标转向学术界是十分合理的。” 托格利乌斯说道,“这样可以让更多人利用他们的云系统开展研究,促使研究人员创办自己的公司,而这些公司可能会与 AWS 展开合作。”
    亚马逊指出,该计划还有助于培养未来的人工智能专家。赫特举例说,参与 “基于 Trainium 构建” 计划的人员将能够参与 AWS 针对 Trainium 开展的技术教育和赋能项目,这是与亚马逊芯片开发商安纳普尔纳牵头的神经元数据科学社区合作开展的。
    托格利乌斯认为,这项新计划成功的关键因素之一在于资助对象的选择方式。
    “问题在于亚马逊将如何分配这些资源,从而使人们去开展大型科技公司无法或不愿开展的工作?” 托格利乌斯说道,“如果亚马逊分配资源的方式与在公司内部的计算资源分配方式相同,那将收效甚微。我们应该关注那些大型科技公司因各种原因不投资的领域 —— 这些领域往往比较小众、实验性强、看起来很奇特 —— 是那种无法向风险投资家或股东推销的项目。学术界需要更加重视这些特殊领域。”
更多关于芯片和半导体的原创知识可以关注本公众号,每日更新!建议收藏点赞

~~~~~~~推荐一本近期卖到火爆的一本书~~~~~~

之前文章给大家推荐过,买过的禾粉反馈都不错!!!! 

与以往半导体、无线通信概论不同的是,作者是亲临一线的技术工作者。据说博士后期间,曾经一年左右的时间就完成了10次左右的投片(Tap out),大部分人都难以望其项背,属实妥妥的大牛!后来升职市场总监后(也有说法提到其已晋升为副总裁),让这位大牛有机会做一些技术分享和传承。而且作者自从做公众号开始,就秉持倾囊相授的理念,好多知识点都是老一代射频工程师都不愿意拿出来分享的,看家的本领。说是一字千金都不足为过。

点击下面京东链接就可以购买啦,给自己一个默默提高的机会!

  

芯评气和
集成电路(IC)、半导体、EDA深度原创媒体。专注于行业分析、芯片评测、技术分享。
 最新文章