Amazon Web Services(AWS) 2024年度的re:Invent大会上周在美国内华达州拉斯维加斯举行,这是自该系列会议12年前启动以来规模最大的一届。
为何如此盛大?
答案自然是生成式人工智能(Generative AI),以及科技巨头和初创公司之间在为企业提供实用工具方面日益激烈的竞争——这是AWS的核心业务。
大会亮点
1.AWS为Bedrock引入多智能体协调功能
AWS在其Bedrock平台上推出了多智能体(Multi-Agent)协调功能,使企业能够构建协作式AI智能体并优化工作流程。例如,这项升级帮助公司如穆迪(Moody's)通过协调特定任务的智能体,实现更精准的分析。
2. Bedrock自动推理功能:消除AI幻觉
AWS为Bedrock新增了“模型蒸馏”和“自动推理检查”功能,前者用于训练更小更快的AI模型,后者用于减少AI幻觉(错误回答)。这些工具旨在提高响应准确性,并支持企业根据特定需求创建定制模型。
3. AWS SageMaker升级为数据与AI集成中心
SageMaker引入下一代功能,包括Lakehouse和Unified Studio,使企业能够快速从各种数据源中整合数据,加速AI应用开发。
4.Amazon Nova AI模型家族亮相
亚马逊推出了Nova生成式AI模型家族,专注于文本、图像和视频内容生成。Nova模型已集成至Bedrock,为企业提供定制化创意工具及先进的AI应用支持。
5.Qodo推出AI回归测试智能体Qodo Cover
Qodo推出了一款完全自主的回归测试智能体,名为Qodo Cover,通过自动生成并验证测试集简化软件质量验证。该工具基于Meta的TestGen-LLM构建,已经在Hugging Face等重要机器学习平台中证明了其能力。
6.AWS推出HyperPod任务治理功能,GPU成本降低40%
SageMaker HyperPod引入任务治理功能,优化GPU使用率,通过智能化资源分配和任务优先级管理,将AI基础设施成本削减40%。
7.Bedrock启用Prompt缓存功能,成本降低90%
AWS推出智能提示路由(Intelligent Prompt Routing)和提示缓存(Prompt Caching)功能,分别实现最高30%和90%的成本节省。提示缓存通过存储常见查询,显著减少企业运行AI应用的费用和延迟。
8. AWS发布结构化和非结构化数据的RAG增强功能
AWS推出新工具简化检索增强生成(RAG)工作流,包括Bedrock知识库和GraphRAG功能。这些工具可自动生成SQL查询和知识图谱,无需定制代码或专业技能。
9. 处理非结构化数据的新功能:Bedrock数据自动化
AWS推出Bedrock数据自动化功能,将PDF、音频和视频等非结构化数据转换为适用于生成式AI的结构化格式。这种生成式AI驱动的ETL工具能够大规模处理多模态内容,简化数据准备并扩展AI对多样化企业数据集的应用能力。
总结
AWS 2024 re:Invent大会展示了其在先进AI、数据分析和生成式工具领域的最新成果。这些创新旨在帮助企业在AI竞争中占据领先地位。