大模型技术关键特性与发展趋势

学术   2024-09-28 18:00   湖南  


自1956年达特茅斯会议至今,人工智能经历三个主要发展阶段,呈现从手工总结到自动学习,从离散符号到连续参数,从专用智能到通用智能的趋势。

单个预训练大模型可同时处理多种任务。在若干权威评测上达到或超过人类水平,远超传统任务专用小模型的水平。

获取通用知识需要大数据 ,存储通用知识需要大参数,训练大参数模型需要大算力。过去 4 年间,训练数据增长 500 倍,参数规模增长 5000 倍,计算量增长 10000 大数据+大算力使大模型具备大规模通用知识,可处理复杂任务。

1、AI系列深度报告(一):光模块AIGC高景气持续,800G+产品需求旺盛

2、AI系列深度报告(二):HBM高带宽特性释放AI硬件性能,AI高景气持续驱动需求高增 3、AI系列深度报告(三):政策与技术螺旋前进,高级别自动驾驶商业闭环雏形已现

推荐阅读

2.9K Star,开源抖音火了

政府大数据建设总体方案(附原版PPT下载)

给抖店报个BUG,账都能算错?

大模型技术在AIGC领域的应用探索(附PPT下载)

顶级商业洞察,抖音进军本地生活,抖店是要黄了吗?

突发,给茶百道做保鉴的中金公司被监管,其人力总监:某司什么时候被监管

数字化转型方案设计(附PDF下载)

甩锅大王字节跳动,你不知道它的猥琐和伪科技

2023ChatGPT研究框架报告

茶百道的商业核心(绝密),都在这条留言里了


架构进阶
创天下NUDT校友企业联盟,关于架构、也关于科技、偶尔的八卦
 最新文章