业务交流|大数据与人工智能(AI)(六)
文摘
2024-09-26 14:51
贵州
●技术服务部 曹强 成开波 宋振 / 文
为帮助公司广大干部职工深刻理解大数据与人工智能(AI)这一引领未来科技发展的核心力量,我们精心整理了系列普及科技概念的交流素材,与大家共同学习。素材重在阐述两者的基本概念、它们之间紧密相连的相互关系、支撑其发展的关键软/硬件技术、算力及应用、大模型训练,以及这些技术在各行各业中的广泛应用领域,供大家探索这些前沿技术在公司业务中的应用潜力。
算力(Computational Power)是一个涉及计算机科学和信息技术的广泛概念,主要指计算机或服务器处理数据的能力;在数据中心就是数据中心服务器处理数据并输出结果的能力。以下是一些关于算力的基本知识和相关信息:算力通常指的是计算机系统执行计算任务的能力,包括但不限于处理速度、存储容量和网络带宽。它可以用于衡量从个人电脑到超级计算机的各种设备的性能。算力可以通过多种方式衡量,如计算速度、能耗、精度、并行度等。常用的算力衡量指标包括FLOPS(每秒浮点运算次数)、IPS(每秒指令数)、TPS(每秒事务数)等。例如,1TFLOPS意味着每秒能完成1万亿次浮点运算。• FLOPS(Floating Point Operations Per Second):每秒浮点运算次数,是衡量算力的一个常见指标。FLOPS (Floating Point Operations Per Second):基本单位,表示每秒一次浮点运算。KFLOPS (Kilo-FLOPS):每秒1,000次浮点运算(每秒千次浮点运算)。MFLOPS (Mega-FLOPS):每秒1,000,000次浮点运算(每秒百万次浮点运算)。GFLOPS (Giga-FLOPS):每秒1,000,000,000次浮点运算(每秒十亿次浮点运算)。TFLOPS(Tera-FLOPS):每秒1,000,000,000,000次浮点运算(每秒万亿次浮点运算)。PFLOPS(Peta-FLOPS):每秒1,000,000,000,000,000次浮点运算(每秒千万亿次浮点运算)。EFLOPS(Exa-FLOPS):每秒1,000,000,000,000,000,000次浮点运算(每秒百亿亿次浮点运算)。
算力转换遵循十进制原则,每个单位比其前一个单位大1000倍:1MFLOPS = 1000 KFLOPS = 1,000,000 FLOPS1GFLOPS = 1000 MFLOPS = 1,000,000,000 FLOPS1TFLOPS = 1000 GFLOPS = 1,000,000,000,000 FLOPS1PFLOPS = 1000 TFLOPS = 1,000,000,000,000,000 FLOPS1EFLOPS = 1000 PFLOPS = 1,000,000,000,000,000,000 FLOPS
单台计算机的浮点计算能力可以通过不同的硬件和配置来衡量。• CPU的算力与CPU核数、单核主频、CPU单个周期浮点计算能力三个因素有关。• GPU的算力同样和CPU核数、单核主频、CPU单个周期浮点计算能力三个因素有关。不过GPU每周期浮点算力值:FP32单精度为2,FP64双精度为1。GPU的并行计算架构使得其在处理浮点运算时具有高效性。• 一个MFLOPS(megaFLOPS)等于每秒一百万次的浮点运算。• 一个GFLOPS(gigaFLOPS)等于每秒十亿次的浮点运算。• 一个TFLOPS(teraFLOPS)等于每秒一万亿次的浮点运算。• 一个PFLOPS(petaFLOPS)等于每秒一千万亿次的浮点运算。• FLOAS=核数*单核主频*CPU单个周期浮点计算值。例如,Intel® Xeon® Gold 5218R Processor的算力计算为:20核*2.1GHz*16次=672 GFLOPS(单精度浮点运算峰值性能:每个周期内的浮点运算数将是16个;双精度浮点运算峰值性能:每个周期内的浮点运算数将是8个)。
再举例子1: 使用 Intel 至强可扩展系列处理器假设我们有一台服务器配备了两个Intel Xeon Platinum 8380处理器,每个处理器具有32核心,基础频率为2.0 GHz,并支持 AVX-512 指令集。AVX-512允许每个时钟周期完成16个单精度浮点运算。单CPU算力=2048 GFLOPS=0.002048 PFLOPS因此,这台服务器在单精度浮点运算下的理论峰值性能大约是 2048 GFLOPS(0.002048 PFLOPS)。假设我们有一台服务器配备了两个AMD EPYC 7763处理器,每个处理器具有64核心,基础频率为2.45GHz,并支持 AVX2 指令集。AVX2允许每个时钟周期完成8个单精度浮点运算。单CPU算力=2508.8 GFLOPS=0.0025088 PFLOPS因此,这台服务器在单精度浮点运算下的理论峰值性能大约是 2508.8 GFLOPS(0.0025088 PFLOPS)。假设我们有一台服务器配备了NVIDIA A100 GPU,它具有6912个CUDA核心,基础频率为1.41 GHz,并且支持 Tensor Cores进行加速计算。假设每个时钟周期可以完成32个单精度浮点运算。单GPU算力=CUDA核心数×主频×单周期浮点运算数单GPU算力=32098.56 GFLOPS=0.03209856 PFLOPS因此,这台服务器在单精度浮点运算下的理论峰值性能大约是 32098.56 GFLOPS(0.03209856 PFLOPS)。我们可以看到单台计算机的浮点计算能力具体取决于所使用的硬件配置和优化。
基础算力基于CPU,用于通用计算;智能算力基于GPU、FPGA、ASIC等AI芯片,用于AI训练和推理;超算算力由超级计算机提供,用于尖端科学计算。此外,还有通用算力和HPC(高性能计算)算力之分,后者涉及大量计算资源。• CPU(中央处理器):传统的算力核心,处理各种计算任务。• GPU(图形处理器):擅长并行处理,常用于图形渲染和深度学习。• TPU(张量处理单元):专为机器学习优化的处理器。• ASIC(专用集成电路):为特定任务定制的芯片,如比特币挖矿。• 云计算:通过互联网提供计算资源,用户可以按需使用。• 边缘计算:将计算任务分散到网络的边缘,减少延迟。• 量子计算:利用量子力学原理进行计算,具有巨大的潜力。• 算力市场:算力可以作为一种资源进行交易,影响经济结构。• 算力竞争:不同国家和企业在算力上的竞争,影响科技和经济的发展。• 异构计算:结合不同类型的处理器,优化计算效率。• 分布式计算:将计算任务分布在多个网络连接的计算机上。• 超算(超级计算):使用大量处理器组成的系统,执行大规模计算任务。• 热管理:随着算力的提升,散热问题变得日益严重。• 数据安全:在网络化计算中保护数据的安全和隐私。• 数字鸿沟:算力的不平等分配可能导致社会不平等。
算力单位反映了计算机系统的计算能力,从简单的每秒一次运算到极其复杂的每秒百亿亿次运算,这些单位帮助我们量化不同系统或硬件组件的性能。在选择硬件或评估计算任务的可行性时,了解这些单位及其相互关系是非常重要的。
■ 股票名称:贵广网络
■ 股票代码:600996
■ 编辑:陈 岳
■ 编审:杨晓蓉
■ 审签:夏 辉