从“冯·诺依曼架构”说起：传统计算模式的困境
1. 数据传输瓶颈：在冯·诺依曼架构中，数据频繁在内存和CPU之间搬运。这一过程带来显著的延迟，系统难以高效处理数据，尤其在大数据和AI模型的应用场景中表现尤为突出。
2. 高能耗：频繁的数据传输不仅增加了电力消耗，还带来了硬件的发热和散热成本，在能源要求越来越高的计算任务中成为一大限制。
3. 资源利用率低：CPU和内存之间常常互相等待，尤其在密集计算任务中，导致系统资源的利用效率低下。
存算一体化：突破冯·诺依曼瓶颈的创新
存算一体化的三大优势：
显著降低延迟：数据在存储器内直接处理，无需频繁搬运，大大减少了延迟。 降低能耗：减少数据搬运所需的电力消耗，延长设备续航，提高系统能效。 提升并行计算效率：特别适用于大规模并发计算任务，如深度学习和大数据分析。
1. 近存计算（PNM）：近存计算是一种较为成熟的技术路径，采用先进的封装技术，将计算逻辑芯片和存储器封装在一起，缩短内存和处理单元之间的路径，以实现更高的I/O密度，带来高带宽和低访问开销。该方案主要依托2.5D、3D堆叠等技术，广泛应用于CPU和GPU等高性能处理器中，是实现存算一体化的首选方案之一。
2. 存内处理（PIM）：存内处理旨在尽可能多地将计算过程嵌入到存储器内部，减少处理器对存储器的访问频率。通过在存储器中直接完成大部分计算任务，这一技术有效降低了数据搬运需求，有助于缓解冯·诺依曼瓶颈带来的限制。这种方案在内存密集型任务上具有显著的性能优势，被认为是未来智能计算的重要实现路径。
3. 存内计算（CIM）：存内计算也称为国内一些公司推崇的“存算一体”。它通过对存储器结构进行改进，使其直接具备计算能力。存内计算有两种实现思路：
电路革新：通过改动SRAM或MRAM等存储器，使其具备计算功能，这种方法能效比高，但计算精度可能受限。 集成计算单元：在存储器（如DRAM）中集成额外计算单元，以支持高精度计算。然而，由于DRAM工艺对计算逻辑电路的适应性差，这一方式面临较大的工艺挑战。
边缘计算：让数据在源头处理的高效模式
边缘计算的三大优势：
低延迟：数据在靠近源头的位置处理，无需传输至云端，响应时间显著降低。 减轻网络负担：边缘计算设备完成初步数据处理，仅上传关键信息至云端，减少了网络流量压力。 提升数据隐私保护：在本地处理敏感数据，无需频繁上传至云端，有助于保护用户隐私。
存算一体化与边缘计算的结合：智能计算的加速器
· 物联网设备的数据处理
· 边缘AI推理
· 工业实时控制
· 数据隐私保护
技术趋势与挑战
硬件研发复杂：存算一体化技术涉及复杂的芯片设计和制造，如何在存储芯片内部高效集成计算单元仍是关键难题。芯片的工艺和计算精度也需要进一步提升。 设备多样性与适配难题：边缘设备种类繁多、资源配置差异较大，如何提供通用的存算一体化解决方案是技术难点。未来需设计低成本、高通用性的存算一体化边缘芯片。 软件生态支持：存算一体化架构需要完整的软件支持，例如优化的编译器、计算框架和编程工具链，开发者需针对硬件架构优化算法和模型。 隐私和安全保障：边缘计算设备处理大量数据，如何保障数据加密和隐私安全也是技术发展的重点。
展望：智能计算的未来
边缘AI应用普及：存算一体化和边缘计算的结合使得边缘AI计算变得高效，更多智能应用将在边缘设备上实现。 智能终端设备的自主化：存算一体化提升了边缘设备的计算能力，减少对云端依赖，使设备更具自主性。 低能耗的分布式计算模式：存算一体化减少数据传输能耗，边缘计算的分布式架构能降低云端负荷，使得网络资源更高效。
边缘五年，逐梦前行——第十届全球边缘计算大会强势回归！
2024-10-31
2024-10-20
2024-10-10
2024-04-22
2024-04-09
