CNCC | 揭秘大模型训练的底层逻辑：网络与计算的深度融合之战

张宇超

北京邮电大学长聘副教授、博士生导师、网络与通信软件中心主任

CCF高级会员、YOCSEF总部学术AC、互联网专委会委员、区块链专委会委员、分布式计算与系统专委委员，主要从事计算机网络、人工智能、网络安全方向研究工作。先后主持和参与国家重点研发计划、国家自然科学面上项目、青年项目、北京市自然科学基金重点专项等国家级和省部级项目，相关成果以第一/通信作者发表国内外高水平论文60余篇、获得国家发明专利25项、美国/PCT专利6项，以第一作者完成英文专著1部、丛著3部，参与制定国家行业标准4项，2023年入选北京市科技新星人才计划。

崔来中

深圳大学教授、计算机与软件学院副院长

CCF杰出会员、互联网专委会常委，大数据专家委员会委员、区块链专委会委员，深圳大学计算机与软件学院特聘教授，博士生导师，深圳大学计算机与软件学院副院长，粤港现代信息服务省部共建协同创新中心执行主任，人工智能与数字经济广东省实验室（深圳）主任助理。研究领域包括：互联网体系结构、边缘计算、区块链、分布式机器学习和多媒体网络。担任IEEE TCC、IEEE TNSM、IEEE IoTJ等期刊的副编辑。主持国家自然科学基金联合基金重点项目、国家重点研发计划课题、广东省自然科学基金卓越青年团队、深圳市优青（首届）等科研项目。在国内外重要期刊和会议上发表论文100余篇。入选教育部青年长江学者、广东省青年珠江学者。

谢高岗

中国科学院大学教授

CCF高级会员，研究员，博士生导师，中国科学院大学岗位教授，主要从事计算机网络体系结构与分布式计算系统的研究工作。获得国家杰出青年科学基金、重点研发等项目资助，相关成果发表在SIGCOMM、SIGMOD、JSAC、ToN等学术会议与期刊，获国家科技进步二等奖、电子学会技术发明一等奖等奖励。

报告题目：算网融合高效数据平面实现研究

摘要：大模型训练、AR/VR等业务需要网络提供低时延、高带宽的数据包传输处理，构建灵活高效的数据平面至关重要。本报告分析实际应用系统网络传输性能瓶颈，探讨数据包转发算法、传输协议与网络内计算等构建高效数据平面实现机制。

杨鲲

南京大学教授、智慧网络与通信研究院院长

CCF高级会员，南京大学国家特聘教授，智慧网络与通信研究院院长，欧洲科学院(Academia Europaea)院士MAE，国家级高层次人才入选者，IEEE Fellow。英国伦敦大学学院（UCL）电子与电气工程系博士，吉林大学计算机科学系本硕。主要研究兴趣包括：无线网络和通信、通信-计算-感知的融合、AI技术赋能网络和通信等。在国际核心期刊和主要会议发表论文500多篇, 多国专利50多件。IEEE InterCloud创始成员及六个执行常委之一，世界移动大会WMC GSMA GLOMO大奖（业界著名的巴奖）的评审专家，多个IEEE 期刊编委（如WCM, TVT, TNB），IET Smart Cities 期刊副主编。

报告题目：多模态大模型赋能6G弱通信

摘要：讲座聚焦生成式AI如何赋能特殊场景中信道条件差的弱通信（目前主流的是高速率大带宽的强通信）。在简短介绍6G系统演进之后提出目前通信网络所面临的挑战，然后引入以神经网络和机器学习为代表的新一代人工智能AI技术助力通信网络内生智能的思路，并重点介绍语义通信以及如何使用多模态大模型来赋能弱通信，进而给出具体实施方案建议和具体实现技术示例和原型系统演示。

杜军朝

西安电子科技大学教授

CCF杰出会员、互联网专委会常委、嵌入式系统专委会常委，西安电子科技大学“华山学者”领军教授、博导，国际级人才，教育部区块链技术应用与测评工程研究中心常务副主任，陕西省智能人机交互与可穿戴技术重点实验室骨干，陕西省科技创新团队负责人，陕西省秦创原科学家+工程师团队首席科学家，ACM西安分会常务理事，ACM中国图灵大会组委。以第一完成人获：2022教育部技术发明二等奖、2021/2019陕西省高等学校科学技术特等奖/一等奖。出版国家重点图书出版规划教材《ZigBee技术原理与实战》。承担国家自然基金重点、省部级项目多项。在国际旗舰会议ACM Ubicomp、ACM Mobisys、IEEE/ACM期刊等发表论文多篇，获得2017 ACM Ubicomp杰出论文奖（CCF A类）。

报告题目：异构计算平台中混合负载的计算调度关键技术研究

摘要：在异构计算平台中，面向深度学习模型训练、推断以及大数据处理等混合负载的多目标计算需求，计算框架与调度技术是关键。本报告针对异构计算平台中面临的计算资源异构、混合负载复杂需求的挑战，分析国内外的计算框架和调度技术，介绍团队在异构计算资源和混合负载的画像技术，计算能力供给与复杂负载需求的耦合性与亲和性计算技术，计算调度以保障混合负载的复杂多样服务质量等方面的研究工作。

董德尊

国防科技大学研究员

国防科技大学计算机学院研究员、博导，教育部长江学者、全国百篇优秀博士论文奖获得者、国防卓青基金获得者、湖南省杰青基金获得者，主要研究方向为计算机体系结构、高性能与智能计算、并行与分布式系统，作为银河/天河副主任设计师，长期参与国产高性能计算机系统研制工作，荣立军队个人二等功，获湖南省教学成果特等奖、军队科技进步一等奖、中国电子学会自然科学二等奖、湖南省自然科学一等奖、湖南省计算学会科学技术一等奖等，在CCF推荐的A/B类国际刊物发表论文70余篇，入选2017年中国科协优秀科技论文遴选计划，获2022年IEEE Transactions on Computers最佳论文奖亚军，担任《Fundamental Research》、《国防科技大学学报》、《计算机工程与科学》等期刊编委，CCF杰出会员、体系结构专委常委、分布式计算与系统专委常委、高性能计算专委执委等，多次担任CCF系统大会/芯片大会/体系结构年会/高性能计算年会、ChinaSys、HiPEAC等本领域国内外重要学术会议的大会/程序/组织/宣传/注册/主席/副主席/委员等。

报告题目：面向超算与智算的高性能互连通信技术

摘要：在高性能与智能计算系统中，随着任务并行规模和计算模型复杂度的增长，互连通信成为制约系统可扩展性的关键因素之一。为了提升并行智能系统的可扩展性，需要从不同层次和维度进行思考和尝试，包括在芯片内探索互连微架构的高带宽/低延迟/低开销设计优化，在芯片间探索拓扑/路由/流控/通信库等的端到端/全协议栈优化，在系统级探索应用驱动的算法/计算/通信的协同优化，本报告将讨论课题组面向超算与智算的高性能互连通信技术的部分研究成果。

王志波

浙江大学教授、网络空间安全学院副院长

CCF杰出会员、物联网专委会常委，浙江大学教授，网络空间安全学院副院长，国家优青。现为ACM/IEEE/电子学会高级会员、人工智能学会智能信息网络专委会常委、电子学会网络空间安全专家委员会副秘书长。研究方向包括智能物联网、人工智能安全、数据安全与隐私保护，发表CCF A类论文70余篇，多篇论文荣获最佳论文奖和最佳学生论文奖，入选2023年全球前2%顶尖科学家榜单。主持国家优青、联合基金重点项目、科技创新2030-新一代人工智能重大项目课题等多项国家级项目，研究成果服务于华为、阿里、蚂蚁金服、杭州城市大脑等企业。荣获电子学会自然科学一等奖，浙江省自然科学一等奖和IEEE 可扩展技术专委会职业中期研究成就奖等多个奖项。

报告题目：端云大模型协同计算与安全初探

摘要：以GPT-4为代表的大模型浪潮席卷全球，成为赋能千行百业、驱动新质生产力发展的关键引擎。随着终端设备的智能化不断提升，以及用户使用大模型时的隐私担忧，在终端部署和应用大模型将成为未来趋势。然而，资源受限的终端难以支撑大模型的计算需求，亟需结合云侧资源协同计算共同使能大模型训练与推理。本报告将探讨端云大模型协同计算所面临的需求与挑战，分享团队在端云协同计算与安全方面的积累以及在大模型上所做的尝试。

CNCC2024将于10月24-26日在浙江省东阳市横店镇举办，大会主题为“发展新质生产力，计算引领未来”。大会为期三天，包括18个特邀报告、3个大会论坛、138个专题论坛及34场专题活动和100余个展览。图灵奖获得者、两院院士、国内外顶尖学者、知名企业家在内的超过800位讲者在会上展望前沿趋势，分享创新成果。预计参会者超过万人。