首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

AI Infra：计算通信overlap实战分享

文摘   2025-01-30 13:00   山西  

在4090卡上，通信能力很弱，通信耗时占比很高，导致gpu大部分时间算力浪费，百川是怎么解决的？

见下图：


这些内容是DataFun数据智能知识地图3.0版本-数据建模领域，AI Infra模块的内容。

数据建模领域包括以下内容：

  • 图神经网络在电商推荐系统中的应用

  • 揭秘大厂大模型评测

  • 大模型微调突破

  • 升级版RAG高级检索

  •  Agent技术难点与趋势

  • 多模态

  • LLMOPS方案实施路径及策略

  • 引擎工程 AI Infra：投机采样与通信优化
入群免费下载知识地图3.0


师资简介：
肖彬 百川智能infra部门 高级专家

北京理工大学本硕，先后在搜狗负责推荐架构，在字节跳动负责智能推荐平台训推架构，目前在百川智能负责大模型推理架构研发。
DataFunTalk
专注于大数据、人工智能技术应用的分享与交流。致力于成就百万数据科学家。定期组织技术分享直播，并整理大数据、推荐/搜索算法、广告算法、NLP 自然语言处理算法、智能风控、自动驾驶、机器学习/深度学习等技术应用文章。
 最新文章
图神经网络如何解决推荐系统中的数据稀疏性问题？
首发 | 昆仑芯 | 国产AI卡DeepSeek训练推理全版本适配、性能卓越，一键部署等您来（附文档下载方式）
“针对的就是 DeepSeek！”美国空前力度打压中国 AI：只要下载中国开发模型就可获 20 年监禁或百万美元罚款！
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
数据资产建设和数据安全
OpenAI发布新Agent，用于深度研究，实测成色如何？
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
知乎互动反作弊实践
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
数据智能体的构建与优化
滚烫Deepseek一夜刀掉英伟达4万亿，除夕开源多模态新模型：7B超越DALL-E 3和StableDiffusion
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
基于 Ray 的融合计算引擎在生命科学领域的应用
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
CNBC专访分析：DeepSeek是中国的ChatGPT时刻，他们不是在复制，而是在创新
数智技术在游戏产业的应用实践
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
AI Infra：计算通信overlap实战分享
《黑神话：悟空》制作人冯骥推荐DeepSeek！
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
有数 ChatBI：大模型驱动下的数据分析技术探索和实践
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
数据要素时代的数据治理
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
HybridFlow：基于 Ray 构建灵活且高效的 RLHF 编程框架
提升Agent规划效率和准确率：COT planahead + Reflection
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
58同城灵犀大模型2024年进展总结
5步教你构建精准高效的企业指标体系
年末福利来袭！五本热门电子书限时免费领！
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
万字长文梳理基于LLM的Text-to-SQL发展进程
数据"入表"近百倍提升！Dataphin数据治理新范式探索
电子书上新 |《快手 BI 大数据分析场景性能优化实践》
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
数据集建设与合成数据
现代化实时数据仓库 SelectDB 产品全面解读
数据治理如何助力零售业降本增效？
电子书上新 |《快手 BI 大数据分析场景性能优化实践》
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
FP8 在大模型训练中的应用、挑战及实践
内容志愿者招募｜一月更新议题：数据与人工智能解决方案（内附2025年度会议排期）
AI Agent技术突破与创新应用
DeepSeekV3如何一次性预测多个token
电子书上新 |《快手 BI 大数据分析场景性能优化实践》
Flink CDC 3.3 核心特性解读
某大型制造集团的Power BI国产化替换实践
RAG+Agent:大模型应用搭建及在金融场景落地探索
电子书上新 |《快手 BI 大数据分析场景性能优化实践》
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉