大模型专题:大模型在华为推荐场景中的探索和应用

创业   2024-11-09 07:04   广东  

资料来源:AICON

获取方式:文末附下载链接

年资料包:2024年2023年2022年

年度合集:招股书国际投行国内券商

读 书  社: 4期3期2期1期

更多资料:10W+份报告干货分享

付费推广:推广报告(付费推广,欢迎洽谈)


( 每日分享最新重磅报告,与投资人、企业高管、创业者、行业研究员等群成员大咖互动交流,实现拓展人脉资源对接项目合作等 )


《大模型专题:大模型在华为推荐场景中的探索和应用》由华为诺亚方舟实验室高级算法工程师陈渤在AiCon全球人工智能开发与应用大会上演讲内容整理而成。报告介绍了大模型在华为推荐场景中的应用,包括背景、LLM for Feature、LLM for Ranking和总结与展望四部分。推荐系统旨在为用户推荐感兴趣的资讯,提升用户体验,同时帮助广告主精准投放,挖掘潜在客户。


大模型时代下的推荐系统引入外部开放世界知识,具备跨域推荐能力,但也存在计算复杂度高、难以处理海量样本等问题。LLM4Rec在工业推荐链路中的应用包括特征工程、特征编码、打分/排序、用户交互和流程控制等环节。现有LLM4Rec工作可根据训练和推理阶段分为四个象限,呈现出语义+协同的趋势。


利用LLM开放知识辅助推荐的通用框架KAR,通过知识推理和生成、知识适配和知识利用等技术方案,在9个SOTA的推荐模型上平均AUC显著提升,在华为音乐歌单推荐和应用市场场景全量上线取得良好效果,并进行了进一步探索。面向LLM推荐知识生成的解码加速方法,通过基于检索的投机解码分析等技术方案,在4个LLM知识生成框架中取得3 - 5x的加速效果,在5个不同类型LLM中取得一致加速效果,并在华为广告场景落地。


LLM for Ranking介绍了LLM直接排序的长序列理解方法及相关技术方案和实验结果,包括ReLLa方法可提升推荐性能,LLM个性化参数微调方法及相关技术方案和实验结果,如RecLoRA取得更好的预测效率和模型效果,语义增强的推荐方法及相关技术方案和实验结果,如CTRL方法提升了AUC和推理效率。最后总结大模型对推荐系统的信息增益,包括拥有世界知识和逻辑推理能力等,突破传统定位,重塑推荐流程,语义协同兼顾,空间融合,缓解稀疏场景,并提出了面临的挑战与展望,如ID特征的索引和建模、推荐领域的长文本建模、训练效率和推理时延等问题。


【完整版获取见文末】


受篇幅限制,仅列举部分资料








报告全文下载链接








https://pan.quark.cn/s/464ceee6d011

7天有效,过期请在后台回复“8”,按步骤免费获取!

识别二维码,快速获取更多最新重磅报告

2024年资料包,每周更新700,全年4W+

更新日期:2024.1.1-2024.12.31

关于报告达人

报告达人是一家分享国内外各类研究报告、热点专题报告、统计年鉴、发展规划、统计公报、白皮书、蓝皮书等各类研究型内容的知识共享平台。我们通过搜集公开的券商研究报告、统计年鉴、统计公报、各类行业研究报告、各类热点专题报告、各类冠名报告,然后对搜集过来的报告按细分行业、热点题材等进行分类归纳和整理,再通过报告达人微信公众号平台分享给各类报告使用者。

免责声明:以上报告均系报告达人通过公开、合法渠道获得,报告版权归原撰写/发布机构所有,如涉侵权,请联系删除(18675593305),如对报告内容存疑,请与撰写/发布机构联系。

关注我们 ,获取更多报告

点击阅读原文查看数十万份研报、干货

报告达人
分享最全、最广、最深、最专业的各类研究报告、统计年鉴、统计公报、发展规划、白皮书、蓝皮书等。
 最新文章