大模型在华为推荐场景中的探索和应用.pdf

1、大模型在华为推荐场景中的大模型在华为推荐场景中的探索和应用探索和应用演讲人：陈渤华为诺亚方舟实验室 高级算法工程师CONTENTS目 录01背景02LLM for Feature03LLM for Ranking04总结与展望背景推荐系统背景推荐系统背景信息过载时代下的推荐系统为用户推荐感兴趣的资讯，提升用户体验广告主精准投放，挖掘潜在客户提供更好的服务，建设平台生态，提升平台收益Historical user-item interactions user-item interactions or additional side information side information(e.g

2、.,social relations,items knowledge,etc.)INPUTINPUTPredict how likely a user would interact with a target item(e.g.,click,view,or purchase)OUTPUTOUTPUT大模型时代下的推荐系统大模型时代下的推荐系统大模型时代下的推荐系统引入外部开放世界知识，丰富语义信号具备跨域推荐能力，适合冷启动场景协同信号缺失计算复杂度高，难以处理海量样本传统的推荐模型充分利用用户-物品协同信号建模模型相对较小，时间空间开销低只能利用数据集内的知识缺乏语义信息和深度意图推理推荐模

3、型如何从大模型中取长补短，从而提升推荐性能？推荐模型如何从大模型中取长补短，从而提升推荐性能？LLM4RecLLM4RecLLM4Rec在工业推荐链路中的应用：特征工程：特征工程：对原始数据进行加工、增强，得到结构化特征，包括用户/物品维度和样本维度的特征特征编码：特征编码：对结构化特征进行编码，得到对应的稠密向量表示，如用户/物品表征打分打分/排序：排序：对候选物品进行打分排序，包括物品打分（精排）和物品直接生成（召回/重排）用户交互：对话式推荐中用户和系统交互过程中，通过理解用户对话和意图，给用户提供物品推荐流程控制：控制推荐系统的整体流程，如对排序阶段的控制Lin J,Dai X,Xi

4、Y,et al.How can recommender systems benefit from large language models:A surveyJ.TOIS 2024.How can recommender systems benefit from large language models:A surveyHow can recommender systems benefit from large language models:A surveyLLM4RecLLM4Rec根据训练和推理两个阶段，将现有LLM4Rec工作分为四个象限四个象限：横坐标：在训练阶段，大语言模型是否需

5、要微调纵坐标：在推理阶段，是否需要引入传统推荐模型Lin J,Dai X,Xi Y,et al.How can recommender systems benefit from large language models:A surveyJ.TOIS 2024.大语言模型在推荐系统应用的四象限图及代表性工作大语言模型在推荐系统应用的四象限图及代表性工作微调微调LLMLLM，引入，引入CRMCRM不微调不微调LLMLLM，引入，引入CRMCRM不微调不微调LLMLLM，不引入，不引入CRMCRM微调微调LLMLLM，不引入，不引入CRMCRMLLM4Rec呈现出两个趋势：语义+协同模型：通过引入

6、传统推荐模型（CRM）为语言模型注入协同信号数据：通过引入推荐场景的数据，结合大模型微调，为语言模型注入协同信号How can recommender systems benefit from large language models:A surveyHow can recommender systems benefit from large language models:A surveyLLM for Feature利用利用LLMLLM开放知识辅助推荐的通用框架开放知识辅助推荐的通用框架KARKARXi Y,Liu W,Lin J,et al.Towards Open-World Rec