Recommender Systems in the Era of Large Language Models (LLMs)

本文是LLM系列文章,针对《Recommender Systems in the Era of Large Language Models (LLMs)》的翻译。

摘要

随着电子商务和网络应用程序的繁荣,推荐系统(RecSys)已成为我们日常生活中的一个重要组成部分,提供符合用户偏好的个性化建议。尽管深度神经网络(DNN)通过建模用户-项目交互并结合其文本辅助信息,在增强推荐系统方面取得了重大进展,但这些基于DNN的方法仍然存在一些局限性,例如难以有效理解用户的兴趣和捕获文本辅助信息,在推广到各种可见/不可见的推荐场景以及对其预测进行推理方面的能力不足等。与此同时,大型语言模型(LLM)的出现,如ChatGPT和GPT4,已经彻底改变了自然语言处理(NLP)和人工智能(AI)领域,由于他们在语言理解和生成的基本职责方面的卓越能力,以及令人印象深刻的泛化和推理能力。因此,最近的研究试图利用LLM的力量来增强推荐系统。鉴于这一研究方向在推荐系统中的快速发展,迫切需要对现有的LLM授权推荐系统进行系统概述,以便为相关领域的研究人员和从业者提供深入的了解。因此,在本次调查中,我们从预训练、微调和提示等多个方面对LLM授权推荐系统进行了全面的审查。更具体地说,我们首先介绍了利用LLM(作为特征编码器)的力量来学习用户和项目表示的代表性方法。然后,我们从三个范式,即预训练、微调和提示,回顾了LLM最近用于增强推荐系统的先进技术。最后,我们全面讨论了这一新兴领域的未来发展方向。

1 引言

2 相关工作

3 基于LLM推荐系统的深度表示学习

4 预训练和微调LLM用于推荐系统

5 提示LLM用于推荐系统

6 未来方向

6.1 幻觉缓解

6.2 推荐系统重值得信赖的大语言模型

6.3 推荐系统垂直领域特定LLM

6.4 用户和项目检索

6.5 微调效率

6.6 数据增强

7 结论

LLM作为最先进的人工智能技术之一,由于其卓越的语言理解和生成能力、强大的泛化和推理能力,以及对新任务和不同领域的快速适应,在分子发现和金融等各种应用中取得了巨大成功。同样,LLM的推荐系统也在不断变革,以提供高质量和个性化的建议服务。鉴于这一研究主题在推荐系统中的快速发展,迫切需要对现有的LLM赋能推荐系统进行系统综述。为了填补这一空白,在本次调查中,我们从预训练、微调和提示范式的角度,对LLM赋能的RecSys进行了全面的概述,以便为相关领域的研究人员和从业者提供深入的了解。然而,目前对RecSys LLM的研究仍处于早期阶段,需要对该领域的LLM进行更系统、更全面的研究。因此,我们还讨论了该领域未来的一些潜在方向。