论文概况

本文是2024 ICLR的一篇联邦推荐论文，提出了 FedRAP，旨在解决联邦学习（FL）环境中的推荐系统挑战。其主要目标是提高推荐系统的个性化程度，同时减少通信成本，这在联邦学习系统中通常是一个重要问题。FedRAP 通过学习一个全局视角的物品嵌入（通过FL）和每个用户本地的个性化视角来实现这一目标。

Introduction

• 尽管现有的联邦推荐系统在全球共享物品嵌入并将用户嵌入保持本地，但这种方法忽略了用户对相同物品的不同感知。FedRAP 通过引入加性个性化方法，将全球和用户特定的物品嵌入结合起来，从而提高个性化推荐并减少通信开销。

Method

A. 问题定义

假设我们有一个评分矩阵 R，其中的每个元素表示用户对物品的评分。该矩阵的维度为 n × m，其中 n 表示用户数量，m 表示物品数量。每个用户对物品的评分为 r_ij。在每个客户端 i 上，我们有一个本地的物品嵌入矩阵 D(i)，和一个全局共享的物品嵌入矩阵 C。

目标是通过加性个性化来构建每个用户的推荐系统。具体而言，我们希望结合每个用户的本地物品嵌入 D(i) 和全局物品嵌入 C 来生成个性化的物品推荐。

B. 目标函数

预测评分：我们使用逻辑回归模型来预测每个用户对物品的评分，公式如下：
最小化重建误差：为了最小化真实评分与预测评分之间的差异，我们使用交叉熵损失函数进行优化，具体如下：

正则化项：为了确保全局物品嵌入 C 和本地物品嵌入 D(i) 之间的差异，使得它们是互补的，我们使用以下正则化项

加性个性化优化：为了减少由于在训练初期使用加性个性化带来的性能下降，我们引入了一个逐渐增加的正则化策略。具体地，我们引入了两个正则化项来分别控制 C 的稀疏性和 D(i) 和 C 的差异，优化目标函数如下：

C.结果

总结

方法简单，思路清晰，证明可靠