?ICLR 2024 | UTS提出全新聯(lián)邦推薦算法：從全面?zhèn)€性化過渡到加性個性化
這篇論文提出了一種新的聯(lián)邦推薦算法 FedRAP。FedRAP 在聯(lián)邦學(xué)習(xí)框架中同時針對用戶信息和項目信息實施雙邊個性化策略，以此來增強(qiáng)推薦系統(tǒng)在隱私保護(hù)和個性化推薦方面的表現(xiàn)。它通過逐步提高正則化權(quán)重，平滑地從全面?zhèn)€性化過渡到加性個性化。同時，F(xiàn)edRAP 還引入了對全局項目嵌入進(jìn)行稀疏化處理的策略，有效降低了通信開銷。
論文標(biāo)題：Federated Recommendation with Additive Personalization
論文鏈接：
??https://arxiv.org/abs/2301.09109??
代碼鏈接：
??https://github.com/mtics/FedRAP??
隨著對隱私保護(hù)需求的增加，聯(lián)邦學(xué)習(xí)環(huán)境下推薦系統(tǒng)的開發(fā)成為了構(gòu)建下一代互聯(lián)網(wǎng)服務(wù)架構(gòu)的新趨勢。但是，現(xiàn)有方法多是基于分布式推薦框架并附加隱私保護(hù)機(jī)制演化而來，這使得它們在聯(lián)邦推薦系統(tǒng)中很難充分發(fā)揮個性化的潛力。為了解決這一問題，本文提出了一種創(chuàng)新方法——聯(lián)邦推薦與加性個性化(FedRAP)，該方法通過分析用戶偏好和其對項目的個人理解來優(yōu)化推薦效果。FedRAP 的核心在于加性個性化技術(shù)，它通過將個性化的項目嵌入與所有用戶共同形成的稀疏全局項目嵌入相結(jié)合。
此外，為了緩解不同客戶端間項目嵌入的差異性可能導(dǎo)致的性能問題，F(xiàn)edRAP 采用了逐步增加正則化權(quán)重的策略，并通過全局項目嵌入的稀疏化處理來減少通信負(fù)擔(dān)。在四個現(xiàn)實世界的推薦數(shù)據(jù)集上進(jìn)行的實驗驗證了 FedRAP 方法的有效性。
背景和動機(jī)
近年來，推薦系統(tǒng)已經(jīng)成為一個重要的工具，它能夠向用戶推薦他們可能感興趣的新內(nèi)容，并且顯著地影響了我們的日常生活。這些系統(tǒng)一般都依賴中心服務(wù)器來收集并整合用戶的數(shù)據(jù)、活動記錄和偏好信息，以此來訓(xùn)練出能夠做出精準(zhǔn)推薦的模型。
然而，用戶數(shù)據(jù)往往含有敏感的隱私信息，一旦上傳至服務(wù)器就可能面臨嚴(yán)重的隱私和安全風(fēng)險。近期，一些隱私保護(hù)法規(guī)(例如 GDPR)更是明確要求用戶數(shù)據(jù)應(yīng)當(dāng)存儲于本地設(shè)備，而非上傳至云端服務(wù)器。
針對上述問題，聯(lián)邦學(xué)習(xí)(FL)提供了一個潛在的解決方案。它通過在客戶端進(jìn)行本地模型訓(xùn)練，并將訓(xùn)練后的本地模型在服務(wù)器端進(jìn)行聚合，實現(xiàn)了數(shù)據(jù)的本地化和分布式全局模型訓(xùn)練。FL 已在多個應(yīng)用場景中取得顯著成效，比如谷歌鍵盤的查詢建議功能。然而，客戶端之間的數(shù)據(jù)異質(zhì)性可能會大幅延緩 FL 的收斂速度，導(dǎo)致客戶端漂移或者個別客戶端的全局模型性能下降。
為了在保護(hù)用戶隱私的同時促進(jìn)不同客戶端間的知識共享，學(xué)者們正在積極研究聯(lián)邦推薦系統(tǒng)(FRS)。FRS 能夠處理單個用戶的客戶端數(shù)據(jù)，以此來構(gòu)建用戶的個人資料。在此情境下，用戶的資料和評分?jǐn)?shù)據(jù)應(yīng)當(dāng)被保留在本地客戶端，而服務(wù)器則負(fù)責(zé)存儲項目信息。
聯(lián)邦推薦系統(tǒng)在保護(hù)用戶隱私的同時，還需要在通信成本和模型精度之間找到一個恰當(dāng)?shù)钠胶恻c(diǎn)，以便提供最優(yōu)化的推薦結(jié)果。然而，現(xiàn)有的方法往往忽略了用戶對相同項目的感知不同的問題，即：不同用戶可能對同一項目有不同的偏好，并關(guān)注于項目的不同特性。
為了解決現(xiàn)有聯(lián)邦推薦系統(tǒng)中的這些問題，本文提出了一種名為聯(lián)邦推薦與加性個性化(FedRAP)的新算法。FedRAP 通過將加性個性化技術(shù)應(yīng)用于項目嵌入，并通過使全局項目嵌入變得稀疏來減少通信成本和延遲。
此外，F(xiàn)edRAP 還采用了一種逐漸變化的參數(shù)調(diào)整方法，以平衡全局知識共享和本地個性化之間的權(quán)衡。FedRAP 遵循水平聯(lián)邦學(xué)習(xí)的假設(shè)，即：不同客戶端擁有獨(dú)特的用戶和數(shù)據(jù)集，但共享相同的項目。具體而言，F(xiàn)edRAP 的主要貢獻(xiàn)包括：
- 雙邊個性化：FedRAP 為每個客戶端提供了私有的用戶嵌入，同時通過將與用戶相關(guān)的本地項目嵌入與在服務(wù)器上聚合更新的全局項目嵌入相加，實現(xiàn)了項目的加性個性化。
- 雙重正則化策略：一方面 FedRAP 鼓勵稀疏性以減少通信開銷，另一方面 FedRAP 確保本地和全局項目信息的多樣性以保證其互補(bǔ)性。
- 逐漸變化的正則化權(quán)重：為了應(yīng)對早期訓(xùn)練中加性個性化可能帶來的性能損失，F(xiàn)edRAP 采取逐步增加正則化權(quán)重的方法，來將完全個性化逐漸過渡到加性個性化。
因此，F(xiàn)edRAP 能夠利用客戶端本地存儲的部分評分?jǐn)?shù)據(jù)，預(yù)測用戶對未評分項目的評分，同時兼顧項目的全局視角和用戶特定視角。在六個真實數(shù)據(jù)集上的實驗結(jié)果表明，F(xiàn)edRAP 在聯(lián)邦推薦領(lǐng)域顯著優(yōu)于現(xiàn)有方法。
聯(lián)邦推薦與加性個性化(FedRAP)
為了便于理解和闡述，我們在此不展開討論具體的公式細(xì)節(jié)，更多深入的內(nèi)容請參閱原始論文。
因此，F(xiàn)edRAP 具有如下所示的框架圖。
具體來講，F(xiàn)edRAP采用以下策略：
實驗
數(shù)據(jù)集：為了評估 FedRAP 的性能，本文在六個熱門的推薦系統(tǒng)數(shù)據(jù)集上進(jìn)行了全面的實驗研究，這些數(shù)據(jù)集分別是：MovieLens-100K(簡稱 ML-100K)、MovieLens-1M(簡稱 ML-1M)、Amazon-Instant-Video(簡稱 Video)、LastFM-2K(簡稱 LastFM)、Ta Feng Grocery(簡稱 TaFeng)和 QB-article。
前四個數(shù)據(jù)集中包括的評分范圍是 1-5。鑒于本文的研究目標(biāo)是對包含隱式反饋的數(shù)據(jù)進(jìn)行推薦預(yù)測，本文將這些數(shù)據(jù)集中所有大于 0 的評分均設(shè)定為 1。而 TaFeng 和 QB-article 兩個數(shù)據(jù)集包含了基于用戶交互日志的隱式反饋信息。在每個數(shù)據(jù)集中，我們僅考慮了那些至少對 10 個項目做出評價的用戶。
基線：本文通過與中心化和聯(lián)邦學(xué)習(xí)設(shè)置中幾種先進(jìn)方法的對比來驗證 FedRAP 的有效性，這包括 NCF、LightGCN、FedMF、FedNCF 和 PFedRec。具體的實驗細(xì)節(jié)，請參考原始論文。
評價指標(biāo)：本研究采用了命中率(HR@K)和歸一化折扣累積增益(NDCG@K)作為評價指標(biāo)，并將 K 設(shè)置為 10。所有的實驗都進(jìn)行了五次重復(fù)，以確保結(jié)果的可靠性，并報告了實驗結(jié)果的平均值及其標(biāo)準(zhǔn)偏差。
3.1 主要結(jié)果
上圖的實驗結(jié)果顯示，在使用的六個數(shù)據(jù)集中，F(xiàn)edRAP 在絕大多數(shù)情況下都超過了其他方法，且在所有聯(lián)邦學(xué)習(xí)方法中表現(xiàn)最為突出。這種卓越表現(xiàn)可能歸因于 FedRAP 在用戶和項目信息上執(zhí)行的雙邊個性化策略。
相比于 PFedRec，F(xiàn)edRAP 之所以展現(xiàn)更好的性能，是因為它在個性化項目信息的同時，能夠有效保留項目的共性信息，避免了潛在的信息丟失。而 CentRAP 在所有數(shù)據(jù)集中的表現(xiàn)略勝 FedRAP 一籌顯示了 FedRAP 在所采用的數(shù)據(jù)集中潛在的性能上限。
此外，我們還研究了 FedRAP 的收斂速度，通過比較 ML-100K 數(shù)據(jù)集上各方法(除了 CentRAP 外)在訓(xùn)練過程中每次迭代的表現(xiàn)。下圖的結(jié)果展示了 FedRAP 的性能優(yōu)勢，但同時也指出，由于 FedRAP 的復(fù)雜性高于 PFedRec，其達(dá)到收斂狀態(tài)需要更多的迭代次數(shù)。
3.2 項目信息的可視化
更多實驗結(jié)果請見原論文。
結(jié)論
本文提出了一種名為 FedRAP 的方法，通過同時實現(xiàn)用戶信息個性化和項目信息的加性個性化，做出了雙邊個性化的聯(lián)邦推薦。
FedRAP 通過逐漸增加正則化權(quán)重，實現(xiàn)了從完全個性化到項目信息加性個性化的課程，以減輕在訓(xùn)練早期使用加性個性化引起的性能下降。此外，通過對全局項目嵌入施加稀疏性約束來移除無用的推薦信息，這也有助于減少通信成本。
由于客戶端在每次迭代中只上傳更新的全局項目嵌入到服務(wù)器，因此 FedRAP 避免了用戶信息的泄露。通過在 6 個廣泛使用的真實世界推薦數(shù)據(jù)集上進(jìn)行的比較實驗和大量的消融研究，F(xiàn)edRAP 證明了其有效性。此外，由于 FedRAP 的簡單性，探索其在其他聯(lián)邦場景中的應(yīng)用將是有趣的。
本文轉(zhuǎn)載自 ???PaperWeekly??，作者： 李志偉
