《電子技術應用》
您所在的位置:首頁 > 人工智能 > 設計應用 > 一種融合注意力和記憶網絡的序列推薦算法
一種融合注意力和記憶網絡的序列推薦算法
《信息技術與網絡安全》2020年第5期
陳細玉,林穗
廣東工業大學 計算機學院,廣東 廣州 510006
摘要: 傳統基于協同過濾和矩陣分解的靜態表示推薦算法,不能很好地體現用戶的動態興趣。循環神經網絡能夠進行序列推薦,但存在序列之間的長距離依賴性差、各項目的區分度差等問題。由此提出一種融合注意力和記憶網絡的序列推薦算法,根據Word2vec算法,引申item2vec和user2vec,初始化用戶和項目的固定表示嵌入矩陣,通過結合注意力機制和長短期記憶網絡(Long ShortTerm Memory,LSTM)解決序列之間的長距離依賴性差和區分度差問題。利用記憶網絡獲取用戶的動態鄰居,加強用戶的動態表示,實現更準確的推薦。通過在MovieLens數據集上的實驗結果表明,所提出的算法相比其他算法推薦效果顯著提高。
中圖分類號:TP391
文獻標識碼:A
DOI: 10.19358/j.issn.2096-5133.2020.05.008
引用格式:陳細玉,林穗.一種融合注意力和記憶網絡的序列推薦算法[J].信息技術與網絡安全,2020,39(5):37-41.
Abstract:
Key words :

協同過濾(Collaborative Filtering,CF),分為基于用戶的協同過濾(UBCF)、基于項目的協同過濾(IBCF)和基于模型的協同過濾。基于用戶的協同過濾是根據用戶的歷史行為計算出用戶之間的相似度,將相似度高的用戶的歷史項目推薦給該用戶;基于項目的協同過濾是計算項目之間的相似度,推薦與該用戶歷史項目相似度高且歷史行為中沒有的項目。基于模型的協同過濾如矩陣分解(Matrix Factorization,MF)通過用戶和項目的低維特征向量預測評分進行推薦;EBESU T等人提出協同記憶網絡,使用記憶網絡學習用戶項目對的特定鄰居,用戶和項目記憶共同利用鄰居來產生排名分數。這些模型通常對靜態的用戶和項目交互進行建模,所表示的用戶偏好是靜態的。

但在現實生活中,用戶的歷史行為是動態的,人們的興趣是隨著時間變化的。早先的基于馬爾科夫鏈的序列推薦將項目之間的轉移矩陣分解為兩個低秩矩陣,此序列推薦取得了良好的效果,然而k階馬爾科夫鏈只能根據有限的前k個行為預測下一個行為。近年來基于循環神經網絡(Recurrent Neural Network,RNN)的序列推薦能夠依賴更多用戶歷史行為。FU H等人使用雙向長短期記憶網絡(BiLSTM)捕獲項目的序列特征,取得了更好的推薦效果。下一個項目的預測并不取決于用戶所有的歷史項目,只與部分有關聯,且對當前的預測影響是不一致的。LUO A等人提出了自適應注意感知門控循環單元(3AGRU),采用注意力機制來適應用戶順序偏好的表示。LV F等人提出了一種新的順序深度匹配(SDM)模型,使用門控融合模塊結合長期和短期偏好特征,來獲取用戶的動態偏好。LIN X等人將K最近鄰算法(K-Nearest Neighbor,KNN)與RNN相結合,利用動態鄰居序列優化用戶序列表示。

item2vec是BARKAN O等人借鑒自然語言處理中的Word2vec詞向量表示方法,學習項目的向量表示并計算項目的相似度進行推薦。

RNN存在長距離依賴問題,且項目之間的影響主要取決于相對位置而不是項目的屬性。LSTM增加遺忘門和更新門優化了長距離依賴問題,但仍舊沒有徹底解決。注意力機制能從全局模式上既解決長距離依賴問題,又能解決序列中各項目的區分度差問題。實際生活中,短期偏好的用戶會向資深固定偏好的用戶靠攏,興趣變化也會向這些用戶的興趣發展。

由此提出融合注意力和記憶網絡的序列推薦算法,使用Word2vec學習并初始化用戶和項目的固定表示,自注意力機制結合LSTM解決長距離依賴和區分度問題,學習用戶的初級動態表示,并利用記憶網絡獲取動態鄰居學習用戶的終級動態表示,拼接固定表示和終級動態表示作為用戶最終表示并進行推薦,提高用戶的推薦效果并體現出可解釋性。


本文詳細內容請下載:http://m.xxav2194.com/resource/share/2000003112

作者信息:陳細玉,林穗(廣東工業大學 計算機學院,廣東 廣州 510006)

此內容為AET網站原創,未經授權禁止轉載。
主站蜘蛛池模板: 亚洲欧美另类中文字幕| 久久亚洲色一区二区三区| 美女视频黄频a免费大全视频 | 亚洲色图.com| 蜜桃av噜噜一区二区三区| 国产色婷婷精品免费视频| 两夫妇交换的一天| 最好看的中文字幕视频2018| 亚洲视频在线免费播放| 老子午夜精品我不卡影院| 国产爆乳无码一区二区麻豆| AV片在线观看免费| 成人国产精品免费视频| 久久精品国产亚洲| 欧美性狂猛xxxxxbbbbb| 你懂的国产高清在线播放视频| 色综合久久天天综合观看| 国产特黄特色a级在线视| 97视频在线观看播放| 岛国免费v片在线播放| 久久午夜夜伦鲁鲁片无码免费 | 国产特黄特色一级特色大片| 99在线精品视频在线观看| 成人看片app| 久久图库99图库| 欧美人与性动交α欧美精品 | 免费观看性行为视频的网站| 顾明月媚肉生香全文| 国产精品久久久久久久| 99久热任我爽精品视频| 怡红院亚洲色图| 久久久久久久久久久久久久久 | 日本黄色片在线播放| 亚洲欧洲专线一区| 狠狠躁夜夜躁人人爽天天古典| 另类视频区第一页| 草莓app在线观看| 国产性夜夜夜春夜夜爽| 福利网站在线观看| 国产精欧美一区二区三区| a在线观看欧美在线观看|