留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

融合深度学习技术的用户兴趣点推荐研究综述

郭旦怀 张鸣珂 贾楠 王彦棡

郭旦怀, 张鸣珂, 贾楠, 王彦棡. 融合深度学习技术的用户兴趣点推荐研究综述[J]. 武汉大学学报 ● 信息科学版, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
引用本文: 郭旦怀, 张鸣珂, 贾楠, 王彦棡. 融合深度学习技术的用户兴趣点推荐研究综述[J]. 武汉大学学报 ● 信息科学版, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
GUO Danhuai, ZHANG Mingke, JIA Nan, WANG Yangang. Survey of Point-of-Interest Recommendation Research Fused with Deep Learning[J]. Geomatics and Information Science of Wuhan University, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
Citation: GUO Danhuai, ZHANG Mingke, JIA Nan, WANG Yangang. Survey of Point-of-Interest Recommendation Research Fused with Deep Learning[J]. Geomatics and Information Science of Wuhan University, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334

融合深度学习技术的用户兴趣点推荐研究综述

doi: 10.13203/j.whugis20200334
基金项目: 

国家自然科学基金 41971366

国家自然科学基金 91846301

国家自然科学基金 71904095

国家重点研发计划 2018YFC0809700

详细信息
    作者简介:

    郭旦怀,博士,副研究员,主要研究方向为地理人工智能、空间场景相似性计算。guodanhuai@cnic.cn

  • 中图分类号: P208

Survey of Point-of-Interest Recommendation Research Fused with Deep Learning

Funds: 

The National Natural Science Foundation of China 41971366

The National Natural Science Foundation of China 91846301

The National Natural Science Foundation of China 71904095

the National Key Research and Development Program of China 2018YFC0809700

More Information
    Author Bio:

    GUO Danhuai, PhD, associate professor, specializes in GeoAI and spatial scene similarity computing. E-mail: guodanhuai@cnic.cn

  • 摘要: 近年来,用户兴趣点(point of interest,POI)推荐是基于位置的社会网络(location-based social network,LBSN)研究的热门话题,POI推荐不仅可以帮助用户找到心仪的POI,也可为商家带来可观收益。深度学习技术因可以更有效地捕获用户与物品间的非线性关系,逐渐应用到推荐系统任务中。对近年来结合深度学习技术的用户POI推荐的研究进行综述。首先介绍了用户POI推荐与传统推荐任务的区别,并介绍了可以提高推荐任务模型性能的多种影响因素;随后将深度学习应用到POI推荐的方式分为4类:POI的向量化学习、深度协同过滤、从辅助内容中提取特征和利用循环神经网络进行序列推荐,并阐述了深度学习技术在这些方式中的应用效果与优势;最后对结合深度学习技术的用户POI推荐的发展方向进行了总结与展望。
  • [1] Yu Y, Chen X.A Survey of Point-of-Interest Recommendation in Location-Based Social Networks[C]. The 29th AAAI Conference on Artificial Intelligence, Austin, Texas, USA, 2015
    [2] Shang S, Guo D, Liu J, et al. Finding Regions of Interest Using Location Based Social Media[J]. Neurocomputing, 2016, 173:118-123 http://www.sciencedirect.com/science/article/pii/S0925231215011285
    [3] 宁津生, 吴学群, 刘子尧.顾及道路通达性和时间成本的多用户位置推荐[J].武汉大学学报·信息科学版, 2019, 44(5):633-639 doi:  10.13203/j.whugis20190026

    Ning Jinsheng, Wu Xuequn, Liu Ziyao. Multi-user Location Recommendation Considering Road Accessibility and Time-Cost[J]. Geomatics and Information Science of Wuhan University, 2019, 44(5):633-639 doi:  10.13203/j.whugis20190026
    [4] Zhao S, King I, Lü M R. A Survey of Point-of-Interest Recommendation in Location-Based Social Networks[OL].https://arxiv.org/abs/1607.00647v1, 2016
    [5] Yin H, Wang W, Wang H, et al. Spatial-Aware Hierarchical Collaborative Deep Learning for POI Recommendation[J].IEEE Transactions on Knowledge and Data Engineering, 2017, 29(11):2 537-2 551 doi:  10.1109/TKDE.2017.2741484
    [6] Xie M, Yin H, Wang H, et al. Learning Graph-Based POI Embedding for Location-Based Recommendation[C]. The 25th ACM International on Conference on Information and Knowledge Management, IUPUI, Indianapolis, 2016
    [7] Qian T, Liu B, Nguyen Q V H, et al. Spatiotemporal Representation Learning for Translation-Based POI Recommendation[J]. ACM Transactions on Information Systems (TOIS), 2019, 37(2):1-24 doi:  10.1145/3295499
    [8] 李伟, 陈毓芬, 李萌, 等.基于情境的POI个性化推荐方法研究[J].武汉大学学报·信息科学版, 2015, 40(6):829-833 doi:  10.13203/j.whugis20130657

    Li Wei, Chen Yufen, Li Meng, et al. A Method of Context-Based POI Personalized Recommendation[J]. Geomatics and Information Science of Wuhan University, 2015, 40(6):829-833 doi:  10.13203/j.whugis20130657
    [9] Liu W, Lai H, Wang J, et al. Mix Geographical Information into Local Collaborative Ranking for POI Recommendation[J]. World Wide Web, 2020, 23(1):131-152 doi:  10.1007/s11280-019-00681-1
    [10] Tobler W R. A Computer Movie Simulating Urban Growth in the Detroit Region[J]. Economic Geography, 1970, 46:234-240 doi:  10.2307/143141
    [11] Cheng C, Yang H, King I, et al. Fused Matrix Factorization with Geographical and Social Influence in Location-Based Social Networks[C]. National Conference on Artificial Intelligence, Toronto, Ontario, Canada, 2012
    [12] Li H, Yong G, Hong R, et al. Point-of-Interest Recommendations: Learning Potential Check-Ins from Friends[C]. The 22nd ACM SIGKDD International Conference, San Francisco, California, USA, 2016
    [13] Ye M, Yin P, Lee W, et al. Exploiting Geographical Influence for Collaborative Point-of-Interest Recommendation[C]. The 34th International ACM SIGIR Conference on Research and Development in Information Retrieval, Beijing, China, 2011
    [14] Li X, Cong G, Li X, et al. Rank-GeoFM: A Ranking Based Geographical Factorization Method for Point-of-Interest Recommendation[C]. The 38th International ACM SIGIR Conference on Research and Development in Information Retrieval, Santiago, Chile, 2015
    [15] Lian D, Zhao C, Xie X, et al. GeoMF: Joint Geographical Modeling and Matrix Factorization for Point-of-Interest Recommendation[C].The 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, New York, USA, 2014
    [16] Ma C, Zhang Y, Wang Q, et al. Point-of-Interest Recommendation: Exploiting Self-Attentive Autoencoders with Neighbor-Aware Influence[C]. The 27th ACM International Conference on Information and Knowledge Management, Lingotto, Turin, Italy, 2018
    [17] Gao H, Tang J, Hu X, et al. Exploring Temporal Effects for Location Recommendation on Location-Based Social Networks[C].The 7th ACM Conference on Recommender Systems, Hong Kong, China, 2013
    [18] Zhang J D, Chow C Y, Li Y. Lore: Exploiting Sequential Influence for Location Recommendations[C]. The 22nd ACM SIGSPATIAL International Conference on Advances in Geographic Information Systems, Dallas, Texas, USA, 2014
    [19] Chen M, Liu Y, Yu X. NLPMM: A Next Location Predictor with Markov Modeling[C]. Pacific-Asia Conference on Knowledge Discovery and Data Mining, Tainan, China, 2014
    [20] Cheng C, Yang H, Lü M R, et al. Where You Like to Go Next: Successive Point-of-Interest Recommendation[C].The 23rd International Joint Conference on Artificial Intelligence, Beijing, China, 2013
    [21] Zhao S, Zhao T, King I, et al. Geo-Teaser: Geo-Temporal Sequential Embedding Rank for Point-of-Interest Recommendation[C].The 26th International Conference on World Wide Web Companion, Perth, Australia, 2017
    [22] Zhang J, Chow C. Core:Exploiting the Personalized Influence of Two-Dimensional Geographic Coordinates for Location Recommendations[J]. Information Sciences, 2015, 293:163-181 http://smartsearch.nstl.gov.cn/paper_detail.html?id=28ce8adc1bd8f913b7e296290d239f82
    [23] Konstas I, Stathopoulos V, Jose J M. On Social Networks and Collaborative Recommendation[C]. The 32nd International ACM SIGIR Conference on Research and Development in Information Retrieval, Boston, MA, USA, 2009
    [24] Logesh R, Subramaniyaswamy V. A Reliable Point of Interest Recommendation Based on Trust Relevancy Between Users[J]. Wireless Personal Communications, 2017, 97(2):2 751-2 780 doi:  10.1007/s11277-017-4633-1
    [25] Rahimi S M, Xin W. Location Recommendation Based on Periodicity of Human Activities and Location Categories[C]. Pacific-Asia Conference on Knowledge Discovery and Data Mining, Tainan, China, 2013
    [26] Ying J J C, Kuo W N, Tseng V S, et al. Mining User Check-in Behavior with a Random Walk for Urban Point-of-Interest Recommendations[J]. ACM Transactions on Intelligent Systems and Technology, 2014, 5(3):1-26 doi:  10.1145/2523068
    [27] Zhang J D, Chow C Y. GeoSoCa: Exploiting Geographical, Social and Categorical Correlations for Point-of-Interest Recommendations[C]. The 38th International ACM SIGIR Conference on Research and Development in Information Retrieval, Santiago, Chile, 2015
    [28] Wang W, Yin H, Chen L, et al. Geo-Sage: A Geographical Sparse Additive Generative Model for Spatial Item Recommendation[C].The 21st ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Sydney, Australia, 2015
    [29] Yin H, Sun Y, Cui B, et al. LCARS: A Location-Content-Aware Recommender System[C]. The 19th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Chicago, USA, 2013
    [30] Yin H, Zhou X, Cui B, et al. Adapting to User Interest Drift for POI Recommendation[J]. IEEE Transactions on Knowledge and Data Engineering, 2016, 28(10):2 566-2 581 http://ieeexplore.ieee.org/document/7491346/
    [31] Ye M, Yin P, Lee W C, et al. Exploiting Geographical Influence for Collaborative Point-of-Interest Recommendation[C]. The 34th International ACM SIGIR Conference on Research and Development in Information Retrieval, Beijing, China, 2011
    [32] Xiong L, Chen X, Huang T K, et al. Temporal Collaborative Filtering with Bayesian Probabilistic Tensor Factorization[C].The 2010 SIAM International Conference on Data Mining, Columbus, Ohio, USA, 2010
    [33] Liu B, Xiong H, Papadimitriou S, et al. A General Geographical Probabilistic Factor Model for Point of Interest Recommendation[J]. IEEE Transactions on Knowledge and Data Engineering, 2014, 27(5):1 167-1 179 doi:  10.1109/TKDE.2014.2362525
    [34] Liu B, Fu Y, Yao Z, et al.Learning Geographical Preferences for Point-of-Interest Recommendation[C].The 19th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Chicago, Illinois, USA, 2013
    [35] Cheng C, Yang H, King I, et al. Fused Matrix Factorization with Geographical and Social Influence in Location-Based Social Networks[C]. The 26th AAAI Conference on Artificial Intelligence, Toronto, Canada, 2012
    [36] Liu Y, Wei W, Sun A, et al. Exploiting Geographical Neighborhood Characteristics for Location Recommendation[C]. The 23rd ACM International Conference on Information and Knowledge Management, Shanghai, China, 2014
    [37] Feng S, Li X, Zeng Y, et al. Personalized Ranking Metric Embedding for Next New POI Recommendation[C]. The 24th International Conference on Artificial Intelligence, Buenos Aires, Argentina, 2015
    [38] Ye J, Zhu Z, Cheng H. What's Your Next Move: User Activity Prediction in Location-Based Social Networks[C]. The 2013 SIAM International Conference on Data Mining, Calgary, AB, Canada, 2013, DOI: 10.1137/1.9781611972832.19
    [39] Hidasi B, Karatzoglou A, Baltrunas L, et al. Session-Based Recommendations with Recurrent Neural Networks[OL].https://arxiv.org/abs/1511.06939,2016
    [40] He X, Liao L, Zhang H, et al. Neural Collaborative Filtering[C].The 26th International Conference on World Wide Web, Perth, Australia, 2017
    [41] Kim D, Park C, Oh J, et al. Convolutional Matrix Factorization for Document Context-Aware Recommendation[C].The 10th ACM Conference on Recommender Systems, Boston, MA, USA, 2016
    [42] Wang H, Wang N, Yeung D Y. Collaborative Deep Learning for Recommender Systems[C]. The 21st ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Sydney, Australia, 2015
    [43] Sheng L, Kawale J, Yun F. Deep Collaborative Filtering via Marginalized Denoising Auto-Encoder[C]. The 24th ACM International on Conference on Information and Knowledge Management, Melbourne, Australia, 2015
    [44] Mikolov T, Karafiat M, Burget L, et al. Recurrent Neural Network Based Language Model[C]. Conference of the International Speech Communication Association, Kuhari, Chiba, Japan, 2010
    [45] Hochreiter S, Schmidhuber J. Long Short-Term Memory[J]. Neural Computation, 1997, 9(8):1 735-1 780
    [46] Chung J, Gulcehre C, Cho K, et al.Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling[OL]. https://arxiv.org/abs/1412.3555,2014
    [47] Mikolov T, Chen K, Corrado G, et al. Efficient Estimation of Word Representations in Vector Space[OL]. https://arxiv.org/abs/1301.3781,2013
    [48] Barkan O, Koenigstein N. Item2Vec: Neural Item Embedding for Collaborative Filtering[C].The 26th International Workshop on Machine Learning for Signal Processing (MLSP), Vietri sul Mare, Italy, 2016
    [49] Liu X, Liu Y, Li X. Exploring the Context of Locations for Personalized Location Recommendations[C].The 25th International Joint Conference on Artificial Intelligence, New York, USA, 2016
    [50] Feng S, Cong G, An B, et al.POI2Vec: Geographical Latent Representation for Predicting Future Visitors[C]. The 31st AAAI Conference on Artificial Intelligence, San Francisco, California, USA, 2017
    [51] Yang C, Bai L, Zhang C, et al. Bridging Collaborative Filtering and Semi-Supervised Learning: A Neural Approach for POI Recommendation[C]. The 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Halifax, NS, Canada, 2017
    [52] Hang M, Pytlarz I, Neville J. Exploring Student Check-in Behavior for Improved Point-of-Interest Prediction[C]. The 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, London, UK, 2018
    [53] Zhang Z, Li C, Wu Z, et al. Next: A Neural Network Framework for Next POI Recommendation[J]. Frontiers of Computer Science, 2020, 14(2):314-333 http://arxiv.org/abs/1704.04576
    [54] Perozzi B, Alrfou R, Skiena S. DeepWalk: Online Learning of Social Representations[C].The 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, New York, USA, 2014
    [55] Yuan Q, Cong G, Ma Z, et al. Time-Aware Point-of-Interest Recommendation[C]. The 36th International ACM SIGIR Conference on Research and Development in Information Retrieval, Dublin, Ireland, 2013
    [56] Cho E, Myers S A, Leskovec J. Friendship and Mobility: User Movement in Location-Based Social Networks[C]. The 17th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, San Diego, California, USA, 2011
    [57] Sedhain S, Menon A K, Sanner S, et al. AutoRec: Autoencoders Meet Collaborative Filtering[C]. The 24th International Conference on World Wide Web, Florence, Italy, 2015
    [58] Wu Y, Dubois C, Zheng A X, et al. Collaborative Denoising Auto-Encoders for Top-N Recommender Systems[C].The 9th ACM International Conference on Web Search and Data Mining, San Francisco, CA, USA, 2016
    [59] 冯浩, 黄坤, 李晶, 等.基于深度学习的混合兴趣点推荐算法[J].电子与信息学报, 2019, 41(4):880-887 http://kns.cnki.net/KCMS/detail/detail.aspx?dbcode=CJFD&filename=DZYX201904017

    Feng Hao, Huang Kun, Li Jing, et al. Hybrid Point of Interest Recommendation Algorithm Based on Deep Learning[J]. Journal of Electronics & Information Technology, 2019, 41(4):880-887 http://kns.cnki.net/KCMS/detail/detail.aspx?dbcode=CJFD&filename=DZYX201904017
    [60] Dong X, Yu L, Wu Z, et al. A Hybrid Collaborative Filtering Model with Deep Structure for Recommender Systems[C]. The 31st AAAI Conference on Artificial Intelligence, San Francisco, California, USA, 2017
    [61] Liu W, Wang Z J, Yao B, et al. Geo-ALM: POI Recommendation by Fusing Geographical Information and Adversarial Learning Mechanism[C]. The 28th International Joint Conference on Artificial Intelligence, Macao, China, 2019
    [62] Wang X, He X, Wang M, et al. Neural Graph Collaborative Filtering[C]. The 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval, Paris, France, 2019
    [63] Manotumruksa J, Macdonald C, Ounis I. A Deep Recurrent Collaborative Filtering Framework for Venue Recommendation[C]. The 2017 ACM on Conference on Information and Knowledge Management, Singapore, 2017
    [64] Zhou F, Yin R, Zhang K, et al. Adversarial Point-of-Interest Recommendation[C]. The World Wide Web Conference, San Francisco, CA, USA, 2019
    [65] 刘真, 王娜娜, 王晓东, 等.位置社交网络中谱嵌入增强的兴趣点推荐算法[J].通信学报, 2020, 41(3):197-206 http://www.zhangqiaokeyan.com/academic-journal-cn_journal-communications_thesis/0201277952944.html

    Liu Zhen, Wang Nana, Wang Xiaodong, et al. Spectral Clustering and Embedding-Enhanced POI Recommendation in Location-Based Social Network[J]. Journal on Communications, 2020, 41(3):197-206 http://www.zhangqiaokeyan.com/academic-journal-cn_journal-communications_thesis/0201277952944.html
    [66] Zhang J, Shi X, Zhao S, et al. STAR-GCN: Stacked and Reconstructed Graph Convolutional Networks for Recommender Systems[C]. The 28th International Joint Conference on Artificial Intelligence, Macao, China, 2019
    [67] Baral R, Zhu X, Iyengar S, et al. ReEL: Review Aware Explanation of Location Recommendation[C]. The 26th Conference on User Modeling, Adaptation and Personalization, Singapore, 2018
    [68] Chang B, Park Y, Park D, et al. Content-Aware Hierarchical Point-of-Interest Embedding Model for Successive POI Recommendation[C]. The 27th International Joint Conference on Artificial Intelligence, Stockholm, Sweden, 2018
    [69] Zhao P, Zhu H, Liu Y, et al. Where to Go Next: A Spatio-Temporal Gated Network for Next POI Recommendation[C]. The AAAI Conference on Artificial Intelligence, Honolulu, Hawaii, USA, 2019
    [70] Mazumdar P, Patra B K, Babu K S, et al. Hidden Location Prediction Using Check-in Patterns in Location-Based Social Networks[J]. Knowledge and Information Systems, 2018, 57(3):571-601 http://d.wanfangdata.com.cn/periodical/6118ef0419e7129ae1de69f5d5ca5ab3
    [71] Lim K H, Chan J, Leckie C, et al. Personalized Trip Recommendation for Tourists Based on User Interests, Points of Interest Visit Durations and Visit Recency[J]. Knowledge and Information Systems, 2018, 54(2):375-406 doi:  10.1007/s10115-017-1056-y
    [72] Cui W, Wang P, Du Y, et al. An Algorithm for Event Detection Based on Social Media Data[J]. Neurocomputing, 2017, 254:53-58 http://www.sciencedirect.com/science/article/pii/S0925231217304010
    [73] Manotumruksa J, Macdonald C, Ounis I. Modelling User Preferences Using Word Embeddings for Context-Aware Venue Recommendation[OL]. https://arxiv.org/abs/1606.07828,2016
    [74] Wang Y, Wang S, Tang J, et al. Unsupervised Sentiment Analysis for Social Media Images[C]. International Conference on Artificial Intelligence, Buenos Aires, Argentina, 2015
    [75] Wang Y, Wang S, Tang J, et al. PPP: Joint Pointwise and Pairwise Image Label Prediction[C]. Computer Vision and Pattern Recognition, Las Vegas, NV, USA, 2016
    [76] Wang Y, Wang S, Tang J, et al. CLARE: A Joint Approach to Label Classification and Tag Recommendation[C]. The 31st AAAI National Conference on Artificial Intelligence, San Francisco, California, USA, 2017
    [77] Hays J, Efros A A. IM2GPS: Estimating Geographic Information from a Single Image[C]. IEEE Conference on Computer Vision and Pattern Recognition, Anchorage, AK, USA, 2008
    [78] Liu B, Yuan Q, Cong G, et al. Where Your Photo is Taken: Geolocation Prediction for Social Images[J].Journal of the Association for Information Science and Technology, 2014, 65(6):1 232-1 243 doi:  10.1002/asi.23050/full
    [79] Li X T, Pham T-A N, Cong G, et al. Where You Instagram?Associating Your Instagram Photos with Points of Interest[C]. The 24th ACM International Conference on Information and Knowledge Management, Melbourne, Australia, 2015
    [80] Crandall D J, Backstrom L, Huttenlocher D, et al. Mapping the World's Photos[C]. The 18th International Conference on World Wide Web, Madrid, Spain, 2009
    [81] Wang S, Wang Y, Tang J, et al. What Your Images Reveal: Exploiting Visual Contents for Point-of-Interest Recommendation[C].The 26th International Conference on World Wide Web, Perth, Australia, 2017
    [82] Simonyan K, Zisserman A.Very Deep Convolutional Networks for Large-Scale Image Recognition[OL]. https://arxiv.org/abs/1409.1556,2014
    [83] Liu Q, Wu S, Wang L, et al. Predicting the Next Location: A Recurrent Model with Spatial and Temporal Contexts[C]. AAAI Conference on Artificial Intelligence, San Francisco, California, USA, 2016
    [84] Manotumruksa J, Macdonald C, Ounis I. A Contextual Attention Recurrent Architecture for Context-Aware Venue Recommendation[C]. International ACM SIGIR Conference on Research and Development in Information Retrieval, Ann Arbor, MI, USA, 2018
    [85] Kong D, Wu F. HST-LSTM: A Hierarchical Spatial-Temporal Long-Short Term Memory Network for Location Prediction[C]. The 27th International Joint Conference on Artificial Intelligence, Stockholm, Sweden, 2018
    [86] Lu Y S, Shih W Y, Gau H Y, et al. On Successive Point-of-Interest Recommendation[J]. World Wide Web, 2019, 22(3):1 151-1 173 http://en.cnki.com.cn/Article_en/CJFDTotal-JSYJ201905040.htm
    [87] Lu Y, Huang J. GLR: A Graph-Based Latent Representation Model for Successive POI Recommendation[J]. Future Generation Computer Systems, 2020, 102:230-244 http://www.sciencedirect.com/science/article/pii/S0167739X19303966
    [88] Zhu Y, Li H, Liao Y, et al. What to Do Next: Modeling User Behaviors by Time-LSTM[C]. The 26th International Joint Conference on Artificial Intelligence, Melbourne, Australia, 2017
    [89] Liu Q, Wu S, Wang D, et al. Context-Aware Sequential Recommendation[C]. IEEE 16th International Conference on Data Mining (ICDM), Barcelona, Spain, 2016
    [90] Zhou X, Mascolo C, Zhao Z. Topic-Enhanced Memory Networks for Personalised Point-of-Interest Recommendation[C]. The 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Anchorage, USA, 2019
    [91] 黄立威, 江碧涛, 吕守业, 等.基于深度学习的推荐系统研究综述[J].计算机学报, 2018, 41(7):1 619-1 647 http://www.cqvip.com/QK/90818X/20187/7000685958.html

    Huang Liwei, Jiang Bitao, Lü Shouye, et al. Survey on Deep Learning Based Recommender Systems[J].Chinese Journal of Computers, 2018, 41(7):1 619-1 647 http://www.cqvip.com/QK/90818X/20187/7000685958.html
    [92] 王俊淑, 张国明, 胡斌.基于深度学习的推荐算法研究综述[J].南京师范大学学报(工程技术版), 2018, 18(4):39-49 http://d.wanfangdata.com.cn/periodical/njsfdxxb-gcjsb201804006

    Wang Junshu, Zhang Guoming, Hu Bin. A Survey of Deep Learning Based Recommendation Algorithms[J]. Journal of Nanjing Normal University (Engineering and Technology Edition), 2018, 18(4):39-49 http://d.wanfangdata.com.cn/periodical/njsfdxxb-gcjsb201804006
    [93] 常亮, 曹玉婷, 孙文平, 等.旅游推荐系统研究综述[J].计算机科学, 2017, 44(10):1-6 http://www.cnki.com.cn/Article/CJFDTotal-JSJA201710001.htm

    Chang Liang, Cao Yuting, Sun Wenping, et al. Review on Tourism Recommendation System[J]. Computer Science, 2017, 44(10):1-6 http://www.cnki.com.cn/Article/CJFDTotal-JSJA201710001.htm
    [94] Phatpicha Y, 常亮, 古天龙, 等.基于位置和开放链接数据的旅游推荐系统综述[J].智能系统学报, 2020, 15(1):25-32 http://www.cqvip.com/QK/92035A/202001/7101995922.html

    Phatpicha Y, Chang Liang, Gu Tianlong, et al. A Review of Linked Open Data in Location-Based Recommendation System in the Tourism Domain[J]. CAAI Transactions on Intelligent Systems, 2020, 15(1):25-32 http://www.cqvip.com/QK/92035A/202001/7101995922.html
    [95] 孟祥武, 梁弼, 杜雨露, 等.基于位置的移动推荐系统效用评价研究[J].计算机学报, 2019, 42(12):2 695-2 721 http://www.cnki.com.cn/Article/CJFDTotal-JSJX201912007.htm

    Meng Xiangwu, Liang Bi, Du Yulu, et al. A Survey of Evaluation for Location-Based Mobile Recommender Systems[J]. Chinese Journal of Computers, 2019, 42(12):2 695-2 721 http://www.cnki.com.cn/Article/CJFDTotal-JSJX201912007.htm
    [96] Zhang L, Sun Z, Zhang J, et al. Modeling Hierarchical Category Transition for Next POI Recommendation with Uncertain Check-ins[J]. Information Sciences, 2020, 515:169-190 http://www.sciencedirect.com/science/article/pii/s0020025519311144
    [97] Zhang L, Sun Z, Zhang J, et al. An Interactive Multi-task Learning Framework for Next POI Recommendation with Uncertain Check-ins[J]. CAL, 2020, 301(985):13 954 http://www.researchgate.net/publication/342797926_An_Interactive_Multi-Task_Learning_Framework_for_Next_POI_Recommendation_with_Uncertain_Check-ins
    [98] Chen C, Wu B, Fang W, et al. Practical Privacy Preserving POI Recommendation[OL]. https://arxiv.org/abs/2003.02834,2020
  • [1] 邵振峰, 孙悦鸣, 席江波, 李岩.  智能优化学习的高空间分辨率遥感影像语义分割 . 武汉大学学报 ● 信息科学版, 2022, 47(2): 234-241. doi: 10.13203/j.whugis20200640
    [2] 郭从洲, 李可, 李贺, 童晓冲, 王习文.  遥感图像质量等级分类的深度卷积神经网络方法 . 武汉大学学报 ● 信息科学版, 2022, 47(8): 1279-1286. doi: 10.13203/j.whugis20200292
    [3] 赵之若, 王少宇, 王心宇, 钟燕飞.  一种改进的火星车多光谱影像深度新颖目标探测方法 . 武汉大学学报 ● 信息科学版, 2022, 47(8): 1328-1335. doi: 10.13203/j.whugis20220119
    [4] 武芳, 杜佳威, 钱海忠, 翟仁健.  地图综合智能化研究的发展与思考 . 武汉大学学报 ● 信息科学版, 2022, (): -. doi: 10.13203/j.whugis20210687
    [5] 李彦胜, 张永军.  耦合知识图谱和深度学习的新一代遥感影像解译范式 . 武汉大学学报 ● 信息科学版, 2022, 47(8): 1176-1190. doi: 10.13203/j.whugis20210652
    [6] 林学楷, 许才军.  深度学习驱动的地震目录构建:PhaseNet和EqT模型的对比与评估 . 武汉大学学报 ● 信息科学版, 2022, 47(6): 855-865. doi: 10.13203/j.whugis20220197
    [7] 陈行, 罗斌.  利用动态上采样滤波深度网络进行多角度遥感影像超分辨率重建 . 武汉大学学报 ● 信息科学版, 2021, 46(11): 1716-1726. doi: 10.13203/j.whugis20200651
    [8] 张宇, 江鹏, 郭文飞, 张丹, 韩震.  一种利用两阶段学习模型的水下阵列定位方法 . 武汉大学学报 ● 信息科学版, 2021, 46(12): 1889-1899. doi: 10.13203/j.whugis20210466
    [9] 季顺平, 罗冲, 刘瑾.  基于深度学习的立体影像密集匹配方法综述 . 武汉大学学报 ● 信息科学版, 2021, 46(2): 193-202. doi: 10.13203/j.whugis20200620
    [10] 周于涛, 吴华意, 成洪权, 郑杰, 李学锡.  结合自注意力机制和结伴行为特征的行人轨迹预测模型 . 武汉大学学报 ● 信息科学版, 2020, 45(12): 1989-1996. doi: 10.13203/j.whugis20200159
    [11] 巨袁臻, 许强, 金时超, 李为乐, 董秀军, 郭庆华.  使用深度学习方法实现黄土滑坡自动识别 . 武汉大学学报 ● 信息科学版, 2020, 45(11): 1747-1755. doi: 10.13203/j.whugis20200132
    [12] 徐江河, 张飞舟, 张立福, 邓楚博, 孙雪剑.  一种综合利用图像和光谱信息的物体真假模式识别方法 . 武汉大学学报 ● 信息科学版, 2019, 44(8): 1174-1181. doi: 10.13203/j.whugis20190139
    [13] 潘银, 邵振峰, 程涛, 贺蔚.  利用深度学习模型进行城市内涝影响分析 . 武汉大学学报 ● 信息科学版, 2019, 44(1): 132-138. doi: 10.13203/j.whugis20170217
    [14] 宁津生, 吴学群, 刘子尧.  顾及道路通达性和时间成本的多用户位置推荐 . 武汉大学学报 ● 信息科学版, 2019, 44(5): 633-639. doi: 10.13203/j.whugis20190026
    [15] 张兵.  遥感大数据时代与智能信息提取 . 武汉大学学报 ● 信息科学版, 2018, 43(12): 1861-1871. doi: 10.13203/j.whugis20180172
    [16] 邵振峰, 张源, 黄昕, 朱秀丽, 吴亮, 万波.  基于多源高分辨率遥感影像的2 m不透水面一张图提取 . 武汉大学学报 ● 信息科学版, 2018, 43(12): 1909-1915. doi: 10.13203/j.whugis20180196
    [17] 瞿涛, 邓德祥, 刘慧, 邹炼, 刘弋锋.  多层独立子空间分析时空特征的人体行为识别方法 . 武汉大学学报 ● 信息科学版, 2016, 41(4): 468-474. doi: 10.13203/j.whugis20140581
    [18] 樊恒, 徐俊, 邓勇, 向金海.  基于深度学习的人体行为识别 . 武汉大学学报 ● 信息科学版, 2016, 41(4): 492-497. doi: 10.13203/j.whugis20140110
    [19] 李伟, 陈毓芬, 李萌, 钱凌韬, 方潇.  基于情境的POI个性化推荐方法研究 . 武汉大学学报 ● 信息科学版, 2015, 40(6): 829-833. doi: 10.13203/j.whugis20130657
    [20] 姜万冬, 席江波, 李振洪, 丁明涛, 杨立功, 谢大帅.  模拟困难样本的Mask R-CNN滑坡分割识别 . 武汉大学学报 ● 信息科学版, 0, 0(0): 0-0. doi: 10.13203/j.whugis20200692
  • 加载中
计量
  • 文章访问数:  1335
  • HTML全文浏览量:  440
  • PDF下载量:  258
  • 被引次数: 0
出版历程
  • 收稿日期:  2020-10-15
  • 刊出日期:  2020-12-05

融合深度学习技术的用户兴趣点推荐研究综述

doi: 10.13203/j.whugis20200334
    基金项目:

    国家自然科学基金 41971366

    国家自然科学基金 91846301

    国家自然科学基金 71904095

    国家重点研发计划 2018YFC0809700

    作者简介:

    郭旦怀,博士,副研究员,主要研究方向为地理人工智能、空间场景相似性计算。guodanhuai@cnic.cn

  • 中图分类号: P208

摘要: 近年来,用户兴趣点(point of interest,POI)推荐是基于位置的社会网络(location-based social network,LBSN)研究的热门话题,POI推荐不仅可以帮助用户找到心仪的POI,也可为商家带来可观收益。深度学习技术因可以更有效地捕获用户与物品间的非线性关系,逐渐应用到推荐系统任务中。对近年来结合深度学习技术的用户POI推荐的研究进行综述。首先介绍了用户POI推荐与传统推荐任务的区别,并介绍了可以提高推荐任务模型性能的多种影响因素;随后将深度学习应用到POI推荐的方式分为4类:POI的向量化学习、深度协同过滤、从辅助内容中提取特征和利用循环神经网络进行序列推荐,并阐述了深度学习技术在这些方式中的应用效果与优势;最后对结合深度学习技术的用户POI推荐的发展方向进行了总结与展望。

English Abstract

郭旦怀, 张鸣珂, 贾楠, 王彦棡. 融合深度学习技术的用户兴趣点推荐研究综述[J]. 武汉大学学报 ● 信息科学版, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
引用本文: 郭旦怀, 张鸣珂, 贾楠, 王彦棡. 融合深度学习技术的用户兴趣点推荐研究综述[J]. 武汉大学学报 ● 信息科学版, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
GUO Danhuai, ZHANG Mingke, JIA Nan, WANG Yangang. Survey of Point-of-Interest Recommendation Research Fused with Deep Learning[J]. Geomatics and Information Science of Wuhan University, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
Citation: GUO Danhuai, ZHANG Mingke, JIA Nan, WANG Yangang. Survey of Point-of-Interest Recommendation Research Fused with Deep Learning[J]. Geomatics and Information Science of Wuhan University, 2020, 45(12): 1890-1902. doi: 10.13203/j.whugis20200334
  • 由于全球定位系统和Web 2.0技术的飞速发展,基于位置的社交网络(location-based social network,LBSN)相关研究逐渐兴起。利用用户已有签到记录为其推荐心仪的兴趣点(point of interest,POI)成为备受关注的研究内容之一[1-2]。通常可将LSBN结构分为用户级别、地理位置级别和POI内容级别。其中,用户级别反映用户之间的社交关系,用户与地理位置级别间的交互体现了用户对该地点的访问行为,POI内容级别则包含了与POI相关的语义信息。首先,通过充分挖掘LBSN之间不同级别本身及其之间的关系,既可以帮助用户探索同城的生活服务,并有效平衡多个用户到达推荐地点的时间成本[3],又可以为商家带来潜在的商业利益;其次,当用户从一个熟悉的地方搬到另一个陌生的地方时,POI推荐可以帮助用户快速适应并融入新环境。此外,有研究发现,当用户的个人状态发生改变后,POI的推荐也相应随之改变[4]

    然而,POI推荐系统与经典的推荐系统任务(如推荐新闻、电影、商品等线上物品)相比更为复杂。首先面临的是更为严峻的数据稀疏性问题,在LBSN提供的海量POI中,可以被用户访问到的POI几乎微乎其微,导致数据集极其稀疏[5];此外,用户签到数据是一种隐性反馈,用户是否访问过该地点的签到记录会造成数据集中只有正样本但缺乏负样本的问题;与线上看电影或购物相比,人们在真实世界中访问一个位置会更费时间和精力,出于隐私保护倾向于不留下个人访问记录[6]。其次是推荐系统任务中会普遍遇到的冷启动问题,在POI推荐任务中主要为3类:从未被访问过的位置称为冷启动POI,从未访问过任何位置的用户被称为冷启动用户,从一个地方搬移到另一陌生地方生活或旅游的用户也会遇到冷启动问题[5]。最后是用户动态偏好问题,即用户偏好会随着时间推移和所处环境的改变发生变化。因此,有必要考虑多种影响因素,以提高该任务的推荐性能。

    近年来,深度学习技术的快速发展为POI推荐系统的发展带来了新的机遇。通过调研计算机和地理信息科学领域的重要会议和期刊,本文筛选出将深度学习应用于POI推荐这一任务的代表成果,将深度学习技术应用到POI推荐的方式工作原理进行详细阐述并介绍相关代表工作,描述不同应用技术目前已解决的科学问题,并对比不同方法之间带来的模型改进效果。

    • 文献[7-8]表明,将影响POI推荐效果的多种因素纳入模型的做法可以大幅提升该推荐任务的准确度。由于POI推荐任务受到现实生活中物理距离的制约,因此目前研究通常集中分析空间信息造成的位置因素影响,探究用户行为与地理距离之间的强相关性[9],常见的影响因素还包括时间因素、社交因素、POI分类因素和POI评论因素等。

    • POI推荐需要考虑位置因素的影响,即用户在现实生活中的行为会受到实际物理距离的限制,偏向于访问与当前位置所处距离更近的下一个位置。同时空间聚类现象[10]指出用户经常出现的位置会比较固定且聚集。研究位置因素造成影响的方法,一类是从用户角度出发,针对每个用户签到记录的分布情况进行学习[11-13],或者利用用户和其邻近POI隐向量的内积结果[14-15]进行位置因素影响的计算;另一类则是从POI关联角度出发,认为每个用户访问过的POI都会对未访问过的POI产生影响,用户有更大概率访问与被访问过的POI相似的新地理位置[16]

    • 时间因素对POI推荐的影响体现为用户访问行为具有周期性和序列性模式。以工作日为例,周期性变化[17-18]指出人们的行为模式比较固定,通常往返于居住地和工作地之间;而在周末,人们更倾向于去往休闲场所。序列性影响表现为用户在不同时段呈现不同位置访问偏好,比如用户经常会在离开机场后去往酒店,这就是典型的用户轨迹序列模式[19-21]

    • 社交因素会对用户访问决策产生一定影响,比如人们更倾向于采取熟人的意见而非陌生人的推荐,或更愿意前往同龄朋友而非长辈访问过的地点。文献[13, 22-23]在协同过滤(collaborative filter,CF)方法的基础上考虑了用户的社交关系,在一定程度上缓解数据稀疏性问题。然而,尽管考虑社交因素影响可大幅提高传统推荐任务的推荐精度,但在POI推荐任务中的作用却并不明显。文献[24]指出,大约96%的用户仅与自己的好友访问过不超过10%的共同地点,可见社交因素的引入对POI推荐的效果提升并不显著。

    • POI分类信息对推荐效果的影响也值得关注。文献[25]观察到用户对某个地点的访问兴趣与其对该地点所属分类的访问频率相同。文献[26-27]则通过计算用户对标签的标注频率以及签到地点在被标注标签中所占的比重,来预测用户对未访问过的地点的签到概率。

    • POI评论内容主要有文本信息与图像信息,引入这些多源辅助信息对提升推荐有较好效果。文献[28-29]对用户已访问过的位置进行评论信息挖掘,推断用户本身的个人偏好和用户在当前所处地的POI偏好,解决用户遇到的POI冷启动问题。文献[30]则注意到用户在陌生城市旅游时可能会选择以往不常去的位置进行参观体验,考虑了用户兴趣随所处空间转移而改变的问题。此外,用户可在社交软件中上传相关照片作为该地址的打卡记录,这些图像蕴含着与该POI相关的上下文信息,可以有效提升推荐效果。

    • 经典用户个性化POI推荐方法主要是基于CF的方法,具体可以分为基于内存的CF方法和基于隐因子模型的CF方法。

      基于内存的CF方法分为基于用户的CF方法和基于物品的CF方法,其基本思想是基于相似用户的加权平均评分推断出用户对未知POI的偏好,通过探究用户和其好友的相似性,帮助用户推荐可能感兴趣的位置[31, 12]。该方法可以描述用户和POI之间的紧密联系,但也存在一些局限,如忽视了大多数用户与POI的交互并不相似。

      基于隐因子模型的CF方法是目前最流行的POI推荐方式,通过模型对用户和POI之间的签到记录进行学习。最常用的方法是基于经典的矩阵分解(matrix factorization,MF)[17]及其扩展模型,如概率因子分解[32-33]、非负矩阵分解[34]、泊松矩阵分解[35]和加权矩阵分解[12, 15, 36]。上述方法通过近似位置的绝对评分进行预测,可以有效提取用户和POI关系的全局特征,但是表达局部特征的能力会稍逊一筹。由于POI推荐任务还需要优化位置排名,即用户访问过的POI应比未访问过的POI得分更高[14],传统面向排名的CF算法只能基于显性反馈直接产生每个用户对物品的偏好序列,并不适合针对隐性反馈的POI推荐任务中。因此,Li等[14]提出基于MF方法、地理位置因素和排名模式的局部CF排名推荐算法(ranking based geographical factorization method,RankGeoFM),通过签到频率对POI进行排名。由于已访问和未访问的地点在排名函数的学习过程中都有所贡献,数据稀疏问题在一定程度上得到缓解,但是该方法依然存在冷启动问题,且可解释性较差。此外,一些传统方法有效利用马尔可夫链[18, 37-38]挖掘POI间的序列转移模式,如文献[37]利用基于成对排序的距离嵌入模型,将每个POI映射到低维的欧拉空间中,采用马尔可夫链对用户将要访问的地点进行预测,并综合序列信息和用户偏好进行POI推荐建模。

    • §2中提到的经典POI推荐方法在特定领域取得了较好的效果,但其共同缺陷都是将用户和POI以及上下文相关因素都用稠密向量表示到一个共享的隐性空间中,因此评判模型性能获得的分数通常是通过这些向量的内积运算获得,这就导致在大规模数据集的情况下,这些模型无法完全捕捉到用户和POI间复杂的交互作用。因此,这些方法在具有多种上下文因素的用户空间交互行为特征的效果并不十分理想。同时,单纯增加隐因子的数量,容易在稀疏的数据集上产生过拟合问题。

      有研究将深度学习技术引入到POI推荐任务中。其优势包括:首先,深度学习技术采用非线性激活函数为数据进行非线性建模,弥补传统推荐方法中只进行简单的线性假设因而造成模型能力限制的不足。其次,深度神经网络(deep neural network,DNN)有助于表达输入数据的特征,可以获取大量关于用户和物品的相关描述性信息。在实际应用中将DNN用于表征学习工作,不仅可以减少手工提取特征的工作量,还可以将多源多模态数据融入推荐系统中。此外,现实生活中用户的访问行为都存在极强的关联性甚至因果性,通过序列分析任务可以充分捕捉用户行为和物品变换之间的时间动态。传统的推荐方法将用户行为孤立看待,采用循环神经网络(recurrent neural network,RNN)及其变体模型进行顺序建模可以有效解决该问题[39]

      众多研究者尝试应用深度学习技术的推荐任务克服传统推荐模型中存在的问题。文献[40]在基于矩阵分解的方法上结合深度神经网络对隐性反馈数据进行协同过滤,通过用户和物品的共同向量映射,利用多层感知机(multi-layer perceptron,MLP)抽取高维隐含层特征。文献[41]将MF与卷积神经网络(convolutional neural network,CNN)模型相结合,利用单层CNN通过文本信息学习物品的特征向量。文献[42]提出一个堆栈降噪自编码器模型(stacked denoising autoencoders,SDAE)和矩阵分解模型融合的推荐系统,其中SDAE用来抽取物品内容信息中的隐含特征;文献[43]扩展了文献[42]的工作内容,将堆栈降噪自编码器替换为边缘降噪自编码器,该操作解决了计算耗费资源以及高维特征的可伸缩性较弱这两个问题,具有边缘化噪声和提高网络的收敛速度的优势。此外,RNN因为隐式表征的递归计算而广泛应用于建模任意长度的序列数据的任务中[44]。但是,文献[45]指出RNN具有梯度爆炸或梯度消失的问题,无法学习较长序列中的远距离依赖关系。因此,目前学者们多采用RNN变体网络解决上述问题,如长短期记忆模型(long short-term memory,LSTM)和门控循环单元模型(gated recurrent unit,GRU),以实现长期依赖学习。其中LSTM利用3个门控单元和一个存储单元来控制信息流,通过关闭相应的3个门控单元并更新存储器内容,可以忘记无关信号[45];GRU也是RNN的变体,它具有两个门控单元且没有存储单元,但同时也具有像LSTM模型那样捕获长期依赖关系的能力[46]

      目前运用深度学习技术进行物品推荐任务时大都只考虑单一因素,但是在个性化POI推荐任务中需要纳入更多因素提升推荐效果;现有研究存在不能解决用户的POI偏好随时间和地域变化而动态更新的问题。利用深度学习模型提高POI推荐任务的准确度问题具有极大挑战性,本文通过整理并分析近几年融合深度学习技术与POI推荐工作的结合方式,按技术流派将其分为POI的向量化学习、深度协同过滤、从辅助内容中提取特征和利用RNN进行序列推荐这4类。值得注意的是,这4类方法之间并无绝对界限,最新的结合深度学习技术的POI推荐工作中一般都尝试采用多种方法对模型性能进行优化。

    • 向量化学习技术的主要思想为:通过对每个特征学习,可以自定义大小的隐向量,利用向量之间存在相似性的优势解决维度变化之后特征失去联系的问题。由于可以将高维稀疏向量转变为低维稠密向量,因此该技术可扩展神经网络的应用范围。它不仅可以减少离散变量的空间维数,还可以通过计算用户和物品或物品和物品之间的相似度缩小推荐候选库的范围,更有意义地表示该变量。自从词向量模型(Word2Vec)[47]在推荐系统中成功应用后,研究者在其基础上提出了物品向量模型(Item2Vec)[48],而在POI推荐这一特殊的任务中自然可以衍生出各类POI向量化技术,从而有效解决数据稀疏性严重的问题。

      Liu等[49]第一个借鉴了自然语言处理的方法,由于用户对POI的偏好会被其他POI影响,因此将每个POI作为一个单词,每个用户的签到记录作为一个句子,随后利用skip-gram模型[50]训练一个POI的隐性表示向量,同时利用时间隐性表示向量对时间因素的影响进行挖掘。该方法存在两个问题:首先,它没有考虑位置因素的影响;其次,文中将POI之间的序列转移模式和用户偏好分开建模,但是考虑到用户每一次访问行为都应该被序列转移模式和用户偏好共同决定,同时对两个因素建模更为合理。Feng等[50]提出可以利用POI隐性表征模型(POI2Vec)挖掘位置因素的影响来解决上述问题,考虑到相邻POI之间有高度相关性,学者将层级二叉树中的节点距离设置为POI间的真实距离,使它们在二叉树中的位置尽量接近,将空间信息充分扩展到整个二叉树中。由于一个POI可能会出现不只一次,这样能够充分捕捉该POI跟其他POI的丰富关系,进而有效结合地理位置因素的影响,具有很强的创新性。

      此外,Zhao等[21]考虑了POI自身带有的时间属性,提出一种结合时间因素影响的POI向量映射模型用来同时获取基于内容的用户访问信息和不同的时空因素。文中将POI访问序列按天划分,将用户一天的访问序列作为一个句子。该模型通过实验证明其效果优于基于马尔可夫链的模型。Qian等[7]指出上述模型既没有完全解决数据冷启动问题,也没有同时考虑时空因素造成的影响,于是提出了基于翻译的知识图谱表示方法,首先通过度量学习方法缓解数据稀疏性问题,通过获取 < 时间,位置 > 作为整体时空上下文确定用户对POI的最终选择,用户和POI通过向量化学习映射到潜在的“翻译空间”中,每个时空上下文都被表示为同一空间中的“翻译向量”,然后对用户的签到行为进行建模,学习基于用户和相应POI向量化表示的时空转移模式。Yang等[51]将CF与半监督学习相结合,提出了一种基于DNN的POI推荐框架,预测用户对POI的偏好,通过对相邻用户和POI进行平滑,缓解数据稀疏问题,并结合社交因素和地理位置因素综合影响学习用户和POI的向量化表示。

      近年来,图理论被用来描述互联网中日益呈现图结构的的数据对象。基于序列嵌入技术的模型,面对日渐复杂和庞大的图数据逐渐显得力不从心,基于对图结构节点进行表达的图嵌入技术就成为了深度学习推荐系统新的研究方向。图嵌入技术是对图结构中节点进行向量化编码的方法,最终生成的向量一般包含图的结构信息和其与附近节点的局部相似信息。同时,经过图嵌入技术预训练后得到的向量化学习特征可以直接与其他特征向量连接一同输入DNN中进行训练。相比MF等传统方法产生的特征向量,向量化学习的表达能力更强,因为它可以引入任何信息进行编码,使其本身包含大量有意义的信息。

      文献[6-7, 52-53]均采用图嵌入方式进行POI的向量化学习。Xie等[6]提出一种考虑4种因素影响的二分图嵌入模型(graph based embedding,GE),通过构建4个二分图分别描述序列影响、位置因素影响、时间因素影响、POI分类影响;同时,笔者定量得出了各影响因素对位置推荐正确率的贡献,如序列影响的加入对推荐性能提升最有帮助,这对该领域后续工作具有很大的指导意义。Zhang等[53]认为Xie等[6]直接计算用户和POI在公共隐性子空间中的内积无法深入理解用户的空间行为,需要通过在用户、POI和相关影响因素的向量映射中利用非线性变换将向量化学习和高级空间语义学习分开,因此,一种POI向量化学习的预训练策略应运而生,用以对POI之间的顺序关系和地理影响进行编码,从而解决目标函数的非凸性导致的全局最优解缺失的问题,并使神经网络模型收敛更快且性能更优[40]。本文利用深度游走(DeepWalk)[54]技术进行POI嵌入向量的学习,在由用户访问过的位置组成的图结构上进行随机游走,产生大量POI序列后将其作为训练样本输入到skip-gram模型[47]中进行训练,通过最大化序列中节点邻居的概率来学习该节点的向量表示。实验结果表明,在常见的Foursqure[55]和Gowalla[56]等真实数据集中,采用POI向量化学习的预训练策略优于传统的MF方法和GE模型[6]

    • 基于CF的传统POI推荐方法中用户和物品间的交互关系通常采用MF方法进行表述,但该方法生成的隐性因子内积描述能力存在局限。采用深度协同过滤方法的主要思想是利用神经网络模型取代MF生成的内积结果,提升在大规模数据集下学习隐性特征之间任意复杂函数关系的学习能力,该方法学习效果优于经典MF方法。

      近年来,自动编码器模型(autoencoders,AE)具有的对非线性和复杂数据特征的表达能力被学者重视,文献[43, 57-58]中均运用该方法在物品推荐领域获得不俗的表现。AE是一个无监督学习模型,利用反向传播算法,使得模型的输出等于输入。文献[16]引入AE模型来提升个性化POI推荐任务的性能,利用堆栈自动编码器模型(stacked autoencoders,SAE)解决复杂的签到数据的特征抽取工作。SAE是一个多层的AE组成的神经网络,前一层自编码器的输出作为后一层自编码器的输入,可以获取用户和POI之间的复杂关联,并保证得到的隐性空间中具有丰富的数据特征;同时,利用AE和多种MF方法的强关联性直接建模用户打分情况,该思路既可以解决用户隐含层特征的个性化问题,又可以计算已访问的POI对未访问POI的影响。文献[59]也提出类似想法,利用SDAE模型通过对用户或POI相关的签到信息重构学习用户或POI的最佳初始值,从而有效提高矩阵分解过程的学习效率和性能。SDAE是在DAE的基础之上,对输入的训练数据加入噪声,使得AE拥有对学习输入数据鲁棒性更强的优势,所以SDAE的泛化能力强于普通的DAE[60]

      除了AE模型,文献[5, 51, 61-65]也运用其他新兴神经网络模型进行POI推荐。受到生成对抗网络的启发,文献[61, 64]旨在以生成方式学习用户的潜在偏好而非定量分析不同因素对POI推荐任务的影响。Liu等[61]提出了一种融合位置因素影响的生成对抗网络对用户进行POI推荐,该模型的核心包含了一个生成器和一个判别器。在POI推荐任务中,为了充分利用打卡数据学习用户在已访问的位置和未访问位置之间的偏好,一般通过成对排名方法[14]假定用户已访问过的POI的评分大于未访问的POI,现有的成对排名方式只是简单地随机选择未访问过的POI为负样本,这会给模型训练造成较大困扰。因此,文献[61]将成对排名当作判别器,用来预测生成样本对之间的排名关系;另一方面,生成器会不断生成关键的负样本,并与正样本进行耦合成为训练实例,该对抗网络框架可变换地学习两个不同模块之间的参数,当模型收敛后可将判别器学到的用户和POI向量化表示,用于用户POI推荐。

      文献[63]提出了基于成对排名的深度循环协同过滤框架,该框架不仅扩展了文献[40]提出的利用MLP模型捕捉用户与物品之间复杂的交互关系,且进一步利用传统RNN模型建模用户访问行为的序列特征,提高了POI推荐性能的同时有效缓解了冷启动用户问题。文献[65]构建利用谱嵌入增强的DNN网络,通过捕捉用户和POI的关系进行谱嵌入,增强MLP学习用户与POI间的非线性交互能力。此外,近年来被广泛利用的图神经网络也可提升CF方法的推荐效果[66]。文献[62]将用户和POI的交互数据表示成高阶连接图,在用户和POI的向量化表示中以嵌入传播的方式显式地注入协作信号,对用户和POI间的复杂交互进行非线性建模,用以学习用户的POI个性化偏好。

    • 由于数据的噪声太大,深度CF方法在数据集稀疏的情况下效果欠佳,需要引入相关的多源异构辅助信息。虽然大部分考虑了时空因素的POI推荐任务效果尚可,但是对POI评论这类辅助信息进行数据挖掘往往会带来意想不到的效果,因此,一些学者提出基于内容感知的POI推荐任务。该任务主要工作为对POI评论包含的文本信息特征和图像内容特征进行抽取。但是,目前这类研究工作相对较少,这是因为包含合适的文本信息或图像内容的用户签到数据集很少或规模较小,比如平台为了保护用户隐私将用户发表的评论设置为不可见状态[67];其次是因为语义分析目前还存在较大的挑战性,LBSN中的大多数评论字数较少,且上下文内容往往含糊不清[68],从有限的评论内容中获取有效的信息相对困难;同时,大规模的多源异构辅助信息带来的分布不均匀性和多模态性也是一个难题。目前该研究方向效果最好的方法为采用CNN模型对文本和图像内容进行特征抽取,随后利用混合推荐系统为用户进行个性化POI推荐[69]

    • 目前大多数POI推荐工作的基本思路都是将评论信息与签到信息关联起来降低数据的稀疏性[70-71]。评论信息在相关POI研究工作中并没有真正得到充分的利用,但是充分挖掘与用户访问位置相关联的评论文本内容特征对提升推荐性能十分有益。评论信息可以包含对该位置本身推断得到的信息,也可得到用户对于该位置的情感指标。

      传统方法中,大多数利用评论信息的推荐系统的工作都先使用TF-IDF(term frequency-inverse document frequency)算法或TextRank算法获得更合理的可以代表评论内容特点的向量[72],再使用狄利克雷分配模型(latent Dirichlet allocation,LDA)挖掘评论信息的主题[29]。但是,该模型通常仅利用词袋模型处理评论信息,忽视了评论信息的上下文富含的语义信息;而且,当数据集过于稀疏时,LDA模型学习的潜在特征表示十分欠缺,无法令人满意。

      文献[68, 73]提出可以用嵌入技术抽取该辅助信息的深层特征。文献[68]为了得到用户在每个位置进行活动的相关文本内容特征,提出利用word embedding[47]技术构建文本信息内容抽取层,用以得到评论文本信息的有效价值。近年来,利用CNN自动获取评论信息中POI的深层次特征方法得到关注。该方法可以同时考虑词序和上下文信息对提取的用户潜在兴趣特征的影响,生成比LDA和词嵌入模型更好的潜在特征表示[41, 59, 73]。文献[73]利用CNN模型进行评论文本信息内容的抽取工作,它可将评论内容中包含的用户偏好和POI特征向量映射到共同空间中,并通过结合地理位置因素估算用户对POI的喜爱程度,通过在真实的Foursqure[55]数据集上进行实验验证,CNN的使用帮助深入了解评论信息,提升了模型效果。

    • 评论中图像通常包含了比文本丰富的信息,如果对其进行挖掘会对LSBN上的用户或商家都带来很大的帮助。利用挖掘图像信息提升推荐系统性能的例子有很多,比如文献[74]从图像内容中推断用户情感,文献[75-76]中学者们利用图像内容预测图像标签。图像和地理位置进行关联的研究工作通常可以分为两种类型,一种是将相关区域划分为网格并预测图像所在的网格[77-78],如文献[77]提出了一种数据驱动的方法将Flickr图像校准为地球上的网格进行预测;另一种是将图像与地标或POI相关联[79-80],如文献[79]通过使用图像内容的词袋模型来预测照片的POI内容。文献[81]借鉴了上述研究的思路,使用图像信息帮助学习用户和POI的潜在特征,以完成个性化POI推荐任务,其主要利用的模型是CNN架构下的VGG16模型[82]

    • RNN能够捕获观察到的用户与物品交互的顺序属性。随着RNN在顺序数据建模中的成功应用,RNN可用于在连续POI推荐中对用户的访问序列进行建模。利用RNN模型对用户访问数据中的序列性进行建模学习是当前融合深度学习技术的POI推荐任务中最广为利用的手段,可以有效解决用户对POI的偏好随时间和地域变化而动态更改的问题,训练后的模型也在该推荐任务中取得了最优的表现[69]。同时,它既可以解决基于马尔可夫链的方式会因为不同影响因素之间的强独立性假设限制模型性能的问题,也可以解决MF由于将时空影响因素作为单独维度纳入会面临的冷启动问题。

      Liu等[83]较早利用并改进RNN模型进行用户短期动态偏好学习,该模型对两次访问位置之间的地理距离和相邻访问行为之间的时间间隔进行建模。为了突破传统RNN模型只在每个网络层考虑一种影响元素的制约,Liu等[83]提出的ST-RNN(spatiotemporal RNN)模型可以保证每个RNN单元中的时间窗口中建模多次用户访问记录,并利用递归结构捕获与时空因素相关的上下文信息。ST-RNN模型仍存在改进空间:首先,ST-RNN很难选择合适的时间窗宽度,因为它只能在固定时间段内对多元素进行建模;其次,由于数据稀疏性,ST-RNN无法学习每个可能的用户相邻访问行为之间的连续时间间隔和地理距离,只能将他们划分为离散特征;最为关键的是,该模型并没有考虑POI本身的特性或POI之间的关系,然而文献[84]指出这些附属信息对POI推荐任务性能的提升具有很大的帮助。

      Zhao等[69]指出用户对位置访问的短期或长期兴趣都至关重要,而ST-RNN模型[83]只考虑了用户的短期兴趣。因此文中通过设计可以同时捕捉用户长期和短期兴趣的时空门控网络(spatiotemporal gated network,STGN)对POI进行序列推荐,提高ST-RNN模型的工作效率。与ST-RNN模型难以区分长期兴趣和短期兴趣相比,STGN模型在LSTM模型的基础上添加两个事件门控单元和两个距离门控单元来捕捉用户的长期兴趣。该模型在Gowalla[56]等真实数据集上的表现效果比ST-RNN模型和embedding方法都要出色。同时,该模型不同于文献[85]只能进行日常POI推荐,其可对用户可能感兴趣的地点进行连续推荐。

      后续的POI推荐工作普遍采用RNN变体模型。Lu等[86]首先利用word2vec技术[47]建立用户和POI的隐向量,然后利用LSTM模型使用这些隐向量对用户进行POI推荐。该方法忽略了时间因素影响和位于不同区域的POI可能造成的用户访问偏好问题,比如用户更倾向访问热门地区的某位置,而不是冷门地区的某位置。因此Lu等[87]对此方法进行扩展,采用LSTM神经网络对用户相邻访问行为之间复杂的转移行为进行建模,通过学习POI类别、区域的类别以及POI的被签到频率(即受欢迎程度)获得基于时序的用户偏好和区域转移隐向量,最后纳入位置因素影响对用户进行POI的连续推荐。Manotumruksa等[84]采用类似思路,利用GRU模型学习并结合位置因素影响和时间因素推荐POI,达到不错的学习效果。它比当前流行的结合了时空因素影响的RNN变体模型推荐效果更好,如Zhu等提出的TimeGRU[88]和Liu等提出的CAGRU[89]等模型均比基于深度协同过滤的NeuMF[40]和DRCF[63]推荐精度更高。

      此外,传统的RNN模型及其变体模型主要使用隐含层状态或注意力机制作为记忆功能,但是这种方法产生的记忆无法精确记录全部内容,在编码过程中丢失了很多信息,因此可以采用记忆网络生成一个可灵活操作的记忆模块解决该问题。Zhou等[90]受此启发,提出了利用记忆网络对用户的签到记录进行编码,通过捕获POI之间的局部关系,学习每个用户和POI对之间复杂关系向量的研究思路,该工作推荐效果比ST-RNN模型[86]效果更好。

    • 目前国内已有的相关研究综述仅仅是基于深度学习的推荐系统研究[91-92]或是基于LBSN的位置推荐研究[93-95]。本文针对深度学习应用于POI推荐这一具体任务展开综述。

      POI推荐与传统推荐任务的区别较大,目前POI推荐系统仍属于起步阶段,该任务由于空间聚类现象[10],导致推荐效果对位置准确度的要求更高;POI推荐任务中,用户仅会在大量的位置中留下稀疏的签到记录这类隐性反馈,且生成的用户和POI签到频率矩阵比普通的用户和物品评分矩阵稀疏性问题严重得多;同时,用户在LBSN中生成的数据具有周期性、社会性和地理空间性等特征,构成了包含社交网络、用户行为轨迹以及POI与社交媒体网络的多层次异构网络,因此POI推荐任务需要考量的因素更多。

      另一方面,国内对目前基于LBSN的推荐系统已有成果方面的综述大多是从推荐应用进行分类,同时也有学者在数据集和用户量限定的情况下,采用合适的评价方式和评价指标对目前已有的LBSN推荐系统进行详细地分析与比较,并展示出它们之间的相关关系,使读者能够从不同方面充分理解该任务的评价体系[95]。本综述对应用深度学习技术进行POI推荐的研究目标进行聚焦,是地理空间智能领域的典型应用。

      然而,也正是因为POI推荐任务的特殊性,本文无法像目前已有的基于深度学习的推荐系统研究综述一样涉及深度学习在推荐任务中的所有应用内容。例如,由于已有研究发现影响POI推荐的社交关系因素的引入对POI推荐任务的帮助并不大[24],因此采用深度学习技术重点建模用户的社交关系,发现用户对POI偏好的相关成果并未在本文有所涉及。本文主要关注深度学习模型为POI推荐任务带来的性能提升和不同应用方式之间的效果对比,并没有阐释某些相关推荐系统设计思路中的全部优势。

      近年来,POI推荐系统目前是基于深度学习技术的推荐任务中的热门方向之一,本文将该任务未来可能发展的趋势总结如下。

      1)解决聚集POI问题。

      下一个POI推荐任务总是基于历史数据中用户处于单独位置时的精确记录,但是现实生活中往往只能得到不确定的访问记录,相比于得到单独且准确的位置,在更多情况下只能得到众多POI的聚集点,比如大型商场或夜市。然而当用户走进一家商场的餐厅时,由于室内定位精度有限,我们无法准确定位到餐厅内部位置。目前的研究难以解决用户不确定的签到行为中存在聚集POI的问题,因此无法得到完整且准确的用户转移模式;同时,大多数研究只能预测用户下一时刻将要访问的单独POI,无法预测聚集POI,这样也会导致每个聚集POI成为新的冷启动POI,为克服冷启动问题带来新的挑战[96]

      2)将多任务学习(multi-task learning,MLT)应用在POI推荐任务。

      MLT因其提高模型性能和泛化能力的优势广泛应用于推荐任务中,大多数采取MLT技术的推荐任务都用于物品推荐和解释工作中。下一个POI推荐工作通过给定的用户历史访问记录学习用户的转移模式,然而现实生活中用户的转移模式往往会中断,此时需要挖掘用户进行的活动与所处位置之间的相互作用探索下一个访问的位置受到用户活动的影响。为了寻求用户活动模式的序列性,以便通过估算用户活动,进而根据给定的活动预测精准的访问位置,未来的相关工作可将MLT技术应用到POI推荐任务中,通过交互方式学习用户进行的活动与所在位置之间的关联,采取多模态表征方式学习用户签到行为中的潜在关联,准确捕捉用户行为与所处地理位置的转移模式[97]

      3)解决数据隐私问题。

      目前现有的POI推荐框架包含用户个人资料数据(例如年龄和性别)、POI描述(例如类比和访问频率)以及用户访问方式(比如点击或签到)。首先,由于用户的私人数据存在被滥用的可能,如何确保不被推荐者加以滥用的问题亟待解决;其次,大多数现有的POI推荐模型都隐含了用户的私人信息,利于基于矩阵分解的隐变量可以直接推断用户对商品的评分,因此目前现有的POI推荐系统都具有较高的隐私风险。已有方法侧重于构建系统时对用户隐私进行保护,第一类方法向原始数据添加噪音,这种方法高效易实现,但是添加过多噪声会严重影响模型性能;第二类方法融合了密码技术,但效率较低,无法应用[98]。因此,如何利用深度学习技术构建一个既保护用户数据隐私,又可以保证性能效果的推荐系统,是未来POI推荐任务中需要解决的一个巨大挑战。

    • 对用户进行个性化POI推荐有别于传统推荐任务,它既具有传统推荐任务的固有缺陷,又具有POI本身包含的众多特征因素的影响,因此如何既准确捕捉用户与POI之间的复杂关系,又利用辅助信息提高推荐性能就具有很大的挑战性。由于深度学习具有表征能力和抗噪能力强等优点,本文通过4个主流方向对基于深度学习的POI推荐的方法进行阐述,分别为POI的向量化学习、深度协同过滤、从辅助内容中提取特征和利用循环神经网络进行序列推荐,通过对深度学习在POI推荐任务上的应用进展进行总结与展望,希望本文综述可以为有志于钻研POI推荐方向的研究人员或工程技术人员提供帮助。

参考文献 (98)

目录

    /

    返回文章
    返回