对基于深度学习的推荐系统的数据中毒攻击

关键词：人工智能，伦理规范 

近期，清华大学Hai Huang、杜克大学N.Z.Gong、西弗吉尼亚大学Bin Liu等在2021年网络安全顶会NDSS 2021撰文（Data Poisoning Attacks to Deep Learning Based Recommender Systems），针对基于深度学习的推荐数据中毒攻击进行了系统的研究。

目前，基于深度学习的推荐系统以其优越的性能越来越受到人们的青睐，但是系统攻击者试图操纵推荐系统，以便其选择的目标项被推荐给许多用户。现有的数据中毒攻击要么对推荐系统算法不可知，要么对传统的推荐系统算法进行优化。尽管基于深度学习的推荐系统受到越来越多的关注，并已在工业中得到了广泛应用，但它们对数据中毒攻击的安全性在很大程度上是未知的。

作者们提出了一种创新方案：将具有精心设计的评级的假用户注入推荐系统，将设计的攻击描述为一个优化问题，由于该优化问题是一个非凸整数规划问题，课题组开发了多种技术来近似求解优化问题。

论文通过在三个真实数据集上的实验证明了攻击有效性，且性能优于现有攻击。即使攻击者无法访问目标推荐系统的神经网络结构，并且只能访问部分用户项交互矩阵，攻击仍然有效，即使部署了基于评分的检测器，攻击仍然有效并优于现有攻击。该研究可为未来开发新的方法来检测虚假用户和设计新的推荐系统，以及更强大的数据中毒攻击提供参考。

（来源：ARXIV）