重要的信息安全必读论文之四： “The algorithmic foundations of differential privacy”

                                                            （整理人：萧文龙、王啸群）

信息技术在给企业带来成功机会的同时，也给企业带来了安全隐患，信息安全事件近年来不断出现，威胁到组织。 Shiau et al. (2023)从最好的信息安全期刊和会议（由计算机科学研究的重要门户research.com发布），以及信息系统协会(AIS)编制的MIS期刊中筛选了发表在1996年至2021年间的8006篇信息安全研究论文进行共被引研究。研究表明：信息安全研究可以划分为八个核心知识群组，包括(1)入侵检测，(2)隐私保护，(3)安全机器学习，(4)密码系统，(5)数据服务安全，(6)恶意软件分析，(7)安全决策，(8)安全管理。Shiau et al. (2023) 的研究同时识别了信息安全领域内115篇高被引的重要论文。其中，由Dwork and Roth (2014)发表在《Foundations and Trends in Theoretical Computer Science》上的著作 “The algorithmic foundations of differential privacy” 探讨了大数据和人工智能场景下的主流隐私保护技术——差分隐私。该著作在Google Scholar被引达7061次，其中Web of Science平台上的引用也达到了3111次，本期我们就其简介如下。

隐私保护研究的目标在于提出用以修改隐私数据的技术，使得修改后的数据可以安全发布，而不会遭受去匿名化等隐私攻击。同时，修改后的数据要在保护隐私的前提下最大限度地保留原数据的整体信息，否则被发布的数据将丢失研究价值。差分隐私的基本思想是在原始数据集或在数据集上启动的查询结果中添加噪声，以防止敏感信息泄露(Dwork and Roth, 2014)。这种方法中，主要的障碍是准确性。尽管差分隐私算法的输出对小的加性噪声具有鲁棒性，但准确性随着隐私保护水平的提高而降低，研究人员必须在这两者之间找到一个权衡。作者提出了一个数学上的描述来测量一个扰动机制究竟能够带来多大程度上的保密性。具体来说，有数据集A，先对A做一个扰动得到A’。再从原数据集A里任意删除一行记录得到B，对这个数据集B做扰动得到B‘，如果得到的A’和B’几乎是一模一样的，即A里面任何单独一行数据存在或不存在都几乎不影响结果，那么该扰动机制可以保护隐私。反过来，攻击者通过对该数据集的任何查询或者背景知识都无法准确推断出特定记录是否在这个数据集中。这是一种最强大的隐私保护定义，因为既然在不在这个数据集中都不会影响最终的查询结果，那么可以认为特定记录不在这个数据集中，而如果该记录都不在这个数据集中，数据自然不会泄露。

参考文献：

Dwork, C., & Roth, A. (2014). The algorithmic foundations of differential privacy. Foundations and Trends in Theoretical Computer Science, Vol. 9 No. 3–4, pp. 211-407.

Shiau, W.-L., Wang, X., & Zheng, F. (2023). What are the trend and core knowledge of information security? A citation and co-citation analysis. Information & Management, Vol. 60 No. 3, doi: https://doi.org/10.1016/j.im.2023.103774.