神经网络中的隐私保护研究

发布时间：2020-05-29 12:21

【摘要】：随着人工智能的不断发展,神经网络已经在人脸识别,医疗诊断等领域被广泛使用,越来越受人关注。神经网络的训练和预测都需要数据的支持,然而,数据总是不可避免的包含敏感、机密的信息,因此,在神经网络给我们的生活带来便利的同时,也带来了隐私泄露的隐患,如何利用神经网络同时又不会泄露隐私信息已经成为一个重要的研究领域。本论文针对几类典型的神经网络结构:感知器、卷积神经网络进行隐私保护的研究。感知器是一种简单的神经网络,它虽然结构简单,但是可以有效地处理复杂的二分类问题,要实现神经网络的隐私保护,首先要考虑的就是如何实现神经网络基本单元——感知器的隐私保护。针对感知器的训练,本文提出一个基于加同态加密的隐私保护训练协议,该协议可以保证数据提供者在提供训练数据给训练机构时训练数据不会泄露。针对感知器的预测,提出了一个云辅助的基于加同态加密的隐私保护预测协议,该协议可以有效保护预测过程中输入特征和模型参数的隐私同时借助云平台的强大计算和存储能力有效降低用户管理和处理数据的负担。最终,本文用真实数据集验证了本文感知器隐私保护协议的准确性和效率。卷积神经网络是一种擅长分析视觉图像,在图像和视频识别、图像分类和自然语言处理等方面有着广泛的应用的一种特殊神经网络,与其他图片分类算法相比,卷积神经网络不需要对图像进行复杂的预处理,因此卷积神经网络在实际中得到了更加广泛的应用。目前已经存在的卷积神经网络的隐私保护方案很多都采用全同态加密技术来实现,而且都忽略了对网络最后一层的输出的保护。本文提出了一个基于加同态加密的卷积神经网络隐私保护协议,本文的协议可以保护用户的隐私输入,服务器的模型参数,以及计算的中间值。最终,本文利用真实数据集验证了本文协议的正确性和可用性。
【图文】：

函数图像,修正线,降维,单元函数

第 3 章理论基础性的映射。在卷积神经网络中，，往往采用修正线性单元函数（RELU）作为激活数，RELU 能够使网络中只有大概 50%的神经元处于激活状态，有效降低过拟合情况的出现，而且它可以有效避免梯度爆炸和梯度消失的问题。修正线性单元数的数学形式为f ( x ) max(0, x)，其函数图像如图 3-3 所示。

数据分布,数据分布

IRIS 数据集（鸢尾花数据集），它包含 150 个样本，每一个样本拥有四个特征属性，分别是花萼的长度，宽度以及花瓣的长度和宽度。鸢尾花的类别有三种，分别是山鸢尾，杂色鸢尾以及维吉尼亚鸢尾，每个类别的数据各有 50 条，在本文中，我们采用前 100 个线性可分样本（分类结果只有两类）来做感知器隐私保护方案的训练和预测。LOWBWT 数据集（低出生体重数据集）包含 189 个样本，每一个样本拥有 9个特征属性,分别是母亲的年龄，母亲在最后月经期的体重，人种，孕期吸烟状况，早产史，高血压病史，子宫过敏，怀孕前三个月的内科医生就诊次数，出生体重。出生体重的类别有两种，分别是低出生体重，正常出生体重，这两个类别的数据分别有 59 条，189 条。由于数据集中第九个特征属性值是婴儿的出生体重，所以在实验过程中，我们只使用数据的前八个特征属性。为了更好地了解数据集的分布情况，我们利用 IRIS 和 LOWBWT 数据集的两个特征属性对数据进行可视化（如图 5-3）。
【学位授予单位】：广州大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：TP183;TP309

【参考文献】