电子信息技术

本发明公开一种可解释性深度学习的差分隐私保护方法，通过在FF?CNN的第一层卷积层加入差分隐私保护以及在模型的输出层的损失函数中加入差分隐私，保证了模型的输入与输出端的安全，从而保护了模型数据提供者的个人隐私，并且通过在第二次采样层得到的数据特征利用k?means++算法进行聚类后，进行mixup插值法进行数据增强，提升整个模型的鲁棒性。本发明基于可解释性深度学习模型的隐私保护策略，使得模型使用者可以利用深度学习模型得到具有可解释性的结果并且不泄露个人的隐私信息。

技术亮点

本发明针对可解释性卷积神经网络模型在训练以及推理过程中产生的隐私泄露问题，提供一种可解释性深度学习的差分隐私保护方法。

可解释性深度学习的差分隐私保护方法的应用前景非常广泛。以下是一些可能的应用领域：

医疗保健：在医疗保健领域，可解释性深度学习的差分隐私保护方法可以用于保护患者的隐私，同时还可以帮助医生更好地理解患者的病情。例如，在诊断疾病时，医生可以使用这种方法来分析患者的医疗记录，而无需透露患者的具体信息。

金融服务：在金融服务领域，可解释性深度学习的差分隐私保护方法可以用于保护客户的隐私，同时还可以帮助银行和金融机构更好地理解客户的行为。例如，银行可以使用这种方法来分析客户的交易记录，而无需透露客户的具体信息。

公共安全：在公共安全领域，可解释性深度学习的差分隐私保护方法可以用于保护个人的隐私，同时还可以帮助警方和安全机构更好地理解犯罪行为。例如，警方可以使用这种方法来分析犯罪现场的录像，而无需透露犯罪嫌疑人的具体信息。

商业智能：在商业智能领域，可解释性深度学习的差分隐私保护方法可以用于帮助企业更好地理解客户行为、市场趋势和竞争对手的行为。例如，企业可以使用这种方法来分析客户的购买历史记录，而无需透露客户的具体信息。

总之，可解释性深度学习的差分隐私保护方法具有广泛的应用前景，未来有望在医疗保健、金融服务、公共安全、商业智能等领域得到广泛应用。

1、对于模型第一层的卷积层，其中卷积核的权重值本发明采用动态加噪的方式，对于模型输出相关性的大的权重值本发明加入较少的拉普拉斯噪声，反之亦然，这样既保证攻击者不能通过破坏第一层卷积层反推出原始数据集，又可以精准加噪，提高后续训练数据的可用性。

2、通过第二次下采样的数据，利用k-means++算法进行聚类，然后在利用mixup插值法进行数据增强，进而提升模型的鲁棒性。

3、在模型的输出层，我们采用对模型的输出损失函数进行近似的泰勒展开，通过对展开式中的系数加入相应的拉普拉斯噪声，保证模型在输出端的安全，防止攻击者通过成员推理攻击来成功攻击到我们的模型。