电子信息技术

本发明提供一种基于雅可比矩阵生成与检测恶性对抗样本的方法，属于计算机安全技术领域。所述方法包括：加载利用原始训练样本集训练好的恶性软件检测模型；利用检测模型将使用原始测试样本集中的恶性软件生成的对抗样本分类为良性的预测置信度大于设置的置信度阈值作为对抗样本生成成功的条件，生成对抗样本集；将原始训练样本集和生成的对抗样本集按照不同比例组成相应的对抗训练集，将各对抗训练集分别输入检测模型进行对抗训练，选择恶性软件检测准确率高的检测模型作为终极检测模型。采用本发明，能够提高检测模型对恶性软件与对抗样本检测的鲁棒性。

成果亮点

本发明实施例提供了基于雅可比矩阵生成与检测恶性对抗样本的方法，能够提高检测模型对恶性软件与对抗样本检测的鲁棒性。所述技术方案如下： 一方面，提供了基于雅可比矩阵生成与检测恶性对抗样本的方法，该方法应用于电子设备，该方法包括： 加载利用原始训练样本集训练好的恶性软件检测模型； 利用检测模型将使用原始测试样本集中的恶性软件生成的对抗样本分类为良性的预测置信度大于设置的置信度阈值作为对抗样本生成成功的条件，生成对抗样本集； 将原始训练样本集和生成的对抗样本集按照不同比例组成相应的对抗训练集，将各对抗训练集分别输入检测模型进行对抗训练，选择恶性软件检测准确率高的检测模型作为终极检测模型。

基于雅可比矩阵生成与检测恶性对抗样本的方法有很广泛的应用前景。它可以用于机器学习模型的安全评估和对抗样本的自动生成与检测。随着机器学习技术的不断发展和应用的普及，机器学习模型的安全问题也变得越来越重要。通过基于雅可比矩阵生成与检测恶性对抗样本的方法，可以评估机器学习模型的安全性，发现模型的弱点，并采取相应的措施来增强模型的安全性。此外，该方法还可以用于对抗样本的自动生成与检测，帮助机器学习模型的开发者和使用者更好地理解对抗样本的攻击原理，提高模型的鲁棒性和安全性。它还可以用于智能安防、智能交通、金融风控等领域，帮助提高系统的安全性和可靠性。

本发明实施例提供的技术方案带来的有益效果至少包括：

本发明实施例中，通过设置置信度阈值，利用检测模型将对抗样本分类为良性的预测置信度大于设置的置信度阈值作为对抗样本生成成功的条件，使生成的对抗样本对抗性增强，检测模型利用该方法生成的对抗样本进行对抗训练，可以学习到更多的对抗信息，有助于提高检测模型对恶性软件与对抗样本的检测准确度；且将原始测试样本集和对抗样本集按照不同比例构造对抗训练集进行对抗训练，选择恶性软件检测准确率高的检测模型作为终极检测模型，有助于进一步提高检测模型对恶性软件与对抗样本检测的鲁棒性，降低检测模型对恶性软件与对抗样本检测的脆弱性。