应用非线性加权的集成学习软件缺陷序列预测算法

发布时间：2019-09-23 09:41

【摘要】：针对当前软件缺陷序列预测算法准确度不高的问题,提出了基于非线性加权的集成学习软件缺陷序列预测算法(NLWEPrediction)。该算法在常见线性集成预测算法的基础上增加了非线性回归项,回归项代表了集成预测算法中基预测算法之间的相互关系,修正了线性集成预测的偏差,并通过梯度下降法求解了模型中的参数。实验表明:NLWEPrediction在14个软件缺陷数据集上的均方误差均小于250,并且平均绝对误差均小于13。通过与基预测算法、集成预测Bagging、Stacking算法和只考虑两个分类器关系的非线性加权集成学习算法进行对比,可以看出,NLWEPrediction预测算法的均方误差和平均绝对误差显著减小,预测精度显著提高,说明在线性集成预测算法基础上增加非线性回归项,能够有效提高集成学习算法的分类效果。
【图文】：

预测算法,集成学习,软件缺陷

第７期贾晓琳，等：应用非线性加权的集成学习软件缺陷序列预测算法ｈｔｔｐ：∥ｗｗｗ．ｊｄｘｂ．ｃｎｈｔｔｐ：∥ｚｋｘｂ．ｘｊｔｕ．ｅｄｕ．ｃｎ图１基预测算法对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法的影响果基预测算法在指定数据集上预测精度高，那么ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法预测精度会更高；反之，如果基预测算法在指定数据集上预测精度一般，则ＮＬ－ＷＥＰｒｅｄｉｃｔｉｏｎ算法预测精度会有所提高，但是相比于强的预测算法，预测性能一般。因此，基预测算法的选择对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ预测算法预测精度的提高至关重要。图２给出了训练集实例数对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ性能的影响。由图２可知，随着软件缺陷序列训练集的增加，算法的性能逐渐提高，当训练集的大小是软件缺陷序列数据集大小的２／３时，预测算法精度达到最高，当训练集的大小再增加时，，预测算法性能会逐渐降低。经多次实验，确定训练集与测试集的比例为２∶１时，ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法预测结果达到最优。图２训练集实例数对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ性能的影响４结论基于非线性加权的集成学习时间序列预测算法基础上，本文提出了基于非线性加权集成学习软件缺陷预测算法。该算法在常见的线性集成预测算法基础上增加了非线性回归项，将基学习器之间的关联关系引入到集成学习中，能够有效提高集成学习器的能力。传统的线性集成没有考虑到基分类器之间存在相关性，或者仅考虑两个基分类器之间的关系，无法全面体现各个分类器在分类结果上的关联关系，ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法能够将分类器之间的相关关系体现出来，分类效果较

训练集,实例,预测算法,集成学习

测算法ｈｔｔｐ：∥ｗｗｗ．ｊｄｘｂ．ｃｎｈｔｔｐ：∥ｚｋｘｂ．ｘｊｔｕ．ｅｄｕ．ｃｎ图１基预测算法对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法的影响果基预测算法在指定数据集上预测精度高，那么ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法预测精度会更高；反之，如果基预测算法在指定数据集上预测精度一般，则ＮＬ－ＷＥＰｒｅｄｉｃｔｉｏｎ算法预测精度会有所提高，但是相比于强的预测算法，预测性能一般。因此，基预测算法的选择对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ预测算法预测精度的提高至关重要。图２给出了训练集实例数对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ性能的影响。由图２可知，随着软件缺陷序列训练集的增加，算法的性能逐渐提高，当训练集的大小是软件缺陷序列数据集大小的２／３时，预测算法精度达到最高，当训练集的大小再增加时，预测算法性能会逐渐降低。经多次实验，确定训练集与测试集的比例为２∶１时，ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法预测结果达到最优。图２训练集实例数对ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ性能的影响４结论基于非线性加权的集成学习时间序列预测算法基础上，本文提出了基于非线性加权集成学习软件缺陷预测算法。该算法在常见的线性集成预测算法基础上增加了非线性回归项，将基学习器之间的关联关系引入到集成学习中，能够有效提高集成学习器的能力。传统的线性集成没有考虑到基分类器之间存在相关性，或者仅考虑两个基分类器之间的关系，无法全面体现各个分类器在分类结果上的关联关系，ＮＬＷＥＰｒｅｄｉｃｔｉｏｎ算法能够将分类器之间的相关关系体现出来，分类效果较之前的两种算法要好。因此，本文提出的ＮＬＷＥＰｒｅｄｉｃｔ
【作者单位】：西安交通大学电子与信息工程学院学院;
【基金】：国家自然科学基金资助项目(61402355) 中央高校基本科研业务费专项基金资助项目(jj2014050)
【分类号】：TP311.5

【相似文献】