基于机器学习的日志函数自动识别方法
本文选题:日志函数 + 机器学习 ; 参考:《计算机工程与科学》2017年01期
【摘要】:随着软件规模的不断增长,日志在故障检测中发挥着愈加重要的作用。然而,目前软件日志缺乏统一标准,常受开发人员个人习惯影响,为大规模系统中日志的自动化分析带来了挑战。其中,日志函数的识别作为日志分析的前提条件,对分析结果有着直接影响。提出了一种基于机器学习的方法以支持日志自动识别。通过系统分析广泛使用的大规模开源软件,总结出日志函数编写的主要形式,并提取不同形式间的共性特征,进而基于机器学习实现了自动日志识别工具iLog。实验显示,使用iLog识别的日志函数能力平均为使用特定关键字的76倍,十折交叉验证得到iLog的分析结果的F-Score为0.93。
[Abstract]:With the increasing of software scale, log plays an increasingly important role in fault detection. However, the lack of a unified standard for software logging, often influenced by the developer's personal habits, poses a challenge to the automated analysis of logs in large-scale systems. The recognition of log function as a precondition of log analysis has a direct impact on the analysis results. A method based on machine learning is proposed to support automatic log recognition. Through the systematic analysis of the widely used open source software, the main forms of writing log functions are summarized, and the common features among different forms are extracted, and then the automatic log recognition tool iLog is implemented based on machine learning. The experimental results show that the ability of using iLog to recognize log functions is 76 times that of using specific keywords on average, and the F-Score of 10% cross-validation of iLog analysis results is 0.93.
【作者单位】: 国防科学技术大学计算机学院;
【基金】:国家自然科学基金(61379146,61272483) 腾讯高校合作项目“面向故障检测的大规模开源软件日志增强技术研究”
【分类号】:TP311.53;TP181
【参考文献】
相关期刊论文 前3条
1 程苗;陈华平;;基于Hadoop的Web日志挖掘[J];计算机工程;2011年11期
2 肖慧;王立华;;Web日志挖掘中的用户识别算法[J];计算机系统应用;2011年05期
3 宋擒豹,沈钧毅;Web日志的高效多能挖掘算法[J];计算机研究与发展;2001年03期
【共引文献】
相关期刊论文 前10条
1 雷军;叶航军;武泽胜;张鹏;谢龙;何炎祥;;基于开源生态系统的大数据平台研究[J];计算机研究与发展;2017年01期
2 贾周阳;廖湘科;刘晓东;李姗姗;周书林;谢欣伟;;基于机器学习的日志函数自动识别方法[J];计算机工程与科学;2017年01期
3 王英英;;基于MVC的体育舞蹈视频教学系统研究[J];自动化与仪器仪表;2016年11期
4 杨玲;;基于MVC的体育田径视频教学系统的设计[J];自动化与仪器仪表;2016年11期
5 包永红;;云计算技术下数据挖掘平台设计及技术[J];现代电子技术;2016年16期
6 曹萍;;基于Hadoop和Mahout的ASUCF算法并行化研究[J];软件工程;2016年06期
7 曹萍;;基于Hadoop的协同过滤推荐并行化研究[J];计算机时代;2016年05期
8 潘峰;李涛;;大数据环境下网络安全态势感知研究进展[J];保密科学技术;2016年04期
9 窦鹏伟;王珍;佘侃侃;;云环境下海量方剂组方规律分析[J];世界科学技术-中医药现代化;2016年03期
10 刘彤;张阳;孙琦;袁,
本文编号:2012487
本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/2012487.html