有序学习算法及其在成绩预测中的应用

发布时间：2020-10-20 01:01

　　 有序学习是机器学习中的一种特殊的有监督学习方法,它可有效利用数据之间的等第关系,备受研究者的广泛关注。基于费希尔判别分析的有序回归模型LDLOR(Linear Discriminant Learning for Ordinal Regression)虽有效解决有序数据的分类或回归问题,但未能有效利用数据的结构信息等。为此,论文以LDLOR模型为基础,结合高校本科生期末成绩预测场景,侧重围绕嵌入局部结构保持和类内离散度自适应调整的有序学习开展研究。主要工作如下:1.提出了基于局部保持的有序回归学习算法(LSP-LDLOR)、基于自适应局部保持的有序回归学习算法(SaLSP-LDLOR)。LSP-LDLOR 算法以 IMED-LDLOR(IMED:IMage Euclidean Distance)为基础,嵌入样本空间局部结构信息;进一步,对局部保持矩阵进行了自适应调整,得到优化的局部保持矩阵,以此构建基于自适应局部保持的有序回归学习算法SaLSP-LDLOR。将LSP-LDLOR算法与SaLSP-LDLOR算法在人脸表情数据集JAFFE和人脸年龄数据集FG-NET上与IMED-LDLOR算法进行了比较,实验验证了算法的有效性。2.提出了基于自适应类内离散度的有序回归学习(SaSw-LDLOR)算法、基于局部保持自适应类内离散度的有序回归学习(LSaSw-LDLOR)算法。以IMED-LDLOR为基础,对类内离散度矩阵进行模糊自适应调整,构建基于自适应类内离散度的有序回归学习算法。进一步,嵌入局部结构保持信息,设计出基于局部保持自适应类内离散度的有序回归学习算法LSaSw-LDLOR。将SaSw-LDLOR算法与LSaSw-LDLOR算法在人脸表情数据集JAFFE和人脸年龄数据集FG-NET上与IMED-LDLOR算法进行了比较,实验验证了算法的有效性。3.利用新设计的有序学习算法进行成绩预测。以南京师范大学2017级某学院的大学计算机基础课程成绩预测为背景,以此验证新设计算法的适用性。训练集来自学生们一整个学期的课堂考勤、一卡通消费、图书馆进出、上网时段与时长以及过程性考核等信息。分析了经典的机器学习算法和有序回归学习算法对样本学生的期末成绩预测的准确率等,在成绩预测实验中验证了新提出算法的实用性。
【学位单位】：南京师范大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：G434;TP181
【部分图文】：

有序回归（Ｏｒｄｉｎａｌ?Ｒｅｇｒｅｓｓｉ叫ＯＲ）学习属于机器学习中的有监督学习方法［叫。??目前，己有众多有序回归方法相继被提出，根据ＧｕｔｉＳｒｒｅｚ等人［１３］的表述，有序??回归方法可分为朴素方法、有序二分类方法和阈值方法，如图１．２所示。??—?＠归???—ｆｆ通分类??—朴＊方法一???￣??Ｉ—代价分类????［―?荇序分Ｗ??—二分类法－???｜細归｜－?Ｈ?ａ约麟??—｜?Ｋ枳分布??—?支持向＊机??—?阈值法一一判规学习??—?流形学习??—?高斯过ｇ??图１．２有序回归算法分类??２??

是高维样本数据投影到低维后使其局部信息能够得到最像欧式距离度量，是本文第三章与第四章图像分析所采用的方ｒ判别分析??ｒ判别分析，或者可称为线性判别分析（Ｌｉｎｅａｒ?ｄｉｓｃｒｉｍｉｎａｎｔ?ａ一种被广泛使用的经典特征提取方法。Ｆｉｓｈｅｒ判别分析最ｒ于１９３６年提出来的二类分类方法［６１］，其目的是利用已知类别模型，为未知类别的样本进行分类＝随后，Ｒａｏ等人［６２］在１９４８年进行了扩展，使其能够处理多分类问题。??ｒ判别分析与统计学中的方差分析（Ａｎａｌｙｓｉｓ?ｏｆ?ｖａｒｉａｎｃｅ，?ＡＮＯＶＡ）相关，它们都试图通过一些特征或测量值的线性组合来表示一个所示，Ｆｉｓｈｅｒ判别分析的核心思想是投影，即将高维问题简化为。给定训练样本集，寻找一条最佳的投影方向，投影后使得同类异类样本尽可能远。??

别分析的有序回归模型最早由Ｓｕｎ等人于文献［３２］中提的模型是基于线性条件下的，所以这里仅介绍该模型的序回归模型（Ｌｉｎｅａｒ?Ｄｉｓｃｒｉｍｉｎａｎｔ?Ｌｅａｒｎｉｎｇ?ｆｏｒ?ＯｒｄｉｎａｌＬＤＡ相同，ＬＤＬＯＲ通过寻找一条最佳的投影方向，使相关性沿着该投影方向能够得到较好地保持。??有序回归模型ＬＤＬＯＲ满足以下两条原则：??影向量ｗ应尽可能地最大化类间离散度且最小化类内影向量…应充分保留原样本空间数据的有序相关性。??ＤＬＯＲ模型描述如下??ｍｉｎ?Ｊ｛ｗ，ｐ）?＝?ｈ＞ｔ?－Ｓ?ｗ?—?Ｃ?ｐ??＇ｓ．ｔ．?ｗ?■?（ｍｋ＋１?－?ｍｋ）?＞?ｐ，?ｋ?＝?＼，２，．．．，Ｋ—＼??示第Ａ－类样本的均值，Ｃ表示惩罚系数。若ｐ＞０，则保持原空间的有序关系。??式（２．６）是一个经典的二次规划问题（Ｑｕａｄｒａｔｉｃ?Ｐｒｏｇｒａｍ式??
【相似文献】

相关期刊论文 前10条

1 程宽桐;算法分类及各种基本算法的比较与优选(上)[J];齐鲁珠坛;1996年04期

2 刘培;池忠军;;算法歧视的伦理反思[J];自然辩证法通讯;2019年10期

3 孙建丽;;算法自动化决策风险的法律规制研究[J];法治研究;2019年04期

4 吴珍珍;;基于分类规则算法对存款意愿倾向的研究[J];石河子科技;2018年02期

5 唐璐杨;唐小妹;李柏渝;刘小汇;;多源融合导航系统的融合算法综述[J];全球定位系统;2018年03期

6 周祉含;;西方新闻传播学的算法研究综述[J];新闻爱好者;2019年04期

7 赵春杰;;算法共谋的规制思路[J];市场周刊;2019年07期

8 金爽;;基于标签传播的社区发现算法研究与应用[J];电脑迷;2018年01期

9 孙建丽;;试论算法的法律保护模式[J];电子知识产权;2019年06期

10 程宽桐;算法分类及各种基本算法的比较与优选（下）[J];齐鲁珠坛;1996年05期

相关博士学位论文 前7条

1 贾洁茹;跨摄像机行人再识别中度量学习算法研究[D];北京交通大学;2019年

2 高阳;基于局部扩展的重叠社区发现算法研究[D];哈尔滨工业大学;2019年

3 翟婷婷;面向流数据分类的在线学习算法研究[D];南京大学;2018年

4 段沛博;分布式约束优化算法的研究与应用[D];东北大学;2017年

5 罗春备;面向多尺度复杂场景的高效电磁仿真算法研究[D];浙江大学;2019年

6 邵彦超;油气井安全生产监控数据预测预警系统及算法研究[D];北京邮电大学;2016年

7 刘琼;乡村道路环境下农业机器人导航避障算法研究[D];西北农林科技大学;2017年

相关硕士学位论文 前10条

1 蒋阿娟;基于改进的LBP与2DLDA算法的人脸识别研究[D];安徽理工大学;2019年

2 张洲;无源测向关键技术及算法实现[D];电子科技大学;2019年

3 聂飞;迁移聚类新算法研究[D];江南大学;2019年

4 李俊杰;动态时间规整算法的改进研究及其应用[D];江南大学;2019年

5 杨姣;基于KNN算法的网络流量异常检测研究[D];曲阜师范大学;2019年

6 席毅堃;基于K-means的改进C4.5算法研究[D];内蒙古农业大学;2019年

7 鲍舒婷;密度峰聚类算法优化及其隐私保护研究[D];安徽师范大学;2019年

8 谢勇;基于Spark平台的聚类算法研究[D];重庆邮电大学;2018年

9 董耀聪;基于机会思想的无线传感器网络节点路由算法研究[D];北京交通大学;2019年

10 杜托;基于Hadoop的关联规则挖掘算法研究[D];重庆邮电大学;2018年

本文编号：2847970