人工智能教育应用的算法风险

发布时间：2022-01-24 11:53

　　教育已逐渐进入人工智能时代。人工智能技术在改变教育的同时,也在给教育带来不可预知的风险。本研究旨在分析人工智能教育应用中使用算法及计算模型对教育进行量化和计算所造成的潜在风险,并分析其产生根源,提出风险管控建议。研究首先采用预测分析法,对算法本身存在问题进行分析,预测算法的简约化、算法的大规模应用、算法黑箱、算法偏见、算法鸿沟以及过度依赖算法给学生、教师学习成长和个性发展带来的风险;然后采用矛盾分析法对比分析教育的模糊性与算法的确定性之间的矛盾、学生发展的个性化与算法公式化之间的矛盾、教师专业能力具身性与算法去技能化之间的矛盾、教育规则的灵活性与算法硬规则之间的矛盾等,探讨风险产生的原因;最后在综合分析的基础上,按照以人为本的原则提出保持教师在人工智能教育应用中的主导地位、以教育学的方式应用和管理人工智能算法、保持算法和计算模型的透明化和可解释性、建立算法教育应用风险评估和风险管理机制等管控算法风险的对策建议。 

【文章来源】：开放教育研究. 2019,25(06)北大核心CSSCI

【文章页数】：11 页

【文章目录】：
一、潜在风险
    (一)算法的简约化有导致教育被形式化的风险
    (二)算法大规模应用有导致学生同质化发展的风险
    (三)算法黑箱有导致教育被算法控制的风险
    (四)算法偏见有导致教育弊端被放大的风险
    (五)移植开源代码和现成算法有导致教育被异化的风险
    (六)教师过度依赖算法有导致专业技能丧失的风险
    (七)算法鸿沟导致教育风险不能及时被化解
二、人工智能教育应用算法风险产生的根源
    (一)教育的模糊性、不确定性与算法的确定性之间的矛盾
    (二)学生发展的个性化与算法公式化之间的矛盾
    (三)教师专业能力具身性与算法去技能化之间的矛盾
    (四)教育规则的灵活性与算法硬规则之间的矛盾
三、以人为本管控人工智能教育应用的算法风险
    (一)保持教师在人工智能教育应用中的主导地位
    (二)以教育学的方式应用和管理人工智能算法
    (三)保持算法和计算模型的透明化和可解释性
    (四)建立算法教育应用风险评估和风险管理机制


【参考文献】：
期刊论文
[1]人工智能与算法治理研究[J]. 贾开.  中国行政管理. 2019(01)



本文编号：3606525