人工智能的社会风险应对研究

发布时间：2020-12-10 13:17

　　人工智能在创造社会效益的同时,也会引发人财损失、秩序破坏等社会风险。技术视角的风险源于"算法主观性"等技术属性,易导致人财损失等恶劣后果;而现有的风险应对措施偏重于"工具理性",难以有效根除责任事故和社会负面影响。社会视角的风险来自于人工智能在社会应用时的"马太效应"等机理所导致的大多数民众和极少数弱势群体的权益受损等问题;而现有的风险应对方案侧重于"价值理性",可能出现效率与公平的失衡或偏颇。因此,建议从治理视角开展人工智能的社会风险的系统应对:全面分析技术维度和社会维度的风险,综合评估正向功能和负向功能的实况;秉承"赋能+避险"的风险方针,以提高竞争力、承受力、约束力、协同力为治理目标,建立全流程且无缝隙的风控机制,构建系统和高效的共治格局,切实提升国家竞争力和群众满意度。 

【文章来源】：教学与研究. 2019年04期 第89-97页 北大核心CSSCI

【文章页数】：9 页

【部分图文】：

人工智能社会风险治理的“两维双向”模型

治理视角的人工智能风险应对,实质上是践行“赋能+避险”的风险方针:以避险为前提,同时赋能人类;既发挥全面提升竞争力的正面赋能作用,同步通过规避超出承受力的社会负面影响。在此过程中,还应该在“两维双向”治理模型的基础上纳入“PR”模型和“IR”模型,对风险发生的可能性(P:Possibility)、后果损失(R:Result)、负面影响(I:Impact)、社会责任(R:Responsibility)进行综合分析,从而在科学的风险定级的基础上实施精细化的风险应对(详见图2)。第一,针对存在高危风险的领域,建议禁止应用。

过治理视角，人工智能的社会风险应对，还要综合考量：战略风险和机会成本、动态风险和协同治理、深层次的系统风险和制度防控等一系列的社会因素。因此，建议通过“两维双向”的治理模型来分析和应对：“两维”指技术维度和社会维度，从“技术维—社会维”进行根源分析和定性评估；“双向”指正功能向和负功能向，对“正功能向—负功能向”进行辩证分析和科学应对；有针对性地对四个象限开展科学的风险治理策略（详见图１）。图１人工智能社会风险治理的“两维双向”模型如上图所示，人工智能的社会风险应对，具有四项共性目标：第一，充分发挥人工智能的正面效益，提升国家竞争力，应对系统风险。主要策略有三：一是提升关键项的竞争力，人工智能的发展需与现有的技术优势和经济强项紧密结合，发挥“长板效应”；二是夯实基础领域竞争力，强化关联行业建设和技术研发投资；三是提升整体竞争力，人工智能发展存在“短板效应”，其短板问题若得不到解决将拉低整体竞争力，对此应加强“补短板”的战略布局和实施。第二，综合应用多种风险管理策略，切实提升对安全风险的承受力，确保风险处于社会可承受的范围内。对此，应将承受力作为风险研判定级和应对策略的依据：一是对于难承受的风险，采取措施提前规避或消除；二是对于可承受的风险，做好及时干预和对冲工作，确保可控或可抵御；三是根据风险承受力情况，动态评估风险，适时调整应对方案。第三，强化人工智能应用中的制度约束力，对引发风


本文编号：2908761