人工智能“深度伪造”的治理模式比较研究
发布时间：2021-02-06 02:32
人工智能发展所带来的经济利益和安全风险之间的平衡急需治理模式的跟进完善。以"深度伪造"换脸事件为例,考察各国（地区）对智能技术换脸导致的安全风险的应对举措。通过对比美国、欧盟、中国"深度伪造"换脸事件的发酵过程,发现对待此类人工智能引发的风险,美国选择自下而上审慎规则,欧盟采取自上而下主动出击,中国则尝试多方参与包容监管,各国（地区）基于历史文化传统和实际需要选择了最适配的治理模式。在比较分析的基础上提出人工智能安全发展的治理要素,为应对其引发的安全风险提供对策建议。
【文章来源】：电子政务. 2020,(05)CSSCI
【文章页数】：11 页
【部分图文】：
“深度伪造”换脸逻辑示意
图1“深度伪造”换脸逻辑示意数据是人工智能的基础命脉。人工智能由数据驱动，需要从数据中学习才能实现其功能[7]。当进行人脸替换建模时，数据作为一种重要原料，直接影响建模效果的好坏。人脸图片数据作为原始输入，需要对其进行清理、结构化、集成等，然后通过分析数据来解释换脸中的面部契合问题及替换逻辑，以提高脸部替换准确度。
二是技术对抗。谷歌从2018年就开始搜集视觉数据集，研究“深度伪造”的检测技术。加州大学伯克利分校和南加州大学合作打造识别生物标签的人工智能系统，通过面部表情和头部动作之间的相关性来区分视频是否被“伪造”处理过[11]。斯坦福大学研究员Tom Van de Weghe设计了一种基于区块链技术的视频检测原型，可为图像与视频提供真实性证明，从而打击“深度伪造”虚假信息[12]。三是立法监管。2019年6月13日，众议院情报委员会主席亚当·希夫围绕“深度伪造”举行了首次听证会，督促联邦和各州立法机构积极落实应对行动。目前各州立法机构和联邦立法机构已提出12项法案[13]，其中州级立法尤为迅速且更加严厉。2019年7月1日，弗吉尼亚州《非法传播或出售他人影像》（Unlawful Dissemination or Sale of Images of Another Person）将未授权而传播“深度伪造”图像和视频的行为定罪，可判处最高一年监禁和2500美元罚款。德克萨斯州修改了州选举法，并于2019年9月1日通过，成为美国第一个禁止制作或传播“深度伪造”内容的州。2019年2月和10月，加利福尼亚州州长分别签署了两项法案《犯罪：欺骗性记录》（Crimes:Deceptive Recordings）和《选举：欺骗性的音频和视觉媒体》（Elections:Deceptive Audio or Visual Media），分别禁止“深度伪造”用于色情传播和政治助选。美联邦政府层面多以出台调查报告为主。2019年7月9日，参议院提交《2019年“深度伪造”报告法案》（The Deepfake Report Act of2019），明确指示国土安全部在法案通过后200天内，以及之后每18个月发布一份关于“深度伪造”的报告，以此作为修改相关法律的依据。2019年7月12日，众议院通过《2020年国防授权法案》（The National Defense Authorization Act for Fiscal Year 2020）要求在不迟于法案通过后180天，国务卿必须向各委员会通报国防部对“深度伪造”操纵媒体内容的应对举措。
【参考文献】：
期刊论文
[1]面向公共管理的数据所有权保护、定价和分布式应用机制探讨[J]. 吴超,郁建兴. 电子政务. 2020(01)
[2]论“深度伪造”智能技术的一体化规制[J]. 王禄生. 东方法学. 2019(06)
[3]人工智能时代的“政府生态”治理现代化[J]. 李晓夏,赵秀凤. 电子政务. 2019(10)
[4]人工智能时代的价值审度与伦理调适[J]. 段伟文. 中国人民大学学报. 2017(06)
[5]人工智能治理的三个基本问题:技术逻辑、风险挑战与公共政策选择[J]. 贾开,蒋余浩. 中国行政管理. 2017(10)
[6]通向人工智能时代——兼论美国人工智能战略方向及对中国人工智能战略的借鉴[J]. 何哲. 电子政务. 2016(12)
本文编号：3020002
【文章来源】：电子政务. 2020,(05)CSSCI
【文章页数】：11 页
【部分图文】：
“深度伪造”换脸逻辑示意
图1“深度伪造”换脸逻辑示意数据是人工智能的基础命脉。人工智能由数据驱动，需要从数据中学习才能实现其功能[7]。当进行人脸替换建模时，数据作为一种重要原料，直接影响建模效果的好坏。人脸图片数据作为原始输入，需要对其进行清理、结构化、集成等，然后通过分析数据来解释换脸中的面部契合问题及替换逻辑，以提高脸部替换准确度。
二是技术对抗。谷歌从2018年就开始搜集视觉数据集，研究“深度伪造”的检测技术。加州大学伯克利分校和南加州大学合作打造识别生物标签的人工智能系统，通过面部表情和头部动作之间的相关性来区分视频是否被“伪造”处理过[11]。斯坦福大学研究员Tom Van de Weghe设计了一种基于区块链技术的视频检测原型，可为图像与视频提供真实性证明，从而打击“深度伪造”虚假信息[12]。三是立法监管。2019年6月13日，众议院情报委员会主席亚当·希夫围绕“深度伪造”举行了首次听证会，督促联邦和各州立法机构积极落实应对行动。目前各州立法机构和联邦立法机构已提出12项法案[13]，其中州级立法尤为迅速且更加严厉。2019年7月1日，弗吉尼亚州《非法传播或出售他人影像》（Unlawful Dissemination or Sale of Images of Another Person）将未授权而传播“深度伪造”图像和视频的行为定罪，可判处最高一年监禁和2500美元罚款。德克萨斯州修改了州选举法，并于2019年9月1日通过，成为美国第一个禁止制作或传播“深度伪造”内容的州。2019年2月和10月，加利福尼亚州州长分别签署了两项法案《犯罪：欺骗性记录》（Crimes:Deceptive Recordings）和《选举：欺骗性的音频和视觉媒体》（Elections:Deceptive Audio or Visual Media），分别禁止“深度伪造”用于色情传播和政治助选。美联邦政府层面多以出台调查报告为主。2019年7月9日，参议院提交《2019年“深度伪造”报告法案》（The Deepfake Report Act of2019），明确指示国土安全部在法案通过后200天内，以及之后每18个月发布一份关于“深度伪造”的报告，以此作为修改相关法律的依据。2019年7月12日，众议院通过《2020年国防授权法案》（The National Defense Authorization Act for Fiscal Year 2020）要求在不迟于法案通过后180天，国务卿必须向各委员会通报国防部对“深度伪造”操纵媒体内容的应对举措。
【参考文献】：
期刊论文
[1]面向公共管理的数据所有权保护、定价和分布式应用机制探讨[J]. 吴超,郁建兴. 电子政务. 2020(01)
[2]论“深度伪造”智能技术的一体化规制[J]. 王禄生. 东方法学. 2019(06)
[3]人工智能时代的“政府生态”治理现代化[J]. 李晓夏,赵秀凤. 电子政务. 2019(10)
[4]人工智能时代的价值审度与伦理调适[J]. 段伟文. 中国人民大学学报. 2017(06)
[5]人工智能治理的三个基本问题:技术逻辑、风险挑战与公共政策选择[J]. 贾开,蒋余浩. 中国行政管理. 2017(10)
[6]通向人工智能时代——兼论美国人工智能战略方向及对中国人工智能战略的借鉴[J]. 何哲. 电子政务. 2016(12)
本文编号：3020002
本文链接：https://www.wllwen.com/kejilunwen/rengongzhinen/3020002.html
