DeepFake技术背后的安全问题：机遇与挑战

发布时间：2022-01-09 22:54

　　人工智能的发展给社会生活带来了巨大的改变.然而,随着这些应用的推广,人工智能的安全问题也日益显露出来.最近,以DeepFake为代表的深度伪造技术,严重威胁着社会安全和公众隐私.首先阐述了DeepFake技术的发展背景和技术原理.然后分析了近年来DeepFake技术在商业、政治、色情和娱乐等方面造成的影响.为了应对这些影响,国内外机构都对与DeepFake相关的技术作出回应,其中,研究机构致力于从技术角度来检测利用DeepFake制作的深伪音视频,维护内容安全. 

【文章来源】：信息安全研究. 2020,6(07)

【文章页数】：11 页

【部分图文】：

机器学习中的自动编码器

虽然Discord,Reddit各大平台接连发布禁令，但DeepFake色情市场还是继续蓬勃扩张，从明星拓展到网络匿名社区，以及同事、同学和朋友，基于DeepFake的色情攻击已经呈现出大众化的趋势，出于复仇目的的色情视频（revenge porn）就此诞生．得不到暗恋的女生就收集她的照片，自己动手做一部换脸黄片；不满被分手就收集前女友的照片把她跟与色情片演员换脸，伪造色情视频在网上传播；偷窥狂、性报复者不用安装针孔摄像头，只要偷拍女性的照片或者在网上收集，接着利用DeepFake技术就能作出伪造精良的色情视频．这些不是危言耸听，而且真真切切发生过的案例．印度记者Rana Ayyub由于揭露了印度古吉拉特暴乱中官员的黑幕和不作为，导致她不仅收到了死亡威胁，而且被色情复仇．不法分子利用DeepFake技术将Rana的脸与色情片女主角的脸互换，做成粗糙的短视频在网络上传播，最后引发网友谩骂、家人质疑，最终Rana患病住院．

Boogie也并非第1家尝试基于DeepFake生成深度伪造舞蹈视频的公司．此前1家名为Goodby Silverstein&Partners的广告商就曾开发了1款应用，能够将用户的头部“移植“到舞蹈演员的身体上，模仿舞蹈动作．3 DeepFake技术的安全治理

【参考文献】：
期刊论文
[1]“深度伪造”技术的伦理反思——以一键脱衣软件“Deepnude”为例[J]. 徐燕萍.  计算机时代. 2021(11)



本文编号：3579588