深偽色情

维基百科,自由的百科全书
(重定向自深度伪造的色情内容
跳到导航 跳到搜索

深伪色情(英語:DeepFake Pornography),或简称假色情,是一种人工合成的色情作品。它通过在演员的脸上应用深伪技术来改变现有的色情出版物。深伪色情一直备受争议,因为它通常被用来将女性名人的面孔放在色情表演者的身体上,而这些肖像通常是在未经她们同意的情况下使用的。[1]

历史[编辑]

2017年,互联网上出现了大量深伪色情内容,特别是在Reddit上。[2]第一个吸引眼球的是黛西·雷德利的深度假内容,它曾出现在几篇文章中。 [2]其他著名的色情深度假作品出自不同的名人之手。 [2][3][4][5]荷兰网络安全初创公司Deeptrace于2019年10月发布的一份报告估计,网上所有深度假内容中有96%是色情的。 [6]

2017年12月,萨曼莎·科尔(Samantha Cole)在Vice发表了一篇关于r/深伪的文章,首次引起了主流对在线社区分享深伪的关注。[7] 六周后,科尔在一篇后续文章中写道,人工智能辅助的虚假色情作品大幅增加。[8]自2017年以来,Vice的萨曼莎·科尔发表了一系列文章,报道了围绕深度假冒色情内容的新闻。 [9][10][11][12][5][13][7][8]

自那以后,多家社交媒体禁止或努力限制深度假冒色情内容。最值得注意的是,Reddit上的r/Deepfakes subreddit于2018年2月7日被禁止,原因是违反了政策,即“非自愿色情”。[14][15][16][17][18][19] 同月,Twitter的代表表示,他们将暂停涉嫌发布非双方同意的深度虚假内容的账户。[13]

斯嘉丽·约翰逊经常成为深度假色情的主题,她在2018年12月向《华盛顿邮报》公开谈论了这个话题。[20]在一份事先准备好的声明中,她表示,尽管存在担忧,但她不会试图移除任何深度假货,因为她相信它们不会影响她的公众形象,而且各国不同的法律和互联网文化的性质使得任何移除深度假货的尝试都是失败的。[20]

然而,虽然像她这样的名人受到名气的保护,但她认为,深假对知名度较低的女性构成了严重威胁,她们的声誉可能会因为不由自主地出现在深度假冒色情或报复性色情作品中而受损。[20]

深度裸体[编辑]

2019年6月,一款名为DeepNude的可下载Windows和Linux应用程序发布,该应用程序使用神经网络,特别是生成性对抗网络,从女性图像中脱下衣服。这款应用程序有付费和非付费两种版本,付费版本的价格为50美元。[12] 6月27日,创建者删除了这款应用程序,并向消费者退款,尽管该应用程序的各种免费和收费副本仍然存在。[21][22]在GitHub上,这个程序的开放源码版本被删除了,名为“开放深度裸体”。[23] [24]开源版本的优点是可以在更大的裸体图像数据集上进行训练,以提高生成的裸体图像的精度水平。[25]

深伪儿童性虐材料[编辑]

深伪技术使儿童性虐待材料(CSAM)的制作比以往任何时候都更快、更安全、更容易。Deepfake可以用来从现有的材料中产生新的CSAM,或者从没有受到性虐待的儿童中创建CSAM。然而,深度假冒CSAM可能会对儿童产生真实和直接的影响,包括诽谤、打扮、勒索和欺凌。[26]此外,深度假冒儿童色情作品给警方带来了更多障碍,使刑事调查和受害者身份识别变得更加困难。 [來源請求]

伦理辩论[编辑]

深度假冒色情软件可能被滥用来制作针对个人的虚假色情内容(例如用于报复),这可以被视为一种骚扰形式。[21]目前,DeepNude等软件制作的视频还远远不够复杂,无法与法医分析下的真实视频区分开来。[25]这似乎不可能有说服力,因为这些内容是用人物的“一般图像”创建的(这意味着真人身上的任何瑕疵--模具、疤痕、纹身……都不会被生成)。因此,这被认为永远不足以说服(例如法律领域的)官员,……也可能不会对个人现实生活产生任何重大影响

企业限制措施[编辑]

2018年1月31日,Gfycat开始从其网站上删除所有深伪(及作品)。[11][27]

2018年2月,r/Deepfakes因分享非自愿色情内容被Reddit封禁。[19]其他网站也禁止对非自愿色情内容使用深度假冒,包括社交媒体平台Twitter和色情网站PornHub。 [13]然而,一些网站并没有禁止深度虚假内容,包括4chan8chan[28]

同样在2018年2月,PornHub表示将禁止在其网站上发布深度虚假视频,因为这些视频被认为是违反了他们的服务条款的“非双方同意的内容”。[10]他们之前还向Masable表示,他们将删除标记为深度假冒的内容。 [29]Buzzfeed新闻网站Motherboard的撰稿人报告称,在PornHub上搜索深度假货仍然会返回多个最近的深度假货视频。[10]

聊天网站Discord过去曾对深度假冒采取过行动,[30]并对深度假货保持了这种普遍态度。 [27][31]2018年9月,谷歌将“非自愿合成色情图片”添加到其禁令名单中,允许任何人请求屏蔽描绘他们的假裸体的搜索结果。[32]

参考[编辑]

  1. ^ Dickson, E. J. Deepfake Porn Is Still a Threat, Particularly for K-Pop Stars. Rolling Stone. 2019-10-07 [2019-11-09] (美国英语). 
  2. ^ 2.0 2.1 2.2 Roettgers, Janko. Porn Producers Offer to Help Hollywood Take Down Deepfake Videos. Variety. 2018-02-21 [2018-02-28] (美国英语). 
  3. ^ Goggin, Benjamin. From porn to 'Game of Thrones': How deepfakes and realistic-looking fake videos hit it big. Business Insider. [2019-11-09]. 
  4. ^ Lee, Dave. 'Fake porn' has serious consequences. 2018-02-03 [2019-11-09] (英国英语). 
  5. ^ 5.0 5.1 Cole, Samantha. Gfycat's AI Solution for Fighting Deepfakes Isn't Working. Vice. 2018-06-19 [2019-11-09] (英语). 
  6. ^ The State of Deepfake - Landscape, Threats, and Impact (PDF). Deeptrace. 2019-10-01 [2020-07-07] (美国英语). 
  7. ^ 7.0 7.1 Cole, Samantha. AI-Assisted Fake Porn Is Here and We're All Fucked. Vice. 11 December 2017 [19 December 2018]. 
  8. ^ 8.0 8.1 Cole, Samantha. We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now. Vice. 2018-01-24 [2019-12-15] (英语). 
  9. ^ Cole, Samantha. This Deepfake of Mark Zuckerberg Tests Facebook's Fake Video Policies. Vice. 2019-06-11 [2019-12-15] (英语). 
  10. ^ 10.0 10.1 10.2 Cole, Samantha. Pornhub Is Banning AI-Generated Fake Porn Videos, Says They're Nonconsensual. Vice. 2018-02-06 [2019-11-09] (英语). 
  11. ^ 11.0 11.1 Cole, Samantha. AI-Generated Fake Porn Makers Have Been Kicked Off Their Favorite Host. Vice. 2018-01-31 [2019-11-18] (英语). 
  12. ^ 12.0 12.1 Cole, Samantha; Maiberg, Emanuel; Koebler, Jason. This Horrifying App Undresses a Photo of Any Woman with a Single Click. Vice. 26 June 2019 [2 July 2019]. 
  13. ^ 13.0 13.1 13.2 Cole, Samantha. Twitter Is the Latest Platform to Ban AI-Generated Porn. Vice. 2018-02-06 [2019-11-08] (英语). 
  14. ^ Böhm, Markus. "Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor. Spiegel Online. 2018-02-07 [2019-11-09]. 
  15. ^ barbara.wimmer. Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos. futurezone.at. 8 February 2018 [2019-11-09] (德语). 
  16. ^ online, heise. Deepfakes: Auch Reddit verbannt Fake-Porn. heise online. [2019-11-09] (德语). 
  17. ^ Reddit verbannt Deepfake-Pornos - derStandard.de. DER STANDARD. [2019-11-09] (奥地利德语). 
  18. ^ Robertson, Adi. Reddit bans 'deepfakes' AI porn communities. The Verge. 2018-02-07 [2019-11-09] (英语). 
  19. ^ 19.0 19.1 Kharpal, Arjun. Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor. CNBC. 2018-02-08 [2018-02-20]. 
  20. ^ 20.0 20.1 20.2 Scarlett Johansson on fake AI-generated sex videos: 'Nothing can stop someone from cutting and pasting my image'. The Washington Post. 2018-12-31 [2019-06-19]. 
  21. ^ 21.0 21.1 DeepNude AI copies easily accessible online. 3 July 2019. 
  22. ^ pic.twitter.com/8uJKBQTZ0o. 27 June 2019. 
  23. ^ open deepnude as open-source version of DeepNude. 
  24. ^ Cox, Joseph. GitHub Removed Open Source Versions of DeepNude. Vice Media. July 9, 2019. 
  25. ^ 25.0 25.1 DeepNude is back. 
  26. ^ Kirchengast, T. Deepfakes and image manipulation: criminalisation and control.. Information & Communications Technology Law. 2020, 29 (3): 308–323. S2CID 221058610. doi:10.1080/13600834.2020.1794615. 
  27. ^ 27.0 27.1 Ghoshal, Abhimanyu. Twitter, Pornhub and other platforms ban AI-generated celebrity porn. The Next Web. 2018-02-07 [2019-11-09] (美国英语). 
  28. ^ Hathaway, Jay. Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban. The Daily Dot. 8 February 2018 [22 December 2018]. 
  29. ^ Gilmer, Damon Beres and Marcus. A guide to 'deepfakes,' the internet's latest moral crisis. Mashable. 2 February 2018 [2019-11-09] (英语). 
  30. ^ Price, Rob. Discord just shut down a chat group dedicated to sharing porn videos edited with AI to include celebrities. Business Insider Australia. 2018-01-27 [2019-11-28] (英语). 
  31. ^ Twitter bans 'deepfake' AI-generated porn. Engadget. [2019-11-28] (英语). 
  32. ^ Harrell, Drew. Fake-porn videos are being weaponized to harass and humiliate women: 'Everybody is a potential target'. The Washington Post. [2019-01-01].