深偽色情

深偽色情（英語：DeepFake Pornography），或假色情，是一種由人工智能合成的色情作品。它通過深偽技術，將已存在的色情作品當中的身體部分合成為其他人的身體備份（主要是更換面部）以製作虛假的色情作品。深偽色情內容一直備受爭議，因為它的內容通常都是將女性名人的面孔放在色情表演者的身體上，而這些女性名人的深偽色情作品通常是在未經她們同意的情況下製作的。

歷史

2017年，互聯網上出現了大量深偽色情內容，特別是在Reddit上。第一個吸引眼球的是黛茜·雷德利的深偽色情內容，它曾出現在幾篇文章中。 其他著名的深偽色情作品出自不同的名人之手。 荷蘭網絡安全初創公司Deeptrace於2019年10月發佈的一份報告估計，網上所有深偽內容中有96%是色情的。

2017年12月，薩曼莎·科爾(Samantha Cole)在Vice發表了一篇關於r/深偽的文章，首次引起了主流對在線社區分享深偽的關注。 六周後，科爾在一篇後續文章中寫道，人工智能輔助的虛假色情作品大幅增加。自2017年以來，Vice的薩曼莎·科爾發表了一系列文章，報道了圍繞深偽色情內容的新聞。

自那以後，多家社交媒體禁止或努力限制深偽色情內容。最值得注意的是，Reddit上的r/Deepfakes subreddit於2018年2月7日被禁止，原因是違反了政策，即「非自願色情」。 同月，Twitter的代表表示，他們將暫停涉嫌發佈非雙方同意的深偽內容的賬戶。

斯嘉麗·約翰遜經常成為深偽色情的主題，她在2018年12月向華盛頓郵報公開談論了這個話題。在一份事先準備好的聲明中，她表示，儘管存在擔憂，但她不會試圖移除任何深偽內容，因為她相信它們不會影響她的公眾形象，而且各國不同的法律和互聯網文化的性質使得任何移除深偽內容的嘗試都是失敗的。

然而，雖然像她這樣的名人受到名氣的保護，但她認為，深偽色情對知名度較低的女性構成了嚴重威脅，她們的聲譽可能會因為不由自主地出現在深偽色情或報復性色情作品中而受損。

深度裸體（DeepNude）

2019年6月，一款名為DeepNude的可下載Windows和Linux應用程式發佈，該應用程式使用神經網絡，特別是生成性對抗網絡，從女性圖像中脫下衣服。這款應用程式有付費和非付費兩種版本，付費版本的價格為50美元。 6月27日，創建者刪除了這款應用程式，並向消費者退款，儘管該應用程式的各種免費和收費副本仍然存在。在GitHub上，這個程序的開放源碼版本被刪除了，名為「開放深度裸體」。 開源版本的優點是可以在更大的裸體圖像數據集上進行訓練，以提高生成的裸體圖像的精度水平。

深偽兒童性虐材料

深偽技術使兒童性虐待材料(CSAM)的製作比以往任何時候都更快、更安全、更容易。Deepfake可以用來從現有的材料中產生新的CSAM，或者從沒有受到性虐待的兒童中創建CSAM。然而，深偽CSAM可能會對兒童產生真實和直接的影響，包括誹謗、打扮、勒索和欺凌。此外，深偽兒童色情作品給警方帶來了更多障礙，使刑事調查和受害者身份識別變得更加困難。

小玉事件

參見：小玉 (YouTuber) § DeepFake換臉事件和小玉Deepfake換臉事件

自2020年10月開始，台灣發生擁有幾千名成員的Telegram群組「台灣網紅挖面」，將網絡知名人士的臉變換為成人影片主角，並有意販售不雅影片以換取牟利之事件，受害者達上百人，絕大多數為女性，其身份涵蓋網紅、藝人、政治人物、主播、甚至素人，包含龍龍、白癡公主、奎丁、蕾拉、黃捷、高嘉瑜等人皆在其中。2021年10月18日，警方逮補主嫌小玉及共犯莊男和耶女。警詢後依涉嫌散播猥褻物與妨害名譽等罪移送新北地檢署偵辦，檢察官諭令朱玉宸50萬元交保。

泰勒·斯威夫特事件

2024年1月，Twitter平台流傳一批利用人工智能生成的泰勒·斯威夫特裸照，相關圖片隨後擴散到其他平台，包括Facebook、Reddit和Instagram。其中一則帶有相關偽造裸照的推文在被刪除之前，被瀏覽了4500萬次404 Media追查發現，這批圖片的源頭出自一個Telegram群聊，該群成員利用Microsoft Designer等工具生成裸照；為了繞過Designer的內容過濾器，他們利用拼錯單詞等關鍵詞技巧。為避免裸照進一步傳播，Twitter暫時屏蔽了泰勒名字的搜索結果。

倫理辯論

深偽色情軟件可能被濫用來製作針對個人的虛假色情內容（例如用於報復），這可以被視為一種騷擾形式。目前，DeepNude等軟件製作的視頻還遠遠不夠複雜，無法與法醫分析下的真實視頻區分開來。這似乎不可能有說服力，因為這些內容是用人物的「一般圖像」創建的(這意味着真人身上的任何瑕疵——模具、疤痕、紋身……都不會被生成)。因此，這被認為永遠不足以說服（例如法律領域的）官員，也可能不會對個人現實生活產生任何重大影響。

企業限制措施

2018年1月31日，Gfycat開始從其網站上刪除所有深偽（及作品）。

2018年2月，r/Deepfakes因分享非自願色情內容被Reddit封禁。其他網站也禁止對非自願色情內容使用深偽，包括社交媒體平台Twitter和色情網站Pornhub。 然而，一些網站並沒有禁止深度虛假內容，包括4chan和8chan。

同樣在2018年2月，Pornhub表示將禁止在其網站上發佈深度虛假視頻，因為這些視頻被認為是違反了他們的服務條款的「非雙方同意的內容」。他們之前還向Masable表示，他們將刪除標記為深偽的內容。 Buzzfeed新聞網站Motherboard的撰稿人報告稱，在Pornhub上搜索深度假貨仍然會返回多個最近的深度假貨視頻。

聊天網站Discord過去曾對深偽採取過行動，並對深度偽造保持了這種普遍態度。 2018年9月，谷歌將「非自願合成色情圖片」添加到其禁令名單中，允許任何人請求屏蔽描繪他們的假裸體的搜索結果。