韓國再現“N號房”事件,AI換臉的數字性犯罪敲響警鐘

來源:澎湃新聞 | 2024年05月25日 10:01:05
澎湃新聞 | 2024年05月25日 10:01:05
原標題:韓國再現“N號房”事件, AI換臉的數字性犯罪敲響警鐘
正在加載

  “N號房”事件4年前震驚韓國社會,兩名主犯獲刑入獄,但數字性犯罪並未偃旗息鼓,還有其他“惡魔”在人間。近日,韓國首爾大學爆發了“N號房”事件,犯罪嫌疑人製作上千份色情照片和視頻,通過社交軟體Telegram進行私密傳播,與N號房的作案手法類似,目前已知的受害女性達61人,包括首爾大學學生和未成年人。

  韓國《朝鮮日報》消息稱,5月24日,韓國檢察總長李元錫指示首爾中央地方檢察廳徹查首爾大學“N號房”事件,並嚴懲罪犯。“本案涉及多名犯罪嫌疑人,針對熟人,長期系統、蓄意地合成、製作、傳播虛假視頻,給受害者造成了極大的精神、社會痛苦以及傷害。”

  5名團夥作案嫌疑人已經被捕,其中2名主犯是首爾大學的畢業生,3年多來,他們盜用女性同學、熟人的照片,用“深度偽造”技術換臉合成色情製品,在Telegram上建立數十個網絡聊天室進行傳播。他們還將合成的淫穢製品直接發送給受害者進行“淩辱”。

  正如當年最早發現並揭發“N號房”事件的兩名大學生所言,大家看到的只是一小部分事實,也是程度最輕的那一部分。數字化性犯罪並不罕見,不同形式的“N號房”或許就在身邊。儘管韓國近年來修改法律、加大對數字性犯罪的打擊力度,並採取措施援助受害者,但是網絡上的性犯罪仍然猖獗,與此同時反抗性暴力、性剝削的力量也在持續生長。

  隱秘傳播AI換臉的色情製品

  時間追溯到2021年7月,首爾大學畢業生樸某和該大學研究生在讀的姜某在網絡上結識,合作利用技術手段製作並傳播色情製品。而當時“N號房”事件已對韓國社會造成巨大震動,韓國首爾高等法院在當年6月對“N號房”主犯趙主彬二審判處有期徒刑42年。

  據韓媒報道,樸某主要利用在首爾大學就讀期間認識的校友,將她們的社交賬號頭像和照片合成製作色情內容,並將這些內容在Telegram的聊天室傳播。警方稱,樸某共參與製作、傳播1852份非法照片和視頻,其中大部分視頻由姜某製作,作案時姜某還是首爾大學在校學生,他通過深度偽造技術(Deepfake人工智慧換臉工具),將一些女性校友和熟人的畢業照和社交賬號照片與其他色情內容合成,然後把合成製品和受害者信息一併提供給樸某。

  實際上,利用深度偽造技術合成非法色情製品的案件在全球多地出現,其中最轟動的是美國歌手泰勒·斯威夫特今年1月遭AI換臉,犯罪分子製作出了深度偽造合成的色情圖片,其在社交平臺X上被瀏覽超過4700萬次。美國白宮發言人對此表示, “非常令人擔憂”,敦促美國國會就此問題立法。

  而此案中另一個焦點是樸某和姜某同屬首爾大學畢業生,但辦案警察稱此為“巧合”,他們過去在線下並不認識,嫌疑人也不只邀請首爾大學的學生進入Telegram私密聊天室。操作手法是先單獨向目標人群發送“鏈結”,邀請他們進入聊天室,然後再匿名交換非法合成內容。

  警方淡化了此案與首爾大學的關係,但是校方採取了行動。5月22日首爾大學召開首次數字性犯罪特別工作組會議後,決定成立“性暴力受害者舉報中心”,為受害者提供支持。

  依據韓國《性暴力懲罰法》,樸某(40歲)和姜某(31歲)先後於4月和5月被逮捕。此外,警方還逮捕了另外3名嫌疑人,均以熟人為對象製作和散佈非法合成物。他們在Telegram平臺上開設了200多個房間,最多時每個房間約有50名用戶。一名警察説,“包括樸某在內的主要犯罪分子並沒有從非法製品中獲利,犯罪目的是為了滿足自己的性慾,而非盈利。”

  在過去幾年裏,該犯罪團夥不僅製作和傳播非法色情製品,還將一些內容發送給受害者本人。部分受害者曾向首爾多個地區的警察局以及世宗警察局報案,由於Telegram平臺的高度匿名性和附有的“信息自動銷毀程序”,警方難以追蹤嫌疑人,多次立案後中途停止調查或草草結案。

  受害人沒有就此放棄,她們指認出擁有共同聯絡方式的校友F,分別向首爾中央地方檢察廳和首爾高等檢察廳提出上訴,但被駁回。此後,她們又向首爾高等法院提出訴狀,法院于去年11月將F送審,再次啟動了該案的調查。

  去年 12 月,在韓國國家調查局的要求下,首爾警察廳網絡調查科就此案展開調查,調查過程中得到了民間組織“追蹤團·火花”的關鍵性助力,此前協助警方偵破“N號房”案件的正是該組織成員。

  《首爾新聞》在報道中披露了“追蹤團·火花”成員袁恩智(音)在該案件調查過程中的一些細節。袁恩智在此前調查“N號房”的過程中,對數字性犯罪的運作方式有所了解,她收到了首爾大學“N號房”受害者的求救,於是決定再次臥底,在長達兩年的時間裏與樸某建立聯絡。近期,她在線發佈了萬字長文,披露自己偽裝成愛好色情內容的30多歲男性網民,並聲稱其妻子是一名貌美的首爾大學畢業生來作為誘餌。樸某慢慢上鉤,並向袁恩智索要其所謂妻子的內衣;此後,經過多次線下“交易”,4月初警方終於成功對樸某實施了抓捕。

  樸某等人被捕,並不意味著首爾大學 “N號房”事件的結束,就如2018年Telegram出現8個聊天室(即“N號房”)之後,多名運營者相繼退出後又有新人接盤,數字性犯罪之野火滅不盡。

  “N號房”之後“網絡地獄”依然存在

  當年“N號房”事件曝光後,韓國導演崔鎮成(音)以真實事件為依託執導了紀錄片《網絡地獄:N 號房現形記》,給韓國觀眾帶來了強烈的衝擊,讓“N號房”的余波再度震蕩。崔鎮成在接受媒體採訪時表示,想要通過這部作品對犯罪分子説“你們一定會被抓住”。

  自“N號房”後,韓國政界、法界、文化界以及民間都對數字性犯罪有了基本的認知,並産生了強烈的反抗情緒。除了對罪犯的實質性懲罰外,韓國國會通過了一系列“N號房”相關的法律法規。韓國最高檢察院發佈了“數字性犯罪案件處理標準”,正式定義了“性剝削視頻”,並制定了針對性剝削視頻拍攝者的起訴標準。2021年,韓國國會還通過了《Telegram “N號房”事件防治法》,包括將未成年性自主決定權從13周歲提高到16周歲等內容。

  去年3月,韓國首爾市政府宣佈引入AI技術來監控數字性犯罪。“首爾數字性犯罪安心支援中心”將利用人工智慧技術,在社交平臺上實行24小時實時監視,自動找出與受害者相關的性犯罪視頻,及時刪除視頻,防止視頻再次流傳。以往,工作人員僅憑肉眼識別受害者的面孔和特點來尋找相關視頻,在引進人工智慧和深度學習技術後,可綜合分析音頻、視頻以及文字信息。

  多管齊下後,韓國民間防範數字性犯罪的意識提升,但犯罪案件仍屢見不鮮。根據韓國警察廳統計,2022年數字性犯罪案件有3201起,2023年為2314起。2022年,澳大利亞警方在悉尼逮捕了一名20多歲的韓國籍男子,此人從2020年起,威脅9名未成年人拍攝1200多條(張)性剝削視頻和照片,並在社交網絡上傳播,此事件被韓媒稱做“第二N號房”事件。

  有國際非政府組織發出警告稱,“N號房”代表一種新穎且特別惡劣的數字性犯罪模式,它是更廣泛趨勢的一環,亟待韓國和其他國家作出全面應對。各國政府應當審慎改革刑事法律以保護女性免於暴力威脅。

  對於受害者來説,反抗數字性暴力是一個艱難而痛苦的過程。從“N號房”等一系列案件可見,罪犯習慣利用現有的非法視頻內容威脅受害者,迫使她們協助製作更多內容。受害者要想刪除網絡上秘密流傳的非法色情製品,除非與作案者達成協定,否則只能寄託于科技公司的介入。

  國際特赦組織韓國分支組織的總監尹芝玹指出,向網絡平臺提交刪除申請本身就是一個痛苦的過程,她們必須反復搜索和收集那些關於自己受害的內容。即使用戶最終成功提交申訴,仍然面臨難以與科技企業溝通的問題。比如受害者羅賢珍曾經就向谷歌提交申訴,請求刪除性暴力內容,但是一年多才等到處理結果。她説,“罪犯很容易就上傳一段視頻,但我們卻要花幾個月的時間才能刪除。”

  韓國廣播通信審議委員會作為互聯網審查機構,從2019年至2023年共審查了180000起數字性犯罪案件,其中非法拍攝的性行為和性剝削影像佔91.1%,但經過審議,只有0.3%的相關內容最終被清除。

  韓國監測和報告網絡性虐待的組織 "Project ReSET "的活動家對媒體説,法律和制度需要改進,以更具體地應對數字性犯罪。目前依然存在一些漏洞,例如在不知道受害者身份和下落的情況下,傳播性剝削內容被視為單純的色情製品,而不是性犯罪。另外,這種犯罪的盛行往往還歸因于韓國女性在父權制社會中的低下地位和該國科技的迅猛發展。如果女性能夠更多發聲,如果她們的權益可以得到改善,就有可能降低犯罪率。

  正如《房思琪的初戀樂園》後記中所寫的那樣,“任何關於性的暴力都是‘社會性’的,或應該這麼説,任何關於性的暴力,都不是由施暴者獨立完成的,而是由整個社會協助施暴者完成。”

編輯:郭倩 責任編輯:劉亮
點擊收起全文
掃一掃 分享到微信
|
返回頂部
望海熱線
xinwenxiansuo@staff.cntv.cn
最新推薦
精彩圖集
正在閱讀:韓國再現“N號房”事件,AI換臉的數字性犯罪敲響警鐘
掃一掃 分享到微信
手機看
掃一掃 手機繼續看
A- A+