嚴懲！男子用AI偽造學(xué)生同事近7000張裸照
隨著(zhù)人工智能軟件普及，“AI換臉”“AI合成照片、視頻”等技術(shù)越來(lái)越多地出現在網(wǎng)絡(luò )里，“AI”造假花樣越來(lái)越多，一些不法分子將新技術(shù)用于非法的目的，讓犯罪手段又有了新方式。
“一鍵去衣”！
深度偽造近七千張淫穢圖片
在北京警方偵破的一起案件中，警方接到報案，有人在境外的網(wǎng)站上發(fā)廣告，只需一張日常生活照片，就可以完成一鍵“去衣”的效果。
一名被警方抓獲的犯罪嫌疑人白某某原本是一家互聯(lián)網(wǎng)公司的技術(shù)員，他因為使用AI去衣技術(shù)，制作、販賣(mài)淫穢物品而涉嫌犯罪。
北京市海淀區人民檢察院檢察官助理 郭樹(shù)正：白某某用的這款人工智能軟件，能很快對被害人的圖片“一鍵去衣”，基本上幾秒鐘、幾分鐘就能批量生成相應的圖片。
警方在白某某家的電腦里，查獲了大量的涉案照片，都是經(jīng)過(guò)“一鍵去衣”技術(shù)處理的。
郭樹(shù)正：他在吉印通13816211622上向351個(gè)人販賣(mài)過(guò)相關(guān)圖片，圖片數量將近7000張。
隨后，白某某因涉嫌制作、販賣(mài)淫穢物品牟利罪被公訴至法院。今年4月19日，北京市海淀區人民法院對這起案件進(jìn)行了開(kāi)庭審理。
公訴人：其對含有人臉信息的眾多不特定女性照片進(jìn)行侮辱性編輯并出售，圖片數量多，涉及人數多，社會(huì )公眾利益受到嚴重損害。
那么，這些經(jīng)過(guò)去衣的照片的受害者都是什么人？白某某為什么要制作這些照片呢？他又是如何進(jìn)行牟利的呢？
2023年6月，家住北京的白某某在境外的社交媒體上接觸到了這項“一鍵去衣”的技術(shù)，于是他動(dòng)起了歪心思，打算利用這項技術(shù)來(lái)賺錢(qián)。
北京市海淀區人民檢察院檢察官 李鵬：他在境外的社交媒體上發(fā)布了廣告，內容就是“去衣”，1.5元一張。
每張1.5元 發(fā)廣告招攬圖片定制服務(wù)
這就是白某某發(fā)布的廣告帖，上面寫(xiě)著(zhù)“電腦AI去衣，白菜價(jià)”“身邊人、網(wǎng)紅、明星皆可”。他的廣告發(fā)布后，有不少人聯(lián)系白某某，給他發(fā)送照片并購買(mǎi)這項“去衣”服務(wù)。
郭樹(shù)正：一張圖片他賣(mài)1.5元，能迅速滿(mǎn)足相關(guān)人的需求。這個(gè)時(shí)候就有很多人去瀏覽白某某在境外社交網(wǎng)站上發(fā)布的帖子，經(jīng)過(guò)我們統計，瀏覽他發(fā)布廣告的人有3萬(wàn)人左右。
那么，“AI去衣”究竟是怎樣的一種技術(shù)呢？據白某某供述，這項技術(shù)并不是真的“去衣”，而是一種偽造、重繪的技術(shù)。
郭樹(shù)正：其實(shí)我們可以把它理解為深度的圖片偽造，它并不是真的去掉別人照片上的衣服，其實(shí)都是針對已有的模型和已有的模組進(jìn)行圖片重繪。
而且，這項技術(shù)操作起來(lái)十分簡(jiǎn)單，去衣只需要一鍵就能完成，因此白某某定價(jià)不高，一張照片只需要1.5元，卻可以利用低價(jià)吸引更多的訂單。
短短幾個(gè)月的時(shí)間，白某某就制作了幾千張去衣的圖片，賺了將近一萬(wàn)元錢(qián)。然而，他卻沒(méi)有意識到這一行為可能產(chǎn)生的嚴重后果。
郭樹(shù)正：其中有讓白某某去學(xué)生、教師、女同事等衣服的圖片。根據我們調查，白某某在這個(gè)過(guò)程中，他其實(shí)是知道可能會(huì )有人拿這個(gè)圖片實(shí)施違法犯罪行為，比方說(shuō)敲詐勒索，或者繼續傳播對被害人的名譽(yù)造成一定的損失，或者實(shí)施一些其他更惡劣的犯罪行為。
檢察官介紹，白某某使用的實(shí)際上是一個(gè)正規的AI繪圖軟件，而“去衣”只是其中的一個(gè)功能模塊。白某某自以為發(fā)現了其中的商機，實(shí)際上卻把自己送到了法庭里被告人的位置上。
公訴人：經(jīng)依法審查查明，2023年6月至8月，被告人白某某在本市海淀區等地發(fā)布AI虛擬廣告，將他人提供的承載人臉信息的特定多數女性圖片，通過(guò)深度制造技術(shù)AI軟件制作成裸體圖片販賣(mài)牟利，同時(shí)出售AI去衣軟件及使用教程牟利。
涉嫌制作販賣(mài)淫穢物品牟利罪被提起公訴
檢察機關(guān)認為，被告人白某某以牟利為目的，制作、販賣(mài)淫穢物品，情節嚴重，其行為觸犯了《吉印通人民共和國刑法》的相關(guān)規定，應當以制作、販賣(mài)淫穢物品牟利罪追究其刑事責任。
郭樹(shù)正：非法進(jìn)行加工和利用，加工利用之后又通過(guò)各種非法途徑傳播，導致本來(lái)是為我們服務(wù)，為科技進(jìn)步發(fā)展提供幫助的一項技術(shù)，變成了犯罪的工具。
侵犯不特定女性名譽(yù) 破壞網(wǎng)絡(luò )環(huán)境
檢察機關(guān)認為，白某某利用AI技術(shù)犯罪的行為不僅侵犯了無(wú)數無(wú)辜者的隱私與名譽(yù)，還破壞了網(wǎng)絡(luò )環(huán)境的純凈，與科技向善的精神相背離。而利用新技術(shù)犯罪，也將受到司法機關(guān)的嚴厲打擊。
公訴人：人工智能技術(shù)興起之后，已經(jīng)成為當今科技領(lǐng)域備受矚目的技術(shù)之一，正在深刻改變我們社會(huì )、經(jīng)濟以及生活方式，為社會(huì )帶來(lái)更多的便利。同時(shí)我們也打擊治理運用AI技術(shù)實(shí)施犯罪，任何利用新技術(shù)實(shí)施犯罪的行為必將受到嚴懲。
“換臉”偽造不雅照
實(shí)施敲詐勒索
一鍵去衣、AI換臉技術(shù)，還會(huì )被不法分子利用，成為敲詐勒索的工具。近期，這類(lèi)案件又有抬頭趨勢。前不久，深圳警方打掉一個(gè)團伙，這個(gè)團伙從網(wǎng)上等各種渠道收集被害人圖片信息，然后進(jìn)行合成處理，用來(lái)敲詐勒索。
前不久，深圳市民吳先生突然收到一個(gè)陌生手機號碼發(fā)來(lái)的彩信，點(diǎn)開(kāi)一看竟然是他和一名陌生女子在酒店房間內的不雅照片。
當事人 吳先生：當時(shí)我收到一條彩信，里面是我的一張裸照，他當時(shí)威脅我，在幾點(diǎn)之前要跟他聯(lián)系給他轉錢(qián)，我當時(shí)一想不對勁，就報警了。
深圳警方接到報案后，立即對吳先生提供的線(xiàn)索進(jìn)行偵查。通過(guò)梳理報案記錄，警方發(fā)現全市有同樣遭遇的不止吳先生一人，犯罪嫌疑人的敲詐勒索方式都如出一轍。
當事人 鄧先生：內容就是有我的照片，我旁邊還有女的，還寫(xiě)我的名字。我還問(wèn)我的同事，我同事說(shuō)這肯定是別人復制上去的。
于是警方立即對相似的案件進(jìn)行串并處理。調查后，一個(gè)通過(guò)換臉技術(shù)合成不雅照，實(shí)施敲詐勒索的犯罪團伙逐漸浮出水面。
深圳市公安局坪山分局民警 張威：經(jīng)調查，這個(gè)團伙流竄作案，以“已掌握你在外面找小姐”“艷照將公之于眾”等方式進(jìn)行威脅，進(jìn)而逼迫受害人“破財消災”，從而達到敲詐勒索的目的。
團伙分工明確：有人修圖、有人尋作案目標
隨著(zhù)偵查工作的深入，警方發(fā)現這是一個(gè)以王某為首的犯罪團伙，團伙內分工明確，有人負責修圖，有人負責尋找作案目標，有人負責發(fā)短信打電話(huà)聯(lián)系收款。深圳坪山警方兵分多路，展開(kāi)統一收網(wǎng)行動(dòng)，在多地警方協(xié)助下成功抓獲以王某為首的十多名犯罪嫌疑人。
在犯罪嫌疑人的電腦里，警方發(fā)現了大量經(jīng)過(guò)合成換臉后的不雅照片。
張威：從嫌疑人電腦里面提取的相關(guān)證據，這些圖片是嫌疑人從網(wǎng)上等各種渠道收集的被害人圖片信息，然后進(jìn)行合成處理，用來(lái)敲詐被害人。
目前，王某等人已被檢察機關(guān)提起公訴。案件正在進(jìn)一步審理當中。
深圳市公安局刑警支隊民警 程儒：如果遇到這種以換臉的方式實(shí)施敲詐勒索的行為，請及時(shí)報警。我們公安機關(guān)會(huì )依法嚴厲打擊這種違法犯罪，在案件辦理過(guò)程當中嚴格保護當事人的個(gè)人隱私。
以合成照威脅受害人
并準確說(shuō)出個(gè)人信息
在山東威海，也有當事人遭遇到騙局，在收到偽造的不雅照后，沒(méi)有多加核實(shí)，就向敲詐團伙轉賬20萬(wàn)元。
前不久，威海警方接到了反詐中心的一條資金預警信息，有市民正在向涉詐賬戶(hù)進(jìn)行轉賬，民警立即與當事人取得聯(lián)系，核實(shí)情況。
威海市公安局經(jīng)濟技術(shù)開(kāi)發(fā)區分局皇冠派出所民警 劉羿：我們看到他的手機收到了一條短信，短信上的內容大概就是一張圖片，上面有一男一女的裸照，還附了留言，說(shuō)“我有你全部的影像資料，趕緊跟我聯(lián)系”，并附上了一個(gè)電話(huà)。
王先生說(shuō)自己當時(shí)看到這張照片，當時(shí)就有點(diǎn)懵。沒(méi)有來(lái)得及多想，他撥打了信息上面的電話(huà)。由于對方準確地說(shuō)出了自己的姓名以及工作單位，并且告訴王先生只要向他們轉賬68萬(wàn)元就可以買(mǎi)斷這些視頻，如果王先生不給錢(qián)就把視頻公開(kāi)。在對方的恐嚇下，王先生信以為真。
劉羿：王先生起初沒(méi)有那么多錢(qián)，所以他就說(shuō)我先給你10萬(wàn)元，對方同意后就給他發(fā)了一個(gè)指定的銀行賬戶(hù)，所以王先生就向賬戶(hù)內轉了第一筆10萬(wàn)元。然后對方仍然給他打電話(huà)說(shuō)這個(gè)錢(qián)太少了，如果不想讓其他人知道，不想讓單位的同事知道，就必須再次轉賬。王先生通過(guò)多方籌集，又向指定的銀行賬戶(hù)轉了第二筆10萬(wàn)元。
先后轉賬20萬(wàn)元 但未能滿(mǎn)足對方胃口
然而，先后轉賬的20萬(wàn)元，根本滿(mǎn)足不了對方的胃口。正當王先生驚慌失措時(shí)，民警聯(lián)系到了王先生。
劉羿：當我們跟王先生一同看這張照片的時(shí)候，我們發(fā)現雖然臉部有相似的地方，但是他的臉型以及身形完全不是他本人。
之后，民警趕緊通過(guò)國家反詐大數據平臺對王先生轉賬的兩個(gè)銀行賬戶(hù)進(jìn)行緊急止付操作。
劉羿：平臺對我們止付的這兩個(gè)賬戶(hù)進(jìn)行反饋，反饋出賬戶(hù)的余額以及銀行卡的卡主身份等等情況。我們發(fā)現這兩個(gè)賬戶(hù)的余額已經(jīng)顯示為0，所以我們緊接著(zhù)就對這兩個(gè)賬戶(hù)進(jìn)行分析研判。
警方緊急止付 經(jīng)過(guò)研判鎖定兩名嫌疑人
經(jīng)過(guò)研判分析，警方鎖定了犯罪嫌疑人鄭某和鐘某的身份信息。今年1月22日，威海警方趕赴浙江烏鎮將兩名犯罪嫌疑人抓獲歸案，為王先生挽回了損失。
警方介紹，在這些案件當中，犯罪嫌疑人先是通過(guò)網(wǎng)絡(luò )等渠道，搜集被害人的視頻、照片以及相關(guān)信息。再通過(guò)AI換臉技術(shù)PS合成所謂的“不雅視頻”或“艷照”，然后通過(guò)短信、郵箱等渠道，精準發(fā)送給選定的對象并留下聯(lián)系方式，最后以要舉報、散播、告知家屬等手段威脅選定的對象，要求被害人將錢(qián)匯到他們指定的銀行賬戶(hù)。
警方提示：遇到此類(lèi)情況要及時(shí)留存證據，撥打110報警。
來(lái)源：央視新聞
