“AI換臉”合成淫穢視頻進(jìn)行出售,甚至還能“私人定制”?一男子被起訴!
我用“AI換臉技術(shù)”合成淫穢視頻,收費(fèi)供他人觀看,甚至根據(jù)顧客的需要使用不同的女明星形象進(jìn)行“私人定制”。
4月9日,據(jù)杭州市人民檢察院消息,80后安徽男子虞某因涉嫌制作、傳播淫穢物品牟利罪被提起公訴。
虞某稱,早在2020年“AI換臉”剛剛開始興起的時(shí)候,他就對(duì)該項(xiàng)技術(shù)產(chǎn)生了興趣,甚至還專門在網(wǎng)上購買了換臉軟件的教程并通過自學(xué)掌握了這門技術(shù)。
“換臉”剪輯開始有熱度后,他想到了在網(wǎng)上推廣該項(xiàng)技術(shù)及相關(guān)的軟件并從中獲利,于是虞某在國外的社交平臺(tái)上注冊(cè)賬號(hào)并建公開群,通過在其他公開群打廣告、發(fā)鏈接等方式,吸引更多對(duì)“AI換臉”技術(shù)感興趣的人到他本人所建的群里來。
但一段時(shí)間過去了,虞某的公開群卻始終沒有什么關(guān)注度。偶然的一次機(jī)會(huì),虞某在該國外平臺(tái)上看到有些人會(huì)在群里發(fā)布一些淫穢信息來吸引他人關(guān)注,就也動(dòng)起了歪腦筋。
虞某先是將原本“換臉軟件資源群”的群名更改為“女神試看群”,后又通過互聯(lián)網(wǎng)下載了部分淫穢視頻,截取片段后發(fā)布在該公開群中,吸引、招攬觀看者加入,當(dāng)觀看者達(dá)到一定人數(shù)后,虞某會(huì)發(fā)布群消息稱,進(jìn)入“內(nèi)部群”可以收看完整版。
虞某稱,他會(huì)在“內(nèi)部群”里放一些清晰度更高、時(shí)長(zhǎng)更長(zhǎng)的淫穢視頻,而觀看者想要進(jìn)入“內(nèi)部群”則要繳納198元-498元不等的“會(huì)費(fèi)”。
除此之外,虞某表示,“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術(shù)”合成的,根據(jù)顧客的需要還可以使用不同的女明星的形象,進(jìn)行“私人定制”。
也有不少人因?yàn)榭戳诉@些視頻后對(duì)換臉技術(shù)產(chǎn)生了興趣,向其咨詢?nèi)绾钨徺I換臉軟件。
一面通過“吸粉引流”,收取會(huì)費(fèi);一面又通過出售“換臉軟件”,頻頻獲利。
虞某原本毫無起色的“生意”一下子打開了局面,短短幾個(gè)月的時(shí)間里就收獲了數(shù)萬元。
截至案發(fā),公安機(jī)關(guān)共在虞某所組建的公開群內(nèi)查證淫穢視頻1200余部、圖片1600余張,經(jīng)鑒定,上述均系淫穢物品。
2023年3月28日,蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對(duì)虞某提起公訴。
案件目前正在法院審理中。
檢察官提醒:近年來,“AI換臉技術(shù)”頻頻被一些犯罪分子盯上,隨之而來的犯罪手段也是花樣百出、層出不窮。
除了女明星外,部分不法分子還將“AI換臉技術(shù)”使用在普通人身上,由此制造一些所謂的遭泄露的“私密照片”,對(duì)當(dāng)事人實(shí)施敲詐勒索。
即便只是用“AI換臉技術(shù)”來搞笑或者制作惡搞照片,也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán),造成嚴(yán)重后果的,還可能構(gòu)成侮辱罪或者誹謗罪。
這不是開玩笑!希望大家依法使用該項(xiàng)技術(shù),一旦遇到類似本案中利用AI技術(shù)實(shí)施犯罪行為的,應(yīng)第一時(shí)間固定證據(jù),并及時(shí)向司法機(jī)關(guān)報(bào)案。
來源:北京青年報(bào)