警惕AI換臉擬聲技術(shù)詐騙
前不久,“AI孫燕姿”“AI王菲”們爆火出圈,成為短視頻平臺新一輪的流量密碼。與此同時,能以假亂真、掩人耳目的AI技術(shù)也在頻頻觸及法律紅線。近日,北京市通州區(qū)人民法院調(diào)研發(fā)現(xiàn),平臺流量背后有人正在利用AI換臉擬聲實施不法行為,如偽造不雅視頻、換臉詐騙等。
AI違法行為防不勝防,民事方面易引發(fā)肖像權(quán)等侵權(quán)行為,刑事方面易引發(fā)詐騙罪、侵犯公民個人信息罪等犯罪行為。據(jù)此,通州法院法官通過兩起典型案例揭示AI技術(shù)亂象背后的法律問題,以能動司法擊敗“AI魔法”,提醒公眾提高維權(quán)和反詐意識?!?/p>
案例1
利用AI技術(shù)使用他人形象視頻
涉事公司構(gòu)成肖像侵權(quán)被判賠
陳某在某網(wǎng)絡平臺注冊賬號,發(fā)表諸多唯美造型視頻,有粉絲上萬人。某公司利用AI技術(shù)運營某款APP,該APP向用戶提供拍攝視頻時的提詞功能以及提供面部替換的視頻模板。某公司未經(jīng)陳某許可在該APP中使用陳某發(fā)布在其賬號中的多個唯美視頻作為視頻模板,供軟件用戶進行面部替換。陳某發(fā)現(xiàn)后提起訴訟,某公司刪除相關(guān)視頻。
法院經(jīng)審理認為,某公司運營的該款APP具有明顯的商業(yè)屬性,其未經(jīng)陳某許可使用陳某個人形象視頻進行運營,并非法律規(guī)定的合理使用,對陳某構(gòu)成肖像侵權(quán),應承擔相應的侵權(quán)責任。判令被告某公司在該APP首頁置頂處刊登道歉聲明向原告陳某賠禮道歉,并賠償陳某1000元。
法院調(diào)研發(fā)現(xiàn),AI換臉擬聲技術(shù)用于商業(yè)盈利時極易引發(fā)肖像權(quán)、姓名權(quán)等人格權(quán)糾紛,一些營銷短視頻、音頻的商家經(jīng)常在未經(jīng)當事人許可和同意的情況下進行換臉、換聲操作,以此獲利。這種行為屬于侵權(quán)行為。
法官介紹,人格權(quán)是民事主體享有的生命權(quán)、身體權(quán)、健康權(quán)、姓名權(quán)、名稱權(quán)、肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)等權(quán)利。自然人享有肖像權(quán),有權(quán)依法制作、使用、公開或者許可他人使用自己的肖像。肖像是通過影像、雕塑、繪畫等方式,在一定載體上所反映的特定自然人可以被識別的外部形象。任何組織或者個人不得以丑化、污損,或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,不得制作、使用、公開肖像權(quán)人的肖像,但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意,肖像作品權(quán)利人不得以發(fā)表、復制、發(fā)行、出租、展覽等方式使用或者公開肖像權(quán)人的肖像。
法官提示
如遭遇被換臉、換聲的民事侵權(quán)行為,要有主動維權(quán)意識,要關(guān)注侵權(quán)方相關(guān)作品發(fā)布時間、數(shù)量、范圍,主動搜集網(wǎng)站/APP截圖、音頻、視頻等作為證據(jù),向侵權(quán)方提出嚴正交涉,積極運用法律途徑維護自身合法權(quán)益。如在本案中,法院經(jīng)審理查明某公司的行為構(gòu)成肖像侵權(quán),不僅判令某公司公開賠禮道歉,并且要求某公司賠償損失。擊敗“AI魔法”,交出公正答卷,人民法院隨時嚴陣以待。
案例2
用AI智能軟件詐騙近百萬 四被告人獲刑
2022年2月,被告人郭某在A省某區(qū)成立未經(jīng)審批登記的“公司”,并雇用被告人黃某、江某、田某等人通過某AI智能軟件篩選有意向炒股的股民“資源”(被害人),用于出售給下游公司獲利。郭某負責將其員工篩選、添加好的股民微信提供給其他同伙的“公司”進行電信網(wǎng)絡詐騙活動;其他同伙負責用微信小號進行角色扮演,對所謂的炒股資深專家“王某”進行吹捧以取得被害人信任,誘導添加了微信的被害人在虛假投資平臺上投資,以此騙取被害人的投資款。至2022年7月,郭某等人共騙取投資款人民幣近百萬元。法院經(jīng)審理認為,被告人郭某構(gòu)成詐騙罪、侵犯公民個人信息罪;黃某、江某、田某等人構(gòu)成非法利用信息網(wǎng)絡罪。
法官指出,AI犯罪手段越發(fā)高明,犯罪分子通常會通過AI技術(shù)進行聲音合成和換臉,并用AI程序篩選受害人,再用盜號或角色扮演等方式騙取信任,甚至生產(chǎn)出定制化的犯罪腳本,進一步實施不法行為,受害人往往難以在第一時間分辨出真?zhèn)?,落入違法者圈套。這種違法犯罪形式往往構(gòu)成多種罪名,最終被數(shù)罪并罰。
法官表示,違反國家有關(guān)規(guī)定,向他人出售或者提供公民個人信息,情節(jié)嚴重的,處三年以下有期徒刑或者拘役,并處或者單處罰金;情節(jié)特別嚴重的,處三年以上七年以下有期徒刑,并處罰金。詐騙公私財物,數(shù)額較大的,處三年以下有期徒刑、拘役或者管制,并處或者單處罰金;數(shù)額巨大或者有其他嚴重情節(jié)的,處三年以上十年以下有期徒刑,并處罰金;數(shù)額特別巨大或者有其他特別嚴重情節(jié)的,處十年以上有期徒刑或者無期徒刑,并處罰金或者沒收財產(chǎn)。
法官提示
警惕此類AI犯罪行為,如遇“微信好友通過視頻借款”情形,切記多渠道核實“好友”身份,勿輕易轉(zhuǎn)賬,如您已經(jīng)轉(zhuǎn)賬,及時報警或撥打反詐中心電話96110;如遇“低風險高回報的投資理財”情形,莫存在僥幸和投機心理,為了所謂高回報的收益,輕易將錢款轉(zhuǎn)賬至不明來路的“投資平臺”。理財要通過正當合法手段進行;如遇“×××邀請您進入群聊/視頻會議/直播間”情形,不要輕易加入全是陌生人的微信群聊、視頻會議,容易陷入犯罪分子提前制作好的角色扮演和犯罪劇本之中,成為待宰羔羊。
新京報記者 薄其雨(來源:新京報)
版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責任。