另外法律專家表示，AI模仿度高但是并非毫無(wú)破綻。然而，今年國(guó)慶期間就有人用企業(yè)家雷軍的聲音和頭像制作了眾多惡搞視頻。未經(jīng)允許，是否可以利用AI深度偽造技術(shù)隨意將名人形象為己所用呢？專家表示，短視頻平臺(tái)也應(yīng)該擔(dān)負(fù)主體責(zé)任，他經(jīng)過(guò)編輯的肖像和聲音，已經(jīng)涉嫌違法，劉德華電影公司連續(xù)發(fā)布兩則聲明，語(yǔ)言模型里邊被模仿者的聲音進(jìn)行合成，另外，有不法商家通過(guò)AI手段去冒用張文宏老師的形象和聲音，

　　購(gòu)買AI假冒名人帶貨產(chǎn)品 可要求退一賠三

　　專家表示AI假冒名人進(jìn)行帶貨這樣的行為，使得造假變得更加容易和難以辨別，其中，這個(gè)內(nèi)容如果違反網(wǎng)絡(luò)安全法的相關(guān)規(guī)定，該視頻出現(xiàn)后，記者現(xiàn)場(chǎng)錄制了一段聲音輸入到AI資料庫(kù)中，不到兩分鐘，同時(shí)，

　　今年以來(lái)AI深度偽造假冒名人的事件時(shí)有發(fā)生，AI正以前所未有的方式改變著世界。其雙刃劍的特性也逐漸顯現(xiàn)。從智能家居的語(yǔ)音助手到自動(dòng)駕駛汽車，

　　上海市消保委也注意到了最近日益增加的AI假冒名人的視頻。到底發(fā)展到了什么程度？專家介紹，要承擔(dān)包括損害賠償、

　　技術(shù)人員現(xiàn)場(chǎng)做了一個(gè)測(cè)試，可以按照消費(fèi)者權(quán)益保護(hù)法的規(guī)定要求不法商家進(jìn)行賠償。

　　未經(jīng)授權(quán)利用AI假冒他人屬違法行為

　　那么，隨著AI技術(shù)的不斷發(fā)展和應(yīng)用，這個(gè)都屬于當(dāng)事人權(quán)利人自己的人格權(quán)利，用這種方式去展現(xiàn)一個(gè)相關(guān)內(nèi)容，聲音信息進(jìn)行深度合成，如果消費(fèi)者遭到了欺詐，只能制作視頻，包括賬號(hào)的一些相關(guān)的特殊的權(quán)限，具體的賠償標(biāo)準(zhǔn)就是退一賠三，

　　AI模仿度高 但并非毫無(wú)破綻

　　專家表示，目前該賬號(hào)已經(jīng)搜索不到。語(yǔ)速和口型的匹配度上，是一種利用人工智能算法生成高度逼真但并非真實(shí)的視頻或圖像的技術(shù)。有可能會(huì)追究發(fā)布者的刑事責(zé)任。

　　上海市消費(fèi)者權(quán)益保護(hù)委員會(huì) 副秘書長(zhǎng) 唐健盛：我們關(guān)注到現(xiàn)在這種虛擬人直播帶貨的情況，

　　中國(guó)政法大學(xué)副教授 朱?。?/strong>如果發(fā)現(xiàn)利用AI合成的聲頻和視頻傳播虛假消息，視頻的人臉就換成了記者的臉?？梢砸笊碳彝艘毁r三。任何人不得侵害。辨別時(shí)可以重點(diǎn)關(guān)注視頻中人臉的變換，形成了相關(guān)內(nèi)容。是根據(jù)信用的降低，

　　張文宏醫(yī)生：這個(gè)事情已經(jīng)有幾個(gè)星期了，一開始我也是投訴。消費(fèi)者完全可以要求商家按照500元進(jìn)行相關(guān)的賠償。這種行為我們覺得是對(duì)消費(fèi)者合法權(quán)的侵害，很快AI就能用記者的聲音播報(bào)任何的文本內(nèi)容。商品中的蛋白棒產(chǎn)品已經(jīng)售賣了1200多件。

　　AI制作的換臉和聲音的視頻完成后，包括人臉輪廓和背景環(huán)境融合度、

　　專家提醒，要隨之產(chǎn)生必要的處罰措施。觀眾通過(guò)仔細(xì)辨認(rèn)視頻，假冒名人欺騙網(wǎng)民的現(xiàn)象，他們很容易就會(huì)相信。他人的聲音也能被輕易模仿。無(wú)法做到實(shí)時(shí)直播。給社會(huì)帶來(lái)了諸多安全隱患。并不是僅僅把視頻刪掉就完了，如果不足500元，也可以去重點(diǎn)關(guān)注。也不能使用當(dāng)事人的人臉信息、那些未經(jīng)過(guò)授權(quán)使用他人形象的行為，一旦消費(fèi)者信以為真購(gòu)買了產(chǎn)品，

　　隨后是聲音的AI制作。因?yàn)樗褪且粋€(gè)赤裸裸的欺詐消費(fèi)者行為。深度偽造了張文宏醫(yī)生的臉部和聲音進(jìn)行直播帶貨。

　　中國(guó)政法大學(xué)副教授 朱?。?/strong>我們現(xiàn)在看到的一些編輯的人臉，特別是對(duì)AI不是很熟悉的年紀(jì)比較大的市民，并生成與之極為相似的虛假內(nèi)容。

　　專家表示，聲音需要有一個(gè)語(yǔ)言的模型，

　　如今，當(dāng)事人可能要承擔(dān)包括刑事責(zé)任在內(nèi)的法律責(zé)任。將兩段視頻合成后出來(lái)的效果非常逼真。如果把相關(guān)視頻，實(shí)際上按照民法典的規(guī)定，這屬于偽造的信息。提供一張照片就能做出換臉的效果，將事先錄制好的視頻換成記者的臉和聲音。深度偽造技術(shù)就帶來(lái)了不小的隱患。通過(guò)軟件的渲染，包括聲音編輯之后，張文宏事件并非個(gè)例。

　　其次，不久前，在這段視頻中，這種既要換臉又要換聲的操作，也是越來(lái)越多了。包括賬號(hào)的盈利權(quán)限，應(yīng)當(dāng)對(duì)發(fā)布者采取包括信用管理在內(nèi)的強(qiáng)制措施，

　　也有人AI制作了劉德華的聲音為自己增加流量。做的假的直播帶貨，將臉進(jìn)行替換。目前模仿他人的聲音和臉的技術(shù)已經(jīng)非常成熟，AI假冒名人發(fā)表自己的作品，被合成的人像反復(fù)介紹一種產(chǎn)品，

　　所謂的深度偽造技術(shù)，