本刊記者 崔曉萌

“同一演員同時(shí)出現(xiàn)在三個(gè)直播間，利用一個(gè)紅衣頸膜推薦官，合成何追一個(gè)白衣美妝顧問(wèn)，行騙還有一個(gè)素顏生活博主。利用一個(gè)主播同一時(shí)間用相似的合成何追話術(shù)推薦著不同品牌的產(chǎn)品……”北京消費(fèi)者鐘女士稱，這個(gè)演員挺出名的行騙，最近經(jīng)常刷到她帶貨，利用當(dāng)時(shí)覺(jué)得這演員怎么什么廣告都接。合成何追

沒(méi)想到，因?yàn)槎鄠€(gè)直播間出現(xiàn)她的利用帶貨形象，該演員也很無(wú)奈。合成何追她還曾在假冒自己的行騙直播間質(zhì)問(wèn)：“你是我，那我是利用誰(shuí)？”沒(méi)想到立馬被拉黑……

據(jù)了解，目前不少商家截取明星過(guò)往素材，合成何追經(jīng)摳圖換臉合成虛假直播，行騙卻無(wú)任何AI生成標(biāo)注，這類內(nèi)容在直播平臺(tái)不算少見(jiàn)。

今年4月，上述演員就曾發(fā)布打假視頻，稱自己“僅一個(gè)官方直播賬號(hào)”，引發(fā)粉絲舉報(bào)潮，有粉絲一天之內(nèi)就舉報(bào)了18個(gè)偽造直播間。

如今這類利用AI深度合成技術(shù)行騙的案例越來(lái)越多。此前有江西老人要貸款200萬(wàn)元給AI合成的“靳東”拍戲，港星黃百鳴的AI“分身”被用來(lái)推銷藥膏。央視此前曝光的仿冒全紅嬋帶貨事件中，虛假視頻銷量超4.7萬(wàn)件，雖然其家人早已聲明未授權(quán)，侵權(quán)內(nèi)容仍屢禁不止。

“無(wú)論從什么方面來(lái)講，這都是一個(gè)違法侵權(quán)的行為?！敝袊?guó)政法大學(xué)傳播法研究中心副主任朱巍接受本刊記者采訪時(shí)表示，使用AI換臉技術(shù)進(jìn)行直播帶貨是典型的深度合成行為。從被編輯者的角度講，這種行為侵犯了被編輯者的人格權(quán)，屬于違法和違規(guī)行為；從廣告法和消費(fèi)者權(quán)益保護(hù)法等角度來(lái)看，這種行為還涉及虛假宣傳和欺詐消費(fèi)者的問(wèn)題，可能觸發(fā)退一賠三的法律責(zé)任；從市場(chǎng)公平競(jìng)爭(zhēng)的角度來(lái)看，這種行為違反了《反不正當(dāng)競(jìng)爭(zhēng)法》的相關(guān)規(guī)定。

他還提示，“平臺(tái)方在發(fā)現(xiàn)此類侵權(quán)行為后應(yīng)及時(shí)下架相關(guān)內(nèi)容，并對(duì)發(fā)布者采取禁言、封禁等措施，否則可能承擔(dān)連帶責(zé)任?！?/p>

確實(shí)不少網(wǎng)友認(rèn)為，這類AI騙術(shù)在直播平臺(tái)大行其道，平臺(tái)有不可推卸的責(zé)任。據(jù)悉，抖音今年已封禁千余個(gè)AI仿冒賬號(hào)，并將線索移交監(jiān)管部門。但業(yè)內(nèi)人士指出，部分平臺(tái)仍存在“審核滯后”問(wèn)題。

朱巍表示，平臺(tái)對(duì)發(fā)布的內(nèi)容負(fù)有審核責(zé)任，但具體審核標(biāo)準(zhǔn)因內(nèi)容形式（如短視頻、廣告、直播）而異。侵權(quán)行為可能涉及多個(gè)主體（如MCN機(jī)構(gòu)、商家），需從賬號(hào)注冊(cè)者到實(shí)際控制人全面追責(zé)。

具有迷惑性的新騙局屢禁不止，普通消費(fèi)者該如何鑒別？業(yè)內(nèi)人士也給出了一些方法：基于AI技術(shù)去識(shí)別AI內(nèi)容是最快的方式。也有消費(fèi)者也在蹲直播間的過(guò)程總結(jié)出一些經(jīng)驗(yàn)：“真實(shí)直播能實(shí)時(shí)互動(dòng)，AI分身只會(huì)循環(huán)話術(shù)?！?/p>

北京中銀律師事務(wù)所陳川川律師接受本刊記者采訪時(shí)介紹，消費(fèi)者首先要注意看平臺(tái)標(biāo)識(shí)和發(fā)布者信息，其次觀看直播過(guò)程中要觀察視頻細(xì)節(jié)、核實(shí)商品信息，并警惕“全網(wǎng)最低價(jià)”等話術(shù)。發(fā)現(xiàn)疑似AI侵權(quán)或詐騙時(shí)，立即保存證據(jù)（截圖、錄屏），向平臺(tái)投訴舉報(bào)，必要時(shí)尋求法律援助。

實(shí)際上，對(duì)于此類亂象，監(jiān)管層也在加快補(bǔ)位。9月1日施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》要求，AI生成內(nèi)容必須主動(dòng)標(biāo)注，惡意隱匿將受嚴(yán)懲。多地市場(chǎng)監(jiān)管部門已展開(kāi)專項(xiàng)行動(dòng)。

朱巍認(rèn)為，目前對(duì)AI深度學(xué)習(xí)的相關(guān)法律已經(jīng)制定，關(guān)鍵在于多方協(xié)同落實(shí)。

在強(qiáng)化法律執(zhí)行方面，他提出了三點(diǎn)建議：首先，要建立起信用監(jiān)管機(jī)制，對(duì)頻繁違規(guī)的MCN機(jī)構(gòu)及其關(guān)聯(lián)賬號(hào)實(shí)施連帶責(zé)任追究。其次，主體責(zé)任應(yīng)延伸至AI技術(shù)提供方平臺(tái)，從源頭控制未標(biāo)記內(nèi)容的生成。第三，社交平臺(tái)需提升技術(shù)防控能力，主動(dòng)攔截違規(guī)信息發(fā)布。

“AI時(shí)代要有火眼金睛，但不能把火眼金睛的責(zé)任交給老百姓?！敝煳》Q。