值得一提的復活是，這是禍已貨北京市場監(jiān)管部門運用《廣告法》對濫用AI技術冒用知名人物形象發(fā)布虛假廣告問題的首次亮劍，釋放了明確信號，故茶技術應用不能逾越法律紅線。葉專

此案僅是家?guī)I技術被濫用的冰山一角

類似鬧劇層出不窮

10月14日，已故的復活著名茶學家、制茶和審評專家張?zhí)旄１籄I工具“復活”為茶企代言一事引發(fā)關注。禍已貨視頻發(fā)布賬號歸屬福建張?zhí)旄Ｆ放乒芾碛邢薰?，故茶工作人員承認，葉專視頻系AI制作。家?guī)?/p>（視頻截圖）

今年4月，復活中國國家話劇院發(fā)表聲明，禍已貨稱發(fā)現社會上有公司未經其同意擅自使用話劇《青蛇》作品，故茶違法進行冒演、葉專虛假宣傳，家?guī)E用AI換臉技術，偷換概念，公開售票，欺騙觀眾。

此外，某平臺一部微短劇被曝疑似使用了AI技術，未經授權將某知名演員的面部特征移植到其他演員臉上，后版權方采取了下架處理，刪除了爭議片段。

北京社會科學院副研究員王鵬對記者表示，這一現象是技術濫用與流量經濟畸形結合的產物，反映了AI技術普惠化進程中創(chuàng)新工具與行騙手段的邊界模糊問題，其背后是利益驅動下的倫理失范。

新規(guī)落地

AI內容必須“打標”

為什么AI仿冒會出現井噴？

薩摩耶云科技集團AI機器人行業(yè)研究員鄭揚洋表示，現在可以靠“開源模型+云端API”實現30秒克隆聲音和人臉，生產成本比之前低。平臺容易給前3秒完播率的權重最高，若把名人帶貨等內容放在首幀，算法可能會自動放大，這讓不法分子嘗到了AI換臉的甜頭。

面對AI仿冒亂象，9月1日起，國家互聯網信息辦公室等四部門聯合發(fā)布的《人工智能生成合成內容標識辦法》施行。

《辦法》明確要求，利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息，必須依法添加相應的聲明標識。

根據《辦法》，人工智能生成合成內容標識包括顯式標識和隱式標識。其中，針對AI生成視頻，要求在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識。

六大平臺迅速響應

記者看到，8月29日至9月1日，騰訊、快手、小紅書、嗶哩嗶哩、微博、抖音6家平臺均發(fā)布公告稱已按照相關規(guī)定提供AI內容標識聲明功能。對于未主動標識的AI生成內容，平臺有權添加標識。快手、嗶哩嗶哩、小紅書還在公告中強調用戶不得惡意篡改、隱匿平臺相關標識。

但在實際應用中，AI視頻標注仍存在諸多難點。用視頻模型工具生成的視頻，如果用戶有心將AI水印進行擦除，平臺則存在無法識別AI視頻的可能性。一業(yè)內人士表示，盡管已有一些AI內容檢測技術，但生成模型迭代速度更快，“破綻”修補迅速，檢測技術往往處于被動追趕狀態(tài)，實現百分百精準識別異常困難。

責任模糊、技術滯后

全鏈條治理待完善

如何減少利用換臉技術侵權的行為？天元律師事務所合伙人李昀鍇表示，內容發(fā)布平臺的責任主要體現在制定明確的平臺規(guī)則、提供技術或功能支持、履行內容審核義務、采取必要處置措施。如果內容平臺未盡到義務，監(jiān)管部門可以依據《網絡安全法》《網絡信息內容生態(tài)治理規(guī)定》等，對平臺采取警告、通報批評、責令限期改正、罰款等行政措施。而對于內容發(fā)布者而言，目前《辦法》實質上沒有規(guī)定內容發(fā)布者不標注的法律責任。實踐中，內容平臺作為傳播渠道，其強制性要求和技術干預是關鍵。

“部分生成工具具備‘去標識化’功能，可自動擦除平臺水印或干擾哈希比對，導致現有監(jiān)測系統出現漏檢?！编崜P洋認為，一個解決方案是端側硬水印配合鏈上備案，而非僅靠平臺事后刪除。

鄭揚洋表示，平臺可以做降阻前置警告，比如在視頻前3秒強制彈窗“本內容含AI生成畫面”，紅色進度條1秒，降低用戶“無意識信謠”。從傳播角度看來，既然使用名人來AI生成虛假視頻，建議由主流平臺與權威媒體共建“AI辟謠”專區(qū)，一鍵跳轉可做真?zhèn)螌Ρ取?/p>

鄭揚洋對記者表示，現行規(guī)范性文件對“訓練源頭”和“刑事罰則”覆蓋仍需要加強，建議需盡快推動人工智能統一立法，把生成、傳播、平臺責任一并納入，形成全鏈條合規(guī)指引。

對此，王鵬進一步表示，目前缺乏針對AI技術的專屬立法。當前法律框架主要基于傳統肖像權、個人信息權和著作權等概念，未針對AI換臉等生成式技術的特點制定專門規(guī)范，明確其使用規(guī)范、責任劃分及處罰標準。雖然《民法典》《著作權法》《廣告法》均有作出懲罰性賠償的相關規(guī)定，但獲賠的案件不多，導致缺乏足夠的震懾力，很多侵權方的違法成本可能遠低于侵權行為可能為其帶來的商業(yè)利益。

你被AI“名人”視頻誤導過嗎？

歡迎留言討論

最新評論