發(fā)布時間:2025-11-30 23:00:24 來源:素昧平生網 作者:焦點
“通通通通撒呼啦”“哩哩哩辣力辣”……天津市河東區(qū)某小學生家長李女士發(fā)現(xiàn),比邪自己的典動的怪孩子最近總是念叨著這些宛如神秘咒語的詞匯。經了解,畫更何讓孩集李女士才知道,可怕這些看似無意義的拼接音節(jié),實則是異形幾幅AI生成的動畫形象的名字,“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)是比邪所謂的“木棒人”,“Lirili larlla”(音同“哩哩哩辣力辣”)是典動的怪“仙人掌象”,“Tralalerotralala”(音同“特拉辣累嘍特拉拉辣”)是畫更何讓孩集“耐克鞋鯊魚”。諸如此類由AI拼接而成的可怕形象還有很多,它們被孩子們統(tǒng)稱為“外國山海經”或者“AI山海經”。拼接
“孩子仿佛‘著了魔’,異形口中時不時蹦出來這些詞語,比邪跟他一起玩耍的典動的怪小朋友們也都如此。這些將毫不相干元素強行拼湊出的畫更何讓孩集怪異形象,為何能在孩子們的圈子里流行起來?”李女士說,“外國山海經”不僅造型詭異,更夾雜不少暴力、血腥詞匯和內容,“孩子或許并不理解其中的含義,但會模仿學習,很容易對他們產生負面影響”。
《法治日報》記者調查發(fā)現(xiàn),近期,“外國山海經”“AI山海經”等AI魔改(指利用AI技術對原作品進行大幅或顛覆性改編的行為)內容在網絡上迅速走紅,甚至滲透到低齡群體中。與此同時,包含血腥暴力、惡搞低俗內容的“邪典動畫”也借助AI技術卷土重來。部分經AI魔改后的內容還被制作成商品,在電商平臺銷量不俗。
漫畫:高岳
“外國山海經”成社交密碼
今年暑假,山東的韓女士在家休息時,6歲的侄子小宇突然問她:“姑姑,中國也有山海經嗎?”這個問題讓韓女士一時語塞——小宇的書包上掛著“耐克鞋鯊魚”掛件,房間里也擺滿了各種造型怪異的玩具。這是孩子第一次接觸“山海經”的概念,竟然是通過這些外來的且由AI生成的產物。
韓女士告訴記者,小宇接觸“外國山海經”的主要原因是班級里的流行風潮。“孩子們都在聊這些,他想融入集體,只能主動去了解?!表n女士曾嘗試向侄子介紹真正的《山海經》,但小宇并不感興趣,甚至還說“山海經就是國外的,中國的山海經一點兒也不好看”。
在韓女士看來,短視頻平臺的推波助瀾是導致孩子沉迷其中的重要原因之一。小宇平時喜歡的內容都是短視頻平臺頻繁推薦的。受這些內容的影響,小宇已經出現(xiàn)了明顯的模仿行為,“經常模仿視頻里怪異形象的動作,覺得很帥,還會時不時念叨里面的‘咒語’”。
韓女士說,為了糾正孩子的認知,其父母也曾嘗試限制小宇刷短視頻的時間,刻意引導他觀看優(yōu)質動畫,耐心講解不良內容的危害,但收效甚微?!拔夷芾斫馑肴谌爰w的心情,但眼睜睜看著他被這些內容所影響,我真的很著急。”
李女士注意到,很多由AI生成的圖片和視頻風格詭異,其中不乏“殺死”“燒死”等暴力詞匯,以及“用刀砍人”等危險動作。
記者嘗試發(fā)現(xiàn),“外國山海經”等AI圖片和視頻制作流程十分簡單。在多款常見的AI視頻網站上,用戶只需向AI發(fā)送基礎的人物形象圖片,再通過文字描述想要生成的圖片內容,發(fā)送指令即可獲得對應的圖片;隨后將生成的圖片作為關鍵幀,補充描述兩個關鍵幀之間的畫面變化細節(jié),便能快速生成一段動態(tài)視頻,還可加入音效和背景音樂。
“邪典視頻”卷土重來
廣東的梁先生有個3歲的女兒,他偶爾會讓女兒玩一會兒手機。女兒還不認字,常在短視頻平臺上刷視頻或者動畫片。
然而,他最近發(fā)現(xiàn),女兒頻繁被短視頻平臺推送動畫風格的“邪典視頻”?!斑@些視頻大多是卡通或3D風格,很吸引小孩子,但是卻暗藏著很多令人不適的畫面?!绷合壬e例說,視頻中存在殘害肢體、角色從高處墜落等血腥場景,甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫面。
“有些內容成年人看了都覺得不適,更何況3歲的孩子。我很擔心這類視頻會對孩子造成不良影響。”梁先生說。為了屏蔽這類內容,他曾嘗試投訴視頻、點擊“不喜歡”,但相關內容仍會被持續(xù)推送給孩子。
浙江省的俞女士也發(fā)現(xiàn),孩子在觀看超級飛俠、奧特曼等正版動畫片后,平臺會自動彈出一批顏色鮮艷卻毫無營養(yǎng)的衍生視頻,其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內容。
俞女士擔憂地說:“我擔心長期接觸這類短視頻,會影響孩子的認知能力和專注力?,F(xiàn)在他對篇幅稍長的繪本、書籍已經有了排斥心理,根本沒有耐心看完?!睘榱藴p少這些不良視頻對孩子的侵蝕,俞女士不僅向孩子反復強調這類視頻的危害,還盡量下載正版動畫片供孩子觀看?!捌脚_審核太不到位了,這種惡搞經典動漫角色的視頻應該被嚴格限制?!?/p>
有一名曾在某視頻公司任職的受訪者向記者透露,其前公司就在制作這種類型的視頻,旗下幾百個視頻號都在持續(xù)推送“邪典動畫”。這類視頻實際是將經典的動漫人物進行二次創(chuàng)作。AI技術的普及大幅降低了制作門檻。使用AI生成的視頻色彩鮮艷,更吸引兒童?!拔闯赡耆肆髁吭谄脚_占很大比重,這類視頻不僅曝光度高,流量表現(xiàn)優(yōu)異,甚至能獲得平臺支持。這類視頻在創(chuàng)作時為博取關注,內容套路化嚴重:以動漫角色為外殼,填充戀愛情節(jié)或暴力沖突、混戰(zhàn)場面。由于兒童的判斷能力有限,容易信以為真?!?/p>
這名受訪者還強調,平臺算法助推不良內容形成傳播閉環(huán)——“孩子一旦刷到觀看,平臺就會推送更多同類內容?!?/p>
另一類“邪典視頻”是對中華優(yōu)秀傳統(tǒng)文化進行歪曲和污名化的。比如,《紅樓夢》中的人物在進行“魔法戰(zhàn)爭”,《三國演義》兩軍對壘演變成“激光大戰(zhàn)”等,經典作品的核心內涵被徹底顛覆。
有專家指出,AI魔改對經典的傷害早已超越內容層面,它將“低俗獵奇”包裝為“趣味創(chuàng)新”,逐步侵蝕文化傳承與下一代成長的健康土壤,甚至可能在他們心中埋下“經典可隨意解構”“歷史可肆意戲說”的錯誤認知。
AI魔改催生畸形產業(yè)鏈
值得注意的是,記者發(fā)現(xiàn),在社交平臺有關帖文和短視頻平臺評論區(qū),有許多用戶公然教學如何用關鍵詞讓AI生成大尺度圖片,其中部分內容涉及未成年人。比如在“×夢”等AI工具上,雖然直接用“未成年人”“兒童”等關鍵詞無法生成敏感照片,但如果替換成其他關鍵詞,即可免費生成包含性暗示等元素的“二次元”風格的兒童軟色情圖片,甚至出現(xiàn)“兒童懷孕”等惡劣內容。
此外,記者調查發(fā)現(xiàn),一些AI魔改內容已經實體化,逐漸“侵入”現(xiàn)實世界。
比如,以“外國山海經”為關鍵詞在電商平臺檢索,有不少形象被印在衣服上或做成盲盒、積木等產品售賣。有些商品標簽直接標注“給孩子的禮物”“兒童玩具”等詞語。還有些商家表示可以制作AI生成手辦定制照片,商品展示圖衣著暴露、動作挑逗,并且未作年齡區(qū)分。
“外國山海經”衍生出的相關產品還會引發(fā)未成年人之間的“隱性”攀比。韓女士介紹,這種盲盒價格便宜的單價僅一兩元,價格低廉卻在孩子間引發(fā)收集熱潮?!昂⒆觽兙墼谝黄鹜嫠5臅r候,如果別人有自己沒有,孩子會產生心理落差,甚至遭到排擠?!?/p>
記者在多家網購平臺檢索“山海經玩具”發(fā)現(xiàn),這類盲盒產品銷量較高。某店鋪一款包含24盒的盲盒公仔售價僅11.99元,付款人數已超2萬,低廉的價格與可觀的銷量進一步助推其在校園中的流行。
此外,還有一些知名游戲IP推出與“外國山海經”聯(lián)名的盲盒、卡牌。有小學教師反映,學生頻繁向家長要錢,只為購買同學手中的“外國山海經”卡牌——這類卡牌已成為小學生群體中的“社交貨幣”。據學校周邊的文具店店主透露,此類卡牌的銷量遠超其他品類。
“希望平臺和相關部門加強監(jiān)管,我們家長也要負起責任,把不良AI魔改內容隔絕在外,讓技術發(fā)揮正確價值?!辈稍L中,有家長如是說。
新聞鏈接
中國青少年研究中心2025年對全國7個省份的8500余名未成年人進行的調查顯示,超過六成未成年人使用過AI。有兩成多的未成年人存在“想依賴AI,不想自己思考”的惰性,兩成多傾向于“只和AI聊天,不愿與真人交流”,還有兩成多因為過度使用AI感到焦慮。這些數據暴露出未成年人接觸AI易產生影響獨立思考、抑制真實社交、依賴與沉迷等問題。
近年來,我國政府高度重視未成年人網絡安全保護工作,采取了一系列積極舉措,不斷完善政策法規(guī)體系。2019年,國家網信辦發(fā)布《兒童個人信息網絡保護規(guī)定》,對兒童個人信息權益予以重點保護。新修訂的未成年人保護法于2021年6月1日起正式實施,專門創(chuàng)設“網絡保護”專章,進一步強化了對未成年人網絡內容的監(jiān)管,加強了個人信息保護,并針對網絡沉迷問題制定了專門規(guī)定。2024年1月1日,我國第一部專門性的未成年人網絡保護綜合立法《未成年人網絡保護條例》正式施行。該條例旨在為未成年人提供更加安全、有益的網絡空間,確保他們的合法權益得到充分保障,促進其身心健康成長。
有部分AI工具正在探索未成年人保護模式。例如,今年8月26日,字節(jié)跳動公司旗下AI工具豆包正式上線未成年人保護模式。家長輸入密碼開啟該模式后,推薦視頻、瀏覽第三方網頁和豆包以外的智能體對話、AI創(chuàng)作功能將被默認關閉,而翻譯、深入研究等功能仍可正常使用。
作者|法治日報見習記者 于天航 全媒體記者 張守坤
編輯|宋勝男 朱雨晨 岳錸
相關文章