每經編輯｜金冥羽    

近日，《法治日報》記者調查發(fā)現，“外國山海經”“AI山海經”等AI魔改（指利用AI技術對原作品進行大幅或顛覆性改編的行為）內容在網絡上迅速走紅，甚至滲透到低齡群體中。

夾雜暴力、血腥內容

“外國山海經”爆火小學生圈

“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)、“Lirili larlla”(音同“哩哩哩辣力辣”)……這些近來經常出現在小學生們口中，宛如神秘咒語的詞匯，實則是幾幅AI生成的動畫形象的名字，比如上述兩個詞匯分別對應“木棒人”“仙人掌象”。

諸如此類由AI拼接而成的形象還有很多，它們被孩子們統(tǒng)稱為“外國山海經”或者“AI山海經”。

“外國山海經”  圖片來源：潮新聞

有家長發(fā)現，“孩子仿佛‘著了魔’，口中時不時蹦出來這些詞語，跟他一起玩耍的小朋友們也都如此。”

這些將毫不相干元素強行拼湊出的怪異形象，為何能在孩子們的圈子里流行起來？”上述家長百思不得其解，而且，這“外國山海經”不僅造型詭異，更夾雜不少暴力、血腥詞匯和內容，“孩子或許并不理解其中的含義，但會模仿學習，很容易對他們產生負面影響”。

更讓部分家長憂心的是，這孩子第一次接觸“山海經”的概念，竟然是通過這些外來的且由AI生成的產物。甚至還有孩子認為，“山海經就是國外的，中國的山海經一點兒也不好看”。

“外國山海經”的來歷也很可疑。有記者發(fā)現，由于“外國山海經”等AI圖片和視頻制作流程十分簡單，幾乎任何用戶都能在多款常見的AI視頻網站上，通過向AI發(fā)送基礎的人物形象圖片、文字描述以及有關指令，就能快速生成一段動態(tài)視頻，還可加入音效和背景音樂。

奧特曼懷孕、卡通人物挖眼珠子吃

“邪典視頻”卷土重來

最近廣東一家長發(fā)現，自己3歲的女兒在短視頻平臺上刷視頻或者動畫片時，頻繁被推送動畫風格的“邪典視頻”。

“這些視頻大多是卡通或3D風格，很吸引小孩子，但是卻暗藏著很多令人不適的畫面。”該家長舉例，視頻中存在殘害肢體、角色從高處墜落等血腥場景，甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫面。

浙江也有家長發(fā)現，孩子在看完正版動畫片后，平臺會自動彈出一批顏色鮮艷卻毫無營養(yǎng)的衍生視頻，其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內容。

然而，當上述家長試圖為孩子屏蔽“邪典視頻”內容時，卻發(fā)現，無論是投訴視頻、點擊“不喜歡”，相關內容仍會被持續(xù)推送給孩子。

有一名曾在某視頻公司任職的受訪者向記者透露，其前公司旗下幾百個視頻號都在持續(xù)推送“邪典動畫”，將經典的動漫人物用AI生成技術進行二次創(chuàng)作，這些視頻色彩鮮艷，更吸引兒童。

“白雪公主霸凌艾莎” “米奇在山頂腳踹蜘蛛俠”“兔頭面具奧特曼打暈綁架小奧特曼” 圖片來源：潮新聞

“這類視頻不僅曝光度高，流量表現優(yōu)異，甚至能獲得平臺支持。這類視頻在創(chuàng)作時為博取關注，內容套路化嚴重：以動漫角色為外殼，填充戀愛情節(jié)或暴力沖突、混戰(zhàn)場面。由于兒童的判斷能力有限，容易信以為真。”這名受訪者強調，平臺算法助推不良內容形成傳播閉環(huán)，“孩子一旦刷到觀看，平臺就會推送更多同類內容。”

此外，《紅樓夢》中的人物進行“魔法戰(zhàn)爭”，《三國演義》兩軍對壘演變成“激光大戰(zhàn)”等，通過“AI魔改”對中華優(yōu)秀傳統(tǒng)文化進行歪曲和污名化的，也屬于“邪典視頻”。

有專家指出，AI魔改對經典的傷害早已超越內容層面，它將“低俗獵奇”包裝為“趣味創(chuàng)新”，逐步侵蝕文化傳承與下一代成長的健康土壤，甚至可能在他們心中埋下“經典可隨意解構”“歷史可肆意戲說”的錯誤認知。

AI魔改催生畸形產業(yè)鏈

記者發(fā)現，在社交平臺有關帖文和短視頻平臺評論區(qū)，有許多用戶公然教學如何用關鍵詞讓AI生成大尺度圖片。

比如，如何通過替換關鍵詞，規(guī)避平臺既有限制，免費生成包含性暗示等元素的“二次元”風格的兒童軟色情圖片，甚至出現“兒童懷孕”等惡劣內容。

現實世界也在被AI魔改內容逐漸“侵入”。

在電商平臺上，有不少“外國山海經”里角色形象被印在衣服上或做成盲盒、積木等產品售賣；還有些商家表示可以制作AI生成手辦定制照片，商品展示圖衣著暴露、動作挑逗，并且未作年齡區(qū)分。

“外國山海經”的衍生產品銷量也較高。比如某店鋪一款包含24盒的盲盒公仔售價僅11.99元，付款人數已超2萬；一些知名游戲IP推出與“外國山海經”聯名的盲盒、卡牌。有小學教師反映，學生頻繁向家長要錢，只為購買同學手中的“外國山海經”卡牌。

對此，有家長指出，“外國山海經”衍生出的相關產品會引發(fā)未成年人之間的“隱性”攀比。“孩子們聚在一起玩耍的時候，如果別人有自己沒有，孩子會產生心理落差，甚至遭到排擠。”

不能讓“AI魔改”的畸形產業(yè)鏈“作妖”

借助AI技術，進行趣味創(chuàng)新，傳承傳統(tǒng)文化，本是新瓶裝好酒的有益實踐。然而，現實中卻是糟蹋精華、制造糟粕的歪曲丑化。

正如在上述“外國山海經”“邪典視頻”中的角色，有的外形怪誕低俗、名稱晦澀難懂；有的形象詭異驚悚，充斥暴力與血腥元素。這些內容荒誕、邏輯混亂的視頻受到青少年追捧，進而發(fā)展成為一種流行于學生群體間的亞文化，其造成的危害不容小覷。

眼下，AI技術的出現，大幅降低了制作門檻和成本，任何人只需簡單操作，即可生成魔改動畫和“邪典視頻”。然而，“殺人的不是刀，而是執(zhí)刀的手”，錯不在科技進步本身，根本原因還是畸形產業(yè)鏈在“作妖”。

當用心用情用力去創(chuàng)作提升文化認知、開辟成長凈土的文藝作品，變得“吃力不討好”，甚至無法得到應有的認可和收益；而借助AI之手，制造推送“邪典視頻”，則是一本甚至無本萬利的生意時，有些人就動起利用“毒流量”的歪心思，收割孩子和家長的錢包。

由此可見，剎住“邪典動畫”的歪風，讓所謂“外國山海經”“惡搞紅樓夢”不再侵蝕未成年人的心智，單靠個人自覺，很難從根本上凈化市場環(huán)境，唯有重拳出擊，方能讓魑魅魍魎無處藏身。

具體而言，家長亟需加強健康上網引導，樹立家庭防護網，如手機、平板等電子產品，都要確保開啟未成年防沉迷模式。在家里要增強有效陪伴，帶頭對網絡依賴說不，更別把孩子簡單丟給手機和短視頻。

網絡平臺是信息內容管理第一責任人。維護清朗網絡空間，責無旁貸。除按國家要求完善青少年模式，堵住賬號切換的漏洞以外，還需主動凈化平臺內容，塑造正向的網絡導向，為青少年健康上網保駕護航。

實際上，青少年對世界充滿好奇，AI可以提供個性化學習資源，可以根據孩子興趣，拓展知識邊界，提供有針對性的深度內容。關鍵在于，如何有效激勵優(yōu)質作品，讓有良知、有底線的創(chuàng)作者得到應有的回報。只有形成正向循環(huán)，才能讓青少年得到真正有營養(yǎng)的知識“投喂”。

如今，網絡生活已經成為每個人避不開的第二生存空間，制造所謂“無菌室”一樣的斷網環(huán)境，不現實也不可行。堵不如疏，進一步提升孩子接觸虛擬空間的數字素養(yǎng)，增強其在人工智能浪潮中前行的能力，也是現代教育的應有之義。

編輯|金冥羽 杜恒峰

校對|許紹航

封面圖片來源：潮新聞

 

每日經濟新聞綜合自央視網、法治日報、極目新聞、紅星新聞、潮新聞