AI生成视频风靡未成年人群体 引发社会关注
今年以来,AI生成的短视频在各大平台迅速走红,其中一些被称为“外国山海经”的视频在未成年人中掀起热潮。孩子们对视频中怪兽的名字倒背如流,引发家长和教育工作者的担忧。
这些视频中的“动画角色”种类繁多,均为AI拼接生成。孩子们反复念叨着拗口的音节,这些音节实际上是几个网络动画角色的名字。视频中出现的形象包括木棍人、仙人掌身躯的大象、轮胎身体的青蛙、鳄鱼与军用飞机的融合体等,均为AI生成的奇怪形象。
AI视频的起源与传播
北京市互联网信息办公室网络数据与技术处的工作人员王煜凯指出,这些所谓的“外国山海经”视频起源于2025年初在国外社交平台上的一类名为“脑腐梗”的视频。这类视频利用AI技术生成荒诞且魔性的内容,迅速在未成年人中流行。
这些视频被网友搬运到国内的短视频平台后,迅速引发了二次创作和传播。有人制作角色图鉴,有人编造新的故事背景,吸引了大量未成年人关注。这些视频被称为“外国山海经”或“AI山海经”,但实际上与中国古代典籍《山海经》毫无关联。
线下影响与家长担忧
这种风潮不仅在线上蔓延,还影响到线下。记者调查发现,在一些网购平台上,以这些AI动画形象为原型的玩具、文具等商品销量巨大。在学校周边的商店,这些相关玩具也在售卖。
王煜凯指出,很多小学生将“外国山海经”当成社交货币,甚至形成攀比现象。家长们担心,这些视频不仅耽误学习,还可能对未成年人的身心健康造成伤害。
法律与平台责任
根据《网络信息内容生态治理规定》,法律鼓励制作符合社会主义核心价值观的内容,而当前AI生成的视频内容荒诞、逻辑混乱,缺乏文化内涵。法学专家强调,平台应履行审核、过滤和处置义务,防止不良信息传播。
“越看越推,越推越看”——算法推荐形成循环。
人工智能研究人员指出,这类视频利用夸张画面抓取未成年人的注意力,算法推送形成循环,即便家长举报,算法仍可能继续推送类似内容。
治理措施与未来展望
2025年4月,国家网信办启动了“清朗·整治AI技术滥用”专项行动,重点整治AI应用程序诱导未成年人沉迷的问题。北京市网信办也在督促平台通过算法整治和违规内容清理,守护未成年人网络安全。
自9月1日起,《人工智能生成合成内容标识办法》正式施行,要求所有AI生成内容标注身份。北京市网信办鼓励用户举报不良内容,共同参与网络环境治理。
守护未成年人的网络安全和精神家园,需要从源头遏制AI生成内容的野蛮生长,推动算法向善、内容向美。治理不能止于下架视频,更要确保孩子们的成长环境健康。