YouTube 儿童内容现隐患：AI 生成令人不安视频

am928 · 发表于 2025-6-3 13:53:20

IT之家于5月5日发布消息称，作为全球最大的视频分享网站，目前正面临一个难题：如何在提供多样化的娱乐内容的同时，有效保护儿童不受不适宜内容的侵害。近期，《连线》杂志发表的一篇最新调查报告揭示了一种令人担忧的现象，这引起了公众对于儿童内容安全问题的广泛关注。

据相关报道，部分针对儿童群体的电视频道正借助当前普遍可用的人工智能技术制作出令人不安的视频内容。以“Go Cat”频道为例，它表面上充满了吸引小朋友的可爱形象和愉悦氛围，然而实际上却暗藏了令人不寒而栗的情节。这些视频以孩子们喜爱的卡通角色，比如小黄人和托马斯小火车等，为蓝本，运用人工智能技术进行了全新的创作。它们被重塑为带有恐怖色彩的形态，甚至出现了小黄人被核废料腐蚀，变成了下水道中的蠕虫怪物，以及可爱的小猫咪目睹其父母惨遭枪杀等令人不寒而栗的场景。

IT之家报道称，尽管平台明确要求所有内容必须遵循其社区规范，其中包含禁止向未成年人展示不适宜的信息，然而在实际情况中，这一规定并未得到充分执行。伴随着人工智能视频制作技术的迅猛进步，即便某个频道遭到封停或广告收入被剥夺，其背后的制作者仍能轻易地设立新的频道，并持续发布类似内容的视频。这些视频尽管吸引了众多观众，然而在评论区却充斥着许多令人怀疑的机器生成评论，这暗示着这些视频的流行度或许被过分夸大了，而这种现象也可能是这些频道得以持续更新的一个关键因素。

针对这一现象，有专家提出，家长应当主动介入孩子的媒体使用活动，确保孩子所接触的内容符合他们的年龄阶段。此外，一旦发现存在明显不适的视频，家长应主动使用举报功能，以便相关平台能够迅速进行审查并采取相应措施。

		自动登录	找回密码
密码			立即注册