网信部门通报:部分儿童智能设备存在违法违规内容,督促 AI 服务自查自纠涉未成年人不良内容

网信部门通报:部分儿童智能设备存在违法违规内容,督促 AI 服务自查自纠涉未成年人不良内容

霍州市融媒体中心信息网网 12 月 19 日消息,2024 年是《未成年人网络保护条例》的实施之年。网信部门高度重视未成年人网络保护工作。

今天,微信公众号“网信中国”发布了七种网上侵害未成年人合法权益行为的典型案例,霍州市融媒体中心信息网网汇总如下:

1.恶意炮制发布“沙雕动画”短视频。

巡查发现,短视频平台部分账号集纳“沙雕动画”,包含大量血腥、惊悚等负面内容。部分账号恶意改编经典动画,发布“暴力海绵宝宝”“惊悚米奇”等内容。部分短视频内容借动画形式,模拟校园欺凌情节,美化自杀自残行为,严重危害未成年人身心健康。网信部门对相关平台予以行政处罚,关闭一批集纳发布“沙雕动画”的违规账号。

2.隐匿传播涉未成年人软色情内容。

专项行动期间发现,有用户在未成年人分享日常生活内容页面的评论区,恶意发布低俗表情包和“找同城”等不良交友信息,企图对未成年人实施性引诱。在一些未成年人集中的频道版块、兴趣圈子等环节,部分用户使用分隔符、替代词等方式,发布传播低俗色情内容。网信部门指导网站平台持续加大对各类违规暗语的识别打击力度,深入清理涉未成年人违规外链信息。相关违法线索已转公安机关。

3.利用“网红儿童”违规牟利。

根据网民举报线索,部分账号频繁发布涉未成年人不良导向内容,炮制所谓“网红儿童”,违规引流牟利。包括让未成年人摆拍校园霸凌视频,售卖所谓“小混混鞋”等商品;以未成年人结婚怀孕等为噱头,发布“07 年宝妈在婆家带娃的一天”等内容;让未成年人演绎“做一个绿茶的自我修养”“良心没了可以挣更多”等不良价值观内容,引流售卖商品。网信部门对相关账号依法采取清理粉丝、取消营利权限、关闭等处置措施,坚决打击借“网红儿童”牟利行为。

4.诱导未成年人参与“直播拆卡”。

巡查发现,部分直播间售卖动漫、游戏等卡牌盲盒,鼓动诱导未成年人过度消费。个别商家使用“蜜桃”“欲望”“女神”等暗示词汇,诱导网民购买加热或遇水后显示低俗内容的“温感卡”“水感卡”。有主播在直播时刻意遮挡、快速闪现卡牌封面,违规售卖展示动漫人物敏感部位、挑逗姿势的低质盗版卡牌。网信部门指导直播和电商平台优化未成年人消费风险提示功能,对盲盒类产品强化年龄确认,平台主动开展店铺商家合规指导,累计处置违规直播 1700 余场,下架商品 2.8 万余个。

5.利用新技术新应用生成涉未成年人不良内容。

专项行动期间发现,部分用户利用 AI 绘图技术,恶意将未成年人图片转换成儿童怀孕状态、身穿裸露服装等恶俗低俗漫画。一些“AI 恋人”类 App 存在涉未成年人不良人物角色,通过 AI 对话服务变相传播低俗信息。网信部门依法从严处置处罚问题突出的平台和账号,督促此类 AI 服务平台开展自查自纠,及时下线存在涉黄风险的 AI 人物,健全未成年人网络保护机制。

6.青少年模式下呈现违法不良信息。

巡查发现,个别社交平台开启青少年模式后,在搜索框搜索“正能量”“吃瓜”“福利”等关键词,搜索结果呈现色情引流信息,诱导未成年人添加群组、下载 App,传播涉黄涉赌内容。个别平台开启青少年模式后,存在擦边图片或低俗评论内容。网信部门依法从严处置处罚问题突出平台。同时,督促平台积极推进模式建设升级,强化评论、弹幕、留言等互动环节管理,严防信息内容风险。

7.儿童智能设备存在违法违规内容。

根据网民举报线索,部分儿童智能手表通过产品搭载的语音问答服务,传播危害未成年人身心健康的信息。个别学习平板电脑的应用商店提供短视频 App 下载服务,下载后呈现低俗擦边舞蹈视频,评论区等环节存在色情赌博网站引流信息。网信部门及时约谈有关儿童智能设备企业,督促全面排查设备自带及第三方 App 内容安全,并对违规企业予以行政处罚。

网信部门表示,将依托“清朗”系列专项行动,聚焦可能影响未成年人身心健康的各类新问题新情况,重拳出击、精准施策,持续净化未成年人上网环境。

相关阅读:

周鸿祎就 360 儿童手表错误问答致歉:非 AI,已启动整改迭代

猜你喜欢

原来张一山早就预料到了, 就连杨紫也没有想到 当年和他们一起出演《家有儿女》的弟弟尤浩然竟然成了现在这个样子

他积极面对,在社交平台幽默回应自己的变化,还推出 “小雨成长记” 短视频计划,记录生活日常。张一山当年还调侃过他,将来会变成郑则仕,没想到真的应验了。 不过尤浩然没有走和张一山,杨紫一样的路,虽然近几年自己…

原来张一山早就预料到了, 就连杨紫也没有想到 当年和他们一起出演《家有儿女》的弟弟尤浩然竟然成了现在这个样子

杭州硕丰自有资金投资有限公司:低空飞行如何飞得好、管得好?

丁梓洋说,接下来,该中心将分三阶段推进低空飞行服务体系建设,即2025年实现合作类飞行活动监视预警和空域状态监控,达到“看得见、管起来”;到2027年底初步形成有人机与无人机协同服务能力,实现“便捷飞、管得…

杭州硕丰自有资金投资有限公司:低空飞行如何飞得好、管得好?

特朗普突然改口,第二项制裁令解除,不到24小时,白宫下最后通牒

6月10日,中美双方在伦敦进行了重要会谈,达成了一份涵盖贸易问题的框架协议,协议内容涉及传统关税的调整、供应链协作、以及人工智能、半导体和稀土等关键战略资源的合作与监管。 综合来看,特朗普通过与英国、越南和中…

特朗普突然改口,第二项制裁令解除,不到24小时,白宫下最后通牒

《披哥5》一公竟淘汰一个“团”,四位哥哥一轮游,让人意外

从网上传出的消息上看,第一轮舞台公演已经录制完成,让大家没想到的是,第一轮舞台公演竟淘汰一个“团”,四位哥哥直接一轮游,太让人意外,究竟哪个团被淘汰了呢? 《乘风2025》刚落幕,网上就传出《披荆斩棘5》的录…

《披哥5》一公竟淘汰一个“团”,四位哥哥一轮游,让人意外

华为Mate80发布时间定了!麒麟9030量产完成,这次真不跳票了

据称相比麒麟9000S,在性能提升的同时还压低了功耗,最关键的是,这颗芯片和鸿蒙6.0是“一对一”深度适配的。一种是Mate80会冲击高端市场,起售价提升到7000+;另一种是走Mate60的亲民路线,继续保…

华为Mate80发布时间定了!麒麟9030量产完成,这次真不跳票了