网信部门通报:部分儿童智能设备存在违法违规内容,督促 AI 服务自查自纠涉未成年人不良内容

网信部门通报:部分儿童智能设备存在违法违规内容,督促 AI 服务自查自纠涉未成年人不良内容

霍州市融媒体中心信息网网 12 月 19 日消息,2024 年是《未成年人网络保护条例》的实施之年。网信部门高度重视未成年人网络保护工作。

今天,微信公众号“网信中国”发布了七种网上侵害未成年人合法权益行为的典型案例,霍州市融媒体中心信息网网汇总如下:

1.恶意炮制发布“沙雕动画”短视频。

巡查发现,短视频平台部分账号集纳“沙雕动画”,包含大量血腥、惊悚等负面内容。部分账号恶意改编经典动画,发布“暴力海绵宝宝”“惊悚米奇”等内容。部分短视频内容借动画形式,模拟校园欺凌情节,美化自杀自残行为,严重危害未成年人身心健康。网信部门对相关平台予以行政处罚,关闭一批集纳发布“沙雕动画”的违规账号。

2.隐匿传播涉未成年人软色情内容。

专项行动期间发现,有用户在未成年人分享日常生活内容页面的评论区,恶意发布低俗表情包和“找同城”等不良交友信息,企图对未成年人实施性引诱。在一些未成年人集中的频道版块、兴趣圈子等环节,部分用户使用分隔符、替代词等方式,发布传播低俗色情内容。网信部门指导网站平台持续加大对各类违规暗语的识别打击力度,深入清理涉未成年人违规外链信息。相关违法线索已转公安机关。

3.利用“网红儿童”违规牟利。

根据网民举报线索,部分账号频繁发布涉未成年人不良导向内容,炮制所谓“网红儿童”,违规引流牟利。包括让未成年人摆拍校园霸凌视频,售卖所谓“小混混鞋”等商品;以未成年人结婚怀孕等为噱头,发布“07 年宝妈在婆家带娃的一天”等内容;让未成年人演绎“做一个绿茶的自我修养”“良心没了可以挣更多”等不良价值观内容,引流售卖商品。网信部门对相关账号依法采取清理粉丝、取消营利权限、关闭等处置措施,坚决打击借“网红儿童”牟利行为。

4.诱导未成年人参与“直播拆卡”。

巡查发现,部分直播间售卖动漫、游戏等卡牌盲盒,鼓动诱导未成年人过度消费。个别商家使用“蜜桃”“欲望”“女神”等暗示词汇,诱导网民购买加热或遇水后显示低俗内容的“温感卡”“水感卡”。有主播在直播时刻意遮挡、快速闪现卡牌封面,违规售卖展示动漫人物敏感部位、挑逗姿势的低质盗版卡牌。网信部门指导直播和电商平台优化未成年人消费风险提示功能,对盲盒类产品强化年龄确认,平台主动开展店铺商家合规指导,累计处置违规直播 1700 余场,下架商品 2.8 万余个。

5.利用新技术新应用生成涉未成年人不良内容。

专项行动期间发现,部分用户利用 AI 绘图技术,恶意将未成年人图片转换成儿童怀孕状态、身穿裸露服装等恶俗低俗漫画。一些“AI 恋人”类 App 存在涉未成年人不良人物角色,通过 AI 对话服务变相传播低俗信息。网信部门依法从严处置处罚问题突出的平台和账号,督促此类 AI 服务平台开展自查自纠,及时下线存在涉黄风险的 AI 人物,健全未成年人网络保护机制。

6.青少年模式下呈现违法不良信息。

巡查发现,个别社交平台开启青少年模式后,在搜索框搜索“正能量”“吃瓜”“福利”等关键词,搜索结果呈现色情引流信息,诱导未成年人添加群组、下载 App,传播涉黄涉赌内容。个别平台开启青少年模式后,存在擦边图片或低俗评论内容。网信部门依法从严处置处罚问题突出平台。同时,督促平台积极推进模式建设升级,强化评论、弹幕、留言等互动环节管理,严防信息内容风险。

7.儿童智能设备存在违法违规内容。

根据网民举报线索,部分儿童智能手表通过产品搭载的语音问答服务,传播危害未成年人身心健康的信息。个别学习平板电脑的应用商店提供短视频 App 下载服务,下载后呈现低俗擦边舞蹈视频,评论区等环节存在色情赌博网站引流信息。网信部门及时约谈有关儿童智能设备企业,督促全面排查设备自带及第三方 App 内容安全,并对违规企业予以行政处罚。

网信部门表示,将依托“清朗”系列专项行动,聚焦可能影响未成年人身心健康的各类新问题新情况,重拳出击、精准施策,持续净化未成年人上网环境。

相关阅读:

周鸿祎就 360 儿童手表错误问答致歉:非 AI,已启动整改迭代

特别声明:[网信部门通报:部分儿童智能设备存在违法违规内容,督促 AI 服务自查自纠涉未成年人不良内容] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

星链全球断线长达2小时 引发稳定性担忧(星链技术详解)

美东时间周四下午3点左右,大量用户报告StarLink网络中断。全球超过6万名用户在Down Detector网站上反映网络连接出现问题。受影响的国家和地区包括美国、欧洲、非洲、亚洲和澳大利亚,很多用户将这次中断描述为全面故障

星链全球断线长达2小时 引发稳定性担忧(星链技术详解)

30公斤阀口袋包装机 自动包装机 粉剂包装机(阀口袋如何密封)

我们的砂浆包装机、涂料油漆包装机、压缩式封口包装机、自流平水泥包装机、普通砂浆包装机、等成套包装设备具有高效、稳定的特点,适用于各种行业。 工作流程:1、上袋;2、夹袋;3、可选择的打印日期;4、拉链或开…

30公斤阀口袋包装机 自动包装机 粉剂包装机(阀口袋如何密封)

当43岁余少群和38岁尹正站在一起,才知道,陈佩斯的眼光有多毒辣(余少群现状)

在这片喧嚣的海洋中,有一部电影凭借其独特的气质脱颖而出,这部影片便是陈佩斯自编自导自演的长篇力作——《戏台》。陈佩斯直言,余少群简直就是影片中京剧名旦凤小桐的化身,这个角色显然是为他量身定做的。每个演员都通过…

当43岁余少群和38岁尹正站在一起,才知道,陈佩斯的眼光有多毒辣(余少群现状)

《声梦三小花》广州音乐会座无虚席,反响热烈,期待巡演解锁更多城市精彩

Chantel与Yumi在《声生不息·大湾区季》节目中已经亮相,Chantel兴奋地期待未来能在不同地方进行更多表演,Yumi则很高兴能通过歌声让更多人了解她的多才多艺。当她再次演绎当年在《声梦传奇》中唱过的…

《声梦三小花》广州音乐会座无虚席,反响热烈,期待巡演解锁更多城市精彩

不同预算怎么选?千元内黑胶唱片机推荐(两种预算方法)

用户评价其颜值高,音质出色 ,功能丰富 ,尤其是发光唱盘和蓝牙功能备受好评 ,是一款兼顾颜值与实力的唱片机 。整体声音平衡度好,各频段过渡自然,能为用户带来沉浸式的音乐享受。可拆卸的防尘罩别具巧思,取下后可作…

不同预算怎么选?千元内黑胶唱片机推荐(两种预算方法)