您的位置：首页>要闻 >

中央网信办：整治利用“AI换脸”生成涉未成年人低俗色情图片视频等问题

来源：人民网时间：2023-06-28 15:36:08

(资料图)

人民网北京6月28日电（记者申佳平）据中国网信网消息，为进一步强化未成年人网络保护，营造健康安全网络环境，中央网信办近日决定开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动，将对网络欺凌、利用“AI换脸”等技术生成涉未成年人低俗色情图片视频等问题进行处置处罚。

据了解，该专项行动的目的是集中整治网上涉未成年人突出问题，全面压缩有害信息隐形变异的生存空间，坚决遏制侵害未成年人权益的违法行为，进一步提升学习类APP、儿童智能设备等专属产品服务信息内容安全标准，有效解决网络沉迷问题，营造有利于未成年人健康安全成长的网络环境。

同时，针对未成年人用户数量较大、对未成年人具有显著影响的网站平台以及儿童智能设备，专项行动将从深从细全面整治，从严从重处置处罚，持续净化网络生态。重点聚焦以下7方面问题：

一是有害内容隐形变异问题。一是以谐音词、变体字、表情符号等形式传播色情低俗、赌博迷信等内容；二是利用视频剪辑、影视二创、动漫改编等方式集中展示涉未成年人血腥暴力等画面；三是通过外链、浮窗、二维码、账号信息等进行色情引流；四是儿童智能设备自带及第三方APP，语音、文字搜索结果中存在涉黄涉暴内容。

二是网络欺凌问题。一是使用网络烂梗对未成年人进行侮辱谩骂；二是对未成年人进行“人肉搜索”，恶意传播泄露未成年人隐私的欺凌视频；三是通过恶意P图、编造谣言等，诋毁未成年人。

三是隔空猥亵问题。一是借“个性交友”“童星招募”“有偿收图”等名义，诱骗或胁迫未成年人进行在线裸聊、作出淫秽动作、提供裸照视频等；二是通过群组、私信等渠道向未成年人发送色情图片、淫秽语言；三是在涉未成年人账号、文章页面发布低俗色情跟帖评论，诱导不良交友或实施性引诱。

四是网络诈骗问题。一是以“内部人员”“含泪转让”等名义向未成年人虚假售卖演唱会门票，实施网络诈骗；二是以免费游戏装备、投票返现、盲盒抽取、粉丝抽奖等名义诱导未成年人加入群聊，诱骗转账汇款；三是诱骗未成年人提供社交账号、支付密码等用于网络诈骗活动。

五是不良内容问题。一是发布校园主题剧情演绎类视频，以偏激方式丑化学校形象，鼓噪师生矛盾，美化顶撞老师等行为；二是渲染家长“压迫”“压榨”孩子，恶意编造虚假家庭矛盾等内容；三是诱导吸烟、饮酒、纹身、旷课等不良行为；四是通过虚假摆拍鼓吹“霸凌风”“家暴妆”等畸形审美，传播以强凌弱、以暴制暴等不良内容。

六是网络沉迷问题。一是诱导未成年人长时间观看直播短视频；二是利用算法向未成年人集中推送诱导沉迷内容，形成信息茧房；三是通过聊天交友、虚拟空间装饰等娱乐功能诱导未成年人消费；四是向未成年人违规提供网络游戏账号租售服务，教授未成年人破解防沉迷系统、绕过青少年模式。

七是新技术新应用风险问题。一是利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频；二是利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息，诱导实施违法行为；三是利用生成式人工智能技术制作发布涉未成年人有害信息。

关键词：

银鹏控股公司：业务交流促提升互学互鉴共进步|世