AI换脸诱导欺骗未成年人？短视频平台开展专项整治

北京日报客户端 | 记者 袁璐

“AI换脸”“AI绘图”“一键脱衣”……借助AI等新兴技术，一些有害内容正隐形变异，将隐秘的手伸向未成年人。8月16日，记者获悉，自6月28日起，快手开展为期2个月的未成年人暑期网络环境专项治理，对涉未成年人不良信息从严从重处置。上周，平台共处置违规视频14204条，违规账号516个。

平台表示，本次整治的重点内容为涉未成年人的有害信息和内容，包括群聊、评论、图文、视频和直播等，尤其是利用谐音变体、剪辑二创、引流等方式传播不良信息，利用“AI换脸”“AI绘图”“AI一键脱衣”以及其他生成式人工智能技术等新技术新应用发布、传播涉未成年人有害信息。

同时，欺骗、诱导未成年人和未成年网络欺凌问题也将受到严厉查处。具体来看，违规行为包括：诱导未成年人充值打赏；向未成年人违规提供网络游戏账号租售服务、教授未成年人破解防沉迷系统；借“交友”“童星招募”等名义诱骗未成年人；诱骗、胁迫未成年人提供社交账号及密码；以免费游戏装备、投票返现、盲盒抽取、粉丝抽奖等名义诱导未成年人至第三方平台转账；对未成年人进行侮辱谩骂、“人肉搜索”，恶意传播泄露未成年人隐私的欺凌视频等。

“我们将通过本次专项整治，进一步净化社区环境，为青少年营造一个风清气正的网络空间。”快手表示，如果公众在使用平台的过程中发现任何不良信息和行为，欢迎进行站内举报、邮箱举报和电话举报。电话举报热线为400-006-6666，邮件发送举报地址为support@kuaishou.com。

根据《2021年全国未成年人互联网使用情况研究报告》，2021年小学生的互联网普及率达95.0%，未成年人接触互联网的低龄化趋势明显，青少年模式的使用比例和满意比例均不足五成。

近日，中央网信办也发布关于了开展“清朗·2023年暑期未成年人网络环境整治”专项行动的通知，也将新技术新应用风险问题放入整治重点。具体包括：利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频；利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息，诱导实施违法行为；利用生成式人工智能技术制作发布涉未成年人有害信息。

图片来源：快手