正观快评：AI黑产批量“造黄谣”，该给狂飙的技术套上缰绳了

如今，“AI脱衣”技术已生成一条黑色产业链。上游不法分子通过AI（人工智能）技术生成图片，并对这些图片进行整合，打包成图集，通过成套售卖的方式出售给下游买家，致使一些无辜人士、甚至未成年人陷入“黄谣”漩涡。（7月13日《中国青年报》）

从现实中的明星、网红，到动漫人物、虚拟形象，只要将图片导入AI软件，不到几分钟就能将图片人物的衣服“脱下”。而这样便捷的“AI脱衣”收费不过几块钱一张、顾客花30元进群后还可以享受免费持续更新。

技术是中立且无害的，但人却有善恶之分。不法分子有意操弄AI技术，造假、诈骗、制作淫秽视频从而非法获利，全然不顾“AI换脸”“AI脱衣”“AI骚扰”这一环扣一环的黑色产业链，如何无孔不入、无时不刻地侵犯他人隐私权和肖像权，以其最锋利的一面，刺痛社会公共安全。显然，缺少道德与法律约束的人工智能，始终是一把悬在人们头顶的达摩克利斯之剑。

规范生成式AI服务正当其时。眼下，AI技术的研究发展还处于初级阶段，正是健全完善规则的重要时机。过往数起案例提醒我们，如果不在早期加以干预，随着技术迭代升级，反诈防骗难度将进一步加大，无辜者自证清白、打假维权的成本会变得更高。一旦这项技术被滥用、乱用，对普通人造成的安全威胁和危害，将难以想象。

今年以来，AI立法进程明显提速，我国已经开始探索并逐步构建完善的人工智能监管体系。近期，国务院办公厅发布的《国务院2023年度立法工作计划》将人工智能法草案列为预备提请全国人大常委会审议项目，表明相关立法已提上日程。

除立法规范外，防范AI技术野蛮生长，技术研发者、平台运营方以及监管部门也有不可推卸的责任。

在行业监管上，要坚守AI应用技术的底线。专项整治网络环境，尤其要关注新技术应用风险问题，重拳整治“一键脱衣”等技术生成类低俗色情图片视频。同时，维护生成式人工智能技术的使用原则，明确划分各方权利、义务与责任，保证AI科技能够在法律允许、监管到位的背景下稳步疾驰。

网络平台需保护AI技术赖以生存的土壤，修剪“杂枝杂草”。对打着“AI改图”幌子的商家，及时予以排查和封号处理，并借助图像识别、鉴真技术，显著标注合成素材等硬性要求，帮助用户辨别真伪，让AI造假诈骗无处遁形。

技术研发方面，可用“白AI”对抗“黑AI”。就像计算机病毒需要杀毒软件来查杀一样，通过研发AI反制技术，自动检测“AI换脸”、自动屏蔽“AI脱衣”，进而促成公安、网信等部门形成合力，在数据安全、技术研发、图像传播上，以AI限制AI，以AI全链条打击AI黑色产业链。

激发“技术之善”，让技术发展的红利惠及每一个人，归根结底是要让技术服务于人类社会，成为广大人民创造美好生活和实现全人类共同进步的工具。可信、可靠、可控的AI，才是人类最需要的AI。(正观评论员 韩静)

（黄河评论信箱：zghhpl@163.com）