“被滥用的AI”：女子用AI编造“校园霸凌”谣言被处罚 多地警方查处此类谣言

AI（人工智能），模拟人类智能以解决复杂问题和实现人类类似的任务。通过海量数据学习和用户行为、兴趣分析，发现隐藏在其中的模式和规律，进而提供准确的决策支持和更好的用户体验，是AI的拿手好戏之一。

然而，这项新技术在改变生活的同时，也正在滋生新型犯罪：一些人为博眼球赚取流量，利用AI编造或篡改情节炮制虚假信息，造成不良社会影响；更有甚者，利用AI技术生成虚假图片、音视频或者文字信息制造谣言，颠覆了“有图有真相”的常规认知，让网络谣言更加难辨真伪……

资料图

近日，四川德阳罗江警方就查处一起利用AI文章生成软件编造、传播网络谣言典型案件，一名成都女子利用AI小程序编造德阳某学校的“校园霸凌”虚假信息被警方行政处罚。1月15日，办案民警向红星新闻记者讲述了详细案情。

红星新闻记者还梳理发现，国内多地也出现利用AI编造、传播网络谣言案件，并被警方查处。这种新型违法犯罪，值得公众警惕。

AI编辑：

女子编造传播“校园霸凌”虚假信息被处罚

去年12月20日，一篇题为《12岁女生被8人轮流扇耳光3小时，致耳膜穿孔》的文章发布在某平台，引发大量网民关注，也引起德阳罗江警方关注。随后，有网友举报该文为虚假信息，几小时后文章被平台下架。两天后，罗江警方找到了始作俑者刘某群，她才知道自己已触犯法律。

经警方调查，刘某群将2023年12月实际发生在外省某地已被处理的“校园霸凌事件”截取相关事件图片后，利用AI小程序自动编辑功能，嫁接为发生在德阳某学校的“校园霸凌”虚假信息，制作了上述文章在某平台发布，引发大量网民关注，对社会秩序、校园治理造成严重的负面影响。

刘某群被罗江警方行政处罚

“为博取流量，获得平台浏览奖励，她被警方挡获时获利就几十元钱。”一名负责该案的民警介绍，刘某群（四川成都人），20多岁，待业在家，在一些平台注册了账号，平日靠写点文章博取流量，获得平台浏览奖励，“文章基本上是用AI写的。”

面对警方，刘某群主动交代了自己的造谣行为，称自己法律意识淡薄，非常后悔。警方对其进行了批评教育，并依据《治安管理处罚法》对她进行行政处罚，并对其造谣账号采取关停措施。

AI换脸：

男子收到“裸照”被勒索40万，一眼识破骗局

凌晨突然收到一条陌生人的彩信，内容竟是自己躺在床上搂着一名女性的照片，对方借此让他支付40万元。但他一眼就认出这是骗子利用AI换脸进行诈骗……这是四川广安邻水县李先生（化名）的真实遭遇。

据警方介绍，1月9日凌晨4时39分，李先生收到上述陌生彩信，照片显示他正躺在床上并搂着一名女性。紧接着，他又收到一条短信：想平安，上午9点前回复，过时不候。李先生认出这是AI换脸诈骗手法，直接回复了七个字：你早晚会被抓的。

李先生（化名）收到的诈骗信息

当天早上，为一探究竟，套出对方用AI换脸诈骗自己的真实意图，他主动与对方联系，问其有什么要求。果不其然，对方自称“私家侦探”，接受他人委托解决纠纷，以掌握李先生私密之事为由，一次性索要40万元，而且只给他20分钟考虑。

眼看20分钟快到了，李先生依旧没有回话，对方通过AI变声打通了他的电话，声称要与李先生谈条件达成协议，否则将“鱼死网破”。最终，对方在李先生追问下，意识到自己的诈骗行为已被识破，便匆匆挂断了电话。

警方提醒，“AI换脸”是新型诈骗的常用伎俩，也是网上敲诈勒索常用的手法，如果收到这样的信息，请不要害怕、不要相信、不要回复。公安机关将严厉打击恶意P图实施敲诈勒索的违法犯罪行为。

不止一起：

利用AI炮制传播网络谣言，警方予以查处

红星新闻记者梳理发现，近期，国内多地警方查处一批故意制造、传播网络谣言案件并公开公布，其中不乏利用AI工具炮制网络谣言案例，涉事人主要目的是吸粉引流，然后赚取平台的流量补贴。

湖南衡阳公安机关侦破一起利用AI智能工具炮制恶性网络谣言案。2023年8月，阳某为吸粉引流博取关注，在网络平台使用AI智能工具炮制并发布“耒阳某化工厂爆炸致多人失联”“耒阳某珠宝店发生持刀抢劫案”“耒阳某公园发生多起杀人抛尸案”“耒阳女网红被绑架”等多条恶性谣言信息，引发网民大量关注转发，造成群众极大恐慌，社会影响极其恶劣。经衡阳公安机关依法调查，阳某对犯罪事实供认不讳。目前，衡阳公安机关依法对其刑事拘留，并对其造谣网络账号采取关停措施；

此外，2023年11月26日，为博取引流，陈某通过AI软件合成一段关于无锡市某火灾事件的视频，并发布于社交平台。经调查，陈某对违法行为供认不讳，无锡市惠山区公安机关依法对其予以行政处罚。

AI，本是帮助人类进步，更好地工作和生活的工具，却被部分不法分子利用进行诈骗、编造传播谣言，值得公众警惕。

红星新闻记者王明平 王超

编辑 张寻 责编 邓旆光

（下载红星新闻，报料有奖！）