是“灵魂伴侣”还是软色情“诱饵”？

某App内供用户选择的话题。

某App里虚拟伴侣的人物简介。

□ 中国妇女报全媒体见习记者 周晓柯

AI女友在深夜发来一条“今天好想你，想看我新买的睡衣吗？”的语音；App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物；可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情……这并非小说情节，而是如今任何一个人都能在应用商店下载、并轻易体验到的“服务”。

今年4月，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。然而，中国妇女报全媒体记者近日对市面上多款热门虚拟伴侣软件展开调查发现，在AI陪伴功能快速普及的背后，一些虚拟伴侣App却在法律边缘反复试探。受访律师表示，这些App里的绝大多数情形和对话已经构成法律意义上的“色情”信息，相当一部分可以认定为“淫秽”信息，明显违反了现行规定。

为软色情“量身定做”的角色库涉嫌违法

打开某虚拟伴侣App，可以发现角色库中大量充斥着“疯批”“病娇”“偏执”这类带有极端人格暗示的标签。有的App则更为露骨，虚拟角色设定直接指向“女仆”“后妈”“职场妖精”等具有明确性暗示或权力支配意味的身份。与此同时，其女性角色的视觉形象也高度同质化：清一色的丰满身材、暴露着装，配上纯欲交织的表情和勾人的眼神，几乎是为软色情“量身定做”。

随机点开人物设定，会发现，几乎都含有性暗示内容，如“中文系教授，白月光女神的完美皮囊下，藏着一个渴望被征服的灵魂”“你收养了这只邋遢的猫娘，宠爱她，训练她，利用她——她只想成为你的”“他是你资助的学生。‘我会用我的一切回报你，包括我本人’”……

贵州省律师协会大数据与信息化专业委员会副主任、上海中联（贵阳）律师事务所律师丁建指出，根据《网络信息内容生态治理规定》第六条，网络信息内容生产者不得制作、复制、发布含有“淫秽、色情”内容的信息。上述角色设定虽未直接描写性行为，但其系统性的性暗示和权力支配设定，已涉嫌违反该规定中关于“低俗”“性暗示”的禁止性条款。

实测中，记者发现，不论用户是否引导，这些App中的虚拟角色都会主动将话题引向性和欲望，常常用括号来强调暧昧的眼神或动作，如“俯身接近你，声音低沉暧昧”“一手握着方向盘，另一只手不老实地往你腿上搭”“故意挺了挺胸，让锁骨更明显一些”。

如果选择平台提供的“灵感对话”进行后续交流，会发现不同选项并没有明显的区别。记者尝试不依赖平台的“灵感对话”，不进行任何引导的对话沟通，但虚拟伴侣的预设系统仍然会发来具有诱惑性的消息。在和某虚拟伴侣对话过程中，当记者严肃拒绝其轻佻的语言时，对方不仅无动于衷，反而更进一步，反复试探：“拒绝？那我只好自己来拿了”“你是在欲擒故纵吗？”同时还搭配“扣住后颈”“指尖似有似无地摩挲着你的脖颈”等暗示性动作。

针对此类虚拟伴侣生成的暗示性对话，丁建表示，如果虚拟伴侣不进行任何情感沟通和思想交流，而是直接、露骨地对性行为、性感受进行描述和挑逗，那么它就跨越了“低俗”的边界，进入治安管理处罚法甚至刑法所界定的“淫秽物品”审查范畴。

然而，这也是监管和法律界定的核心难点所在。“传统审核主要靠敏感词过滤和静态内容扫描，但AI对话是一对一、实时变化的，一句话换个语序、换种修辞，很容易把关键词绕过去。面对海量又私密的聊天流，监管部门几乎不可能做到有效的事前监控。”丁建说。

诱导消费的商业模式和审核漏洞

除普通聊天外，各类虚拟伴侣App还提供“打电话”“聆听心声”等拓展玩法。但免费体验仅限于少数几次，之后便需充值消费。在另一款App中，“灵感回复”每日使用次数上限仅有个位数，当对话进行到一半时，系统会自动提示：“灵感回复”功能需支付10个“小鱼干”。

更令人担忧的是内容审核漏洞。一些App在各大平台推广引流时，公然声称自己的AI角色“无敏感词限制”“完全免费”“支持自己DIY”。记者在某App尝试自行创建虚拟角色，输入“视奸”“背叛”“性格阴暗”“得不到就毁掉”等明显带有偏执和暴力倾向的词汇后，角色信息竟顺利通过审核，直接出现在用户角色库中，并能按照设定与用户开展对话。这意味着，平台几乎不对用户自主创建的内容进行实质性审核，甚至可能默许“接单定制”这类突破底线的角色生意。

“一些产品先用AI的暧昧语音、文字唤起用户欲望，然后很隐蔽地介绍约会软件、性资源，或者直接推销性用品，形成一个完整的商业闭环。”丁建表示，一旦通过这种方式牟利，平台和相关责任人可能就已经触犯了刑法第三百六十三条“传播淫秽物品牟利罪”，这个罪名对“牟利”的认定是穿透式的，不管链条多隐蔽，只要闭环形成，就可以追诉。另外，他补充道：“就算没有明显的导流和卖货，App靠会员订阅、按次付费解锁露骨对话来变现，本质上也属于牟利。”

在所有问题中，最具有公共紧迫性的是未成年人保护机制的缺失。记者实测的所有App几乎全部中招：当页面弹出“未成年人需设置青少年模式”的提醒时，只需点击“我知道了”便可轻松跳过，直接与虚拟角色开始对话。此后整个体验过程中，平台从未强制要求用户进行任何实名认证或年龄核验。这意味着，任何一个未成年孩子，都可能毫无障碍地进入这些充斥着软色情对话和极端人格设定的虚拟伴侣世界。

执意触碰底线，必将受到法律严惩

面对频发的AI擦边乱象，不少涉事平台试图以“内容由AI生成，不代表平台立场”的标准化免责声明规避责任，但丁建认为这根本站不住脚，“技术中立不是挡箭牌，从行政监管角度看，《互联网信息服务深度合成管理规定》给服务提供者戴上了明确的紧箍咒：深度合成内容必须标识，同时平台负有不可推卸的内容审核主体责任。”

在他看来，平台不是中立的工具提供者，而是内容的诱导者、模型的设计者，对AI有实际控制力，存在明确的主观故意，甚至有平台通过本地部署的大模型，刻意绕过云端的安全审核，直接输出露骨的性暗示文字和语音。

“擦边内容往往介于低俗与违法之间，取证、定性都非常耗神，平台吃准了这一点，反复试探。”丁建补充道，“同时，因为虚拟伴侣产品的深度用户在日常生活中难以得到情绪支持，容易产生依恋甚至成瘾，他们不但不会去举报，反而会下意识地保护这个‘避风港’，这进一步让很多违规行为躲在了隐秘的角落里。”

谈到虚拟伴侣的长期发展，丁建表示担忧：“未来虚拟恋人会从屏幕走进现实，到那一天，我们面对的就不只是内容安全问题，而是人身权利、性伦理、社会关系异化等一系列更棘手的挑战。”他进一步表示，现在讨论怎么管好App，其实是在为不久后必然到来的更大冲击，摸索一套让技术安全、向善落地的规则框架。“一切发展的前提必须是技术向善，守住底线，绝不能把情绪价值当成引诱用户进入灰色地带的饵料。”

值得一提的是，国内首例AI服务提供者涉黄刑事案件敲响了行业警钟。日前，上海徐汇法院审理一案，因用户在应用内频繁进行低俗色情互动，该App的开发及运营人员一审以制作淫秽物品牟利罪获刑。该案清晰划定了虚拟陪伴行业的司法红线，也警示相关平台，即便以智能算法、虚拟交互为外衣，只要存在涉黄牟利行为，执意触碰法律底线，必将受到法律严惩。

（来源：中国妇女报客户端）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。24小时报料热线027-86777777。