AI换脸还不够，居然有人用真人配音生成色情内容？

本文内容来自于网络，若与实际情况不相符或存在侵权行为，请联系删除。本文仅在今日头条首发，请勿搬运。

伴随着人工智能技术在图像和文本领域的不断成熟，越来越多的人开始思考“AI声音”的潜力。在不久前，B站上的“AI孙燕姿”成为了一股新的互联网现象，其生成的声音几乎媲美真人声线，令人惊叹不已。

然而，正如人工智能在图像和文本领域一样，AI声音也开始出现一些不正常的现象，尤其是在缺乏监管的情况下。近日，一位名为Robbie92的Twitter用户发帖披露，《上古卷轴5》的Mod社区正在使用AI配音制作和传播未经授权的色情内容，引发了广泛关注。

《上古卷轴5》的Mod社区在游戏中扮演着举足轻重的角色，尤其是Nexus Mods这一平台，作为老滚5最大的Mod社区之一，已经发展成为众多游戏的重要Mod来源。今年四月，Nexus Mods发布公告表示，“AI生成的Mod并不违反我们的规则”，为Mod制作者利用AI工具制作Mod开绿灯。因此，越来越多的Mod创作者开始尝试将人工智能融入游戏，例如改进NPC行为等。

然而，随着AI声音的兴起，问题也逐渐浮出水面。根据Robbie在Twitter上的指控，一些Mod制作者将配音演员的声音输入到名为“ElevenLabs”的AI声音克隆工具中，制作出明显带有色情性质的对话，其中包括一些著名配音演员的声音。这些配音演员在不知情的情况下，被用于了不适当的情境，例如与游戏中角色发生不雅对话。

在Robbie的指控曝光后，互联网上掀起了对这一问题的激烈讨论。就像之前关于AI绘图的争议一样，配音演员们联合起来，发声抵制AI声音的不当使用，强调“配音演员 AI”的重要性。然而，也有不少网友支持将AI声音用于二次创作，认为这为创作者提供了更多便利，同时也拓宽了游戏体验的可能性。

在这个争议背后，一个更大的问题浮现出来。AI声音虽然在一定程度上为创作者降低了成本，提供了更多的创作可能性，但同时也引发了道德和法律层面的问题。配音演员们担心，AI声音的出现可能使他们的声音被复制和滥用，导致他们的收入减少甚至丧失。缺乏相关法律保护，不仅是配音演员，还包括其他将个人信息暴露在公共平台的人，都可能面临被用于不当内容的风险，例如色情、暴力等。

当AI技术能够对人的声音进行模仿，甚至重塑时，人们的行为也可能受到恶意利用，造成不可逆转的伤害。就如同之前的人脸换脸风波一样，Twitch的女主播们同样在面临被AI色情化的问题。在这个问题尚未被完全解决之前，我们或许应该更加谨慎地对待AI声音的发展，以避免可能的不良后果。

总之，AI声音作为新兴技术，无疑为创作者和玩家们带来了新的可能性。然而，其合理、道德和法律的使用也同样需要深入思考和规范。只有在确保了各方权益的前提下，AI声音才能够持续为创作和娱乐领域带来积极的影响。毕竟，保护创作者和个人信息的安全，始终是一项重要的任务。

以上内容资料均来源于网络，本文作者无意针对，影射任何现实国家，政体，组织，种族，个人。相关数据，理论考证于网络资料，以上内容并不代表本文作者赞同文章中的律法，规则，观点，行为以及对相关资料的真实性负责。本文作者就以上或相关所产生的任何问题任何概不负责,亦不承担任何直接与间接的法律责任。