演讲直击｜李臣：生成式人工智能的合规挑战与应对

f

CYBER SECURITY

生成式人工智能的合规挑战与应对

李臣 蚂蚁集团副总裁、首席合规官

一、生成式人工智能的合规挑战

生成式人工智能目前仍在发展中，存在着隐私和数据安全、内容安全、竞争公平、知识产权保护等风险，技术和应用的安全性与真实性等问题尚待解决，这些新的风险和挑战成为各国监管关注的新课题。

首先，生成的内容可能存在错误、伪造、偏见、歧视和违法不良等问题。目前生成式人工智能通过学习大量的数据来生成新的内容，而这些数据可能包含有误导性、虚假、人为操纵的数据，而生成的内容没有得到足够多的纠正和反馈，导致生成的内容不真实或者存在错误。同样地，如果训练算法的数据集规模小、多样性不足或者受到污染，或者训练过程中过度拟合，又或者设计理念中带有天然的偏见，会导致生成结果带有偏见和歧视。还有某些用户刻意引导生成式人工智能生成违法不良信息。以上问题为中国的内容安全监管和网络伦理道德带来了严重的挑战。

其次，生成式人工智能为著作权保护带来挑战。这涉及两个问题，一方面是训练数据的来源是否存在对著作权保护的侵害风险，另一方面是生成的内容是否具有著作权。前者的实务性争议较多，涉及著作权人与人工智能产业从业者利益之间的平衡；后者的法学性争议较多，涉及生成式人工智能产出作品是否具有独创性，著作权法保护的是否是纯粹人类基于心智创作的智力劳动成果。在这些问题上实务界、法学界还需要一定时间形成共识。

第三，生成式人工智能提供服务引发新的问题。对生成式人工智能可能还需要一些特别的资格来进一步强化对技术和应用的治理。根据此前网信办发布的《生成式人工智能服务管理办法（征求意见稿）》，提供相关服务前需要申报相应的安全评估以更好地促进该技术的健康发展与规范应用，这些需要行业的关注。此外,如果像OpenAI一样以收费为目的向用户提供股票或基金推荐等金融服务，就涉及是否需要有投资顾问资格等新的疑问。

二、生成式人工智能发展的合规应对

虽然生成式人工智能的发展面临着风险与挑战，但其中很多并不是由于该技术而产生的新的风险，也并非无法防控的难题。我们所要找到的是保障安全与发展的平衡方案。目前我们欣喜地看到包括中国在内，相关的监管规则已经在逐步建立中，对应的合规管理也在摸索中前进，特别是技术发展同时也在推动合规管理的数字化、智能化变革，这些都为生成式人工智能的技术发展与应用创新提供了安全保障。以下几个观点供各位参考。

首先，建立全生命周期的合规管理与监测机制。参考网信办发布的意见稿以及行业目前的实际情况，根据算法研发、风险评估、应用上线、用户使用、内容发布以及应急处置等不同阶段，考虑从网络数据安全、算法技术安全、内容安全、用户管理、落实平台责任等不同的角度设置不同的管控措施降低合规风险。比如在研发阶段，重点关注对于算法机制机理以及科技伦理方面的审查，关注训练数据的合法合规性，强化对于数据的筛选，剔除不良内容的数据。同时，强化对于训练数据的全面性、多元性和均衡性要求，坚持非歧视和正确的价值引导，减少算法歧视等问题的产生。

训练数据中如果包含个人信息的，一方面要看是否已经取得个人的合法授权，另一方面，通过隐私计算等技术手段进行脱敏处理，强化对于个人信息的保护。OpenAI等公司目前也已经上线了删除交互数据选项，支持用户对于遗忘权的行使。在生成著作权方面，可通过协议方式对归属进行事前约定，保护参与方的相关权利得到保障。

其次，可以考虑引入合规科技等技术手段强化对于合规管理的有效性。生成式人工智能的交互性和实时性都很高，这也对内容安全管理的及时性和稳定性提出了很高的要求，很难完全依靠人工来完成，而引入合规科技解决方案可以实现构建对生成式人工智能的全生命周期风险合规管控。第一，在模型训练层，合规科技可以通过智能审核对模型训练用数据集进行去毒，从根源上进行管控，强化对于数据内容安全的管理。第二，在基座模型层进行合规性在线管控，基于大量风险数据标注训练的合规模型，对于大模型输入输出内容进行实时识别管控拦截，过滤基座模型生成的内容风险。第三，在模型应用层，根据具体应用场景接入不同的合规大模型解决方案，基于具体场景的风险模型，从合规侧进行风险评测，然后根据不同细分领域与风险浓度，接入合规大模型解决方案来降低风险浓度，实现对于风险的精细化管理。

三、关于未来

人工智能的发展已经成为国际竞争的新赛场，人工智能领域的国际治理规制竞争与科技创新竞争一样日益激烈。

有鉴于此，我们建议：首先，在尚处于发展起步阶段时，参考国际先进经验，考虑以算法中立、技术中立、行业中立、规模和商业模式中立等原则，在确保合法合规、保障安全的前提下给予生成式人工智能技术充分的发展空间。同时，深化在人工智能法律法规、国际规则等方面的国际合作，最大化凝聚人工智能治理的全球共识，不断提升中国在该领域的影响力。

王 健 王沛然 郭 骏