AI换脸、大数据杀熟怎么办？应对算法侵权，全国政协委员连玉明支招

2023年6月，浙江省杭州市萧山区检察院对一起利用“AI换脸”技术侵犯公民个人信息案提起民事公益诉讼。（视觉中国/图）

在打车出行、酒店预订时，老用户支付的价格比新用户还高，遭遇大数据“杀熟”；根本不感兴趣的商品在误点以后，频繁出现在推荐界面，被精准营销；在地铁上拍摄的日常照片被人用AI技术“一键脱衣”；没有任何添加关注操作的情况下，读书软件自动添加了社交好友……算法侵权正以多种意想不到的方式出现。

华东师范大学产业与治理课题组根据算法侵权相关关键词，在中国裁判文书网、北大法宝数据库、杭州互联网法院、广州互联网法院官网上搜集整理出的24件中国算法侵权案件中（时间跨度为2009年-2022年），2020年后有21件，占比87.5%。

全国政协委员、北京国际城市发展研究院创始院长连玉明认为，由于算法黑箱或技术不透明性，算法侵权与传统的侵害行为相比，其因果进程更加冗长、复杂、不透明。同时，算法应用主体往往具有资本优势、权力优势和技术优势，单独的个体进行维权时普遍遭遇举证难、认定难和追责难等现实困境。

2024年全国两会上，连玉明带来算法侵权相关提案，建议将算法侵权领域纳入公益诉讼法定范畴，构建以人民检察院为主导、社会组织和个人共同参与的算法侵权公益诉讼多元主体模式，推动多元主体协同治理。

南方周末记者注意到，近年来，检察公益诉讼从生态环境和资源保护等4个法定领域拓展为“4+N”的履职格局，英雄烈士保护、个人信息保护、未成年人保护、无障碍环境建设等领域也不断纳入其中。

2023年6月，浙江省杭州市萧山区检察院就曾对一起利用“AI换脸”技术侵犯公民个人信息案提起民事公益诉讼。该检察院认为“AI换脸”技术的滥用，不仅侵害个人的人格权、肖像权、名誉权、隐私权等，更侵害了社会公共利益，因此在追究被告人刑事责任以外，有必要提起民事公益诉讼对该类侵犯公民个人信息的行为予以规制。

连玉明认为，检察机关在个人信息保护领域的公益诉讼实践，也为将算法侵权纳入公益诉讼的法定领域提供了借鉴和基础。

算法侵权，潜在威胁大

南方周末：你曾在2023年两会提交数据产权相关的提案，其中提到的数据治理与这次提案中的算法治理之间有什么样的区别与联系？

连玉明：数据挖掘需要通过各种算法来实现，算法优化要以高质量数据为基础。我们在谈数据治理的时候，更多的是想要解决数据价值的问题，而算法治理的背后则更多的是算法向善、算法伦理等问题。

数据治理的关键是建立一个数权体系，就如过去几百年里，在工业革命浪潮中，建立了一个包括物权、债权、股权等权利主张的产权体系一样。与数权体系相配套，还需要建立一个算责制度，这是算法治理的核心。数权体系规定的是数据的权利如何确定、如何分配、如何保护、如何重置、如何获利，算责制度的要点是针对人而不是自动程序、智能机器，更强调如何界定责任、追究责任。

南方周末：算法侵权有哪些表现？

连玉明：算法侵权的新方式和潜在威胁主要体现在以下四个方面：一是算法歧视，通过对个人或集体进行大数据画像，进而形成同人不同价的大数据杀熟；二是算法操纵，通过对信息数据的生成合成、个性化推送、排序精选、检索过滤、调度决策等对个人或群体所接受的信息进行干预，并据此影响其意志形成与行为选择。例如，根据用户兴趣偏好过度推荐，造成“信息茧房”及诱导沉迷；三是算法滥用，利用相关软件进行人脸替换、虚拟角色生成、模仿声音、伪造图像和视频等，进而实施电信诈骗和网络敲诈；四是算法错误，由算法控制的智能机器人或自动驾驶汽车等有形载体，因算法错误而造成的个人财产损失和人身伤害。

南方周末：算法常常被认为具有技术中性，以提案中的“算法操纵”为例，个性化推送、排序精选等也给我们的日常生活带来便利，是许多商业公司提供服务的基础。那么什么样的推送服务属于算法操纵？其边界如何界定？

连玉明：精准推送本质上是一种差异化行为，基于数据收集实现对个体差异的识别，从而涉及隐私问题，或者个体信息的非自愿公开等问题，所以就会带来侵害消费者权益的可能。

这时候我们就要看，到底是提高效率的良性维度占上风，还是侵害个人隐私和违背个人意愿的不良维度占上风？这是规制面临的难题。网信办等九部委联合印发的《关于加强互联网信息服务算法综合治理的指导意见》中就明确，要防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为，防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患，就是希望能逐步清晰算法的合规边界或者说法律边界。

南方周末：你在提案中提到目前算法治理困境之一是立法严重滞后，具体而言存在哪些不足？

连玉明：算法治理是一个国际性难题。2022年3月我国第一部以算法推荐服务为规制对象的部门规章——《互联网信息服务算法推荐管理规定》正式实施。但和国际上先行探索的方案相比，我国在算法治理方面的整体立法进程仍显缓慢，同时法规层级较低。

此外，我国算法治理的规则体系主要适用于互联网信息推荐领域，应用场景也有局限性。自动驾驶、医疗人工智能和智能投资顾问领域的算法治理规则多分散于大量指导意见或标准文件中，治理目标、尺度和机制不统一，不仅影响治理效率，而且给企业合规带来了困难。

南方周末：你还提到现有算法应用监管制度还不完善，这可能带来什么问题？

连玉明：由于算法治理的复杂性，一些观点主张为算法治理设立一个新的治理机构。在国外，有人呼吁设立一个国家算法安全委员会，要求该委员会在算法部署前对其进行审计、监管和许可。还有观点建议设立一个类似于美国食品和药品管理局的算法监管机构，对算法进行行政许可，只有通过实验证据证明算法是安全和可靠的才能进入市场。在我国，2020年中国消费者协会也建议设立一个算法伦理监督机构，负责制定和调查算法应用伦理、规则和标准。

从监管制度建设来说，亟需加快制定算法应用规则和标准规范，推进算法公开制，提升算法透明度；建立算法问责制，强化算法侵权司法救济；加强算法伦理建设，提升算法公平性。

全国政协委员连玉明。（受访者/图）

算法黑箱，个人维权难

南方周末：算法治理是应对算法侵权的综合举措，既涉及侵害发生前的预防性防控，又涉及侵害发生后对侵害进行归责、追责与救济。你为什么更关注算法侵权的事后司法救济？

连玉明：算法治理的最大难点在于算法的不透明性和非人工性。许多算法决定是由通过处理大数据而进行深度学习的智能化机器作出的，有时连算法的创造者和设计者也很难清晰准确地了解智能化机器为什么会作出某项决定，以及什么时候作出这样的决定。

而且算法程序还可以进行不断的快速更新，从而很难进行事前监管,或者说事前监管也依然存在不可控性。另外，如果数字企业通过算法实施不当行为，由于这些行为通过自动化程序而大规模、隐秘化地实施，监管部门要搜集足够有力的证据，也存在很高成本。

而司法是维护社会公平正义的最后一道防线，针对算法治理中司法救济缺位的情形，未来应着重将个人在算法应用中的救济权利制度化和规范化。由于当前算法治理的主体缺位、制度建设相对滞后，所以，我在今年的两会提案中，主要围绕算法侵权事后司法救济中的公益诉讼制度建设提出相关建议。

南方周末：提出算法侵权公益诉讼制度的原因是个人维权困难吗？

连玉明：刚刚说到，由于算法黑箱或技术不透明性，算法侵权与传统的侵害行为相比，其因果进程更加冗长、复杂、不透明。同时，算法应用主体往往具有资本优势、权力优势和技术优势，由单独的个体进行维权时普遍遭遇举证难、认定难和追责难等现实困境。

南方周末：近年来检察院也在拓展公益诉讼新领域，从你的观察来看，将算法侵权纳入公益诉讼领域有多大的可能？

连玉明：公益诉讼的目的是为了维护社会公共利益，只有属于公共利益范畴的法益，才是公益诉讼救济的对象。从现实中的个案来看算法侵权可能都比较轻微，但因算法的广泛应用具有集合性、累积性、系统性，可能对社会集体造成的负面影响则是广泛而深远的。算法侵权行为中众多不特定人的利益，是公共利益的本质体现。因此，应该尽快将算法侵权纳入公益诉讼的法定领域。

个人信息保护法就专门设立公益诉讼条款，明确将个人信息保护纳入检察公益诉讼法定领域。这也为将算法侵权纳入公益诉讼的法定领域提供了借鉴和基础。

南方周末：以公法机构打击滥用算法侵权在当下有哪些挑战？

连玉明：以公法机构打击滥用算法侵权在当下所面临挑战，主要表现在两低一高上。一个是制度支撑度低。算法侵权公益诉讼的相关法律制度亟待完善，受案范围、程序规则等具体操作问题需要明确。一个是社会认知度低。公益诉讼本身的社会认知就不高，算法侵害又是一个全新的领域，公众了解更加有限。

另外，诉讼成本高，公益诉讼涉及复杂的法律问题和大量取证，容易导致“望而却步”。

南方周末：当下可以从哪些层面着手？

连玉明：围绕算法侵权公益诉讼制度的建设，当前应该主要从以下三个方面加快行动。一是将算法侵权领域纳入公益诉讼法定范畴，建议最高人民法院和最高人民检察院尽快出台针对算法侵权的司法解释和专题指导案例。

二是加快构建以人民检察院为主导、社会组织和个人共同参与的算法侵权公益诉讼多元主体模式，推动多元主体协同治理。由于算法侵权案件特有的专业性和复杂性，要调动全社会、各领域、多层次的专门组织和专业人士，构建公益诉讼支持系统，降低法律成本。

三是加强算法侵权公益诉讼制度的宣传工作。通过多种形式、多种渠道扩大社会公众对算法侵权公益诉讼制度的知晓度和参与度，让公众充分了解算法侵权公益诉讼对保护群体利益、守护公共利益的重要作用。

南方周末记者 刘怡仙

责编 谭畅