李智超 - 网络交易中的“算法利维坦”及其治理之策

网络交易的普及带来了平台经济的繁荣，在算法社会来临的背景下，网络交易“消费者—电商平台—商家”独特的交易结构和海量多维的大数据,赋予了互联网平台企业垄断地位和信息优势，也为形成“算法利维坦”提供了可能。上海交通大学国际应急治理研究院李智超研究员在《国家治理》周刊撰文指出，“大数据杀熟”、竞价排名机制、“外卖骑手困在系统里”等现象，呈现了算法社会中网络交易的失序与困境。要打开“算法黑箱”、避免算法“作恶”，通过优化网络交易结构与评价算法、保护消费者隐私、交易互评机制和第三方评价等手段，构建良好的网络交易秩序。

更多内容，请点击封面购买本期杂志

《中国移动互联网发展报告（2021）》显示2020年全国网上零售额为11.76万亿元，同比增长10.9%，网络交易已经深深嵌入到经济社会运行中，成为经济生活的有机组成部分。互联网中的电商平台在很大程度上解决了线上交易中买卖双方的交易安全与互信问题，大小商家纷纷抓住新增长点带来的机会，通过互联网交易平台将商业重心从线下转向线上。

算法技术是商业模式创新与技术进步相结合的产物，其商业价值在网络交易的实践中得到充分的展现。算法技术在网络交易中的快速发展，一方面极大地提高了交易匹配的精准度、提升了商业社会运行效率、增强了经济活力。如基于算法技术建立的用户画像可以更精准的匹配用户需求，为网络交易的买卖双方提供差异化的服务；另一方面，在新业态和新技术的产生与快速发展的同时，失序现象也相伴而生，由“算法黑箱”“算法歧视”“算法茧房”等引发的纠纷与失序现象层出不穷，无论是对消费者，还是对于商家，都造成了相当大的困扰。

算法社会中网络交易的结构性特征

网络交易是指利用计算机技术、网络技术和远程通信技术，在企业之间、企业和消费者之间以及个人与个人之间实现交易过程的数字化和网络化。网络交易实质上形成了一个虚拟的市场交换场所，人们通过网络获知商品信息，物流配送系统和资金结算系统作为支撑，协助完成网络交易。算法是达成特定目标的程序，网络交易产生的大数据为算法的广泛应用提供了契机。然而，与网络交易相伴生的一系列问题，诸如消费者隐私与信息安全问题、商品质量与用户体验问题、商品运输与递送风险、商品售后服务问题等，均关乎网购交易体系，而此体系深深嵌入于一系列的交易结构和交易规则之中。

第一，“消费者—电商平台—商家”这种独特的交易结构，成为网络交易纠纷的催化剂和放大器。传统线下交易，“消费者—商家”二元关系是其基本交易结构，商家的信誉、客户的粘性都在这一结构中培育生发，商家之间的竞争与优胜劣汰也同样源自于该交易结构。基于传统交易而形成的信誉机制与社会信用体系以及作为交易外部制度安排的工商质检，都可以发挥有效的质量管控功能。而网购交易体系具有“小前端、大平台、富生态”的格局特点，电商平台处于整个交易体系的统领地位，具体表现为准入门槛设定、资格审核、商家评级排名、纠纷处理，等等。在这样的交易结构之下，电商平台当中的各商家对于“网购差评”十分敏感且难以容忍，因为网购差评可能对其信用评价、营业收入甚至商家自身的生死存亡产生决定性的影响，相似的交易结构也出现在网约车平台、点送餐平台等网络交易平台之中。

第二，电商平台的垄断地位和“算法利维坦”，即智能算法带来治理效益的同时也会生成新的社会风险。在“消费者—电商平台—商家”这一交易结构中，电商平台毫无疑问地处于优势地位。在整个网络交易空间中，电商平台也同样具有支配地位，从网络购物市场份额看，阿里无线（淘宝）一家独大，在整个市场份额中占比约为70%，远超其他电子商务企业。虽然电商平台吸纳了支付、物流、保险、第三方质检等多元主体参与其中，行为主体呈现出了多元化复合化的特点，但是电商平台是关键游戏规则的制定者。如何推荐商品给消费者、如何衡量商家信用、如何反馈纠纷、如何派单等，无一不需要电商平台开发的各种算法。算法通常以客观中立、价值无涉的形象呈现，但算法由谁来制定、遵循何种规则、如何被执行，都是其背后设计者的价值选择与既有利益格局的体现。“算法利维坦”的吊诡之处在于，电商、消费者和商家似乎都受其支配，当出现交易争议时，平台电商通常甩锅给算法，而消费者与商家如入无物之阵，不知如何对自身权益加以保护。

第三，算法正义对于调整网络交易结构和优化交易秩序至关重要。目前电商平台的交易评价机制，并没有给予商家充分的反馈与改进空间。例如，在某位消费者给予某项商品或服务差评之后，电商平台上很难留存商家进行后续实质性改进的痕迹，但给商家却留下一笔难以抹去的差评记录。这在现有网购生态结构中，对于商家的信誉可能有致命性的影响。在此意义上，商家对于差评也便很难以容忍，更有甚者出现粗暴恐吓消费者以达到让消费者改口或删除差评的恶性现象。算法即规则，而规则即治理。算法已经成为塑造网络交易秩序，保护交易各方权益的重要工具。但算法并非天然就是客观和中立的，它也是新的权力与财富分配的工具。算法也会形成歧视与偏见，主要存在着两种类型。一是原生性算法歧视。对于网购交易而言，原生性的算法歧视是指在程序设计之初由于技术性原因，没有及时对偏差进行校正而产生。二是外源性算法歧视。在算法设计和执行过程中，都受到其外部环境的影响。对于网购交易而言，主要有资本干预、利益驱动、技术的滥用误用等。算法在协助达成有效交易的同时，也带来了算法伦理问题，诸如侵犯消费者隐私、“杀熟”“欺生”的消费歧视等。因而，算法正义对于调整网络交易结构与优化交易秩序显得十分重要。

算法社会中网络交易的失序

在互联网经济的场域中，大数据已经成为市场竞争的基础性要素，而算法通过对大数据的发掘利用，成为市场竞争的基础性技术。但合理的交易秩序并不能够自然而然地形成，因此算法成为塑造网络交易秩序、保护交易各方权益的重要工具。网络交易中的算法是平台企业基于自身目的所设计开发的，互联网经济具有天然的垄断趋势，应对新业态和新技术的法律法规相对滞后，这使得互联网平台企业可以利用自己的数据优势和算法技术滥用市场支配地位，侵害网络交易中其他主体的权益，造成一系列失序现象。

首先，互联网平台利用算法进行大数据“杀熟”的现象屡见不鲜。复旦大学孙金云团队通过调研发现，用滴滴出行平台打车，“熟人”比“新人”的打车费用可能更高。互联网平台与商家在用户不知情的条件下，根据不同的用户画像特征启用不同的定价策略，以期在最大程度上获取利益。这种互联网平台企业利用算法技术，最大化攫取消费者剩余的“大数据杀熟”现象，已接近经济学中的一级价格歧视。虽然平台企业给出的解释常常是“算法技术原因”，但这种价格歧视有违商业伦理，已受到社会舆论的广泛质疑。

其次，互联网平台的竞价推广机制一定程度上干扰了正常的交易秩序。相对于传统零售业，网购交易秩序的构建更加依赖于交易评价。网络交易无法像传统市场购物那样通过接触商品而获得购买决策信息，买卖双方在商品质量信息占有方面更加不平衡，信息不对称问题比传统交易市场更为严重。因此，针对每一次网购交易的评价、记录、信息透明、信用评级等，就显得尤为重要。而由于互联网平台的算法中往往会引入竞价排名系统，这使得网络交易中的推荐排序，并不是基于商品和服务的品质以及消费者的偏好而定，而是很大程度上依赖于商家的竞价排名。加之网购中“刷好评”与“刷差评”乱象普遍存在，这些因素都会对消费者的购买决策产生干扰。同时，由于平台把控了网络流量入口，平台的竞价机制决定了平台上的商品与服务的流量，而流量又进一步影响商业价值，这种“竞价为先”“流量为王”的现象，则会形成消费者的信息茧房，创造出很多消费者原本并不存在的需求，进而诱导消费者陷入消费陷阱，引发非理性消费和借贷消费的社会风险。

最后，算法时代的网络交易失序不止影响商品与服务的购买方，还存在于供给方之中。平台经济在人们衣食住行各个领域全面拓展的过程中，在劳动关系方面还出现了所谓“去雇佣关系”的趋势，以网约车、外卖送餐、内容付费、灵活用工等为主要表现形式的互联网“零工经济”逐渐兴起。“零工经济”中的用工关系在很大程度上仍然是一种从属性的雇佣劳动，但这种新型用工形态已经超出《劳动关系法》中雇佣关系的调整范围。2020年，一篇名为《外卖骑手，困在系统里》的文章，在网络上引起热议，鲜活地呈现了新型用工形态下，处于弱势地位劳动者的生存样态。“零工经济”中的平台用工，在看似松散的劳动关系之下，却利用算法严格控制劳动者的劳动过程。“零工经济”中劳动者受到更少的法律保护和更多的企业控制，在随时可能因失业而中断收入的压力下，劳动者对网络交易平台的依附性增强，使得劳资关系不断向资方倾斜，劳动者权益的保护迫在眉睫。

构建网络交易秩序的治理之策

随着算法社会的来临，算法已经在商业领域充分展现其自身价值，并逐渐向社会各个领域渗透。人们在享受算法带来的便利的同时，也不得不面对算法带来的风险与挑战，算法时代对政府监管的组织形式和技术水平提出新要求。随着我国网络交易环境（基础设施、电子支付手段、物流支持）的不断完善，参与网络交易的群体日益庞大，消费者权利意识也在逐步加强。在算法社会的背景下，如何建构公正合理的网络交易秩序，在技术进步的同时，保护各方利益主体的合理合法权益，可从以下几个方面入手：

第一，搭建包括政府监管机构、电商平台和商家的网购三级质量管控体系。电商平台作为核心管控主体，应更加积极提升自身的管控能力，优化网购评价算法，引入第三方评价机制与多主体参与互评机制。政府监管机构应致力于搭建与电商平台、商家的信息沟通渠道，更好地发挥“看得见的手”的作用，积极利用政策和制度杠杆，调节网络交易市场的结构性问题。

第二，在优化网络交易结构方面，应积极采取引入多元竞争、加强政府监管等办法，弱化电商平台的自然垄断。首先，积极营造更加公平的网络交易外部环境，增进网络交易平台的自由竞争。在较为充分竞争的市场中，电商平台将有更大的动力提供优质的平台服务；商家也将不断创新营销策略，提供优质的产品、改进服务质量。其次，电商平台应建立和不断完善在线信誉反馈系统、第三方担保支付系统以及商品质量沟通体系，使“消费者—电商平台—商家”的网络交易结构更加均衡。

第三，打开“算法黑箱”，避免“算法作恶”。网络交易中涉及的复杂算法，由于其极高的技术壁垒，消费者难以窥视其规则本质，“算法黑箱”由此而生。为避免“算法作恶”，应遵循授权同意原则和公开透明原则。首先，电商平台在系统收集分析消费者信息之前，应使消费者和商家充分知情同意，不能擅自超越授权性质和授权范围收集和分析交易数据；其次，公开透明原则要求电商平台应向消费者和商户明示算法系统的设计原理、部署目的，在法律规范框架之内建立强制性信息披露和信息共享机制，持续公开网购评价算法，保证在网络交易过程中，算法能够通过反馈不断地加以改进。

第四，在网络交易评价的设计理念方面，应坚持人的尊严和价值优先原则。算法是为交易服务的工具，而不应成为交易的主宰。建立健全算法歧视纠正机制，在交易算法开发者、应用者、销售者以及管理者之间搭建有效的沟通桥梁；设置管控机制，将算法异化与歧视减缩到最小，以便形成公开公平的交易算法与网络交易体系。

第五，根据技术与市场的发展，不断完善网络交易的法律法规。新业态、新技术的不断发展使得法律法规在具体实施的过程中仍有较大的模糊空间。网络交易涉及到隐私与信息安全保护、电子证据与电子签名的法律认定、电子支付及金融管理、政府强制措施及审核机制、司法的国际管辖和国际协助等事项，这需要立法机关与司法机关与时俱进，进一步明确数据的所有权，完善相关法律规定，尝试在平台网络交易领域采取公益诉讼与举证责任倒置等措施，为良好有序的网络交易秩序提供有力法治保障。

来源 |《国家治理》周刊2022年5月下

原文标题 | 网络交易中的“算法利维坦”及其治理之策

作者 | 上海交通大学国际应急治理研究院研究员 李智超

新媒体编辑 | 程静静

原文责编 | 程静静

美编 | 王嘉骐

声明：《国家治理》周刊原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者。