漆亚林、王钰涵｜社交机器人：数字用户的建构逻辑与智能陷阱的治理路向

内容提要

智能传播时代，社交机器人通过积极参与网络互动实现了传播主体性的升维。作为数字用户，社交机器人通过重构意见气候拥有影响社会认知的能力；作为低成本流量，机器人的流量造假增加了社会信用体系的“破窗”风险。该研究从社会建构的角度出发探讨社交机器人的行动机理与社会治理的关系，试图阐释社交机器人如何通过规模优势和技术赋能导致人机交互过程中人类用户的主体异化与认知偏差，如何改变社会秩序的建构逻辑，如何形成党同伐异的传播痛点等问题。在算法逻辑背后，把握社交机器人的行动目的和演进机制显得尤为重要，从全球治理、生态治理、人本治理维度建构系统性应对策略，可能为走出社交机器人的智能陷阱提供新路向。

关键词

社交机器人; 社会建构; 传播伦理; 社会治理

正文

一、引言

社会建构主义在从哲学向社会学及其他学科发展的过程中，始终强调社会现实及社会问题是在个人与他人及社会的动态互动中建构的。随着网络社会日渐成为现实社会的一部分，网络互动具有的元语音、触发出席、网络关联、生成性角色等特点，为网络新媒体影响和建构社会现实创造了条件，其中，社交机器人应运而生。不同于传统计算机算法的相对隐蔽，社交机器人往往以显性的用户和行动者的身份存在，他能够在社交媒体平台上自动生成内容、与人互动，试图模仿并可能改变人类用户的行为。良性的社交机器人可以帮助用户聚合内容，提供新闻摘要;恶意的社交机器人能够在政治领域加剧意见的两极分化、在商业领域操纵股票市场。随着智能化程度的不断提高与广泛应用，社交机器人已经能够通过网络互动形成或改变意见气候，并由此对真实生活产生切实影响，在虚拟现实的互动融合中改变话语秩序，重构社会关系。

国内外学者从计算机科学、社会学以及传播学等切面对社交机器人进行了多维研究。在从西方到东方的学术旅行中，既有研究对社交机器人的属性特征、行为模式、功能指向与技术治理等议题进行了集中讨论。在对社交机器人词频属性的分析中，研究者认为，社交机器人具有“拟人化”、“媒介性”、“类人性”、“交互性”等属性特征。上述特性是社交机器人行为模式、应用场景和功能指向的逻辑基础。在具体的行为识别及交往机理层面，研究者认为社交机器人的行为动机与模式定态源于其生成机制，即通过整合代码的方式来模拟真实的用户生成内容、进行扩散与人类交互。其行为模式是一种“分布与互动模式”、“准社会交往模式”和“人机传播模式”，与真实用户存在差异。社交机器人更倾向于分享新闻类文章，而非意见性信息。社交机器人使用链接更为频繁，这可能是因为不生产原创性内容可以降低编程难度。且人和机器人情感交流的模式与人际的情感交流模式不同，与人相比，机器人更倾向于传播情感强烈的信息。在功能指向与社会影响层面，研究者认为社交机器人扮演着操纵舆论、协商对话、情感陪伴、公共服务等角色。近年来，社交机器人通过操纵舆论进行政治参与及其带来的伦理问题成为学术界的研究热点。凯瑟琳·佛洛斯特(Catherine Forst)认为社交机器人引发了数字技术时代的政治腹语问题，并由此扰乱了政治秩序，形塑了现实政治生活，社交机器人作为政治腹语的言说者，往往指涉背后操纵主体的权力角逐。研究者通过对近300万条内容进行分析，证实机器人生产与推荐的内容改变了2016年美国大选期间Twitter支持希拉里和特朗普的内容比例。霍华德(Howard)和科兰伊(Kollanyi)则在研究中指出，英国脱欧期间不到1%的社交机器人生产了Twitter中32%的脱欧内容。在美国和欧洲之外的研究发现，对社交机器人的使用有助于右翼政党构建民族主义议程。随着社交机器人的传播失范现象日益凸显，对社交机器人的治理也开始为研究者所关注。

既有研究对社交机器人的社会影响和治理路径进行了有价值的探讨。但是在以下两个方面还有较大的拓展空间：其一，关于社交机器人的类人性及其作为数字用户的建构逻辑有待深入讨论。一些学者已经关注到社交机器人的“自主性”、“主体间性”、“有限人格”，而非仅仅是人类的工具。但是对于社交机器人随着智能技术和算法的迭代，逐渐成为与人类一样的“数字劳工”，并通过多重网络连接颠覆原有的传播生态，在不断环境化的过程中生成新的社会关系的理论观照不够。既有的研究对于社交机器人的智能陷阱及其产生的结构性风险亦讨论不足；其二，对于社交机器人伦理失范的治理研究更多从合法性和技术性的角度进行考察，但是社交机器人的治理更应是一个多元化、系统性、协同性与动态性的治理范式。本文针对研究现状思考并回应如下问题：作为数字用户的社交机器人进行社会建构的基本逻辑是什么?社交机器人如何体现类主体角色并导致主体异化?社交机器人如何通过流量造假破坏商业生态?如何建构一个多元视角与主体协同的社交机器人生态治理模式以规避智能陷阱?

二、无处不在：作为行动者的社交机器人

每个进行信息发布、参与互动的社交媒体用户都是平台中的行动者，其行为具有传递信息、表达态度、构建线上社交网络、形成社会资本等多重意义。基于算法生成的社交机器人是技术的产物，但作为真实的账号，其与网络中的人类行动者具有相似甚至相同的影响和功能，由此，机器人成为社交媒体平台中的数字用户。社交机器人不仅可以随时关注相关账号、发送私信、对推文进行转发和回复，还可以对账号的各项资料进行完善，甚至会在内容中发布真人照片，塑造完整而真实的社交用户形象。数字用户所具有的类人特征日益显性，成为与人类一样的“数字劳工”，并在网络互动中日益活跃。

基于数字用户的行动能力，当下社交机器人的活动已经延伸到包括政治、气候、公共卫生在内的诸多领域，并在一定程度上影响公众的思考惯习和认知机制。在政治层面，随着政治冲突和政治表达异化的加剧，用于政治传播和政治操控的社交机器人发挥的作用越来越大。北京冬奥会举办前后，Twitter上出现了大量煽动“外交抵制”的社交机器人账号，占比高达22.2%，它们主要来自美国、日本、加拿大。社交机器人恶意将“种族灭绝”话题附着在冬奥会议题上，并通过移花接木等手法，将冬奥会与“政治”、“新冠”、“人权”、“种族”等议题联系，旨在抹黑并污名化北京冬奥会。在气候层面，通过对Twitter上680万条关于气候变化的内容进行检测，马洛(Marlow)和米勒(Miller)等人发现，社交机器人就这一核心议题生产了约四分之一的原创内容。在公共卫生层面，2020年1月到3月间，社交机器人在Twitter平台上有关新冠疫情的讨论中贡献了9.27%的份额。除英语外，社交机器人还以法语、西班牙语、阿拉伯语等多种语言进行传播。目前，作为行动者的社交机器人广泛活跃在国内外的互联网平台之中。研究指出，15%的Twitter账户是社交机器人，5%-11%的Facebook账号背后并非真实的人类用户。在我国，2020年全年国内主要社交平台异常流量占比超过5成，而社交机器人在其中扮演了重要的角色。

此外，社交机器人的生产与应用门槛较低，世界上最主流的代码开源网站GitHub中，有近一千条由多种计算机语言编写的关于社交机器人的程序资源，市场上也已经有专门生产和销售社交机器人的公司存在。这意味着从技术层面而言，无论是个人还是组织都有可能利用社交机器人来达到行动目的。社交机器人成为当下社交平台无所不在的行动者，并在传播虚假信息、操纵公共舆论、进行社会动员、煽动公众情绪等方面影响显著。

三、人机共生：基于网络连接的社会建构

智能传播时代连接既是生产力，也是生产关系，社交机器人的网络行动基于三重连接展开。第一重连接在于社交机器人基于AI软件与技术算法系统融入传播体系，通过技术的物质属性形塑社会文化和交往行为。第二重连接在于社交机器人与其所有者的连接，社交机器人根据所有者的态度、指向及预置的编程进行定向的活动，实现传受交互的精准匹配与放大效应。算法实践通过对社会意识的编纂效果和形塑个体自我认同机制来驱动技术绩效和社会建构，从而生成或创造现实的切面。第三重连接则体现为社交机器人与真实用户的连接，社交机器人将真实用户生产的信息作为数据形态，并通过数据量化的定式机制进行内容的搬运和再生产来满足用户的个性化需要。这种具有可见性的数字制品是改变人类思维惯习、社会意识重新格式化的情景化合物。社交机器人基于上述三个维度与用户进行互动，建立连接，生成新关系和新机制。作为人为创设的数字用户，社交机器人在传播、劝服、塑造舆论气候的同时，也在无形之中形塑人类的无意识，进行真实的社会建构，进而改造社会构型。

(一)人机互动：主体异化与认知偏差

传统意义上的人机互动强调的是机器人为人类用户提供便利和服务，而当机器人进入到社交媒体平台时，人机互动的意涵得到巨大拓展。当下的社交机器人不是作为单纯的服务性角色存在，基于用户身份，社交机器人具有与人类相似的活动能力，乃至体型特征和情感反应，成为平台中的类主体角色。由此，社交媒体平台中的人机互动构建了一种双向的意义，不仅是社交机器人帮助人类用户提升账号、信息、态度的曝光度和可见度，人类用户也成为了机器人扩大网络影响力的重要节点和具身终端。

在一项关于社交机器人的研究中，研究者在微博平台上投放了96个社交机器人，并在42天的运行过程中累计获得了5546名粉丝，其中有89人的粉丝量超过1万，也就是说，社交机器人发布的内容有被89万人看到的可能。这意味着在社交媒体场域，人构建网络关系亦或是社交关系的主体性正面临着巨大的挑战，频繁参与网络互动的真实用户可能成为机器人与人，甚至是机器与机器之间连接的工具性介质。在与人类用户的不断互动中，社交机器人的网络形象也显得更加丰富、真实、质感，更具有欺骗性。从这个意义上来讲，人正在成为机器人优化内容、隐藏身份的工具，社交机器人的类主体性也逐步增强。

网络中的人机互动不仅建立了人与机器的社交关系，还重构了意见气候，推动了拟态环境进一步环境化，并由此构成“后真相”生态的逻辑基础。社交机器人的大量涌入干扰了网络场域中正常的传播规律，机器人可以通过谣言、错误信息甚至仅仅是噪音来干扰和影响媒体的话语;以用户身份存在的社交机器人倾向于积极参加转发活动，这使得放大平台中的某一种声音变得轻而易举，在多维互动之中，虚假的意见或者伪造事项逐渐环境化，进而影响乃至左右舆论的流向。在此基础上，社交机器人还以间接而隐蔽的方式形塑着个人的思维方式和行为取向。在人机共同建构的意见环境中，普通用户难以辨别信息的真伪及拟态环境与现实意见之间的误差，用户信息输入和输出的心理图式可能在无意识中被网络环境影响和改变，形成对现实世界的认知偏差，从而影响个人的行为与决策。社交机器人正在通过大规模的网络行动试图建构或重构个体认知及其行为逻辑。

更为严峻的挑战在于，社交机器人的信息生产植根于网络，而网络中的信息真假交织，机器人可能在虚假信息的生产与传播过程中扮演着重要的角色，甚至成为虚假信息的来源。亚兰(Allem)和埃斯科韦多(Escobedo)等人经过调查指出，社交机器人能够在Twitter上迅速传播未经证实的健康主张，库森和斯特伦贝克也在研究中发现了社交机器人传播谣言的经验性证据。互联网内容的真实性被进一步削弱，但虚假信息扩散能力却大幅提升。基于互动带来的信任和价值认同，任何一个真实用户都可能会成为机器人生产虚假内容的推手。

(二)流量造假：虚假繁荣与价值失范

在数据与资源、流量与机遇日益同构的当下，用户贡献的数据和流量被赋予了巨大的商业价值，直观而动态的数字已经成为企业决策与营销活动的重要参考，构成平台活力、发展空间的评价指标，并成为明星、主播、影视内容传播力与影响力的重要标尺。身处数据与流量构建的利益博弈空间，各类商业活动主体通过各种途径塑造流量优势，建构变现模式，提升市场价值，流量造假现象由此产生。

虽然社交机器人并不是虚假流量的唯一源头，但它的蜂拥而至确实使流量造假的成本前所未有的降低。凭借社交机器人的用户身份和行动能力，机器人成为了明星及KOL扩充粉丝量、提升商业价值的重要工具。2020年8-9月的调查数据显示，某直播平台头部主播的真实粉丝占比仅为58%，15%的腰尾部主播真实流量不到其数据的10%，2020年全年KOL平均无效粉丝占比高达60.5%。据业内人士透露，部分明星的活跃粉丝数目不足平台显示数目的三分之一。刷单平台上通过社交机器人对公众号文章、短视频、直播等内容创设了批量完成阅读量、点赞量、评论量、转发量、转化率的“流水线”和“产业链”，在一定程度上制约了互联网商业规则和诚信机制的建构，形成了“劣币驱除良币”的恶性竞争的网络环境。

在互联网广告层面，同时投放广告及与之相关的社交机器人已经成为企业商业活动中的“潜规则”。社交机器人迅速进入到互联网平台使得数据的成倍增长成为可能，信息曝光度及内容传播力大大提升，积极的企业形象和产品口碑由此建立。研究者通过对2900万条Twitter内容的分析指出，约三分之一的用户评价和反馈来源于机器人，社交机器人在口碑传播方面效果显著。但机器人的参与也使得在线口碑的可信度大幅下降，本应该具有非商业性质的口碑传播越来越呈现出利益驱动及非真实的特点。数据构建的虚假繁荣不仅欺骗了消费者，污染了商业环境，也会反噬企业己身。社交机器人的易得性为竞争对手之间的相互攻讦提供了可能，广泛存在的社交机器人及其提供的失真信息也在一定程度上干扰了决策者对自身品牌的客观认知。

社交机器人技术的迭代更新还进一步形塑了平台对此类数字用户的态度。尽管社交机器人与真实用户在账号信息、社交关系、发文特点等诸多方面存在不同，但现有研究结果显示，没有任何算法识别技术或人工识别方式可以成功筛选出社交平台上的所有机器人，作为社交机器人研究领域主流应用的Botometer也只能以一定的概率进行识别。在此背景下，作为社交机器人的主要活动空间，各类平台对社交机器人的态度也呈现出矛盾状态。一方面，平台会对于算法较为低端，机器人特质较为明显的账号进行处理；另一方面，平台又会保留大量的机器人账号，使得平台用户的整体数量、日活量稳定而充足，凸显平台的繁荣和活力形象。

在有意识的操纵和无意识的运行中，社交机器人正在以平台用户及低价格流量的身份挑战客观数据的合理性、科学性。并在这个过程中与人类用户共同建构企业、平台乃至行业的繁荣景象。但虚假繁荣的背后是切实的经济损失，在流量至上的信条之下，互联网商业生态正经历着巨大冲击。据统计，2020年我国互联网广告市场因异常流量造成的广告费损失高达305亿人民币。随着社交机器人的影响愈加广泛、深刻，社交机器人的社会建构能力也从相对抽象的互联网经济运行规律和诚信体系延伸至实体公司，数据清洗公司开始以企业和平台之外的第三方机构的身份出现，旨在通过对流量和数据进行分析，帮助广告主作出更为优质、高效的选择。

(三)AI偏向：技术形塑的公共意见与党同伐异

信息流通速度的提升及传播的便捷推动了日常生活的政治化，互联网平台逐渐成为政治意见表达、汇集、双向沟通的核心场域。在以美国为代表的西方国家，社交媒体已经成为选民与候选人对话的重要空间；在国内，政务新媒体及政民互动平台的搭建也为政府了解社情民意和公众态度提供了新渠道。

但社交机器人作为数字用户活动在社交媒体平台，对社会治理提出了新挑战，机器公民对政治议题的积极参与使得公共意见成为了悖论。这首先体现在社交机器人可以通过极为简单的方式在平台中形塑新的公共意见。研究表明，在社交媒体平台中，机器人不一定需要生产新的内容，他们只需要成倍的扩散存量内容，就可以扭转民意;在网络互动的基础上，5%到10%的社交机器人就足以引发公众舆论，生成沉默的螺旋效应，让公众意见支持他成为网络中的最终主导意见。基于数量优势，进入到政治领域的社交机器人正在对传统的多数代表制发起强烈冲击。其次，社交机器人的观点是预设的，而非经过多维互动和理性思考后逐步培养和形成的，其活动的本质是在服从平台算法逻辑的基础上不断强化和传播创作者的意见。固执的机器人在个人或团体的特定利益驱使下进行网络互动和观点表达，使得今天的网络政治不可避免地带有着虚假性的特点。社交媒体平台中平等的公共讨论更难实现，网络公共领域亟待话语秩序的重构。此外，社交机器人应用带来的冲击也使得长期使用的统计工具和社会分析工具面临着失灵的风险。社交机器人的积极活动可能影响政府和社会对热点事件和民意调查的判断，甚至形成伪认知，当下的政策制定者越来越难以把握真正的社会态度和整体情绪。社交机器人的社会构建功能也从网络世界逐步延伸到现实世界。基于社交媒体、机器人、政治广告等因素的影响，在美国，数字媒体公司及相关技术人员和团队正在越来越多地参与到政治选举中来。2020年美国大选中，Facebook、Twitter等多家社交媒体在获得补贴后，纷纷建立了便于政府机构搜集和控制信息流的机制，甚至美国军方也以“网军”的形式参与到了防御选举风险的进程之中。

随着人工智能技术的全球化发展，不同领域应用的社交机器人席卷了互联网世界，其活动超越了族群和国家界限。在国际传播场域，社交机器人及其识别技术俨然成为大国博弈、党同伐异的工具。政治主体利用刻板印象和议题预设在社交媒体平台上传播意识形态，通过社交机器人引导或干扰国际舆论以期实现国际政治目的的行为屡见不鲜。戈尔瓦(Gorwa)和吉尔伯特(Guilbeault)指出，基于自身利益，世界各地的政权已经开始给不同政见者贴上机器人的标签。研究发现，在涉港、澳、台、疆以及俄乌冲突等议题中，社交机器人更乐于发表反对中国政府立场的言论，以期促成舆论场上对中国的不利讨论。社交媒体在国际政治传播中的影响力和重要性日益提升，技术主义带来的工具理性不断凸显。无论是程序机器人还是“索菲亚”式的“机器人公民”，其本质力量来源于工具性的彰显，行动函数论认为人类的意识形态和情感偏向会通过环境化机制影响机器人的动机和实践。因此，社交机器人在与人类互相殖民过程中存在放大“恶行”的逻辑前提，在社交媒体场域助推失真泛滥和情绪极化，导致社会认知偏差被强化。技术上处于弱势的国家或地区言说自己的能力进一步削弱，而有能力进行自我表述的政治行为主体提供的信息却可能因为体制差异而被社交网络贴上标签，甚至被拒绝，导致事实与真相被遮蔽。班尼特(Bennet)所言的“幻象的政治”在互联网全球化、无界化的今天体现得更为显性。社交机器人的广泛使用为一些政治主体的目的达成提供了极大便利，也为更多国家或地区进行国际传播与制定外交政策带来新挑战。

四、社交机器人的治理路向

社交机器人在作为数字用户进行社会构建的过程中带来了一系列的伦理问题与传播风险。面对机器人产生的智能陷阱，技术和法律成为了治理的双重逻辑基础。当下的互联网治理一方面着眼技术层面，探索通过带有伦理色彩的技术革新来解决既有问题、弥补现存不足的路径，呼吁平台的社会责任；另一方面也强调在技术逻辑的基础上，通过法律的完善来加强对平台、技术公司及个人等权利主体的监管。依托社交机器人的用户身份和行为逻辑，基于人与平台关系的社交机器人协同治理范式正在建立。

(一)全球共治：超越意识形态的偏见

信息全球化已经成为发展的必然趋势，打造全球网络命运共同体，实行全球共治日益成为大多数国家和地区的共识。但实际上以美国为代表的西方国家对于社交机器人的态度也呈现出矛盾状态。美国一方面积极组建全球参与中心，用以反击来自外部的政治宣传和虚假信息，并指责俄罗斯通过社交媒体中的机器人和喷子干扰其选举进程。另一方面，Twitter中的社交机器人又积极参与到中美贸易谈判、新冠肺炎疫情等全球话题的讨论中来，力求塑造一个有利于己的舆论环境。意识形态已经成为了部分国家和地区对社交机器人进行评估的重要标准和变量。而社交机器人对信息、意见和情绪的放大作用意味着意识形态偏见和种族歧视可能会更加频繁地出现在网络社会，并推及全世界。发展中国家和地区亟须促进智能媒体的发展、提升国际传播能力，在了解西方国家话语体系的基础上，借助社交媒体的算法规则和推荐机制拓展自身的正义之声，通过多种形态的合作打破西方舆论在网络空间的话语霸权和意识形态壁垒。

(二)生态治理：发挥多元主体参与的协同效应

社交机器人治理是网络治理的新对象和新任务，各国或地区均采取了多元主体参与治理的模式。其中，面临三个亟需解决的关键性问题：一是建构不同主体在治理中的角色分工以及协同机制，形成以善治为核心，以法治、德治为保障的治理结构；二是层出不穷的技术迭代会不断产生新的智能陷阱或社交机器人伦理问题，国家对于网络平台的治理制度、法律要与时俱进、革故鼎新，同时建构社会责任与政府监管的调适机制；三是以社交机器人的使用主体商业平台为重点治理主体，将主流意识形态、社会责任和道德准则等指标纳入到算法逻辑之中，建构主流算法评价体系。

法者，治之端也。无论采用政府干预主义还是法律自我调节主义的国家或地区都试图加强政府在网络治理中的主导作用，并通过制定相应的法律规制进行监管和引导，以促进商业平台、社会组织、公民等主体参与网络治理。2019年，美国和欧洲各国家纷纷出台法律法规，打击网络平台假新闻、暴力等有害内容。英国指责Facebook等利用平台算法对假新闻起到推波助澜的作用，指责其为“数字黑帮”，凌驾于法律之上，破坏了民主，呼吁建立独立的监督机构，制定强制性行为准则，对违反规则的平台处以“巨额罚款”。2020年，欧盟委员会公布了《数字服务法案》和《数字市场法案》的草案，这是欧盟20年来在数字领域的首次重大立法，旨在理清数字服务提供者的责任和遏制大型网络平台的不正当竞争行为。但是，西方国家的政党主义、资本的逐利性及其强大的围猎力量难以形成基于公共利益的多元主体协同的网络治理机制。我国在十九届四中全会提出：“必须加强和创新社会治理，完善党委领导、政府负责、民主协商、社会协同、公众参与、法制保障、科技支撑的社会治理体系。”从顶层设计上制定了多元主体分工协作的治理体系，并从立法、执法和社会动员机制上对包括社交机器人在内的算法治理和网络生态治理进行指导。2020年3月，我国在颁布《中华人民共和国国家安全法》、《中华人民共和国网络安全法》、《互联网信息服务管理办法》的基础上，出台了《网络信息内容生态治理规定》，创造性地提出对网络内容生态进行协同治理的理念和具体举措。《规定》强调监管部门、内容生产者、信息接受者、传播平台、社会组织等主体协同治理是“打造清朗的网络空间”的基础架构和基本保障，是国家治理体系现代化和治理能力现代化的重要体现。2021年，四部委联合发布《互联网信息服务算法推荐管理规定》，打击深度造假、算法歧视等算法问题。国家网信办加强社会动员力量，开展“清朗·互联网用户账号运营乱象专项整治行动”，全面清理“僵尸”粉、机器粉，大力打击通过雇佣水军等方式的非自然涨粉行为。这为走出社交机器人的道德困境和智能陷阱提供了法律和政策支持。但是政府监管与治理在充分运用科技力量建构动态监测体系方面还有拓展的空间。

商业平台要承担起社交机器人治理的主体责任，及时化解诚信危机和伦理风险。遵守政策与法律是基本底线，社会责任和公共道德仍需强化。自《网络信息内容生态治理规定》颁布以来，我国搜狐、网易、快手等平台均成立网络生态治理专项小组，明确生态治理负责人。百度针对水军刷单、买卖公民信息等内容进行深入挖掘，清理拦截有害信息588万条，关闭贴吧167个。在“清朗”系列专项整治中，新浪微博持续打击违规涨粉行为，加强粉丝清理工作。2021年7月至10月，平台中累计发现违规涨粉账号超过1.1万个，涉及关系链近9亿。微博、微信、今日头条、小红书等商业平台开始测试显示用户发布内容时的IP属地，使得仿冒搬运、造谣传谣等行为无法遁形。多元主体发力营造了向上向善的网络环境，为社交机器人的治理加厚了文化土壤和道德基底。但在建构更为科学合理的审核人员培训机制，完善基于随机森林、神经网络等技术模型、用户活动模式、网络连接等行为特征的机器人用户识别方法，以及建构以科技责任为核心的算法指标体系等方面还有待进一步探索。

(三)以人为本：拓展算法逻辑背后的新素养

社交机器人作为一种技术应用，算法和程序的不断推进是治理现有问题、优化发展方向的基础策略。人们甚至在探讨通过算法的优化，打造道德机器人的可能性。但由于社交机器人自身的隐蔽性和表达内容的多样性，今天的社交机器人治理在技术上面临着一系列的难题和挑战。对社交机器人生产的内容进行识别和筛选的难点不在于如何通过语义分析来界定其内容的情感色彩，而在于如何减少，甚至是避免社交机器人对片面意见的放大，并对于良性的、服务性的社交机器人及非意见性和情绪性的信息性内容进行保留，对社交机器人的活动进行价值评判。这只能依赖技术逻辑背后的人及其组织的支撑性力量。

无论算法如何发展，技术始终为人所用，技术运行中呈现出来的种种问题往往是人的问题。社交机器人也是如此。社交机器人本身是一种弱人工智能，所使用的技术尚不足以处理高度特定领域的信息。社交机器人自身也并不具备情感和倾向，其内容和态度往往取决于使用者的政治立场和政治观点。作为网络活动主体存在的社交机器人，行动和立场往往出于现实生活主体的目的和诉求。因此，社交机器人治理的关键往往不在于社交机器人本身做了什么，而在于购买、使用社交机器人的资本，亦或是人想做什么。无论算法和技术如何演进，社会治理、法律实施的最终对象都是现实生活中的行动主体，精准把握社会活动主体才是治理能力提升的根本保障，对社交机器人的治理本质上是对人及其赖以生存的平台的治理。

技术迭代过程中除了完善法律规制和社会治理体系之外，人的媒介素养内涵亦亟须重构。在社交媒体崛起的背景下，机器人几乎深入到每一个平台用户的网络关系中来，并积极与人展开互动。但是，作为机器人互动的对象，普通用户对社交机器人的活动及其影响知之甚少。很多用户并未意识到与社交机器人的互动过程中存在个人信息泄露的风险，更难以知晓被关注也是一种互动，用户可能在无意识的状态下帮助社交机器人完成了网络中的社会化进程。用户对社交机器人缺乏认知，意味着媒介素养教育在一定程度上滞后于技术发展，也意味着媒介素养提升可能是社交机器人治理优化的新方向。面对技术接续发展对网络用户认知和实践的挑战，施穆克(Schmuck)和西科尔斯基(Sikorski)在媒介素养理论的基础上提出了社交机器人素养(social bot literacy)这一概念，并将其界定为个体对社交机器人正确认识、评价、互动，并对这一过程进行反思的意识、态度和能力。当下社会科学对社交机器人的研究更多的是从政治议题出发，关注社交机器人通过意见重塑给政治领域带来的风险和挑战，却忽略了社交机器人在互动过程中对个人的影响及潜在的伦理问题，而机器人素养的提出为社交机器人的理论研究提供了新思路。

五、余论

在当下的社交网络之中，社交机器人的存在已经不是偶发现象，机器人频繁的活跃在各类平台之中，依托于用户的行动能力对现实生活进行社会构建。学界对社交机器人的探讨和研究不断展开，但仍有较多可供开发的切面。由于法律、技术及平台保护机制的限制，学界对国内的社交媒体平台，特别是关涉微博、短视频平台机器人活动的研究尚未洞察幽微，社交机器人在平台中的活动意图仍不明显。同时，随着视觉传播的不断升维，社交机器人在短视频平台的内容生产、算法推荐、交互模式中存在的失范问题也有待进一步观察。

对社交机器人的认知和治理是一个长期的过程，尽管学术界关于社交机器人的批判性和技术性研究不断拓展，但对其全面认识和深入讨论还有较大的深化空间。对社交机器人催生的社会问题及其治理方案的提出也仅是其中的一个角度。本文对社交机器人的探讨和研究，不是为了消除平台中的社交机器人，而是为了更为全面地认识其类人特征，更加清晰地透视机器人互动背后的政治目的、技术逻辑和商业动向，尽力规避其对社会认知及政治经济领域带来的风险，促进社交机器人创造正面的社会价值，更好地为人服务，而不是跌入社交机器人建构的“智能陷阱”。

载《新闻与传播研究》2022年第9期

囿于篇幅，公号舍去注释，完整版本请见刊物。

编辑 | 戴睿敏