AI行为造成严重危害时，谁来担责?这一论坛上，专家们观点碰撞

“当AI行为造成严重危害时，责任链条应如何追溯？是追究设计者的算法缺陷责任、生产者的生产缺陷责任、使用者的不当应用责任，还是监管者的失职责任？”

“刑法应避免过早、过宽地将尚不明确的行为予以犯罪化，从而防止刑法成为阻碍技术探索和产业创新的‘绊脚石’。”

“如何判断科技创新行为是否存在过度冒险？我认为有四重标准。”......

在今天召开的第十六届博和法律论坛上，来自理论实务界专家学者就“面向新质生产力的刑事法治理论前瞻与实践变革”这一主题展开了热烈且深刻的探讨。

人工智能、自动驾驶、虚拟货币、区块链等新兴技术正重塑着经济社会的基本面貌与每个人的日常生活，同样也催生了刑事法治领域的新挑战与新需求。上海市法治研究会副会长、博和汉商律师事务所主任林东品在致辞中表示，如何填补传统刑事法律理论与新型经济形态、技术应用间的衔接空白；如何在刑事诉讼程序中满足涉新质生产力案件的办理需求；如何提升知识产权刑事保护体系对新兴技术成果的保护范围、力度及响应速度；如何在刑事侦查、辩护、审判中合理应用法律科技工具，都亟待探寻答案。

“新质生产力发展需要法治保障，但是如何在创新发展和规制之间找到平衡，这是我们产业发展的过程中面临的最大问题。”上海社会科学院应用经济研究所副所长刘亮在作“新质生产力驱动下的中国式现代化”主旨发言中坦言。

“刑事法治如何既有效保障新质生产力的发展，又妥善应对其带来的新型风险，我们应当认真思考。”这一问题也同样得到中国犯罪学学会副会长、上海市犯罪学学会会长应培礼关注。他认为，刑法必须在“保障社会安全”与“促进创新发展”之间寻求平衡，既要避免过度干预阻碍创新活力，又要对具有严重社会危害性的行为进行必要的规制。一方面，要通过明确刑法保护边界，维护公平竞争的市场环境，从而有效保护创新主体的积极性。另一方面，刑事手段的运用必须保持谦抑与审慎。“在新兴产业领域，许多技术应用尚处于探索阶段，法律性质和社会风险有待观察。刑法应避免过早、过宽地将尚不明确的行为予以犯罪化，从而防止刑法成为阻碍技术探索和产业创新的‘绊脚石’。”

对此，华东政法大学刑事法学院“经天学者”特聘教授、博士生导师姜涛深感认同。在他看来，刑法应审慎对待科技创新行为。“只有当企业的创新行为是过度冒险行为时，刑法应予以规制。如何来判断是否过度冒险？”姜涛表示，有盲目冒险、超出社会容忍度、重大灾难和潜在危害不可逆四重标准，“面对新质生产力，面对科技创新带来的风险，真正的安全不是消灭所有威胁，而是建立可持续的共存机制。”

发展新质生产力，对刑事诉讼制度和刑事司法实践提出了哪些新要求，又该如何应对？在中国刑事诉讼法学研究会副会长孙长永看来，发展新质生产力对刑诉制度提出了三方面要求：要求加强对新型领域的保护、提高刑事司法的效率、加强对人权刑事执法和司法的保障。针对修改刑诉法以适应新质生产力的发展需要，他提出了三方面针对性意见，包括健全刑事审判程序、系统优化律师辩护制度和刑事被害人的权利保护制度等。

“我认为，刑事司法实践需要应对的，不是新问题，而是旧问题的新表现形式，比如网络犯罪中犯罪场合的变化、行为表现和风险的变化等。”博和汉商律师事务所执行主任王思维认为，这也意味着刑事司法实践理念将从稳定向应变，事后回应向事先预判，消极向积极转变。“未来，针对新型案件的刑事司法实践中，法律解释、跨领域协作、行业融合等必要性要愈发凸显，也是法律从业者努力的方向。”王思维说。

专家们普遍认为，数智时代的数据安全与数据犯罪治理困境突出，数据作为新质生产力核心要素，其采集、存储、流通、利用过程中的法律边界模糊，数据泄露、非法交易等犯罪行为的打击与防范面临技术与法律双重挑战。

应培礼介绍，当下我国对数据犯罪的规制模式是权利保护模式，体现为“刑法先行”的规制理念和“绝对权”的保护模式。“这一规制模式在一定程度上实现了刑法对于数据安全的保护，但也导致在司法实践中数据概念和数据安全法益的扩大化，难以适应数字经济时代发展的要求。”为此，他建议，应当面向数字经济时代对于数据安全与流通的需要，重构建与之适配的刑事规制体系。可探索建立分级分类的刑事保护机制，对核心数据、重要数据与一般数据进行差异化刑事规制，确保保护力度与数据价值、风险等级相匹配。

“应当明确刑法的保障法地位，以前置法的相应规定为参考，进一步完善数据犯罪的罪质、罪量认定标准。”应培礼表示，这要求刑事司法不能进行抽象判断，而必须深入到具体的数据处理场景中，依据前置法的规范目的与具体规则，准确识别被侵害的具体法益，是个人隐私、财产权益、社会管理秩序还是国家安全，实现正确定罪。而对"情节严重""造成严重后果"等罪量要素的认定标准，刑法应积极与前置法确立的行政违法责任相衔接。例如：对于侵犯公民个人信息罪，可借鉴《个人信息保护法》的规制逻辑，在认定信息数量时，严格区分信息的敏感程度，如行踪轨迹、通信内容与其他信息，并遵循去重、真实性验证等原则进行审慎计算。

当AI行为造成严重危害时，责任链条应如何追溯？是追究设计者的算法缺陷责任、生产者的生产缺陷责任、使用者的不当应用责任，还是监管者的失职责任？“这迫切需要法学与计算机科学、伦理学等领域的深度交叉融合，共同审视‘行为’、‘故意’、‘过失’、‘因果关系’等基本概念在智能时代的内涵。”在实践层面，则需要通过仔细研究典型个案，逐步积累裁判智慧，审慎划分技术风险与法律责任的边界，探索建立符合时代要求和刑事法治要求的基本归责范式。

下午的圆桌论坛则围绕“数智时代的数据安全与数据犯罪治理”、“技术创新的新型风险与知识产权刑事保护”、“人工智能催生的刑事法理论挑战与实践应对”等议题展开。

作者 | 胡蝶飞