内容安全智能检测系统发布

今天，网络安全技术创新与人才教育高峰论坛在长沙举行。其中，内容安全分论坛暨多媒体内容智能审核及检测学术研讨会聚焦网络安全问题，探讨人工智能时代内容安全产业的发展与技术创新。中国工程院院士方滨兴、张宏科出席论坛。

媒体融合时代，内容安全一直都是网络安全的重要组成部分。分论坛上，内容安全智能检测系统发布。该系统依托湖南日报社，由媒体融合内容感知与安全湖南省重点实验室联合国防科技大学计算机学院与湖南文盾信息技术有限公司共同开发。

该重点实验室主任廖忠介绍，系统深度嵌入湖南日报社内容生产发布平台，能在采、编、发全流程为报社的内容生产发布提供自动检测服务。目前，该检测系统已为湖南日报社旗下融媒体生产发布平台和全省72个县级融媒体中心，130多个机关、企业、园区、高校融媒体平台及省政府门户网站提供内容安全检测服务，相关图文和音视频等数据检测总量达100余万篇（条）。此外，该系统的云服务平台也正在进行产业化尝试，目前已与长沙市望城区区委组织部签约，为其提供内容安全检测服务。

利用人工智能技术自动生成文字、图片、音频、视频、代码等内容，使得通常人们所认为的“眼见为实”和“所见即所得”都不再一定真实，这也成为内容安全领域的不确定因素。内容安全分论坛上，与会人员围绕这一问题展开探讨。

方滨兴院士强调要提升人工智能的自我学习能力。“如果只是一味过滤敏感词和敏感话题，那么人工智能的成长就无从谈起。”方滨兴介绍，要让人工智能为人所用，就要让人工智能学习何为正确与错误，从而更好地服务于科技发展。

湖南大学网络空间安全系主任廖鑫介绍了相关技术的引入。目前他和团队正研发AI伪造媒体信息监测取证技术，致力于为网络内容安全提供保障。他表示，科技发展日新月异，人工智能技术管理任重而道远，要用科学来对抗虚假信息的过度溢出。