数字时代如何应对网络安全新挑战？今天举行的论坛上，专家学者们这样说

今天上午，2023年国家网络安全宣传周上海地区主论坛在上海国家会展中心举行。

论坛以“数字时代如何应对网络安全新挑战”为主题，多位来自高校、研究机构、行业一线的专家学者受邀参会，通过主题分享和圆桌会议方式，共同探讨数字时代的网络安全和数据安全话题。

图说：论坛现场 潘高峰/摄（下同）

中国工程院院士、复旦大学金融科技研究院院长柴洪峰在视频寄语中对金融大模型监管提出建议。柴洪峰认为，在数据安全方面，需要对大模型训练过程中的数据安全等级做严格的界定，监管机构也应加强对金融大模型的审查和风险评估，对关键人物和系统应建立审查和测试的机制，确保其性能和安全性；为了实现建立监管框架与标准，确保大模型在金融领域的应用符合法规与道德要求，需要通过政产学研的合作制定相关的政策和指南；对于金融大模型的部署与使用需要协同共治，提升透明度，保证数据质量和可解释性的机制，帮助用户与监管机构理解模型的决策依据，并确保其不带有偏见或歧视性。

中国信息通信研究院华东分院院长廖运发针对AIGC大模型可能带来的安全风险表达担忧，他认为算法设计、算法黑箱、应用安全包括外部攻击、深度伪造等，都是AIGC大模型面临的安全挑战。他认为必须构建一个AIGC大模型的数字安全空间，这对于AIGC大模型发展是至关重要的。为此他建议加快人工智能技术研发，特别是可信人工智能的逻辑可控，同时加快标准的研究制定，推动底线政策的监管，统筹发展与安全。

上海观安信息技术股份有限公司联合创始人胡绍勇认为，数据安全建设首先要明确安全责任体系，包括管理体系、制度体系、流程体系，数据持有者应有相应的数据安全责任。同时要做好数据分级分类，梳理好敏感数据的家底，知道当前有哪些数据，哪些级别，定好相应的流程和规范，哪些级别的数据应有哪些基础安全要素、安全基线。最重要的是数据存储和数据访问，比如在数据存储里面普遍看到的超期超限的，就需要及时治理，包括过期数据如何进行销毁，如何保障合法的人员合法使用数据，同时做到可用不可见。

公安部第三研究所网络安全法律研究中心主任、研究员黄道丽认为，现在网络安全面临的最大挑战是怎么把制度的能力转化为实际的治理能力。因为法律最大的特点是稳定性，网络安全风险和网络安全形势却是不断变化的，甚至有时候它的风险会突破，比如AIGC、人工智能的风险是否会突破传统认识的数据安全与个人信息保护。她认为网络安全规则的细化需要产业界、运营者、数据处理者以及社会第三方共同推进。尤其是当前网络安全执法的力度和覆盖面较为有限，如何提高执法能力，加强执法队伍建设等，对数字时代的网络安全是极大的挑战。

上海市信息安全测评认证中心创新研究院副院长徐御指出，网络安全原来以系统与网络为核心，现在以数据为核心。中国数据安全制度供给在逐步加大，包括《数安法》《个保法》等，上海也推动了很多试点，以数据安全为中心的思路去构建整个城市的数据安全体系，但这些工作目前还处于起步阶段，数据安全的供给侧仍需产业升级，一旦数据的一键加密、数据脱敏等高效的产品推出，满足对于数据泄露、数据篡改等方面的需求，网络安全产业的发展会更加快速。

上海交通大学人工智能研究院院长宋海涛认为，随着人工智能技术的发展，下一步可能会很快地进入到算力的新型网络，未来整个AI的智算资源很有可能会像电网一样，算力入户、算力入校。面对这样的发展，现在的网络安全涵盖面会更大。另外，人工智能和AIGC的产生，加速了人们对于信息的有效压缩能力和表达能力，大量的信息内容通过网络生成，这是网络安全面临的新的技术挑战。他建议不仅要以科技自强来保护人民群众的生命财产安全，还要加强网络安全方面伦理和治理体系的研究和建设。

新民晚报记者 潘高峰