5G技术下的人工智能正逐渐走向智能时代，人民网研究院编撰发布的移动互联网蓝皮书《中国移动互联网发展报告》（2019版）就指出，人工智能与产业结合推动爆发式增长是未来我国移动互联网发展的重大趋势之一。而人工智能作为一项基础性技术支撑，为各行各业赋能，将形成新一波高速发展浪潮。这样的大背景下，网络信息安全也被赋予了更广泛更深刻的定义。

虽然这段时间疫情的反弹给我们带来了些许困扰，但绝不会阻挡我们对「CIS 2021网络安全创新大会Spring·春日版」的一腔热情。3月9日，5G与人工智能安全论坛直播专场带大家同大咖一起分享5G与人工智能领域网安最新最燃的idea。

政企数字化网络安全行业研究洞察

亿欧EqualOcean   新科技事业部研究总监 孙毅颂

演讲一开始，孙毅颂便清晰地指出历经了四个时代的发展，如今的网络安全已步入“大安全”时代，而面临比较大的一个问题是政企数字化转型催生众多网络安全风险，使得传统防护手段难以抵御。也正因如此，2021年中国网络安全市场规模超过2000亿元，并且孙毅颂大胆预测2021-2023年的复合增长率将达到19.3%。

随着信息产业不断升级，云计算、大数据、物联网与工业互联网不断渗透到各个行业。相较于传统网络安全产品，行业细分领域如云安全、数据安全与物联网安全领域等需求正在超越传统安全产品赛道。孙毅颂预测，2021年中国云安全、数据安全、物联网安全市场规模分别为113.1亿68.4亿元、244.2亿元，2021-2023年各细分领域年均复合增速均超过30.0％。

政府方面，随着政府数字化转型的不断推推进，中央和地方政府建设规划和工作方案陆续出台、建设执行逐步落实。孙毅颂认为中国数字政府的建设已初显成效，在创新政府治理和服务模式、提升行政管理和服务效率，提高政府公信力和执行力等方面发挥越来越明显的作用。

然而，受新冠疫情和国际局势变化的持续影响，政府网站成为易受攻击的目标。因此，政府正成为网安下游市场的绝对主力。

对于政府网安的发展痛点，孙毅颂概括为以下8点：政策制度体系待完善；网络安全基础不平衡；顶层规划与历史问题难兼容；政务数据“不敢用、不会用”；基层人员安全意识不足，经费缺乏保障；应急能力薄弱；网安人才不足。

企业方面，企业遭遇的网络风险也进一步加剧，管理者对此的重视程度也逐年提升。

孙毅颂也用了四个点来概况企业网安的发展痛点：企业安全管理制度不完善；企业对自身资产不清晰；企业安全产品呈孤立状态；企业安全人才匮乏。

最后，他提到了为应对政企网安问题而会获得很大发展机遇的新技术，分别是永不信任、持续验证的零信任理念，云原生安全以及隐私计算。

AI在XDR中的自动化安全分析实践

浙江大学网络空间安全学院博士 熊春霖

演讲伊始，熊春霖博士分别对Autonomic Security Operations、XDR、TDIR进行了背景介绍，

随后在第一部分“AI在安全检测场景下的问题”中，以静态文件检测为例，分析了AI在安全检测场景下的常见问题并将其梳理为四个类别：

问题合理性：不同文件类型、攻击类型、加壳混淆

模型可解释性：模型本身可解释性、溯源取证；用户解释、模型评估、迭代优化

模型可演进性：需要更新时，是否必须重新训练

AI在强对抗场景的不足：安全的核心就是对抗

演讲的第二部分是“AI在安全检测场景下的实践”，熊春霖博士重点分享了常被用于时序事件推理的贝叶斯方法与传统机器学习的区别，将其优点概况为三个：可解释性，可演进，适应不同环境。然后就动态行为检测-EBA展开具体分析。

“知识用于辅助XDR攻击分析”是演讲的最后一个部分，熊春霖博士就攻击技术、IT架构、威胁变化、基础技术、法律政策等方面进行了分享，并对网络安全进行了“安全是成本的对抗”的总结。

AI for Attacker:攻击者画像

蚂蚁集团 网商银行安全工程师 柳星

将我们能看到的攻击比喻为冰山一角，通过这样生动形象的比喻，柳星一针见血地将安全行业内总是治标不治本的症结概况为“视野有限，知识有限”。

因此在“正常用户数字化，攻击者数字化”的大环境下，识别攻击者就是首要且非常重要的一个环节，也是管理Top风险和进行全面技术布局的先决条件。

在柳星看来，无论是攻击者还是防守者技术布局主要分为三个维度：数据智能，机器智能，知识图谱。他也在演讲中列举了一些技术布局的实际应用场景。而他对于网络安全的理解则是“知识体的对抗”。

From AISec to AISecOps 安全智能应用之道

绿盟科技 高级安全研究员 张润滋

从AISec到AISecOps的能力升级，张润滋概括为四个方面：

场景升级：从检测主动到运营辅助

数据升级：从单一数据到数据湖

指标升级：从鲁棒精确到精细化可运营

问题升级：从模式识别到自适应、可解释

对于其意义，张润滋的理解是“智能驱动安全运营， 以安全运营目标为导向，以人、流程、技术与数据的融合为基础，面向预防、检测、响应、预测、恢复等网络安全风险控制、攻防对抗的关键环节，构建具有高自动化水平的可信任安全智能，以辅助甚至代替人提供各类安全运营服务的能力。”

演讲通篇就技术成熟度，安全运营技术模型，基本逻辑，关键技术趋势与技术方向等具体内容展开了详细的阐述。

在关键技术趋势与技术方向部分，张润滋提出的四大前沿方向与六大痛点既指出目前技术升级的难点同时也为其提供了建设性前瞻性的意见。

四大前沿方向

可解释的鲁棒异常检测（UEBA）

大规模异构图异常检测与路径分析（XDR）

灵活多模的威胁狩猎语言（Threat Hunting）

面向隐私防护与性能瓶颈的分布式分析(Federated Learning)

六大痛点

大规模运营数据的数据质量评估（Analytics）

可编排可交互的特征抽取与分析框架（Architecture）
大规模多源日志全量分诊（Alert Triage）
实体行为画像侧写（CAASM， UEBA）
基于知识图谱的数据规范与知识增强（Knowledge Graph）
动化渗透攻击路径与利用决策（BAS）

人工智能与数据安全

中电科拟态安全技术有限公司 首席技术官 沙文灏

如今，人工智能与数据对于个体，对于企业，对于社会都有着举足轻重的影响。对此，沙文灏将其概括为：

数智为安「可信」：构建复合化安全智能体

数智为金「强国」：为巨人孵化智能独角兽

数智为金「强国」：为巨人孵化智能独角兽

数智为绿「环保」：构建环保新能源的产业链(氢能)

结合国家「十四· 五规划」整体结构，沙文灏预测了未来20年对人工智能与脑科学提携发展路径，并持绝对积极乐观的态度，甚至预计在未来10年内能够诞生真正模拟人脑的“True

AI”。

随着社会的系统和数据量的飞跃性增加，人工智能的工程系统越来越复杂，以模型化为代表的人工智能技术也在快速发展。目前，基于模型的系统工程MBSE(Model Based Systems Engineering)已成为推动系统工程向人工智能化发展不可或缺的实施手段。为确保基于模型的系统工程MBSE的安全可信，需考虑“冗余”、“退缩” 、“边界” 等因素， 而通过形式化方法确定“可解释性边界” 、“性能可控边界”、“风险可控边界”、“安全可控边界”是唯一的选择。

随后，沙文灏就人工智能安全课题与技术框架、网络安全的产业与趋势、数据安全、能力成熟度模型、跨境数据安全、智能系统与知识图谱、数字化转型(DX)的规划、企业数字化、隐私计算、信息系统安全等重点问题进行分享。

光影照进现实：AI物理攻防的那些事儿

腾讯安全朱雀实验室AI安全研究员 zhaodali

AI虽然带来了生产力的提升，但也带来了新的安全隐患，AI模型的数据准备、模型训练、模型部署等各个环节都面临层出不穷的攻击。因此AI的算法安全、数据安全以及赋能安全的重要性就不言而喻了。

对于AI对抗攻击，zhaodali介绍了从真实AI系统中数据难接触的数字攻击到更贴近AI系统真实应用场景的物理攻击的变化。虽然物理攻击的难度大大增加，但其危害性大、覆盖范围广，因为输入的微小扰动都会对输出造成较大干扰，而且覆盖视觉、语音、NLP等各个场景。

物理攻击中又包含需接触、隐蔽性差的接触性攻击和不需要接触、瞬间攻击、隐蔽性强的非接触式攻击。光影攻击就是属于非接触式攻击的范畴，只是目前它的实操性和鲁棒性都比较弱。

形状改变，颜色失真、反光现象是目前光影攻击实践中面临的三大难点，zhaodali也在演讲中将其原因与解决方法一一进行了详细阐述。

最后，zhaodali指出，AI对抗攻击应从数据、模型、模型训练、模型部署方面着手进行应对。

数据盾甲 构建数据安全智能内核

阿里云安全应用算法专家 孟雷

数据安全威胁每时每刻都在全球各地发生，数据泄露的成本与数据安全产业的规模也因此在逐年递增，各地也不断颁布新的法律法规以应对。而目前数据安全攻防场景扁平离散，碎片孤岛是遇到的棘手问题。在孟雷看来，安全智能内核是一项理想的解决方案。

用户从终端开始到访问网络到web服务到应用到数据库，各环节都有对应的安全保护设备，数据库审计是离数据库最近的方法，是孟雷认为的数据安全智能内核，演讲详细介绍了其SQL解析模块、基线学习引擎、数据采集引擎、自学习及检测引擎、异常评估模块和警告分析规则模块。

合规审计是孟雷认为的另一数据安全智能内核，他从个体评估层、群体评估层以及融合策略层对此进行了更深层的分析。

展望未来物联网引发的安全思考

Orange Cyberdefense 蔡高翔

IOT物联网，是Internet Of Things的缩写，将现实物理设备接入到互联网，达成与网络进行通信的设备，通过传感器连接并同步到云端，为笨拙的设备增加智能设备之间实时传输。

现如今，物联网在全球创造5.5万亿至12.6万亿美元的经济价值，工厂环境和人类健康环境占据了物联网经济价值份额前两位，分别占比26%和14%。而中国占全球物联网经济价值的26%左右。2019年以来的新冠疫情催生了远程办公的普及同时也促进了物联网的发展。

在这样的背景下，我们需树立“全面建设”信息安全思维，维护网络安全就是维护国家安全。因此，网络安全行业人才需求同比不断增长，而网络安全行业的营收也在逐年上升。

IOT设备安全主要包含了两个大类：IOT设备自身的安全与IOT设备安全关系的网络安全。蔡高翔分别通过智能汽车、路由器、手机分别对此进行了详细的阐述。

5G时代蚁群算法助力海量物联网设备风险分析

斗象科技 安全算法专家 陈伟

当今，物联网设备发展非常迅猛，到2025年物联网设备规模将达到60亿，5G时代物联网威胁呈现出影响面大，危害严重，攻击隐蔽性强的特点。主要威胁可概括为：端口扫描，勒索软件，中间人攻击，恶意软件0日漏洞，DDOS僵尸网络，APT攻击。对此，可运用网络流量分析，文件分析，主机日志分析等的AI+大数据威胁分析技术进行应对。

而面对与日俱增的海量攻击，进行风险分析的时候也应更着重风险重要度，攻击者画像，资产画像，风险子图排序，最长攻击路径，资产威胁态势等方面进行攻击者分析，资产分析和风险分析。

在如何溯源真实攻击路径问题上，陈伟详细分析了蚁群算法。

人工智能个人信息保护实践

商汤科技 安全副总监 成瑾

随着深度学习算法的不断突破，人工智能产品被广泛运用到智慧城市、智慧医疗、智慧商业、智能驾驶等多个不同的行业场景中。也实现了图像识别、文字识别、医疗影像识别、视频分析，语音识别等功能。人工智能在提供便捷应用的同时，也面临了重大隐患。

人工智能产品面临的安全威胁主要包括：算法模型威胁、数据安全与个人信息保护安全威胁，应用安全威胁和产品底座安全威胁。

应对威胁，成瑾提出了“一二三”信息保护路线，一个组织架构、两种管理手段、三种防护思路。

一个组织架构为信息安全委员会；两种管理手段分别是信息安全体系和内控审计；三种防护思路为贯穿产品研发全生命周期的安全管控、产品遵循默认符合个人信息保护要求设计以及高安全超算中心建设与运营。

安全市场进入发展快车道

随着5G技术的不断发展和商用化，人工智能已经从原有单机智能逐步向互联智能发展，5G为人工智能带来更多数据、算力，人工智能和5G结合将带来更多应用场景，但运用这些新技术的过程中也必然伴随新风险、新挑战。

毫无疑问，5G人工智能安全充满了无限的象限空间，越来越多的空间边界正被打破，从行业应用程序到商业应用程序，再到家庭应用程序，安全产品场景将无处不在。而随着5G和人工智能技术的日趋成熟，越来越多的产品和场景将融入到安全当中，推动整个安全市场进入飞速增长的快车道。