8月28日，在2019中国国际智能产业博览会期间，以“人工智能护航‘大安全时代’”为主题的“人工智能与安全高峰论坛”成功举办。论坛由中国国际智能产业博览会主办，360集团承办，重庆市合川区人民政府协办。重庆市人大常委会副主任张定宇到会并致辞。论坛还特邀了中国工程院院士沈昌祥、中国科学院院士郑建华、国家密码管理局商用密码管理办公室副巡视员霍炜、中国网络空间安全协会副理事长杜跃进、360集团副总裁/智慧城市事业部总裁穆鸿等嘉宾参会。重庆市人大常委会、市经信委、市网信办、市密码局相关领导，以及中共重庆市合川区委书记李应兰、合川区区长徐万忠等到会并表示祝贺。论坛由中国计算机学会计算机安全专委会主任严明主持。

重庆市人大常委会副主任 张定宇

论坛还邀请了来自国内外人工智能和安全领域的专家学者、厂商、企业用户代表300多人，从产业、技术、市场和应用等多个层面，畅谈了“大安全时代”人工智能与安全的融合趋势，旨在推动“大安全时代”的生态建设与发展，为社会经济的高质量发展添薪续力。

用好人工智能这把“双刃剑”

当前，以大数据、人工智能等为代表的新一代信息技术日新月异，智能产业蓬勃发展，对经济发展、社会进步和全球治理等产生了重大而深远的影响。而人工智能正是引领这一轮科技革命和产业变革的战略性关键技术。

重庆市人大常委会副主任张定宇在论坛上致辞时表示，在中国，人工智能已经成为赋能实体经济、助推高质量发展的新动能。“人工智能＋”成为经济增长的新引擎。但是，我们必须警惕，每一项新技术在从诞生到应用的过程中，安全问题都会如影随行。尤其是进入数字经济时代，安全问题不断突破原有边界，真实世界与网络世界之间的界限越来越模糊，甚至网络上的攻击也开始向真实世界蔓延。因此，必须加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。

审时度势，人工智能如今已经变成了国家层面的激烈博弈，很多国家都制定了人工智能发展战略与规划，全面推进人工智能的发展。与此同时，人工智能带来的安全问题以及如何应对也成了关乎人工智能健康发展的关键问题之一。

中国网络空间安全协会副理事长 杜跃进

中国网络空间安全协会副理事长杜跃进指出，人工智能是一柄双刃剑。人工智能与安全的融合是大势所趋。一方面，我们要利用人工智能技术提升安全方面的能力；另一方面，人工智能本身作为一种计算机软硬件技术，它自身如何防止安全的缺陷、被攻击者利用，也必须引起各方的高度重视。

在轰轰烈烈的数字革命中，我国正面临着前所未有的网络安全挑战，而这恰恰也是我们最大的机会。如果我国的网络安全产业界能够抓住这个机会，不断创新，锐意突破，不仅有可能在我国建立一个繁荣的网络安全市场，更有可能让我国在网络安全市场引领全球发展。

2017年7月，国务院印发了《新一代人工智能发展规划》，同年12月，工信部发布《促进新一代人工智能产业发展三年行动计划(2018-2020)》，目前正是三年行动计划的第二年，处在攻坚期。我们现在谈论安全问题，正是为了给人工智能保驾护航。

在新的安全形势下，我们必须树立科学的网络安全观。安全是发展的前提，发展是安全的保障。没有网络安全，信息社会将成为黑暗中的废墟。中国工程院院士沈昌祥在“用可信计算3.0筑牢人工智能安全防线”的主题演讲中指出，基于可信计算建立主动免疫的可信安全框架，是解决当前人工智能安全问题的重要基础和保障。

中国工程院院士 沈昌祥

从目前的发展趋势看，人工智能在网络安全领域得到了越来越广泛的应用，未来将在网络安全防御、主动性网络策略方面发挥越来越大的作用。中国科学院院士郑建华在谈到人工智能应用与信息安全的关系时特别强调了两点：一方面，要深入了解人工智能应用的安全需求；另一方面，要善用网络安全中的人工智能技术。两者相辅相成，相互促进，共同发展。

中国科学院院士郑建华

在推动人工智能技术和应用发展的过程中，我们要披荆斩棘，在面对人工智能基础技术、人工智能应用技术、人工智能技术滥用、人工智能军备竞赛、数据和隐私泄露增大扩大等带来的安全风险时，更应该居安思危，积极应对。中国电子信息产业发展研究院副总工程师安晖给出了他的三点建议：以人工智能防范人工智能安全，应用反人工智能防范安全风险，加强人工智能领域的法律治理。总之，只有深刻认识到人工智能技术的双面性，找到人工智能导致安全问题产生的根源，才能妥善解决人工智能带来的安全问题。

新挑战 “智”应对

全球数字化的时代刚刚开始，新时代的数据安全也刚刚开始。中国科学院大学荆继武教授认为，今天，网络发展走进了新时代，也就是机器智能时代，数据安全技术面临新的挑战。为了更好地应对这些挑战，必须以数据安全技术作为最有力的武器，实现协同智能处理，建立标准化的多安全等级电子认证可信体系，这样才能更有效地保护数据资产。

用数字化的手段连接物理世界与网络世界已经是大势所趋。通过AI将安全能力从网络空间延伸到物理空间是必由之路。无论是网络空间安全，还是物理空间安全，都必须引起高度重视，两者其实是一体的，一脉相承，一个十分典型的例子就是智慧城市。360集团副总裁、智慧城市事业部总裁穆鸿指出，安全是智慧城市的基础和关键目标。在网络空间安全方面，要防范攻击组织化、军火民用化、漏洞产业化；在物理空间安全方面，要注意安全风险在持续增加，安全处置和防范的难度变大，安全由应对向防范转变。为解决这些问题，360集团推出了“城市安全大脑”，它是网络安全大脑的延伸和发展，通过对城市基础大数据、城市行为大数据、互联网大数据等的分析，可以更清楚地“看见”安全问题所在，并有效处置。

360集团副总裁、智慧城市事业部总裁 穆鸿

人工智能技术在工业领域的应用起步较早，并且在智能制造、工业互联网等方面已有所建树。工业信息安全防护推动了新一轮工业变革，已成为各国重塑工业发展、抢占竞争制高点的战略选择。中国华能集团公司首席信息师(CIO)、国务院国资委监管信息化专家组副组长朱卫列在谈到“让人工智能安全重塑未来工业”这个话题时结合了华能智能工业互联网的探索与实践，他指出，缺乏整体设计思维、单纯依靠技术、等级保护划分存在问题是最大的挑战，而兼顾安全与数据共享的思维体系、技术与管理两手抓、采用数据加密技术和智能安全才是解决之道。

没有网络安全就没有国家安全。在新的安全形势下，我们更要自主创新，推进陆基民网建设。中国科学院信息安全国家重点实验室教授、博士生导师吕述望指出，创新网络强国建设已深入人心。

大安全时代的新商机

在“大安全时代”，作为安全厂商，最直接的竞争对手并不是友商，而是那些恶意的黑客、黑产。人工智能、机器学习虽然可以在一定程度上提升我们解决安全问题的能力，但人工智能也并不是一种一劳永逸的工具。杜跃进表示，在与黑客、黑产的博弈中，我们要重新认识安全，重新考虑制度设计，充分调动各方力量实现治理模式，用更前瞻性的思想和战略、用创新的技术和工具武装自己，这样才能在知己知彼的安全战中始终立于不败之地。

圆桌论坛

“今天的网络威胁总是给我们带来惊讶。我们必须用新思维来解决新挑战。”赛门铁克公司大中国区首席运营官罗少辉表示，“运用大数据及AI技术提供自动化网络防御平台是赛门铁克公司的应对之道。”赛门铁克以集成联动的全方位安全防御平台(ICD)为底座，联合了120多家技术合作伙伴，完成了超过250种集成，有效地解决了安全孤岛问题。

AI技术在赋能各个产业的同时，也容易被网络黑产所利用，使得黑客攻击更加自动化、更加隐蔽，难于检测。DataVisor运用自动化AI技术，通过包含无监督机器学习引擎、有监督机器学习引擎、规则引擎、个体异常检测引擎在内的完整技术架构，可以有效打击智能化网络欺诈，保证客户的财产安全。

值得特别注意的是，当前全球各地针对关键基础设施的攻击越来越多，而且越来越有针对性，产生的破坏力也越来越大。公共基础设施的安全已列入国家安全范畴中。如何利用包括AI在内的创新技术提高公共基础设施的安全能力呢？英帝国司令爵衔、Ultra-MTS首席执行官Peter James Budd CBE在“打造智能保护平台，做公共基础设施安全的守护者”的演讲中谈到，他们打造的傲创微车捷运系统，将安全、智能、绿色融为一体，在实现基础设施智能化的同时，保证了安全、稳定、可靠。

最近这两年，我们真切地感受到了网络安全行业的热度。赛迪顾问的调研数据显示，2018年，整个网络安全市场的规模接近500亿元，增速20％以上，而2019年到2021年，增速还会更快；到2021年左右，市场规模将达到千亿元级。物联网安全、互联网安全、云安全将成为新的驱动力，大数据安全市场规模的增速将超过30％。赛迪顾问副总裁宋宇表示，在新的安全形势下，单个企业很难满足用户的所有需求，网络安全企业之间应该相互合作，营造一个健康的安全生态。

网络安全产业本身增长快，新技术、新应用层出不穷。在某些行业和场景中，网络安全可能会滞后于应用。随着互联网、大数据、人工智能的蓬勃发展，新技术带来的安全隐患和社会风险远远超出人们的预料，所以现在对新技术、新应用在使用之前都要进行风险评估。赛迪智库网络安全研究所所长刘权表示，网络安全责任重大，发展道路漫长而曲折，需要产学研用各方面团结一致，一步一个脚印往前走。

在人工智能与安全深入融合发展的过程中，我们应立足创新，弥补短板，确保将人工智能与安全的关键核心技术掌握在自己手中，未雨绸缪，稳步推进，将人工智能变成一个有用的辅助工具，让它在安全的诸多细分领域发挥更大的作用。在大安全时代，只有产学研用各方团结协作，才能从理论、技术、产品和应用多个维度更好地解决安全问题，为高质量发展保驾护航。