发布需求
科技创新永无止境，人工智能正方兴未艾。在当今数字化时代，人工智能的迅猛发展不仅为各行各业带来了巨大的创新与便利，同时也引发了一系列前所未有的安全挑战。5月18日，在杭州国际博览中心举行的以“智绘安全乘数而上”为主题的2024第十二届西湖论剑·数字安全大会，聚焦探讨“数字安全助力数据要素×产业落地”“AI引领数字安全变革”等议题，全面、深入探讨人工智能浪潮下的数字安全新质生产力实现路径，旨在为国内数字安全领域的监管者、建设者、参与者提供一个交流与合作的平台，共同探索数字安全在AI时代的发展趋势，共同预见数字安全新未来。
人工智能的发展“巨浪”极大地改变了安全问题的内涵和外延，客观上对安全保障提出了新的要求，即个人应用需要谨慎，社会推广需要安全，国家发展需要防控，甚至国际治理需要协调。中国工程院院士吴世忠认为，在智能化时代要确保个人隐私和安全、维护社会和稳定、支撑国家发展和安全利益、维护国际合作和和平，确确实实要有一个安全、坚韧、可信的人工智能发展生态。对科技界、产业界而言，既责无旁贷，又大有可为。一是“三观”要正，二是技术要硬，三是能力要强，四是伦理要顺。
数字经济时代必须以网络安全为第一要务
当前，世界正处于第四次工业革命的开端，网络安全威胁已经从“信息域”扩大到“数据域+物理域+认知域”。中国工程院院士邬江兴认为，我国对原有数字生态系统掌控远未达到发达国家当前水平，网络安全范式至今仍未跳出别人画好的“圈圈”，继续沿袭延长线上跟踪老路，难以避免再度陷入“被牵着牛鼻子、卡脖子”的困境。
邬江兴分析，数字产业化、产业数字化转型时代，多重安全问题交织叠加，产生“新域新质”广义功能安全问题，用户侧与制造侧网络安全责任及风险严重失衡。制造侧往往选择性忽视安全责任，而用户侧承担过多安全责任与风险，相比制造侧，用户侧处于明显弱势地位。一是“看家护院”的网络安全卫士培训速度，也永远赶不上数字产业从业人员毕业数量;二是缓慢增加的网络安全产业规模，也远远赶不上“有毒带菌”数字产品爆炸式增长速度。
2024年正值“网络强国”战略提出十周年以及中国接入国际互联网三十载，站在新的时代起点，迎接新的风险挑战，亟需新的安全共识。邬江兴认为，平衡网络安全风险与责任要从“源头”技术抓起，否则“两张皮”问题无解，尤其是人类社会正在进入以数据作为关键生产要素的数字经济时代，必须以网络安全为第一要务。他说，我国数字生态系统底层驱动范式转变，必须从附加安全到设计安全，即从设计到使用的全生命周期中都要考虑网络安全，使网络系统具备“网络弹性”。
急需数字生态系统底层驱动范式转型
邬江兴指出，当前，人类社会正在进入以数据为关键要素的数字经济时代，传统网络安全治理的局限性日益凸显，急需数字生态系统底层驱动范式转型，即建立一种可防御且富有弹性和韧性的数字生态系统，使其更容易形成内在防御能力，能让攻击方付出比防御方更高的代价，实现防御优势的转变，从而能始终挫败数字生态系统面临的种种威胁。“我国数字生态系统底层驱动范式转型必须另辟蹊径，否则别无他法。”邬江兴表示。
数字安全是全球性的大课题，需要全球协作。新华网总裁申江婴代表国际电信联盟前秘书长赵厚麟发言时表示，要加强国际合作，鼓励技术创新，关注技术的“双刃剑”效应以及注重国际化的人才培养。杭州市人民政府副市长胥伟华认为，应该将数字化与实体经济深度融合，以此推动数字经济的再次腾飞。同时，也要抢抓机遇，构建坚实的数字安全“防护墙”。
中央网信办网络安全协调局副局长、一级巡视员郭涛分析说，关键信息基础设施在数字安全工作中占据核心地位，为加强其安全必须重视三个关键措施：首先，要科学明确地界定关键信息基础设施的安全保护范围;其次，需要进一步提升关键信息基础设施的协同防护能力;最后，构建一个教育、技术、产业融合发展的良性生态环境也至关重要。“应以网络强国的重要思想为指导，携手应对新征程上的各种新挑战，以全新的安全格局来保障新的发展格局，为维护数字安全贡献中国智慧和力量。”郭涛强调。
安全问题呈现出了前所未有的复杂性
随着AI技术的广泛应用，数据泄露、深度伪造等新型安全风险日益凸显，对国家安全和社会稳定构成了严重威胁。中国工程院院士吴世忠认为，AI正开辟新的时代，发展到AI新质生产力“算力+模型+数据+应用”的关键期。他说，算力即权力、模型显智力、数据育能力、应用为势力，目前AI焦虑引发全球关注，安全治理成为当务之急。因此，构建一个安全、坚韧、可信的人工智能发展生态至关重要，必须在推动技术发展的同时，充分考虑到安全保障，实现发展与安全的统筹兼顾。
实际上，随着人工智能技术的快速发展，尤其是大模型和生成式AI的兴起，数据安全问题日益凸显。同时，人工智能的广泛应用带来了新的安全挑战，比如思维漏洞的利用和恶意攻击等。吴世忠分析，在人工智能时代，安全问题呈现出了前所未有的复杂性，不仅涵盖了传统的信息安全，还包含了系统运行的稳定性和可靠性以及伦理安全，三者交织融合形成了全新的安全图景。“这是与传统安全问题的根本区别，对个人隐私保护、社会稳定、国家发展以及国际合作等方面都提出了新的挑战和要求。”吴世忠表示，
数字经济是新质生产力的关键领域，在新质生产力发展的结构中起全局性、战略性的意义，正在改变中国的经济结构。国家行政学院电子政务专家委员会原副主任、全国数字经济联盟学术委员汪玉凯认为，数字经济的发展必然伴随着数据安全和网络安全这两大难题，为了攻克两大难题，重点在于完善相关法律、增强防护能力、提高监管水平，尤其是特别关注数据和信息保护，让数字经济真正成为推动社会进步的新质生产力。
