奇安信董事长建议：探索“AI+安全”创新应用，提高应对网络安全风险能力

　　AI技术的迅猛发展正不断加剧安全威胁，诸如数据泄露、欺诈攻击以及社会治理安全等问题日益凸显。生成式AI技术，能够迅速生成钓鱼邮件、编写恶意软件与代码，显著增加了攻击数量，导致AI欺诈事件频发。

　　据全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在2024年全国两会上的提案显示，他对AI技术的快速发展所带来的安全挑战表示高度关注。数据显示，生成式AI导致网络钓鱼邮件攻击增长135%。此外，AI还带来了数据非法获取、数据泄露及恶意滥用等安全问题。例如，ChatGPT在对话交互过程中能获取用户数据，进一步加剧了数据泄露的风险。更令人担忧的是，不法分子能够利用“深度伪造”技术换脸变声、伪造视频，使得“眼见未必为实”成为常态。

　　齐向东指出，人工智能的普及大幅降低了网络攻击的门槛，使得不懂代码、不懂技术的普通人也能成为黑客，从而增加了网络攻击的数量。专业的黑客组织则可以利用人工智能对网络攻击进行改造升级，如制作恶意软件、生成规避杀毒软件检测的代码等，使得网络攻击能力出现显著提升。

　　在AI算法攻击方面，机器视觉攻击、数据源污染等攻击频发。攻击者能够通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击，导致其产生错误判断。同时，由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

　　针对上述问题，齐向东提出了一系列建议。首先，要大力探索“AI+安全”的创新应用，提高应对网络空间安全风险与不确定性的能力，抢占国家安全的人工智能战略制高点，护航中国式现代化。其次，要开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发的突破。建议鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用，推动“AI+安全”进入越用越强的良性循环。此外，要强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用。建议像支持新能源汽车的发展一样，支持“AI+安全”的发展，设置专项基金，对研发创新“AI+安全”产品的企业给予政府基金、贴息贷款或科研项目等支持。最后，从人才方面来看，要壮大“AI+安全”领域的实战型、复合型人才队伍。随着AI技术的普及和应用领域的不断扩展，国内AI人才严重短缺。建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才。