齐向东：针对AI黑箱化等危机，有“三大策略”化解

　　在11月21日于乌镇峰会网络安全技术发展与国际合作论坛上，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东就人工智能的发展现状及其面临的挑战发表了见解。他强调，人工智能的实际效果，核心在于使用者的能力与意图。针对当前AI领域面临的黑箱化、黑产化、武器化三重危机，齐向东提出了三大应对策略，旨在保障AI技术的健康发展。

　　首先，他建议采取多维度、体系化的防护措施，涵盖大模型的基础运行环境、训练环境、API接口以及数据安全等多个方面。考虑到大模型生命周期中各环节的不确定性，从数据安全到算法开发、模型安全乃至应用安全，均需确保合规性。

　　其次，他提出利用“鉴伪”、“防伪”技术来有效遏制深度伪造技术的滥用。针对生成式伪造语音和视频技术的快速发展，应加速研发相关检测技术，以应对这一安全威胁。

　　最后，他强调利用安全大模型来提升整体安全能力的重要性。建立全面的安全防护系统，是AI安全大模型驱动安全的关键。奇安信的内生安全体系成功将网络安全设备与业务流转、不同层次的信息系统紧密结合，确保了安全能力的无死角覆盖，促进了多道网络安全防线的有效协同，实现了从宏观到微观的全面防护。

　　齐向东总结道：“唯有高效的安全治理，方能确保AI的可持续发展。”他承诺，奇安信将充分利用其技术专长，为AI安全治理贡献力量，携手共创一个更加和谐、繁荣的未来。

　　此次论坛由编辑韦英姿协助编辑，赵琳负责校对。