AI时代，我们应该如何看待“安全”新命题？

　　在AI时代，安全威胁不再局限于外部，更可能源自内部，其性质更为复杂多样。安全挑战已全面覆盖企业AI体系的全生命周期，迫切需要升级防护手段。

　　短短10分钟内，一笔高达430万元的巨款被AI换脸、变声等技术骗走，这仅是AI技术普及后违法犯罪案件的冰山一角，直接触及消费者身边的安全问题。据奇安信发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈案件激增了3000%。生成式AI不仅为企业带来速度、规模、精度和先进性等益处，也降低了攻击者的技术门槛。黑客利用AGI（人工智能生成模型）工具，可能几分钟就能生成攻击病毒，大大提高了黑客攻击的效率和范围。

　　DeepInstinct的第四版报告指出，2024年有75%的安全专业人员目睹了网络攻击的增加，其中85%的攻击由生成式AI驱动。黑客不仅会利用AI技术威胁企业组织，还会尝试攻击企业的AI模型，利用企业的AI来对付企业。例如，他们可能让企业的AI对供应链做出错误预测，或者使聊天机器人产生仇恨情绪。此外，黑客还觊觎企业的大模型基础设施。

　　AI正在全方位“威胁”企业安全，包括网络安全、软件安全、数据安全、主机安全，以及伦理安全和人质安全等多个方面，呈现出复杂性和多元性的特点。这迫使许多企业不得不增加预算以应对AI时代带来的各种变数。根据IBM的“生成式AI时代的网络安全研究报告”，高管们表示，他们2023年的AI网络安全预算比2021年增加了51%，并预计到2025年，这些预算将再增加43%。

　　在AI引导的新一轮技术革命中，技术服务商需利用AI技术提升安全能力和运营效率，并助力对抗新技术带来的新风险。而对于企业而言，必须紧跟时代步伐，但如何规避沿途的危险，成为了一个亟待解决的问题。

　　在AI时代，数据安全的定义正在发生变化。AI技术的脆弱性和对数据的强依赖性，使得企业在享受AI带来的便利时，也面临着前所未有的数据安全挑战。企业想要实现AI赋能，首要步骤便是收集大量、多样且具代表性的训练数据。然而，这些数据的来源可能并不安全，收集过程中存在被窃取的风险，甚至可能因未经同意而违反隐私政策和法律。数据收集之后还需经过清洗、标注和增强等处理环节。若此过程中有恶意数据注入，将直接导致模型训练偏差，进而影响模型决策的准确性。此外，模型设计、训练、调优、测试和部署等环节同样不容忽视。特别是云部署模式，企业需根据自身业务需求选择私有云、社区云、公共云或混合云。然而，每种部署模式都面临不同的数据安全问题。

　　面对AI时代的复杂性和动态性，传统的数据安全举措已难以应对新的挑战。企业需采取全面的安全策略并持续进行技术改进以最大限度地减少数据安全风险。这要求企业在数据收集、处理、存储和传输等各个环节都保持高度警惕确保数据的安全性和可靠性。同时数据加密、同态加密技术、访问控制和多因素认证机制、数据脱敏技术、对抗性攻击的防御机制和模型水印技术等策略与技术应运而生为数据安全保驾护航。此外越来越多的企业开始将AI技术应用于数据安全领域通过机器学习和深度学习技术实时监测网络流量识别异常行为实现快速响应潜在的安全威胁。IBM商业价值研究院的研究显示64%的高管已将网络安全确定为生成式AI用例的首要任务84%的人表示他们计划优先考虑生成式AI网络安全解决方案而非传统的网络安全解决方案。这表明AI在数据安全领域的应用正逐渐成为主流。

　　总之在不断变化的风险环境中技术服务商需要借助AI的力量来应对数据安全的新挑战通过不断研发和优化AI安全产品和技术更好地保护企业的数据安全为AI技术的健康发展提供有力保障。同时随着越来越多的AI应用落地数据安全这个命题将面临更大的挑战只有时刻保持警惕不断创新加强合作才能共筑起一道坚不可摧的数据安全长城。