使用 AI 进行威胁检测和响应至关重要，但它无法取代人类的智慧、专业知识和直觉。

自 2010 年代以来，人工智能 （AI） 一直在帮助人类进行 IT 安全运营，快速分析大量数据以检测恶意行为的信号。由于企业云环境会产生数 TB 的数据进行分析，因此云规模的威胁检测依赖于 AI。但是，这种人工智能可以信任吗？还是隐藏的偏差会导致错过威胁和数据泄露？

云安全 AI 算法中的偏差

偏差可能会在用于云安全的AI 系统中产生风险。人类可以采取一些措施来减轻这种隐藏的威胁，但首先，了解存在哪些类型的偏差以及它们来自哪里是有帮助的。

• 训练数据偏差：假设用于训练 AI 和机器学习 （ML） 算法的数据不多样化或不代表整个威胁态势。在这种情况下，AI 可能会忽略威胁或将良性行为识别为恶意行为。例如，在偏向于一个地理区域的威胁的数据上训练的模型可能无法识别来自不同区域的威胁。
• 算法偏差：人工智能算法本身可以引入其偏差。例如，当良性活动与模式匹配或无法检测到已知威胁的细微变化时，使用模式匹配的系统可能会引发误报。算法也可能被无意中调整为支持误报，导致警报疲劳，或支持误报，从而允许威胁通过。
• 认知偏差：人们在处理信息和做出判断时会受到个人经验和偏好的影响。这就是我们的思维方式。一种认知偏差是偏爱支持我们当前信念的信息。当人们创建、训练和微调 AI 模型时，他们可以将这种认知偏差转移到 AI，导致模型忽略新的或未知的威胁，例如零日漏洞。

AI 偏差对云安全的威胁

我们将 AI 偏差称为对云安全的隐藏威胁，因为我们通常不知道偏差的存在，除非我们专门寻找它——或者直到为时已晚并且发生数据泄露。如果我们未能解决偏差问题，以下是一些可能会出错的事情：

• 不准确的威胁检测和遗漏的威胁：当训练数据不全面、不多样化和不及时时，AI 系统可能会过度优先处理某些威胁，而检测不足或遗漏其他威胁。
• 警报疲劳：误报的过量产生可能会使安全团队不堪重负，可能导致他们忽略在警报量中丢失的真正威胁。
• 易受新威胁：人工智能系统天生就有偏差，因为它们只能看到它们被训练看到的东西。如果系统不能通过持续更新来保持最新状态，并且不能持续学习，就无法保护云环境免受新出现的威胁。
• 信任侵蚀：由于 AI 偏差导致的威胁检测和响应反复出现不准确，可能会破坏利益相关者和安全运营中心 （SOC） 团队对 AI 系统的信任，从而长期影响云安全态势和声誉。
• 法律和监管风险：根据偏差的性质，人工智能系统可能会违反有关隐私、公平或歧视的法律或监管要求，从而导致罚款和声誉受损。
• 消除偏差并加强云安全性
• 虽然人类是 AI 安全工具中偏差的根源，但人类专业知识对于构建可信赖的 AI 以保护云至关重要。以下是安全领导者、SOC 团队和数据科学家可以采取的步骤，以减轻偏差、培养信任并实现 AI 提供的增强威胁检测和加速响应。
• 对安全团队和员工进行多样性教育：AI 模型从分析师在评估威胁时做出的分类和决策中学习。了解我们的偏差以及它们如何影响我们的决策可以帮助分析师避免有偏差的分类。安全领导者还可以确保 SOC 团队代表多样化的体验，以防止因偏差而导致的盲点。
• 解决训练数据的质量和完整性问题：采用强大的数据收集和预处理实践，以确保训练数据没有偏差，代表真实世界的云场景，并涵盖全面的网络威胁和恶意行为。
• 考虑云基础架构的特殊性：训练数据和算法必须适应公有云特定的漏洞，包括错误配置、多租户风险、权限、API 活动、网络活动以及人类和非人类的典型和异常行为。
• 在利用人工智能对抗偏差的同时，让人类处于“中间”：专门的人类团队来监控和评估分析师的工作和人工智能算法是否存在潜在的偏差，以确保系统是公正和公平的。同时，您可以使用专门的 AI 模型来识别训练数据和算法中的偏差。
• 投资于持续监控和更新：网络威胁和威胁参与者迅速发展。人工智能系统必须不断学习，模型应定期更新以检测新的和正在出现的威胁。
• 采用多层 AI：您可以通过将风险分散到多个 AI 系统来最大程度地减少偏差的影响。

• 努力实现可解释性和透明度：您的 AI 算法越复杂，就越难理解它们如何做出决策或预测。采用可解释的 AI 技术，深入了解 AI 结果背后的推理。
• 掌握减轻 AI 偏差的新兴技术：随着我们在 AI 领域的进步，我们目睹了发现、量化和解决偏差的技术激增。对抗性去偏差和反事实公平等创新方法正在获得动力。跟上这些最新技术对于开发公平高效的云安全 AI 系统至关重要。
• 向托管云安全服务提供商询问偏差：构建、训练和维护用于威胁检测和响应的 AI 系统非常困难、昂贵且耗时。许多企业正在转向服务提供商来增强其 SOC 运营。使用这些标准来帮助评估服务提供商解决 AI 偏差的程度。
• 鉴于企业云环境的规模和复杂性，无论是内部服务还是外部服务，使用 AI 进行威胁检测和响应都至关重要。然而，你永远无法用人工智能取代人类的智慧、专业知识和直觉。为了避免 AI 偏差并保护您的云环境，请为熟练的网络安全专业人员配备功能强大、可扩展的 AI 工具，这些工具由强大的策略和人工监督管理。