生成式 AI 在网络安全中的应用

关键要点

• 生成式 AI 正迅速成为网络安全领域的重要工具。
• 该技术的应用将推动企业内部积极变化并创造新机会。
• 行业内领导者认为，AI 在威胁检测、合规和数据分析方面具有巨大的潜力。
• 组织在整合 AI 时需考虑伦理框架与透明度，以有效应对潜在风险。
• 企业应促进开放沟通，以便员工了解 AI 部署的计划及影响。

随着生成式 AI 迅速成为网络安全领域的重要工具，行业领袖们相信这种技术在他们公司内部的实际应用将推动积极变化并创造新的机会。

Wazuh 的创始人兼首席执行官 Santiago Bassett 表示，生成式 AI 创建内容的能力是其成为信息安全领域关键部分的基础。AI的自然语言处理能力使其能够将复杂的数据解析为人类可用的清晰可行的分析，从而节省时间和金钱。

“我们是一个 SIEM (安全信息与事件管理) 平台，一个开源的 SIEM 解决方案，我们正尝试利用 AI
更好地生成威胁检测内容，以帮助保护我们的用户。我其实已经用 GPT-4 （ChatGPT Plus 的语言模型）完成了这个过程，结果出乎意料地好。”
Bassett 说道。

(编辑注：此特性属于 SC 媒体的，完整获奖名单可查看
。)

Bassett 指出，需要对内容进行验证，因为这就像是一个初级工程师试图创建威胁检测规则。但如果训练数据的质量足够好，就能从 AI 模型中获得非常好的内容。

他还表示，AI 模型可以通过输入来自多个源的威胁遥测数据来学习创建威胁检测内容。

“我们正在开发一个新的 SIEM 引擎，计划明年发布，实际上我们正在测试所有这些新功能，主要依赖于可以帮助我们进行测试的 AI 模型。”他补充说道。

BlackCloak 的创始人兼首席执行官 Chris Pierson 表示，他认为生成式 AI 在异常检测方面将提供极大的帮助。

“给它输入大量已知的信息，看看它如何解决未知的问题，以识别何时发生异常。”

鉴于安全团队需要处理大量警报和数据，Pierson 认为 AI 将帮助转变分析师的角色。

“这是异常检测、欺诈和反洗钱的一个激动人心的领域……这将成为圣杯。不是取代分析师，而是基于这些个人、公司、产品和解决方案深厚的知识，使他们更有效。对于我们的行业来说，这将是一次革命。”他表示。

RegScale 的高级首席工程师兼布道者 Greg Elin 也看到了他所工作的治理和风险合规公司在 AI 基础上的重大转型，即正在探索基于 AI的合规模型和网络安全。

“我一直认为，在制作我们为联邦政府和不同组织所需的大型合规文件时，机器学习有应用的地方。但实际上，我们未能进行机器学习，因为没有人愿意与监管者之外的任何人分享他们的合规信息。”

他还强调，无法获得经过整理的系统安全计划集合，也就无法利用大数据进行机器学习。因此，他们无法在该领域中应用这些工具，但现如今，生成式 AI 却能够创建内容。

Bassett 还认为，AI 在测试方面也扮演着重要角色，例如在威胁检测中。

“我个人使用 ChatGPT 来测试我为分析 Windows 事件数据而准备的威胁检测规则。令人惊讶的是，这确实很有效，可以测试你自己的工作。”

作为一个开源解决方案，Wazuh 认为它将从用户利用 AI 中获益。

“我看到我们的用户社区正在围绕 AI 开发用例，主要与安全警报的 enrichment 相关，为安全分析师提供关于特定威胁的背景。”

他补充道：“这实际上将帮助安全分析师更好地理解我们生成的警报的含义。使用安全工具时，用户通常会收到成千上万的警报，理解特定脆弱性的意义是非常困难的。”

Elin 还表示，他和他所合作