新的CISA指南：保护关键基础设施免受AI威胁

关键要点

• CISA发布新指南，旨在保护关键基础设施系统，以应对人工智能带来的威胁。
• 指南涵盖三方面的安全考虑：防御AI工具攻击者、保护AI系统不受攻击、开发安全的AI系统。
• 建议建立AI风险管理文化，评估和跟踪AI风险，优先处理安全问题。

美国网络安全与基础设施安全局（CISA）发布了新指南，旨在保护关键基础设施系统，面对日益受到人工智能影响的威胁环境。

（PDF）从三个不同的视角讨论了关键基础设施的风险与安全问题：防御使用AI工具的攻击者、保护AI驱动的系统以及开发安全和可靠的AI系统。

这些指导方针是CISA的母组织国土安全部(DHS)响应去年10月总统乔·拜登发布的广泛而推出的一系列倡议中的最新举措。

DHS在中表示：“这些资源是该部门更广泛努力的一部分，旨在保护国家的关键基础设施，并帮助利益相关者利用AI。”

CISA局长詹·伊斯特利（JenEasterly）在声明中指出：“基于CISA作为国家关键基础设施安全与韧性协调者的专业知识，这些指南是首个针对关键基础设施部门AI特定风险的跨行业分析，旨在帮助业主和运营商减轻AI风险。”

基于NIST的AI框架提供指导

这些指南概述了一种“治理、映射、测量、管理”的减轻策略，并基于国家标准与技术研究所(NIST)发布的。

简而言之，关键基础设施的业主和用户被鼓励建立AI风险管理的组织文化，了解他们特定的AI使用背景和风险概况，开发评估、分析和跟踪AI风险的系统，并优先处理与安全相关的AI风险。

国土安全部部长亚历杭德罗·马约卡斯（AlejandroMayorkas）表示：“AI可以为美国的关键基础设施带来变革性的解决方案，但它也带来了让这些系统以新方式面临关键故障、物理攻击和网络攻击的风险。”

在自行政命令签署后的六个月里，中，DHS上周透露成立了新的，成员包括科技行业首席执行官如Alphabet的桑达尔·皮查伊（SundarPichai）、OpenAI的山姆·奥特曼（Sam Altman）和超微半导体的苏姿丰（Lisa Su）。

NCC集团的董事与高级顾问蒂姆·罗林斯（TimRawlins）表示，尽管组织需要利用AI所能提供的巨大效率优势，但同时也必须意识到新技术为其运营带来的脆弱性。

“这些新指南的发布，是向希望充分利用AI能力的敏感系统提供建议的重要一步，”他说。

AppOmni的首席AI工程师约瑟夫·萨克（Joseph Thacker）表示，尽管这些指南是一项重要且积极的发展，但在风险管理和促进创新之间需要找到平衡。

“我认为委员会应优先发布更具体、可操作的实施建议，以补充这些高层次的指导方针，”他说。

“我并不是说战略建议没有用，但考虑到AI快速发展的情况，关键基础设施运营商需要切实可行的技术指导，以落实到实践中。委员会和组织应该提供实用工具，如参考架构、配置清单和代码示例，将这些