美国国家安全局发布保护国防工业中人工智能系统的指导方针

快速导读：美国国家安全局（NSA）发布了一份名为“安全部署人工智能系统：部署安全和弹性人工智能系统的最佳实践”的网络安全信息单页（CSI）。该指导方针是在与其他美国机构和国际合作伙伴的协商下制定的，旨在帮助组织保护其人工智能系统并捍卫国防工业。CSI强调了多样化和全面性防御的必要性，因为威胁行为者可能采用多种攻击手段来针对人工智能系统。该报告还强调了持续监控和风险缓解在确保人工智能系统安全方面的重要性。

专门针对人工智能系统的安全指导

CSI背后的理念是认识到威胁行为者可能使用不同的策略来破坏机器学习模型和应用程序。该指导承认，针对人工智能系统的恶意行为者可能采用与人工智能系统独特的攻击手段以及传统的IT技术。因此，所实施的防御措施需要多样化和全面，以有效地应对这些不同的攻击手段。

需要更好的人工智能安全

需要更好的人工智能安全性是显而易见的，正如Hidden Layer 2024年人工智能威胁景观报告所指出的那样。该报告揭示了77％的公司在过去一年中报告了对其人工智能系统的入侵。报告还确定了对人工智能系统的三种主要攻击类型：对抗性机器学习攻击，生成式人工智能攻击和供应链攻击。这些攻击对于改变算法行为、绕过安全机制和利用人工智能供应链中的漏洞提出了独特的挑战。

持续监控和风险缓解

NSA的指导强调了对人工智能模型的持续监控和风险缓解的重要性。它建议组织在使用之前和使用期间验证人工智能系统，保护暴露的API，积极监控模型行为，保护模型权重，强制执行访问控制，提供用户培训，进行审计和进行渗透测试。通过遵循报告中概述的步骤，组织可以显著降低部署和运行人工智能系统所涉及的风险。

总而言之，NSA的指导为国防工业中的组织提供了部署和捍卫人工智能系统的最佳实践。该指导认识到人工智能系统可能面临的各种攻击手段需要多样化和全面的防御。强调持续监控和风险缓解以确保人工智能系统的安全性。通过实施这些措施，组织可以有效地保护其人工智能系统并降低相关风险。