it之家 11 月 28 日消息，美国网络安全兼基础架构安全管理署（cisa）及英国国家网络安全中心（ncsc）日前正式发布《安全 ai 系统开发指引》（guidelines for secure ai system development）白皮书。
该白皮书号称“首份全球 AI 安全标准”，旨在从设计阶段强化 AI 系统的安全性，以防范可能的安全风险。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
据悉，这份指引是由包括美、英、德、法、日、韩、新加坡在内 18 国，并联合微软、谷歌、OpenAI、Anthropic、Scale AI 等 23 个网络安全组织参与制定。
▲ 图源英国相关部门
具体而言，指引包含 4 个主要部分：安全设计、安全开发、安全部署及安全运营（operation and maintenance），指引为每一个部分都提出可能的安全风险及避免方法，以协助开发人员从源头降低相关安全风险。
▲ 图源英国相关部门
IT之家注意到，这个指南的主要目的是提供开发AI系统所需的必要建议，并强调开发AI系统应遵循“安全设计”的原则。英国CISA指出，这个指南将客户安全、透明度和责任以及建立“安全设计”组织结构列为首要任务
这份指引适用于所有类型的 AI 系统，除了涵盖行业内的“尖端模型”，也包含其他利用外部代管的模型或是 API 系统。
