欧洲电信标准化协会EN 304 223 标准引入了企业必须整合到治理框架中的人工智能基线安全要求。 EN 304 223标准提出了企业必须纳入治理框架的人工智能基线安全要求
随着各组织将机器学习融入核心运营，这项欧洲标准（EN）为保障AI模型和系统的安全确立了具体规定。作为首个全球适用的欧洲AI网络安全标准，它已获得国家标准化组织的正式批准，从而增强了其在国际市场的权威性。
该标准作为必要基准，与欧盟人工智能法案并行。它针对人工智能系统所特有的风险——如易受数据投毒、模型混淆和间接提示注入攻击——而这些风险往往是传统软件安全措施所忽略的。该标准涵盖了从深度神经网络和生成式人工智能到基本预测系统的各类系统，明确排除了仅用于纯学术研究的系统。资深编辑
ETSI 标准明确了人工智能安全的责任链
企业在采用人工智能时面临的一个持续障碍是确定谁承担风险。ETSI 标准通过定义三个主要技术角色解决了这一问题：开发者、系统运营商和数据保管人。
对许多企业而言，这些界限变得模糊。A金融服务一家针对欺诈检测对开源模型进行微调的公司，既属于开发者，也属于系统运营商。这种双重身份触发了严格的义务，要求该公司在确保部署基础设施安全的同时，记录训练数据的来源并进行模型设计审计。
将“数据保管员”作为独立的利益相关者群体纳入其中，直接影响首席数据与分析官（CDAO）。这些实体控制数据权限和完整性，这一角色如今肩负着明确的安全责任。保管员必须确保系统的预期用途与训练数据的敏感性相匹配，这实际上在数据管理流程中设置了一道安全把关环节。
ETSI的AI标准明确指出，安全不能是部署阶段才附加的后置考虑。在设计阶段，组织必须进行威胁建模，以应对针对AI的原生攻击，如成员推断和模型混淆。
一项规定要求开发者限制功能以减少攻击面。例如，如果一个系统使用多模态模型但仅需文本处理，那么未使用的模态（如图像或音频处理）就构成了必须加以管控的风险。这一要求迫使技术领导者重新审视部署大型通用基础模型的常见做法，因为在这种情况下，小型且更专业的模型其实已经足够。
该文件还强制执行严格的资产管理。开发者和系统运营者必须维护一份全面的资产清单，包括相互依赖关系和连接性。这有助于发现影子AI；IT领导者无法保护他们不知道存在的模型。该标准还要求制定针对AI攻击的特定灾难恢复计划，确保在模型遭到破坏时能够恢复到“已知良好状态”。
供应链安全已成为依赖第三方供应商或开源仓库的企业面临的直接摩擦点。ETSI标准要求，如果系统运营商选择使用文档不完善的AI模型或组件，必须对其决策进行合理化说明，并记录相关的安全风险。
实际上，采购团队不再接受“黑箱”解决方案。开发人员需要为模型组件提供加密哈希值以验证真实性。当训练数据来自公共来源（大型语言模型的常见做法）时，开发人员必须记录数据源 URL 和获取时间戳。这一审计追踪对于事后调查至关重要，尤其是在试图确定模型在训练阶段是否遭受数据投毒攻击时。
如果企业向外部客户提供 API，他们必须应用旨在缓解针对 AI 的攻击的控制措施，例如实施速率限制，以防止对手逆向工程模型或压垮防御系统以注入投毒数据。
生命周期方法延伸至维护阶段，其中标准将重大更新（如基于新数据的重新训练）视为新版本的部署。根据ETSI人工智能标准，这触发了一项要求，即需要重新进行安全测试和评估。
持续监控也已制度化。系统操作员必须分析日志，不仅是为了监测系统正常运行时间，还要检测“数据漂移”或行为的渐进变化，这些变化可能预示着安全漏洞。这使得AI监控从单纯的性能指标转变为了安全学科。
该标准还涵盖了”生命周期终结”阶段。当模型退役或转移时，组织必须让数据保管员参与，以确保数据和配置细节的安全处置。此项规定能防止敏感知识产权或训练数据通过废弃硬件或被遗忘的云实例发生泄露。
执行监督与治理
符合ETSI EN 304 223标准需要对现有的网络安全培训计划进行审查。该标准规定培训必须针对特定角色进行定制，确保开发人员了解AI安全编码，同时让普通员工保持对通过AI输出进行的社会工程学攻击等威胁的警惕。
“ETSI EN 304 223 是为人工智能系统建立一个共同且严谨的安全基础的重要一步，”ETSI 人工智能安全技术委员会主席 Scott Cadzow 表示。
“在人工智能日益融入关键服务和基础设施之际，提供既反映这些技术复杂性又符合实际部署情况的清晰、实用指导的重要性不容小觑。制定这一框架所付出的努力是广泛合作的成果，这意味着组织可以对那些具备韧性、值得信赖且在设计之初就注重安全的人工智能系统充满信心。”
在ETSI的人工智能安全标准中实施这些基线，为更安全的创新提供了框架。通过强制执行文档化的审计跟踪、明确的角色定义和供应链透明度，企业可以在建立未来监管审计的可辩护立场的同时，降低与人工智能采用相关的风险。
本站部分文章来自互联网，文章版权归原作者所有。如有疑问请联系QQ：3164780！
