近日，全国智能运输系统标准化技术委员会发布通知，征求国标《“人工智能+交通运输”安全指引》的意见，《指引》提出了交通运输人工智能应用安全的总则，提供了交通运输人工智能应用安全通则、交通运输人工智能应用典型场景安全风险防范的指导和建议。

01

总则

5.1给出了“协同应对、确保安全”“风险导向、敏捷治理”的原则、“实施基于角色、贯穿全生命周期的安全措施，面向交通运输各业务场景应用人工智能的主要风险开展针对性防范”的途径、“保障人工智能应用安全、可靠、可控”的目的等信息。

5.2将交通运输行业的人工智能应用中可能涉及的利益相关方角色划分为生产开发者、应用提供者、数据提供者、使用者，并对各角色的安全职责进行了原则性描述。

5.3将交通运输行业的人工智能应用中可能涉及的利益相关方角色划分为生产开发者、应用提供者、数据提供者、使用者，并对各角色的安全职责进行了原则性描述。

5.4给出交通运输人工智能应用场景划分信息，涵盖多种运输方式，“贯通行业治理、运输服务、基础设施三个业务领域”；按照“风险导向、敏捷治理”的原则，提出交通运输人工智能应用场景的安全防护总则为“交通运输人工智能应用场景的安全防护宜基于业务和应用场景特点，以有效防范化解人工智能应用核心安全风险为重点，采取针对性措施”。

02

交通运输人工智能应用安全通则

从风险管理、供应链安全、数据安全、模型算法安全、监督和应急、基础安全等主要方面，基于角色，按阶段提出交通运输行业人工智能应用安全需考虑的通用因素，便于各单位参照落地。

a）前期规划阶段安全

1）提出前期规划阶段需考虑的安全工作，以及开展安全工作需考虑的主要因素，包括前期规划阶段的应用评估、影响评估、风险评估和涉及的角色，以及安全责任人和责任机制等。

2）给出细化的交通运输人工智能应用风险分析信息。

3）同步规划网络安全、数据安全、商用密码应用等安全措施；考虑人工智能应用的不确定性、透明度等因素，规划决策校验与纠偏、人工接入措施和人机协同体系等。

b）设计开发阶段安全

1）结合交通运输人工智能应用方式，给出功能裁剪、部署方式和应用监控设计等建议，确保人工智能可控。

2）提出人工智能应用涉及的硬件、芯片、软件、工具、算力及数据资源等供应链安全强化管理的具体建议。

3）给出设计开发阶段训练数据、算法和基础模型的安全考虑因素。

4）提出设计开发阶段的训练数据安全建议，包括数据加密、脱敏、权限控制、数据标注、数据清洗、数据质量抽查、训练环境隔离等。

5）对于运行数据、敏感数据的安全防护和隐私保护，给出技术措施建议。

6）从基本防护、接口与用户、输入输出、透明度等方面提出设计开发阶段模型算法安全防护建议。

7）提出人工监督机制和应急响应措施建议。

8）给出构建基础安全防护体系的建议。

c）验证确认阶段安全

1）提出在应用场景中对人工智能决策的有效性验证建议，以确保应用安全。

2）结合交通运输应用业务场景和设计开发阶段重点，提出安全测试验证和评估、应急管控验证相关建议。

3）提出上线准入安全测评机制，对模型算法、数据、生成内容、应用功能等进行集成测试、安全评估和试运行测试。

d）部署阶段安全

1）提出部署阶段的供应链安全措施建议。

2）结合交通运输实际业务情况，给出人工智能应用权限配置建议。

3）对应设计开发阶段的安全护栏机制，提出安全护栏机制在部署阶段的配置建议。

4）对应设计开发阶段的人机协同体系，结合交通运输人工智能应用情况，提出人机协同配置建议。

5）强化部署阶段的基础安全防护配置，GB/T45654《网络安全技术生成式人工智能服务安全基本要求》，提出纳入整体安全防护体系、联动配置、数据加密配置、访问控制及端口配置、审计记录配置、环境隔离、灾备配置等建议。

e）运行和监控阶段安全

1）给出数据权限管理需考虑的信息。

2）在上述基础上，同步对持续训练学习的情况，提出在运行和监控阶段保障训练数据安全的建议。

3）提出使用者保障自身输入数据安全的建议。

4）提出模型监测、可信校验等防护机制建议。

5）提出应用安全审计和追溯措施建议。

6）提出决策日志抽查机制建议。

7）提出使用者监督建议。

8）对应设计开发、部署阶段的安全护栏机制，提出安全护栏运行保障建议。

9）对应前期规划、设计开发、验证确认、部署阶段的监测预警和应急响应，提出监测预警和应急响应制度及其执行建议。

10）对应前期阶段的基础安全、供应链安全等，给出强化基础安全防护能力的相关建议信息。

11）根据实际需要，提出人员培训建议。

f）持续验证评估阶段安全

1）结合交通运输人工智能应用业务情况，给出模型性能的重新评估与更新需考虑的信息。

2）给出周期性安全评估建议信息。

3）提出升级变更管理建议。

4）提出透明度及反馈建议。

g）退役下线阶段安全

1）提出退役评估和安全退出方案相关建议。

2）提出信息同步相关建议。

3）提出设备、介质、数据等安全处置建议。

03

交通运输人工智能应用典型场景安全风险防范

选取应用成熟度较高、人工智能应用程度深、影响范围广、应用效果明显、政策支持度高的14个场景作为典型应用场景，对各场景涉及人工智能应用的风险点进行分析，并提出应对措施指导。

应用典型场景