引 言

不久前，特斯拉CEO埃隆·马斯克向旧金山高等法院提起诉讼，以违反OpenAI成立时签订的创始协议为由起诉OpenAI及其CEO萨姆·奥特曼。马斯克对OpenAI和奥特曼提出了包括违约、违反信托义务和不公平商业行为在内的指控。虽未必与马斯克此次的起诉行为直接相关，但马斯克曾多次在公开场合表达对人工智能安全性的担忧，并呼吁建立配套的安全保障措施。从生成式人工智能（Artificial Intelligence Generated Content, “AIGC”）服务提供者的角度来看，在AIGC技术发展过程中，无可避免地可能会面临各种挑战和争议，其中就包括如何在保证技术创新的同时确保人工智能服务的安全性。

与此事件发生的同时，我国网络安全标准化技术委员会于2024年2月29日发布了《生成式人工智能服务安全基本要求》（TC260-003）。该文件作为我国目前第一部有关AIGC服务在安全性方面的技术性指导文件，罗列了AIGC服务在安全方面应满足的基本要求，为AIGC领域的服务提供者提供了合规及安全评估的指南，同时也为相关主管部门在评判AIGC服务安全水平时提供了参考标准。

为支撑2023年7月10日多部委联合公布的《生成式人工智能服务管理暂行办法》，并对其项下有关服务安全性作进一步细化深入，国家标准化管理委员会下属的全国信息安全标准化技术委员会（下称“委员会”）于2023年10月11日在其官网发布了关于征求《生成式人工智能服务安全基本要求》(征求意见稿)意见的通知，在征求意见稿发布后，各界人士纷纷提供反馈意见，委员会根据这些意见进行了修订和完善，形成了更为全面、严谨的正式文件，并于2024年2月29日正式发布了《生成式人工智能服务安全基本要求》，详细列出了AIGC服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等。

1、语料1安全要求

2、模型2安全要求

3、安全措施要求

4、其他要求

5、安全评估要求

我们的评述

1.《生成式人工智能服务安全基本要求》是一份对AIGC服务在安全方面进行规范和指导的重要文件。它不仅为当前AIGC服务的安全问题提供了解决方案和方向，而且对未来人工智能技术的发展、监管乃至立法具有一定意义和前瞻价值。具体而言：

(1)《生成式人工智能服务管理暂行办法》作为中国首份专门针对AIGC领域的、已生效的部门规章，其第十七条明确要求“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估”（“安全评估”）。如我们此前在《“宫斗”背后百年不遇之机遇？--生成式人工智能领域立法跟踪与实践新观察》一文中的讨论，“具有舆论属性或者社会动员能力”的解读较为宽泛，因此可以说安全评估几乎是所有AIGC服务都需要满足的通用准入审批要求。

(2) 可以预见，《生成式人工智能服务安全基本要求》将成为相关主管部门在后续实操中评判AIGC服务安全水平以及安全评估结果的重要参考标准（虽然《生成式人工智能服务安全基本要求》仅是一份行业标准或技术规范，并不属于法律、法规、规章甚至是其他规范性文件的范畴，因此并不具备法律强制力，而仅是一种推荐性或指导性的规范）。相关主管部门亦有可能以《生成式人工智能服务安全基本要求》作为抓手和基础（即最低限度的安全要求），更加有针对性地对不同类型、不同级别、以及不同行业和应用场景的AIGC服务的安全性出台进一步的规则或者指引，并予监管（这也符合《暂行办法》确定的“分类分级”监管原则）。

(3) 因此，现阶段，建议AIGC领域的企业应以《生成式人工智能服务安全基本要求》为基础和准绳，开展安全评估、提高安全水平，相应开发、自查、修正及更新自己的AIGC服务和产品，做到“未雨绸缪”。

2. 随着AIGC领域的规范细则和技术标准的不断出台，AIGC领域的企业也面临着越来越具象的合规压力（如《生成式人工智能服务安全基本要求》中提到的知识产权侵权风险、数据和隐私合规风险等），我们建议相关企业对行业法规及政策保持密切关注，必要时应及时聘请法律专业机构协助分析和应对相关合规风险。对于AIGC领域的合规问题，我们也将在后续的专题文章中持续深入解读，供读者进一步探讨和交流。

1. “语料”（又称“训练语料”），是指所有直接作为模型训练输入的数据，包括预训练、优化训练过程中的输入数据。

2. “基础模型”，是指在大量数据上训练的，用于普适性目标、可优化适配多种下游任务的深度神经网络模型。

3. 包括包含违反社会主义核心价值观的内容、包含歧视性内容。

4. 包括包含违反社会主义核心价值观的内容、包含歧视性内容、商业违法违规、侵犯他人合法权益以及无法满足特定服务类型的安全需求。

5. 包括包含违反社会主义核心价值观的内容、包含歧视性内容。