T/ISEAA 006-2024大模型系統(tǒng)安全測(cè)評(píng)要求

ICS35040

CCSL.80

團(tuán)體標(biāo)準(zhǔn)

T/ISEAA006—2024

大模型系統(tǒng)安全測(cè)評(píng)要求

Securityevaluationrequirementsforlargemodelsystem

2024-04-30發(fā)布2024-06-01實(shí)施

中關(guān)村信息安全測(cè)評(píng)聯(lián)盟發(fā)布

中國標(biāo)準(zhǔn)出版社出版

T/ISEAA006—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語和定義

3………………1

概述

4………………………1

大模型系統(tǒng)架構(gòu)

4.1……………………1

安全測(cè)評(píng)方法

4.2………………………2

通用安全測(cè)評(píng)要求

5………………………3

物理環(huán)境

5.1……………3

網(wǎng)絡(luò)架構(gòu)

5.2……………3

邊界防護(hù)

5.3……………4

身份鑒別

5.4……………5

訪問控制

5.5……………6

安全審計(jì)

5.6……………7

入侵防范

5.7……………9

惡意代碼防范

5.8………………………10

集中管控

5.9……………10

供應(yīng)鏈管理

5.10………………………11

個(gè)人信息保護(hù)

5.11……………………12

數(shù)據(jù)安全保護(hù)

5.12……………………14

備份恢復(fù)

5.13…………………………15

數(shù)據(jù)溯源

5.14…………………………15

設(shè)計(jì)開發(fā)安全測(cè)評(píng)要求

6…………………16

數(shù)據(jù)處理

6.1……………16

模型保護(hù)

6.2……………19

內(nèi)容安全

6.3……………21

測(cè)試安全測(cè)評(píng)要求

7………………………23

模型評(píng)估

7.1……………23

模型更新

7.2……………24

部署與運(yùn)行安全測(cè)評(píng)要求

8………………25

模型部署

8.1……………25

攻擊檢測(cè)

8.2……………26

Ⅰ

T/ISEAA006—2024

運(yùn)行監(jiān)測(cè)

8.3……………27

系統(tǒng)管理

8.4……………28

變更管理

8.5……………28

安全事件處置

8.6………………………29

應(yīng)急預(yù)案管理

8.7………………………29

退役安全測(cè)評(píng)要求

9………………………30

模型退役

9.1……………30

數(shù)據(jù)刪除

9.2……………31

測(cè)評(píng)結(jié)論判定

10…………………………31

分類測(cè)評(píng)結(jié)果

10.1……………………31

風(fēng)險(xiǎn)分析和評(píng)價(jià)

10.2…………………31

測(cè)評(píng)結(jié)論判定

10.3……………………31

參考文獻(xiàn)

……………………32

Ⅱ

T/ISEAA006—2024

前言

本文件按照標(biāo)準(zhǔn)化工作導(dǎo)則第部分標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

本文件由中關(guān)村信息安全測(cè)評(píng)聯(lián)盟提出并歸口

。

本文件起草單位公安部第三研究所北京百度網(wǎng)訊科技有限公司螞蟻科技集團(tuán)股份有限公司

:、、、

浙江大學(xué)北京天融信網(wǎng)絡(luò)安全技術(shù)有限公司啟明星辰信息技術(shù)集團(tuán)股份有限公司快手科技有限公

、、、

司上海商湯智能科技有限公司北京遠(yuǎn)鑒信息技術(shù)有限公司深圳市網(wǎng)安計(jì)算機(jī)安全檢測(cè)技術(shù)有限公

、、、

司山東新潮信息技術(shù)有限公司金盾檢測(cè)技術(shù)股份有限公司上海市信息安全測(cè)評(píng)認(rèn)證中心杭州中爾

、、、、

網(wǎng)絡(luò)科技有限公司華為技術(shù)有限公司阿里云計(jì)算有限公司深信服科技股份有限公司科大訊飛股份

、、、、

有限公司北京百川智能科技有限公司北京小桔科技有限公司優(yōu)刻得科技股份有限公司浙江君同智

、、、、

能科技有限責(zé)任公司

。

本文件主要起草人袁靜劉金鑫劉楠張國鵬文煜乾陸臻陳廣勇蘇艷芳劉繼順郭建領(lǐng)

:、、、、、、、、、、

唐佳偉李榮昌楊劍蔣發(fā)群谷晨徐浩鄭榕牛建紅劉智廣高亞敏朱熹銘王余王龑邵英杰

、、、、、、、、、、、、、、

孫鈺嬈張瑤嚴(yán)敏瑞孫勇葉潤(rùn)國吳曉杰李建民樊玉杰馮明韓蒙林昶廷

、、、、、、、、、、。

Ⅲ

T/ISEAA006—2024

引言

為規(guī)范大模型系統(tǒng)安全測(cè)評(píng)工作的開展本文件對(duì)大模型系統(tǒng)進(jìn)行安全測(cè)評(píng)的技術(shù)活動(dòng)提出要

,

求為評(píng)價(jià)大模型系統(tǒng)是否符合大模型系統(tǒng)安全保護(hù)要求提供了獲取證據(jù)的途

,T/ISEAA005—2024《》

徑和方法用以指導(dǎo)測(cè)評(píng)人員對(duì)大模型系統(tǒng)進(jìn)行測(cè)試評(píng)估

,。

Ⅳ

T/ISEAA006—2024

大模型系統(tǒng)安全測(cè)評(píng)要求

1范圍

本文件規(guī)定了大模型系統(tǒng)是否符合所進(jìn)行的測(cè)試評(píng)估活動(dòng)的要求

T/ISEAA005—2024。

本文件適用于指導(dǎo)網(wǎng)絡(luò)安全測(cè)評(píng)服務(wù)機(jī)構(gòu)大模型開發(fā)者大模型系統(tǒng)運(yùn)營(yíng)者對(duì)大模型及大模型系

、、

統(tǒng)安全保護(hù)狀況進(jìn)行安全測(cè)試評(píng)估大模型安全監(jiān)管職能部門依法開展大模型安全保護(hù)監(jiān)督檢查參考

,

使用

。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對(duì)應(yīng)的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

信息安全技術(shù)網(wǎng)絡(luò)安全等級(jí)保護(hù)基本要求

GB/T22239—2019

信息安全技術(shù)術(shù)語

GB/T25069

大模型系統(tǒng)安全保護(hù)要求

T/ISEAA005—2024

3術(shù)語和定義

界定的以及下列術(shù)語和定義適用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemodel

基于大量數(shù)據(jù)集訓(xùn)練得到的