工業(yè)和信息化領(lǐng)域人工智能安全治理標(biāo)準(zhǔn)體系建設(shè)指南（2025）（征求意見(jiàn)稿）

1工業(yè)和信息化領(lǐng)域人工智能安全治理標(biāo)準(zhǔn)體系（征求意見(jiàn)稿）為深入貫徹落實(shí)黨中央、國(guó)務(wù)院關(guān)于加快發(fā)展人工智能的部署要求，貫徹落實(shí)《國(guó)家標(biāo)準(zhǔn)化發(fā)展綱要》《全球人工智能治理倡議》《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南(2024）》，根據(jù)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)審議通過(guò)的《人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)標(biāo)準(zhǔn)體系(統(tǒng)謀劃，加快構(gòu)建保障人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展和實(shí)現(xiàn)高水平安全的標(biāo)準(zhǔn)體系，夯實(shí)標(biāo)準(zhǔn)對(duì)推動(dòng)技術(shù)進(jìn)步、促進(jìn)企業(yè)發(fā)展、引領(lǐng)產(chǎn)業(yè)升級(jí)、保障產(chǎn)業(yè)安全的支撐作用，更好推進(jìn)人工智能賦能新型工業(yè)化，加速邁向制造強(qiáng)國(guó)和網(wǎng)絡(luò)強(qiáng)國(guó)，特一、背景情況習(xí)近平總書(shū)記高度重視統(tǒng)籌人工智能發(fā)展和安全，強(qiáng)調(diào)“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控”。黨的二十屆三中全會(huì)明確提出要“建立人工智能安全監(jiān)管制度”。習(xí)近平總書(shū)記的系列重要指示批示精神為開(kāi)展人工智能發(fā)展和安全工作指明了方向，提供了根本遵循。近年來(lái)，我國(guó)人工智能產(chǎn)業(yè)在技術(shù)創(chuàng)新、產(chǎn)品創(chuàng)造和行業(yè)應(yīng)用等方面實(shí)現(xiàn)快速發(fā)展，在人工智能安全治理標(biāo)準(zhǔn)制定2方面也取得了一定進(jìn)展，但仍面臨數(shù)據(jù)安全、網(wǎng)絡(luò)安全等方面挑戰(zhàn)。立足長(zhǎng)遠(yuǎn)，構(gòu)建人工智能安全治理標(biāo)準(zhǔn)體系迫在眉睫。一是提升人工智能企業(yè)安全能力建設(shè)，培育壯大人工智能產(chǎn)業(yè),服務(wù)本土企業(yè)長(zhǎng)遠(yuǎn)發(fā)展。二是培育人工智能安全技術(shù)及產(chǎn)品應(yīng)用，提升人工智能賦能安全能力，為人工智能技術(shù)高質(zhì)量應(yīng)用、數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)融合提供堅(jiān)實(shí)支撐。三是明確人工智能技術(shù)研發(fā)、產(chǎn)品迭代安全基線(xiàn)，促進(jìn)企業(yè)在安全框架內(nèi)創(chuàng)新發(fā)展，增強(qiáng)產(chǎn)業(yè)主體的使用信心，營(yíng)造安全的發(fā)展環(huán)境，同時(shí)促進(jìn)技術(shù)共享、合作共贏(yíng)，加速技術(shù)成果在安全可靠的前提下落地轉(zhuǎn)化。四是提升我國(guó)人工智能技術(shù)產(chǎn)品的國(guó)際競(jìng)爭(zhēng)力，通過(guò)將我國(guó)先進(jìn)的人工智能安全防護(hù)理念、實(shí)踐成果推向國(guó)際社會(huì)，吸引國(guó)際合作資源，為本土企業(yè)拓展海外業(yè)務(wù)筑牢根基。二、總體要求（一）指導(dǎo)思想本指南以習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想為指導(dǎo)，全面貫徹黨的二十大和二十屆二中、三中全會(huì)精神，以人工智能賦能新型工業(yè)化為主線(xiàn)，遵循統(tǒng)籌發(fā)展和安全的基本原則，構(gòu)建工業(yè)和信息化領(lǐng)域人工智能安全治理體系，為產(chǎn)業(yè)提供人工智能安全的技術(shù)和行動(dòng)指引。以高水平安全促進(jìn)高質(zhì)量發(fā)展，充分發(fā)揮產(chǎn)業(yè)主體在人工智能安全治理的重要作用，加速培育壯大人工智能產(chǎn)業(yè)，構(gòu)建安全、可靠、繁榮的人工智能產(chǎn)業(yè)發(fā)展環(huán)境。（二）建設(shè)目標(biāo)短期目標(biāo)（1-2年急用先行，快速突破。初步構(gòu)建工3業(yè)和信息化領(lǐng)域人工智能安全標(biāo)準(zhǔn)體系框架，明確標(biāo)準(zhǔn)體系的總體架構(gòu)、分類(lèi)和關(guān)鍵標(biāo)準(zhǔn)領(lǐng)域。制定一批急需急用的標(biāo)準(zhǔn)，為行業(yè)提供基本的安全規(guī)范和技術(shù)指導(dǎo)。推動(dòng)相關(guān)標(biāo)準(zhǔn)的試點(diǎn)應(yīng)用，在部分重點(diǎn)企業(yè)和項(xiàng)目中開(kāi)展標(biāo)準(zhǔn)實(shí)施的驗(yàn)證和反饋工作，及時(shí)發(fā)現(xiàn)和解決標(biāo)準(zhǔn)在應(yīng)用過(guò)程中存在的問(wèn)題，為標(biāo)準(zhǔn)的完善和推廣奠定基礎(chǔ)。長(zhǎng)期目標(biāo)（3-5年全面保障，產(chǎn)業(yè)落地。完善工業(yè)和信息化領(lǐng)域人工智能安全標(biāo)準(zhǔn)體系，補(bǔ)充和細(xì)化各領(lǐng)域的安全標(biāo)準(zhǔn)，涵蓋人工智能系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)、部署、運(yùn)行、維護(hù)等全生命周期，覆蓋工業(yè)和信息化領(lǐng)域人工智能應(yīng)用的各個(gè)方面，并促進(jìn)與國(guó)際標(biāo)準(zhǔn)的對(duì)接協(xié)調(diào)。同時(shí)，加強(qiáng)標(biāo)準(zhǔn)的推廣應(yīng)用，規(guī)范工業(yè)和信息化產(chǎn)業(yè)主體人工智能應(yīng)用，提高行業(yè)整體的安全水平，為傳統(tǒng)產(chǎn)業(yè)的高端化升級(jí)和前沿技術(shù)的產(chǎn)業(yè)化落地提供有力保障。三、建設(shè)思路（一）人工智能安全治理標(biāo)準(zhǔn)體系結(jié)構(gòu)人工智能安全治理標(biāo)準(zhǔn)體系結(jié)構(gòu)包括“A治理能力”、“B基礎(chǔ)設(shè)施安全”、“C網(wǎng)絡(luò)安全”、“D數(shù)據(jù)安全”、“E算法模型安全”“F應(yīng)用安全”“G賦能安全”等7個(gè)4其中，治理能力標(biāo)準(zhǔn)主要規(guī)范人工智能支撐能力和管理能力，為實(shí)現(xiàn)人工智能安全治理夯實(shí)基礎(chǔ)底座?；A(chǔ)設(shè)施安全標(biāo)準(zhǔn)主要規(guī)范硬件平臺(tái)、軟件平臺(tái)和智算中心等方面安全，確保人工智能基礎(chǔ)設(shè)施安全穩(wěn)定。網(wǎng)絡(luò)安全標(biāo)準(zhǔn)主要規(guī)范網(wǎng)險(xiǎn)評(píng)估，確保網(wǎng)絡(luò)安全可靠運(yùn)營(yíng)。數(shù)據(jù)安全標(biāo)準(zhǔn)主要規(guī)范基礎(chǔ)數(shù)據(jù)服務(wù)、訓(xùn)練數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)等方面安全，明確人工智能數(shù)據(jù)安全要求。算法模型安全標(biāo)準(zhǔn)主要規(guī)范算法、模型等方面安全，保障人工智能技術(shù)創(chuàng)新安全可控。應(yīng)用安全標(biāo)準(zhǔn)主要規(guī)范智能產(chǎn)品應(yīng)用、智能服務(wù)應(yīng)用、智能體、信息等方面安全，為推動(dòng)產(chǎn)業(yè)智能化發(fā)展提供安全保障。賦能安全標(biāo)準(zhǔn)主要規(guī)范人工智能賦能新型工業(yè)化應(yīng)用、行業(yè)應(yīng)用，以及賦能網(wǎng)絡(luò)、數(shù)據(jù)、信息、業(yè)務(wù)等方面安全，為人工智能賦能5安全提供技術(shù)保障。（二）人工智能安全治理標(biāo)準(zhǔn)體系框架人工智能安全領(lǐng)域標(biāo)準(zhǔn)體系框架主要由治理能力、基礎(chǔ)賦能安全等7個(gè)部分組成，如圖2所示。6四、建設(shè)內(nèi)容（一）人工智能治理能力人工智能治理能力標(biāo)準(zhǔn)主要包括支撐能力、管理能力等標(biāo)準(zhǔn)，為安全治理標(biāo)準(zhǔn)體系奠定基礎(chǔ)底座。1.支撐能力。規(guī)范人工智能系統(tǒng)全生命周期的安全治理技術(shù)能力要求，包括驗(yàn)證、監(jiān)測(cè)、防護(hù)、追溯、證真、鑒偽等安全支撐技術(shù)；透明性、可解釋性、魯棒性、公平性、可靠性、可追溯性、隱私保護(hù)以及用戶(hù)權(quán)益保障等治理支撐技2.管理能力。規(guī)范人工智能的技術(shù)研發(fā)和運(yùn)營(yíng)服務(wù)安全治理要求，包括可信賴(lài)研發(fā)管理、風(fēng)險(xiǎn)分類(lèi)分級(jí)、風(fēng)險(xiǎn)管理能力、風(fēng)險(xiǎn)影響評(píng)估、風(fēng)險(xiǎn)應(yīng)急響應(yīng)等標(biāo)準(zhǔn)。（二）人工智能基礎(chǔ)設(shè)施安全人工智能基礎(chǔ)設(shè)施安全標(biāo)準(zhǔn)主要包括硬件平臺(tái)安全、軟件平臺(tái)安全、智算中心安全等標(biāo)準(zhǔn)，為人工智能提供基礎(chǔ)運(yùn)營(yíng)環(huán)境安全保障。1.硬件平臺(tái)安全。規(guī)范硬件平臺(tái)的安全設(shè)計(jì)、生產(chǎn)和測(cè)試要求，包括芯片、傳感器、計(jì)算設(shè)備等標(biāo)準(zhǔn)，芯片抗攻擊能力、傳感器數(shù)據(jù)完整性、計(jì)算設(shè)備的物理安全性等能力評(píng)估，硬件設(shè)備的安全設(shè)計(jì)原則、安全功能模塊及接口規(guī)范等安全要求，硬件安全性能的物理攻擊模擬、故障注入測(cè)試等測(cè)評(píng)方法。2.軟件平臺(tái)安全。規(guī)范軟件平臺(tái)的安全性技術(shù)要求，包括系統(tǒng)軟件的漏洞風(fēng)險(xiǎn)、開(kāi)發(fā)框架的安全性、軟件供應(yīng)鏈的完整性能力評(píng)估，軟件開(kāi)發(fā)生命周期中的安全規(guī)范、安全編7碼標(biāo)準(zhǔn)及漏洞管理流程的安全框架要求，軟件平臺(tái)的訪(fǎng)問(wèn)控制、權(quán)限管理、數(shù)據(jù)保護(hù)及安全審計(jì)要求，代碼審計(jì)、滲透測(cè)試、風(fēng)險(xiǎn)測(cè)試方法和評(píng)估標(biāo)準(zhǔn)。3.智算中心安全。規(guī)范面向人工智能的算力中心安全要求，包括面向人工智能的大規(guī)模計(jì)算集群、新型數(shù)據(jù)中心、智算中心、算力網(wǎng)絡(luò)等基礎(chǔ)設(shè)施的安全要求，訪(fǎng)問(wèn)控制、加密傳輸?shù)染W(wǎng)絡(luò)安全、數(shù)據(jù)安全、信息安全技術(shù)要求標(biāo)準(zhǔn)，以及安全防護(hù)、應(yīng)急響應(yīng)等管理標(biāo)準(zhǔn)。（三）人工智能網(wǎng)絡(luò)安全規(guī)范人工智能網(wǎng)絡(luò)安全要求，包括網(wǎng)絡(luò)安全防護(hù)、網(wǎng)絡(luò)安全監(jiān)測(cè)、網(wǎng)絡(luò)安全管理、供應(yīng)鏈安全等。1.網(wǎng)絡(luò)安全防護(hù)。規(guī)范人工智能相關(guān)產(chǎn)品、服務(wù)的網(wǎng)絡(luò)安全防護(hù)要求，結(jié)合全生命周期不同階段存在的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，明確需要的安全措施，例如攻擊防范、漏洞管理、模型更新安全、安全應(yīng)急響應(yīng)等。2.網(wǎng)絡(luò)安全監(jiān)測(cè)。規(guī)范開(kāi)展人工智能網(wǎng)絡(luò)安全監(jiān)測(cè)/監(jiān)管的安全要求，包括通用要求、技術(shù)要求、測(cè)試方法、接口3.網(wǎng)絡(luò)安全管理。規(guī)范人工智能產(chǎn)品或服務(wù)運(yùn)營(yíng)單位開(kāi)展網(wǎng)絡(luò)安全定級(jí)備案、資產(chǎn)安全管理、漏洞安全管理等安全管理工作時(shí)需遵循的要求，規(guī)范網(wǎng)絡(luò)安全風(fēng)險(xiǎn)評(píng)估相關(guān)要求。4.供應(yīng)鏈安全。規(guī)范人工智能軟硬件供應(yīng)鏈在安全方面的要求，包括供應(yīng)商評(píng)估、軟硬件供應(yīng)管理、風(fēng)險(xiǎn)識(shí)別和防5.網(wǎng)絡(luò)安全風(fēng)險(xiǎn)評(píng)估。規(guī)范人工智能場(chǎng)景開(kāi)展網(wǎng)絡(luò)安全8風(fēng)險(xiǎn)評(píng)估應(yīng)遵循的安全要求，包括網(wǎng)絡(luò)安全評(píng)估指南、實(shí)施方法、評(píng)估要求等。（四）人工智能數(shù)據(jù)安全規(guī)范人工智能數(shù)據(jù)安全要求，包括訓(xùn)練數(shù)據(jù)安全、業(yè)務(wù)數(shù)據(jù)保護(hù)、基礎(chǔ)數(shù)據(jù)服務(wù)安全等。1.基礎(chǔ)數(shù)據(jù)服務(wù)安全。規(guī)范人工智能技術(shù)相關(guān)基礎(chǔ)數(shù)據(jù)服務(wù)安全要求，包括數(shù)據(jù)庫(kù)存儲(chǔ)、數(shù)據(jù)清洗、數(shù)據(jù)標(biāo)注、數(shù)據(jù)分析、數(shù)據(jù)共享等服務(wù)安全。2.訓(xùn)練數(shù)據(jù)安全。規(guī)范人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)及其處理活動(dòng)的安全要求，包括數(shù)據(jù)通用安全以及數(shù)據(jù)收集、傳輸、存儲(chǔ)、使用等環(huán)節(jié)安全，訓(xùn)練數(shù)據(jù)安全防護(hù)、安全標(biāo)注、質(zhì)量治理、重要數(shù)據(jù)識(shí)別、安全互操作等標(biāo)準(zhǔn)。3.業(yè)務(wù)數(shù)據(jù)保護(hù)。規(guī)范運(yùn)用人工智能技術(shù)相關(guān)業(yè)務(wù)的數(shù)據(jù)安全保護(hù)要求，包括數(shù)據(jù)完整性、保密性、可用性等。規(guī)范人工智能技術(shù)、產(chǎn)品或服務(wù)應(yīng)用過(guò)程中涉及業(yè)務(wù)數(shù)據(jù)的安全要求，包括重要數(shù)據(jù)識(shí)別、數(shù)據(jù)分類(lèi)分級(jí)、全生命周期安全等標(biāo)準(zhǔn)。（五）人工智能算法模型安全人工智能算法模型安全標(biāo)準(zhǔn)主要包括算法安全、模型安全等標(biāo)準(zhǔn)。1.算法安全。規(guī)范深度學(xué)習(xí)算法、機(jī)器學(xué)習(xí)算法等人工智能算法安全具體要求，研制算法設(shè)計(jì)的安全可信、算子庫(kù)安全等標(biāo)準(zhǔn)，算法可靠性、可控性、準(zhǔn)確性、可解釋性等具2.模型安全。規(guī)范模型訓(xùn)練、推理、部署等環(huán)節(jié)的安全9要求，包括大模型安全要求、混合模型安全要求、模型部署安全、模型安全評(píng)測(cè)指標(biāo)與方法、多模型協(xié)同調(diào)度安全等標(biāo)準(zhǔn)，人機(jī)混合增強(qiáng)智能、群體智能、跨媒體智能、具身智能等技術(shù)應(yīng)用中的模型安全要求。（六）人工智能應(yīng)用安全人工智能應(yīng)用安全結(jié)合新型工業(yè)化、智能網(wǎng)聯(lián)汽車(chē)、生成式人工智能、生物特征識(shí)別、智能體等典型應(yīng)用，提出新型工業(yè)化應(yīng)用安全、行業(yè)應(yīng)用安全、智能產(chǎn)品應(yīng)用安全、智能服務(wù)應(yīng)用安全，以及智能體安全等新產(chǎn)品形態(tài)安全的要求1.新型工業(yè)化應(yīng)用安全。規(guī)范人工智能技術(shù)在制造業(yè)全流程智能化的應(yīng)用安全要求，包括工業(yè)研發(fā)設(shè)計(jì)、中試驗(yàn)證、生產(chǎn)制造、營(yíng)銷(xiāo)服務(wù)、運(yùn)營(yíng)管理等制造業(yè)全流程網(wǎng)絡(luò)安全防護(hù)、評(píng)測(cè)指標(biāo)與方法、安全運(yùn)營(yíng)、風(fēng)險(xiǎn)評(píng)估等標(biāo)準(zhǔn)。2.行業(yè)應(yīng)用安全。規(guī)范人工智能在不同行業(yè)中的應(yīng)用安全要求，涵蓋人工智能行業(yè)應(yīng)用安全開(kāi)發(fā)、監(jiān)控審計(jì)等能力評(píng)估，人工智能應(yīng)用的安全架構(gòu)框架要求，應(yīng)用數(shù)據(jù)隱私保護(hù)、合規(guī)性要求規(guī)范，人工智能應(yīng)用的安全測(cè)試評(píng)估方法。3.智能產(chǎn)品安全。規(guī)范人工智能技術(shù)和產(chǎn)品在具體應(yīng)用場(chǎng)景下的安全要求，包括智能機(jī)器人、智能運(yùn)載工具、智能移動(dòng)終端、數(shù)字人、智能系統(tǒng)、生物特征識(shí)別終端等智能產(chǎn)品安全防護(hù)與檢測(cè)標(biāo)準(zhǔn)。4.智能服務(wù)安全。規(guī)范面向特定業(yè)務(wù)場(chǎng)景提供的人工智能服務(wù)安全保障要求，包括智能軟件開(kāi)發(fā)安全、智能設(shè)計(jì)安全、模型即服務(wù)安全、生成式人工智能服務(wù)安全、生物特征識(shí)別服務(wù)安全、智能產(chǎn)品輔助操作安全、智能服務(wù)安全運(yùn)營(yíng)、智能服務(wù)安全風(fēng)險(xiǎn)評(píng)估、智能服務(wù)安全保障能力評(píng)價(jià)等標(biāo)準(zhǔn)。5.智能體安全。規(guī)范以通用大模型為核心的智能體實(shí)例安全要求，包括智能體內(nèi)生安全、智能體數(shù)據(jù)接口安全、人機(jī)協(xié)作安全、智能體自主操作安全、多智能體協(xié)作安全等標(biāo)6.信息安全。規(guī)范深度合成、生成式人工智能等在應(yīng)用過(guò)程中的內(nèi)容安全等方面的要求，制定安全規(guī)范和評(píng)估方法。規(guī)范利用深度合成和生成式人工智能技術(shù)生成內(nèi)容、算法審核及評(píng)估、合成鑒偽檢測(cè)技術(shù)等內(nèi)容管理的安全要求，包括生成內(nèi)容的模型引導(dǎo)、模板制作、內(nèi)容審核等方面的技術(shù)規(guī)范要求，算法審核及評(píng)估的算法機(jī)制機(jī)理審核、信息發(fā)布審核、涉生成違法違規(guī)內(nèi)容審查等能力評(píng)估，合成鑒偽檢測(cè)技術(shù)的測(cè)評(píng)要求、評(píng)測(cè)方法和工具箱、指標(biāo)體系等評(píng)價(jià)標(biāo)準(zhǔn)。（七）人工智能賦能安全人工智能賦能安全標(biāo)準(zhǔn)主要包括人工智能賦能網(wǎng)絡(luò)、數(shù)據(jù)、信息、業(yè)務(wù)和其他安全等方面的要求。1.賦能網(wǎng)絡(luò)安全。指導(dǎo)應(yīng)用人工智能提升網(wǎng)絡(luò)安全的效能。包括安全大模型底座，網(wǎng)絡(luò)安全大模型能力要求，人工智能賦能網(wǎng)絡(luò)安全產(chǎn)品、網(wǎng)絡(luò)安全運(yùn)營(yíng)、智能問(wèn)答、加密流量監(jiān)測(cè)、釣魚(yú)郵件分析、暴露面監(jiān)測(cè)、威脅情報(bào)智能挖掘、攻防演練靶場(chǎng)、惡意程序分析識(shí)別、WEB攻擊檢測(cè)、滲透測(cè)試、惡意代碼檢測(cè)、異常行為分析、智能安全運(yùn)營(yíng)等網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)指南、能力要求、評(píng)估方法等。2.賦能數(shù)據(jù)安全。指導(dǎo)應(yīng)用人工智能提升數(shù)據(jù)安全的效能。包括人工智能技術(shù)應(yīng)用于數(shù)據(jù)收集、數(shù)據(jù)分類(lèi)分級(jí)、數(shù)據(jù)標(biāo)注、數(shù)據(jù)存儲(chǔ)等關(guān)鍵環(huán)節(jié)中，數(shù)據(jù)資產(chǎn)識(shí)別、數(shù)據(jù)資產(chǎn)數(shù)據(jù)訪(fǎng)問(wèn)異常識(shí)別、數(shù)據(jù)泄露溯源、數(shù)據(jù)安全防護(hù)、API安全防護(hù)、數(shù)據(jù)安全審計(jì)和其他數(shù)據(jù)安全領(lǐng)域的技術(shù)指南、能力要求、評(píng)估方法等。3.賦能信息安全。指導(dǎo)應(yīng)用人工智能技術(shù)，提升信息安全的效能。包括人工智能技術(shù)應(yīng)用于深度偽造內(nèi)容檢測(cè)、互聯(lián)網(wǎng)輿情監(jiān)測(cè)、不良信息識(shí)別、反詐和其他信息安全場(chǎng)景的技術(shù)指南、能力要求、評(píng)估方法等。4.賦能業(yè)務(wù)安全。指導(dǎo)應(yīng)用人工智能技術(shù)，提升業(yè)務(wù)安全的效能。包括人工智能技術(shù)應(yīng)用于業(yè)務(wù)安全智能風(fēng)控、支付安全、業(yè)務(wù)安全合規(guī)、業(yè)務(wù)事后審理能力、黑灰產(chǎn)監(jiān)控能力和其他業(yè)務(wù)安全場(chǎng)景的技術(shù)指南、能力要求或評(píng)估方法等?，F(xiàn)有人工智能安全治理領(lǐng)域標(biāo)準(zhǔn)清單截至2025年2月，在人工智能安全治理領(lǐng)域，全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)(TC28）、全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)(TC260）、中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)(CCSA）等技術(shù)委員會(huì)或工作組，共計(jì)發(fā)布55項(xiàng)國(guó)家標(biāo)準(zhǔn)與行業(yè)標(biāo)準(zhǔn)。當(dāng)前，我國(guó)在人工智能安全治理標(biāo)準(zhǔn)制定方面具備一定基礎(chǔ)，但標(biāo)準(zhǔn)主要呈現(xiàn)點(diǎn)狀化、分散性、交叉性等特點(diǎn)，部分人工智能關(guān)鍵技術(shù)環(huán)節(jié)和新興應(yīng)用場(chǎng)景標(biāo)準(zhǔn)缺失，尚無(wú)法滿(mǎn)足快速發(fā)展的技術(shù)需求。序號(hào)1全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)即將實(shí)施2全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)數(shù)字水印技術(shù)正在審查3中國(guó)通信標(biāo)準(zhǔn)人工智能安全工智能圖像檢測(cè)服務(wù)系統(tǒng)能4全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委人工智能管理5全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委正在起草6全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委人工智能風(fēng)險(xiǎn)正在審查7中國(guó)通信標(biāo)準(zhǔn)人工智能安全8中國(guó)通信標(biāo)準(zhǔn)智能風(fēng)控平臺(tái)指標(biāo)要求和評(píng)9中國(guó)通信標(biāo)準(zhǔn)人工智能開(kāi)發(fā)平臺(tái)通用能力全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)人工智能計(jì)算中國(guó)通信標(biāo)準(zhǔn)中國(guó)通信標(biāo)準(zhǔn)編排管理技術(shù)中國(guó)通信標(biāo)準(zhǔn)面向云計(jì)算的構(gòu)中國(guó)通信標(biāo)準(zhǔn)面向云計(jì)算的中國(guó)通信標(biāo)準(zhǔn)面向云計(jì)算的問(wèn)服務(wù)邊緣能中國(guó)通信標(biāo)準(zhǔn)面向云計(jì)算的中國(guó)通信標(biāo)準(zhǔn)面向云計(jì)算的份安全能力要求中國(guó)通信標(biāo)準(zhǔn)基于零信任的算力網(wǎng)絡(luò)安全全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委機(jī)器學(xué)習(xí)的數(shù)全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安正在審查全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)生成式人工智能數(shù)據(jù)標(biāo)注安正在審查中國(guó)通信標(biāo)準(zhǔn)電信網(wǎng)和互聯(lián)網(wǎng)人工智能數(shù)據(jù)安全通用要求中國(guó)通信標(biāo)準(zhǔn)電信和互聯(lián)網(wǎng)大規(guī)模預(yù)訓(xùn)練全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委信息安全技術(shù)機(jī)器學(xué)習(xí)算法全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委中國(guó)通信標(biāo)準(zhǔn)電信和互聯(lián)網(wǎng)人工智能算法中國(guó)通信標(biāo)準(zhǔn)信息通信行業(yè)人工智能算法全國(guó)道路交通管理標(biāo)準(zhǔn)化技智能網(wǎng)聯(lián)汽車(chē)運(yùn)行安全測(cè)試全國(guó)道路交通管理標(biāo)準(zhǔn)化技智能網(wǎng)聯(lián)汽車(chē)運(yùn)行安全測(cè)試即將實(shí)施全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委信息安全技術(shù)人臉識(shí)別數(shù)據(jù)全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委信息安全技術(shù)生物特征識(shí)別信息保護(hù)基本全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委信息安全技術(shù)基于生物特征識(shí)別的移動(dòng)智能終端身份鑒全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)安全基正在審查全國(guó)智能技術(shù)社會(huì)應(yīng)用與評(píng)估基礎(chǔ)標(biāo)準(zhǔn)化生成式人工智能技術(shù)應(yīng)用社供者合規(guī)管理正在起草全國(guó)智能技術(shù)社會(huì)應(yīng)用與評(píng)估基礎(chǔ)標(biāo)準(zhǔn)化生成式人工智能技術(shù)應(yīng)用社南正在起草全國(guó)汽車(chē)標(biāo)準(zhǔn)化技術(shù)委員會(huì)智能網(wǎng)聯(lián)汽車(chē)智能網(wǎng)聯(lián)汽車(chē)數(shù)據(jù)安全管理正在起草中國(guó)通信標(biāo)準(zhǔn)移動(dòng)智能終端可信人工智能中國(guó)通信標(biāo)準(zhǔn)基于人工智能的詐騙電話(huà)號(hào)碼識(shí)別技術(shù)要求中國(guó)通信標(biāo)準(zhǔn)移動(dòng)智能終端人工智能應(yīng)用的個(gè)人信息保護(hù)技術(shù)要求及中國(guó)通信標(biāo)準(zhǔn)面向人臉識(shí)別系統(tǒng)的人臉信息保護(hù)基礎(chǔ)能中國(guó)通信標(biāo)準(zhǔn)生成式人工智能服務(wù)的個(gè)人中國(guó)通信標(biāo)準(zhǔn)生成式人工智中國(guó)通信標(biāo)準(zhǔn)生成式人工智能語(yǔ)音助手服務(wù)的用戶(hù)權(quán)益全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委網(wǎng)絡(luò)安全技術(shù)互聯(lián)網(wǎng)信息服務(wù)深度合成安正在起草中國(guó)通信標(biāo)準(zhǔn)互聯(lián)網(wǎng)信息服務(wù)提供商音視頻深度合成鑒偽檢測(cè)技術(shù)能中國(guó)通信標(biāo)準(zhǔn)基礎(chǔ)電信企業(yè)深度合成鑒偽檢測(cè)系統(tǒng)技術(shù)要求及接口規(guī)范中國(guó)通信標(biāo)準(zhǔn)圖像視頻深度合成鑒偽檢測(cè)算法引擎安全中國(guó)通信標(biāo)準(zhǔn)音頻深度合成鑒偽檢測(cè)算法引擎安全性評(píng)中國(guó)通信標(biāo)準(zhǔn)互聯(lián)網(wǎng)數(shù)據(jù)中心免深度合成鑒偽檢測(cè)可信機(jī)房或可信IP中國(guó)通信標(biāo)準(zhǔn)互聯(lián)網(wǎng)深度合成信息服務(wù)標(biāo)識(shí)通用安全要求中國(guó)通信標(biāo)準(zhǔn)互聯(lián)網(wǎng)音視頻深度合成工具中國(guó)通信標(biāo)準(zhǔn)互聯(lián)網(wǎng)音視頻深度合成工具安全風(fēng)險(xiǎn)評(píng)估中國(guó)通信標(biāo)準(zhǔn)電信網(wǎng)和互聯(lián)網(wǎng)安全大模型中國(guó)通信標(biāo)準(zhǔn)電信網(wǎng)和互聯(lián)網(wǎng)安全大模型中國(guó)通信標(biāo)準(zhǔn)安全大模型能下一步計(jì)劃標(biāo)準(zhǔn)清單1人工智能代碼安全檢測(cè)2人工智能生成內(nèi)容確權(quán)3人工智能安全治理大模型安全基準(zhǔn)測(cè)試總體4人工智能安全治理人工智能生成內(nèi)容證真技工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)5人工智能安全治理大工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)6人工智能安全治理大工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)7人工智能安全治理可工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)8人工智能安全治理風(fēng)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)9人工智能安全治理風(fēng)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能安全治理人工智能服務(wù)透明性及用工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)面向人工智能的算力中心安全技術(shù)要求與測(cè)試算力網(wǎng)絡(luò)安全技術(shù)要求人工智能平臺(tái)供應(yīng)鏈安人工智能平臺(tái)供應(yīng)鏈安電信和互聯(lián)網(wǎng)人工智能電信和互聯(lián)網(wǎng)人工智能成式人工智能服務(wù)用戶(hù)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能訓(xùn)練數(shù)據(jù)集安工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)生成式人工智能公共訓(xùn)人工智能應(yīng)用數(shù)據(jù)分類(lèi)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能應(yīng)用數(shù)據(jù)跨境工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)生成式人工智能算法模電信和互聯(lián)網(wǎng)人工智能電信和互聯(lián)網(wǎng)人工智能人工智能模型開(kāi)發(fā)框架工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)多模態(tài)大模型安全基準(zhǔn)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能安全治理安工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)工業(yè)大模型安全評(píng)測(cè)方法工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)多模型協(xié)同調(diào)度安全要工業(yè)和信息化部人工求智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)工業(yè)領(lǐng)域人工智能產(chǎn)品工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)智能網(wǎng)聯(lián)汽車(chē)環(huán)境智能人工智能安全治理行業(yè)大模型安全