《人工智能高質(zhì)量發(fā)展的法治保障與趨勢動向》課件

主要內(nèi)容一人工智能技術(shù)產(chǎn)業(yè)發(fā)展態(tài)勢與法治保障二我國以政策法規(guī)保障人工智能健康發(fā)展三國際社會人工智能立法趨勢與主要做法四人工智能發(fā)展與規(guī)范的法治完善建議人工智能技術(shù)產(chǎn)業(yè)發(fā)展態(tài)勢與法治保障一2022年11月ChatGPT上線，代表著AI技術(shù)從感知、理解世界到生成、創(chuàng)造世界的躍遷。2025年初以來，DeepSeek通過深度開源模式推動AI領(lǐng)域新一輪技術(shù)研發(fā)與應(yīng)用熱潮。DeepSeek憑借技術(shù)開源、成本優(yōu)化與全球協(xié)作，引領(lǐng)人工智能產(chǎn)業(yè)邁向高效創(chuàng)新與普惠應(yīng)用的新階段技術(shù)角度深度開源打破算力依賴市場格局用戶與應(yīng)用數(shù)量爆發(fā)式增長國際影響加速我國產(chǎn)品全球技術(shù)滲透人工智能成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎中國高度重視人工智能發(fā)展，積極推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟深度融合，培育壯大智能產(chǎn)業(yè)，加快發(fā)展新質(zhì)生產(chǎn)力，為高質(zhì)量發(fā)展提供新動能。習(xí)近平2024年6月20日向2024世界智能產(chǎn)業(yè)博覽會所致的賀信人工智能推動生產(chǎn)方式深刻變革人工智能賦能各行各業(yè)形成新質(zhì)生產(chǎn)力人工智能塑造新型勞動者形成新質(zhì)生產(chǎn)力完善推動新一代信息技術(shù)、人工智能、航空航天、新能源、新材料、高端裝備、生物醫(yī)藥、量子科技等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系加強網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管制度2025年《政府工作報告》持續(xù)推進“人工智能+”行動大力發(fā)展智能網(wǎng)聯(lián)新能源汽車、人工智能手機和電腦、智能機器人等新一代智能終端以及智能制造裝備人工智能技術(shù)快速發(fā)展的同時，風(fēng)險事件同步增加隱私和數(shù)據(jù)系統(tǒng)可靠性系統(tǒng)安全透明度公平性人工智能的五大風(fēng)險人工智能治理需要積極發(fā)揮法治的保障作用以制度剛性固根本以規(guī)則確定性穩(wěn)預(yù)期以良法善治利長遠法治人工智能治理法治化成為全球趨勢歐盟綜合性立法：《人工智能法案》美國綜合性人工智能立法提案特定主題的人工智能立法提案行政命令中國《生成式人工智能服務(wù)管理暫行辦法》我國人工智能存在發(fā)展問題和應(yīng)用風(fēng)險在發(fā)展層面，例如人工智能輔助內(nèi)容生成的版權(quán)確權(quán)與侵權(quán)問題在實踐中困擾創(chuàng)新主體我國人工智能存在發(fā)展問題和應(yīng)用風(fēng)險在應(yīng)用層面，例如人工智能應(yīng)用已然引發(fā)人格權(quán)、人身權(quán)等實際問題我國人工智能存在發(fā)展問題和應(yīng)用風(fēng)險在應(yīng)用層面，關(guān)于人工智能對就業(yè)的沖擊等問題也出現(xiàn)爆發(fā)式討論國家對人工智能法治作出明確部署和要求重視人工智能發(fā)展與規(guī)范完善推動新一代信息技術(shù)、人工智能、航空航天、新能源、新材料、高端裝備、生物醫(yī)藥、量子科技等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系加強網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管制度完善生成式人工智能發(fā)展和管理機制統(tǒng)籌立改廢釋纂，加強重點領(lǐng)域、新興領(lǐng)域、涉外領(lǐng)域立法2025年1月召開的中央政法工作會議指出，對存在時間差、空白區(qū)的要推動“立”。比如，要研究無人駕駛、低空經(jīng)濟、人工智能、虛擬貨幣、數(shù)據(jù)權(quán)屬等新問題。國家對人工智能法治作出明確部署和要求部署人工智能立法工作2023年10月發(fā)布的《全球人工智能治理倡議》提出：“逐步建立健全法律和規(guī)章制度，保障人工智能研發(fā)和應(yīng)用中的個人隱私與數(shù)據(jù)安全，反對竊取、篡改、泄露和其他非法收集利用個人信息的行為?！薄妒膶萌珖舜蟪Ｎ瘯⒎ㄒ?guī)劃》提出要“推進科技創(chuàng)新和人工智能健康發(fā)展”?！度珖舜蟪Ｎ瘯?024年度立法工作計劃》提出“研究包括……網(wǎng)絡(luò)治理和人工智能健康發(fā)展等方面的立法項目，由有關(guān)方面抓緊開展調(diào)研和起草工作，視情安排審議”?！秶鴦?wù)院2024年度立法工作計劃》提出“預(yù)備提請全國人大常委會審議人工智能法草案”。我國以政策法規(guī)保障人工智能健康發(fā)展二人工智能政策法規(guī)體系的構(gòu)建持續(xù)推動出臺人工智能產(chǎn)業(yè)促進政策人工智能政策法規(guī)體系的構(gòu)建構(gòu)建良好的立法基礎(chǔ)人工智能政策法規(guī)體系的構(gòu)建推動形成智能向善的人工智能治理主張我國密集出臺人工智能產(chǎn)業(yè)政策（一）“1”：頂層設(shè)計國務(wù)院：《新一代人工智能發(fā)展規(guī)劃》工信部：《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018—2020年）》教育部等三部委：《關(guān)于“雙一流”建設(shè)高校促進學(xué)科融合加快人工智能領(lǐng)域研究生培養(yǎng)的若干意見》科技部：《科技部關(guān)于支持建設(shè)新一代人工智能示范應(yīng)用場景的通知》工信部等四部門：《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》“N”：部委政策加強人工智能相關(guān)法律、倫理和社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認、隱私和產(chǎn)權(quán)保護、信息安全利用等法律問題研究，建立追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等《新一代人工智能發(fā)展規(guī)劃》重點圍繞自動駕駛、服務(wù)機器人等應(yīng)用基礎(chǔ)較好的細分領(lǐng)域，加快研究制定相關(guān)安全管理法規(guī)，為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)開展人工智能行為科學(xué)和倫理等問題研究，建立倫理道德多層次判斷結(jié)構(gòu)及人機協(xié)作的倫理框架制定人工智能產(chǎn)品研發(fā)設(shè)計人員的道德規(guī)范和行為守則，加強對人工智能潛在危害與收益的評估，構(gòu)建人工智能復(fù)雜場景下突發(fā)事件的解決方案《新一代人工智能發(fā)展規(guī)劃》《新一代人工智能發(fā)展規(guī)劃》積極參與人工智能全球治理，加強機器人異化和安全監(jiān)管等人工智能重大國際共性問題研究，深化在人工智能法律法規(guī)、國際規(guī)則等方面的國際合作，共同應(yīng)對全球性挑戰(zhàn)初步構(gòu)建多層次多維度的人工智能法律體系（二）對人工智能的共性問題出臺了法律法規(guī)1《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國電子商務(wù)法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》當(dāng)前，數(shù)據(jù)資源成為人工智能尤其是大模型發(fā)展中最核心、最基礎(chǔ)的要素。模型訓(xùn)練階段收集個人信息《中華人民共和國網(wǎng)絡(luò)安全法》規(guī)定，網(wǎng)絡(luò)運營者收集、使用個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意《中華人民共和國個人信息保護法》對使用個人信息的合法性基礎(chǔ)進行了規(guī)定爬取網(wǎng)絡(luò)數(shù)據(jù)使用版權(quán)數(shù)據(jù)《中華人民共和國著作權(quán)法》以列舉方式規(guī)定了十二種屬于合理使用的情形，并設(shè)置兜底條款《中華人民共和國數(shù)據(jù)安全法》規(guī)定應(yīng)當(dāng)采取合法、正當(dāng)?shù)姆绞绞占瘮?shù)據(jù)，不得竊取或者以其他非法方式獲取數(shù)據(jù)《中華人民共和國反不正當(dāng)競爭法》設(shè)置“商業(yè)道德”兜底條款模型應(yīng)用階段《中華人民共和國數(shù)據(jù)安全法》規(guī)定了數(shù)據(jù)安全保護義務(wù)，開展數(shù)據(jù)處理活動應(yīng)當(dāng)依照法律、法規(guī)的規(guī)定，建立健全全流程數(shù)據(jù)安全管理制度，組織開展數(shù)據(jù)安全教育培訓(xùn)，采取相應(yīng)的技術(shù)措施和其他必要措施，保障數(shù)據(jù)安全《中華人民共和國個人信息保護法》規(guī)定，處理個人信息應(yīng)當(dāng)遵循合法、正當(dāng)、必要和誠信原則，不得通過誤導(dǎo)、欺詐、脅迫等方式處理個人信息針對應(yīng)用的重點領(lǐng)域和場景出臺了多項管理規(guī)定2倫理規(guī)范“小快靈”規(guī)定《關(guān)于加強科技倫理治理的意見》《科技倫理審查辦法（試行）》《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》《中國關(guān)于加強人工智能倫理治理的立場文件》《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》《全球人工智能治理倡議》《人工智能生成合成內(nèi)容標(biāo)識辦法》典型場景地方法律政策《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》《北京市促進通用人工智能創(chuàng)新發(fā)展的若干措施》自動駕駛領(lǐng)域智慧醫(yī)療領(lǐng)域人臉識別領(lǐng)域（1）重點規(guī)范人工智能的倫理問題組織機構(gòu)綱領(lǐng)意見《關(guān)于加強科技倫理治理的意見》國家科技倫理委員會管理規(guī)定重點領(lǐng)域2023年，工業(yè)和信息化部正式成立工業(yè)和信息化部科技倫理委員會、工業(yè)和信息化領(lǐng)域科技倫理專家委員會《科技倫理審查辦法（試行）》（2）全面推進人工智能算法治理2018年《中華人民共和國電子商務(wù)法》2017年《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》2021年《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》2022年2024年“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動“清朗·2022年算法綜合治理”專項行動《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》是我國算法綜合治理的開端，重點從基本原則、規(guī)制范圍、主體責(zé)任、用戶權(quán)益、監(jiān)管機構(gòu)等方面對我國的算法應(yīng)用做出了全面規(guī)范。是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息應(yīng)用算法推薦技術(shù)以基于風(fēng)險的規(guī)制為基本理念，確立了算法定期審核、評估等要求健全算法推薦治理機制注重技術(shù)治理手段，并確立了負面清單制度強調(diào)在網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理中的主體責(zé)任（3）全面推進深度合成治理《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確深度合成服務(wù)提供者的主體責(zé)任《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確深度合成服務(wù)技術(shù)支持者等主體的責(zé)任義務(wù)（4）制定發(fā)布全球首部生成式人工智能專門立法《生成式人工智能服務(wù)管理暫行辦法》科林格里奇困境一項技術(shù)的社會后果不能在技術(shù)生命的早期被預(yù)料到，而當(dāng)不希望的后果被發(fā)現(xiàn)時，技術(shù)卻往往已經(jīng)成為整個經(jīng)濟和社會結(jié)構(gòu)的一部分，以至于對它的控制十分困難。避免新技術(shù)發(fā)展陷入“科林格里奇困境”《生成式人工智能服務(wù)管理暫行辦法》主要原則發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合促進發(fā)展措施數(shù)據(jù)處理和標(biāo)注要求內(nèi)容管理要求鼓勵創(chuàng)新應(yīng)用鼓勵多方協(xié)作鼓勵自主創(chuàng)新與國際合作訓(xùn)練數(shù)據(jù)處理要求數(shù)據(jù)標(biāo)注要求內(nèi)容標(biāo)識違法內(nèi)容處置鼓勵資源共享《生成式人工智能服務(wù)管理暫行辦法》個人信息保護要求用戶服務(wù)要求監(jiān)督檢查輸入信息和使用記錄保護及時受理和處理權(quán)利行使請求指導(dǎo)使用與防沉迷用戶違法活動處置接受投訴舉報穩(wěn)定服務(wù)體制機制監(jiān)管原則監(jiān)管手段投訴舉報《生成式人工智能服務(wù)管理暫行辦法》（5）細化人工智能生成合成內(nèi)容標(biāo)識的要求《人工智能生成合成內(nèi)容標(biāo)識辦法》《網(wǎng)絡(luò)安全技術(shù)

人工智能生成合成內(nèi)容標(biāo)識方法》人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。（6）加速制定典型場景治理規(guī)范自動駕駛領(lǐng)域人臉識別領(lǐng)域智慧醫(yī)療領(lǐng)域（7）積極探索人工智能的地方促進政策《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》《北京市促進通用人工智能創(chuàng)新發(fā)展的若干措施》《蕪湖市建設(shè)算力中心城市促進辦法》推動形成智能向善的人工智能治理主張（三）積極參與全球人工智能治理和規(guī)則建設(shè)12023年參加首屆全球人工智能安全峰會，簽署《布萊切利宣言》2025年參加人工智能行動峰會成立中國—金磚國家人工智能發(fā)展與合作中心2024年引領(lǐng)形成具有廣泛共識的全球人工智能標(biāo)準(zhǔn)規(guī)范2《全球人工智能治理倡議》2023年《人工智能全球治理上海宣言》2024年國際電信聯(lián)盟首份人工智能新決議2024年國際社會人工智能立法趨勢與主要做法三人工智能治理的法治化成為各國的普遍做法（一）國際組織積極推進人工智能治理各國對于人工智能治理開始立法嘗試國際社會人工智能立法的典型模式（二）風(fēng)險規(guī)制模式側(cè)重于對人工智能發(fā)展風(fēng)險的控制發(fā)展引領(lǐng)模式側(cè)重于促進人工智能創(chuàng)新發(fā)展產(chǎn)業(yè)支持+適度監(jiān)管側(cè)重于引導(dǎo)人工智能合規(guī)發(fā)展歐盟：首部綜合性人工智能立法引領(lǐng)全球人工智能監(jiān)管新模式1歐盟《人工智能法案》于2024年8月1日正式生效，成為全球首部全面監(jiān)管人工智能的法規(guī)，并分步驟開始實施。人工智能是歐盟數(shù)字戰(zhàn)略的關(guān)鍵政策領(lǐng)域前期相關(guān)文件奠定了制度基礎(chǔ)歐盟部分成員國已在探索通過國際規(guī)則的方式確保人工智能的安全發(fā)展歐盟期望控制人工智能技術(shù)對經(jīng)濟與社會的風(fēng)險歐盟希望塑造人工智能全球規(guī)則和標(biāo)準(zhǔn)，再現(xiàn)“布魯塞爾效應(yīng)”《人工智能法案》出臺的背景不可接受風(fēng)險高風(fēng)險有限風(fēng)險低風(fēng)險（1）確立了基于風(fēng)險實施分級治理的模式明確禁止“不可接受風(fēng)險”人工智能需要接受全面監(jiān)管的“高風(fēng)險”人工智能需要滿足透明度義務(wù)的有限風(fēng)險人工智能不需要承擔(dān)任何義務(wù)的低風(fēng)險人工智能（2）積極推動《人工智能法案》實施的各項機制、細化文件等落地完善（3）《人工智能法案》制定出臺過程中的反對聲音技術(shù)發(fā)展的快速迭代與監(jiān)管滯后超前監(jiān)管引發(fā)的產(chǎn)業(yè)發(fā)展擔(dān)憂對先進人工智能模型的監(jiān)管執(zhí)行情況的質(zhì)疑美國：推進基于創(chuàng)新應(yīng)用的治理范式2發(fā)展戰(zhàn)略在促進人工智能發(fā)展方面將延續(xù)、漸強初步形成了以總統(tǒng)行政令、聯(lián)邦機構(gòu)標(biāo)準(zhǔn)指南以及行業(yè)自律為核心支柱的人工智能治理政策框架治理框架（1）聯(lián)邦層面?zhèn)銧钪卫斫Y(jié)構(gòu)（2）州層面立法多點開花加州作為全球人工智能創(chuàng)新生態(tài)中心，其在人工智能立法方面的探索受到廣泛關(guān)注。圍繞加州《前沿人工智能模型安全創(chuàng)新法案》的立法爭議，展現(xiàn)出對新技術(shù)立法的復(fù)雜性。案例：加州人工智能硬法規(guī)范探索（3）進入特朗普2.0時代，更加強調(diào)維護美國人工智能領(lǐng)導(dǎo)地位，以“去監(jiān)管”的思路促進人工智能發(fā)展，贏得中美戰(zhàn)略競爭在此背景下，美國聯(lián)邦層面中長期內(nèi)仍將以行政命令、標(biāo)準(zhǔn)指南等軟法治理為主，“硬法”規(guī)制不是美國人工智能治理的主要手段。韓國：“產(chǎn)業(yè)支持+適度監(jiān)管”的特色發(fā)展之路3《人工智能發(fā)展與信任基礎(chǔ)創(chuàng)建法》的立法特點“寬嚴(yán)并濟”，嚴(yán)格管理“高風(fēng)險人工智能”與促進中小企業(yè)發(fā)展并行《人工智能發(fā)展與信任基礎(chǔ)創(chuàng)建法》的立法特點“管促結(jié)合”，專設(shè)機構(gòu)統(tǒng)籌發(fā)展與安全《人工智能發(fā)展與信任基礎(chǔ)創(chuàng)建法》的立法特點“導(dǎo)主罰輔”，引導(dǎo)行業(yè)發(fā)展并對違規(guī)行為設(shè)置較低罰款其他國家和地區(qū)：紛紛加快人工智能規(guī)范步伐4國際組織：全球人工智能治理的重要推動力量（三）聯(lián)合國發(fā)揮主渠道作用推進人工智能國際治理更多國際組織將人工智能納入關(guān)注議題世界衛(wèi)生組織國際貨幣基金組織逐條出區(qū)域?qū)用嫒斯ぶ悄苤卫砉沧R加快達成2024年1月，美、加、澳、日等11國發(fā)布聯(lián)合指南《參與人工智能》2024年2月，東盟發(fā)布《東盟人工智能治理與倫理指南》2024年5月，歐洲委員會通過《關(guān)于人工智能與人權(quán)、