TTAF 209.9-2024 移動互聯(lián)網(wǎng)應用程序（APP）合規(guī)開發(fā)管理測評規(guī)范 第9部分：算法模型

ICS33.030

CCSM21

團體標準

T/TAF209.9—2024

移動互聯(lián)網(wǎng)應用程序（APP）合規(guī)開發(fā)管理

測評規(guī)范第9部分：算法模型

EvaluationspecificationforcompliancedevelopmentofmobileInternet

application—Part9：Algorithmmodel

2024-02-23發(fā)布2024-02-23實施

電信終端產(chǎn)業(yè)協(xié)會發(fā)布

T/TAF209.9—2024

移動互聯(lián)網(wǎng)應用程序（APP）合規(guī)開發(fā)管理測評規(guī)范第9部分：算

法模型

1范圍

本文件規(guī)定了移動互聯(lián)網(wǎng)應用程序（APP）中涉及與用戶權益、或具有輿論屬性或者社會動員能力

相關的算法模型的合規(guī)開發(fā)管理要求及測評方法。

本文件適用于移動互聯(lián)網(wǎng)應用程序開發(fā)者在開發(fā)算法模型時規(guī)范其個人信息保護、用戶權益保護等

方面的合規(guī)行為。也適用于監(jiān)管部門、第三方評估機構等組織對算法模型的合規(guī)開發(fā)進行監(jiān)督、管理和

評估。

2規(guī)范性引用文件

本文件沒有規(guī)范性引用文件。

3術語和定義

下列術語和定義適用于本文件。

3.1

算法algorithm

依據(jù)給定的規(guī)則，根據(jù)數(shù)據(jù)解決特定問題的方法?？梢杂糜诖_定模型參數(shù)。

3.2

模型model

一種基于輸入數(shù)據(jù)或信息生成推理或預測的計算結(jié)構，通常是算法運行得到的結(jié)果。

3.3

數(shù)據(jù)集datasets

數(shù)據(jù)記錄匯聚的數(shù)據(jù)形式。

[來源：GB/T35295—2017]

4縮略語

下列縮略語適用于本文件。

APP：移動互聯(lián)網(wǎng)應用程序（MobileInternetApplication）

5APP算法模型開發(fā)管理要求

1

T/TAF209.9—2024

5.1概述

APP算法模型開發(fā)管理生命周期可分為需求、設計、編碼、測試和維護五個階段。需求階段是明確

算法模型要達到的目的；設計階段是明確算法模型要實現(xiàn)的功能；編碼階段是明確功能實現(xiàn)的方式方法；

測試階段是確認方式方法是否能實現(xiàn)功能與達到目的；維護階段是優(yōu)化或改良算法模型，提升算法模型

的合規(guī)性、安全性、準確性、健壯性。APP算法模型開發(fā)管理應滿足以下基本原則：

a)合法合規(guī)：應符合相關法律法規(guī)的規(guī)定，避免算法模型對應的APP服務引起社會公平、道德倫

理、個人信息安全、網(wǎng)絡安全等方面的風險；

b)公平公正：算法模型對應的APP服務應當公平公正，不得實行不合理的差別待遇，不得利用算

法模型開展不正當競爭；

c)公開透明：以適當方式向用戶公開算法模型處理活動處理用戶信息的范圍、目的、規(guī)則；

d)科學合理：根據(jù)行業(yè)類型、業(yè)務場景等實際情況，科學、合理地設置相關參數(shù)條件和權重、決

策規(guī)則。

5.2需求階段

需求階段是通過調(diào)研和分析，理解用戶和項目應用功能、性能等具體要求，最后確定算法模型應實

現(xiàn)的功能性需求、非功能性需求和應滿足的設計約束的階段。算法模型需求階段的具體要求如下：

a）需求基本要求。算法模型需求提出應以企業(yè)業(yè)務需求為導向，堅持主流價值導向，不得提出法

律、行政法規(guī)禁止的需求。不得提出誘導用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道

德的需求。不得提出從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟

和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的需求。

b）需求提出要求。宜明確算法模型的提出部門、目的和目標、算法模型的名稱、算法類型、基礎

功能、基本原理、運行機制、約束條件等。

c）應用場景要求。APP使用的算法模型應與其實際業(yè)務場景相符合；應當向用戶提供算法模型的

目的等以增強其可解釋性。

d）知識產(chǎn)權要求。企業(yè)應明確算法模型的權屬關系，委托第三方開發(fā)的，應與第三方簽訂協(xié)議進

行約定。

e）需求評估要求。企業(yè)內(nèi)部應對算法模型需求進行評估，相關評估記錄宜妥善保存以便后期測評。

5.3設計階段

設計階段是根據(jù)算法模型需求階段得到的需求分析，設計出滿足設計約束并能夠?qū)崿F(xiàn)任務功能性需

求、非功能性需求的目標函數(shù)及相應的算法模型。算法模型設計階段的具體要求如下：

a）設計基本要求。算法模型設計時不得違反《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息

服務算法推薦管理規(guī)定》《生成式人工智能服務管理暫行辦法》《關于進一步提升移動互聯(lián)網(wǎng)

應用服務能力的通知》等相關法律法規(guī)要求。

b）團隊要求。算法模型開發(fā)部門或第三方機構應配備與算法模型開發(fā)相適應的專業(yè)人員和技術支

撐，明確算法模型的直接負責人。

c）功能要求。應滿足需求階段相對應的功能和應用場景。

d）制度要求。應制定算法模型配套的開發(fā)管理制度，明確該算法模型的開發(fā)管理機制，確保算法

模型相關核心技術的機密性，委托第三方開發(fā)的，應與第三方簽訂保密協(xié)議。

e）數(shù)據(jù)集要求。應明確算法模型的數(shù)據(jù)來源，涉及處理個人信息的，應按照法律法規(guī)要求獲得用

戶同意或其他合法性基礎，并嚴格控制其訪問權限，具備對數(shù)據(jù)訪問和操作等行為審計能力。

f）最小必要要求。應確保算法模型所需的最小必要數(shù)據(jù)，避免過度收集不必要的個人信息。

2

T/TAF209.9—2024

g）隱私保護要求。應確保算法模型能保護用戶的個人隱私，防止敏感信息泄露；宜采取加密、混

淆等技術手段，提供對算法模型參數(shù)的安全保護手段。

h）防歧視要求。應確保算法模型能公平對待所有用戶群體，不應存在歧視性，包括但不限于民族、

信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視，也包括金融借貸、大數(shù)據(jù)“殺熟”、人

工智能相貌、人工智能機器人發(fā)表言論等。

i）透明化要求。應確保算法模型能夠公開其基本原理、主要運行機制、應用場景、目的意圖，保

護用戶的知情權和選擇權。

j）其他要求。設計過程中應同步考慮算法模型的安全性、準確性和健壯性。

k）設計評估要求。企業(yè)內(nèi)部應對算法模型設計進行評估，相關評估記錄宜妥善保存以便后期測評。

5.4編碼階段

編碼階段是對算法模型設計階段所設計的算法模型進行編程實現(xiàn)，包括利用數(shù)據(jù)集對算法模型開展

訓練、測試與驗證等活動。算法模型編碼階段的具體要求如下：

a）編碼基本要求。應養(yǎng)成給代碼加注釋的良好編程習慣，提高代碼的可讀性和可維護性。按照設

計說明書進行編程，不應編寫與設計說明書無關的功能、模塊、服務、后門等。

b）代碼安全要求。應采取安全編碼標準進行算法模型開發(fā)，若引用到開源、第三方產(chǎn)品、技術或

代碼，應對其進行安全性評估后方可使用；應建立人工干預代碼能力，如引入人工權重項，包

括觸發(fā)條件、干預目的、干預手段等；應建立違規(guī)內(nèi)容發(fā)現(xiàn)能力，防范惡意行為產(chǎn)生數(shù)據(jù)對算

法模型的威脅。

c）密碼技術要求。涉及到數(shù)據(jù)傳輸加密、數(shù)據(jù)完整性保護或其他密碼運算的，應選用國家認可的

或行業(yè)公認的密碼算法和技術標準。

d）代碼存儲要求。應確保源代碼的安全存儲，增加源代碼的訪問控制，不應將源代碼托管保存在

不可信的第三方代碼托管平臺中。

e）代碼審計要求。應對算法模型源代碼進行審計，相關審計記錄宜妥善保存以便后期測評。

5.5測試階段

測試階段是對算法模型的功能和性能進行全面驗證的活動。算法模型測試階段的具體要求如下：

a）測試基本要求。應以需求符合性為準繩，秉承公正嚴明的態(tài)度對提交的算法模型進行驗證。

b）測試用例基本要求。測試人員應根據(jù)需求說明書和設計說明書編寫對應的測試用例和測試方

法，并按照測試用例和測試方法進行測試，記錄測試結(jié)果。

c）測試用例范圍要求。除算法模型基本功能和性能外，測試用例還應覆蓋到最小必要、隱私保護、

防歧視、安全性、準確性等范圍。

d）測試場景要求。在測試環(huán)境搭建、數(shù)據(jù)集選擇等方面，應盡可能模擬真實場景數(shù)據(jù)，確保算法

模型輸出結(jié)果的準確性。

e）測試工具要求。應定期對算法模型相關測試工具進行升級、優(yōu)化或校準，提升結(jié)果的準確性。

f）測試報告要求。測試完成應編寫詳細的算法模型測試報告，測試報告宜妥善保存以便后期測評。

5.6維護階段

維護階段是指算法模型正式發(fā)布并使用后，在使用過程中不斷優(yōu)化和升級的一個過程。算法模型維

護階段的具體要求如下：

a）維護基本要求。在算法模型生命周期內(nèi)，應有專業(yè)維護人員或團隊從事算法模型運行監(jiān)測、漏

洞修復、功能優(yōu)化、性能優(yōu)化等算法維護工作，確保算法模型正常運行。應對算法模型的部署

3

T/TAF209.9—2024

操作者、時間及相關結(jié)果、部署過程腳本、軟硬件配置等信息內(nèi)容進行記錄，明確主體責任、

嚴格責任制度。

b）運行監(jiān)測要求。應制定算法模型運行監(jiān)測機制，發(fā)現(xiàn)違規(guī)使用或異常輸出時及時處理。

c）更新要求。算法模型更新時，應按照開發(fā)管理規(guī)范要求重新進行需求提出、需求設計、編碼和

測試。

d）移交轉(zhuǎn)讓要求。算法模型負責人發(fā)生變化時，應做好交接工作并留存交接記錄。發(fā)生轉(zhuǎn)讓的，

應與承接方簽訂轉(zhuǎn)讓協(xié)議，并應做好算法備案變更等手續(xù)。

e）合規(guī)評估要求。定期查看是否有處理方式變更或其他功能變更事件，在有變更時開展算法模型

合規(guī)評估，確保算法模型符合相關法律法規(guī)要求。

6APP算法模型開發(fā)管理測試方法

APP算法模型合規(guī)開發(fā)管理的測試方法主要采用資料審查、技術驗證和人員訪談對開發(fā)過程的五個

環(huán)節(jié)的各項要求進行符合性評估。具體見表1。

表1管理規(guī)范與測評方式對應關系表

測評方式

要求條款要求名稱

資料審查技術驗證人員訪談

5.2a)需求基本原則○○√

5.2b)需求提出要求√○●

5.2c)應用場景要求√○●

5.2d)知識產(chǎn)權要求●○●

5.2e)需求評估要求√○○

5.3a)設計基本原則○○√

5.3b)團隊要求√○●

5.3c)功能要求√○●

5.3d)制度要求√○●

5.3e)數(shù)據(jù)集要求√√●

5.3f)最小必要要求√√●

5.3g)隱私保護要求√√●

5.3h)防歧視要求√√●

5.3i)透明化要求●●√

5.3j)其他要求√●●

5.3k)設計評估要求√○○

5.4a)編碼基本原則○○√

5.4b)代碼安全要求●√○

5.4c)密碼技術要求●√○

5.4d)代碼存儲要求●√○

5.4e)代碼審計要求√○○

5.5a)測試基本原則○○√

5.5b)測試用例基本要求√●○

4

T/TAF209.9—2024

表2管理規(guī)范與測評方式對應關系表（續(xù)）

測評方式

要求條款要求名稱

資料審查技術驗證人員訪談

5.5c)測試用例范圍要求√●○

5.5d)測試場景要求●√○

5.5e)測試工具要求●√○

5.5f)測試報告要求√○○

5.6a)維護基本原則○○√

5.6b)運行監(jiān)測要求●√○

5.6c)更新要求●√○

5.6d)移交轉(zhuǎn)讓要求●○●

5.6e)合規(guī)評估要求√○○

注：“√”表示采用的測評方式；“●”表示可選的測試方式；“○”表示不適用。

5

T/TAF209.9—2024

參考文獻

［1］GB/T35273—2020信息安全技術個人信息安全規(guī)范

［2］GB/T35295—2017信息技術大數(shù)據(jù)術語

6

T/TAF209.9—2024