算法備案是由國(guó)家網(wǎng)信部門(mén)主導(dǎo),與公安部、工信部、國(guó)家市監(jiān)總局一起聯(lián)合發(fā)布出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》后的具有強(qiáng)制性的備案制度。
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,凡在中國(guó)境內(nèi),應(yīng)用算法推薦技術(shù)向用戶提供互聯(lián)網(wǎng)信息服務(wù)的企業(yè)或機(jī)構(gòu),必須依法進(jìn)行算法備案。
辦理周期:4個(gè)月-6個(gè)月
有效期:3年
行業(yè):互聯(lián)網(wǎng)、金融、醫(yī)療、交通、能源等領(lǐng)域的算法推薦企業(yè)
服務(wù):運(yùn)營(yíng)短視頻、網(wǎng)絡(luò)直播、小程序等平臺(tái),或提供公眾賬號(hào)管理服務(wù)
算法類(lèi)型:使用個(gè)性化推送、排序精選、生成合成等算法
特殊情況:合作方要求提供備案憑證、計(jì)劃進(jìn)入政府采購(gòu)市場(chǎng)
1.生成合成類(lèi):AI繪畫(huà)、AI寫(xiě)作、AI換臉、視頻自動(dòng)剪輯等
2.個(gè)性化推薦類(lèi):推薦算法、"猜你喜歡"、榜單等
3.排序精選類(lèi):熱搜榜、商家排名等
4.檢索過(guò)濾類(lèi):不良信息過(guò)濾、敏感詞識(shí)別等
5.調(diào)度決策類(lèi):外賣(mài)騎手、網(wǎng)約車(chē)等
1、主體資格合規(guī)
企業(yè)需為依法注冊(cè)的獨(dú)立法人,經(jīng)營(yíng)狀態(tài)正常,信用記錄良好。需提供營(yíng)業(yè)執(zhí)照副本、法人身份證等材料,證明主體合法性和資質(zhì)。
2、算法類(lèi)型與應(yīng)用場(chǎng)景
涉及生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法技術(shù)的服務(wù)提供者需備案。例如,短視頻平臺(tái)的個(gè)性化推薦算法、搜索引擎的檢索過(guò)濾算法等。
3、產(chǎn)品與服務(wù)要求
提供具體的產(chǎn)品或服務(wù),如網(wǎng)站、APP、小程序等,并明確其功能、訪問(wèn)路徑及應(yīng)用場(chǎng)景。需說(shuō)明算法在產(chǎn)品中的具體應(yīng)用方式,如算法推薦新聞、商品或服務(wù)等。
4、合規(guī)性與安全措施
建立健全算法安全管理制度,包括算法機(jī)制機(jī)理審核、科技倫理審查、數(shù)據(jù)安全和個(gè)人信息保護(hù)等制度。需提交《算法安全自評(píng)估報(bào)告》,說(shuō)明算法的風(fēng)險(xiǎn)與防范機(jī)制。
5、材料真實(shí)性與完整性
提交的備案材料(如營(yíng)業(yè)執(zhí)照、法人身份證明、算法安全負(fù)責(zé)人信息、自評(píng)估報(bào)告等)需真實(shí)、完整,不得隱瞞或提供虛假信息。
第一,主體備案階段需要準(zhǔn)備材料
1、基礎(chǔ)資質(zhì)文件
申報(bào)主體需提供營(yíng)業(yè)執(zhí)照、法人身份證、算法安全責(zé)任人身份證明等主體資質(zhì)文件。備案承諾材料(含《備案承諾書(shū)》《工作證明》)需按規(guī)范模板填寫(xiě)并加蓋公章。
2、《算法安全主體責(zé)任基本情況》
這是一個(gè)最關(guān)鍵的材料,對(duì)應(yīng)工作量也很大,在這個(gè)基本情況說(shuō)明中,企業(yè)需要完整披露算法安全管理體系,包括【組織架構(gòu)】+【制度文件】。
組織架構(gòu):需設(shè)立專(zhuān)職算法安全管理機(jī)構(gòu)。
制度文件:《算法安全自評(píng)估制度》《算法安全監(jiān)測(cè)制度》《算法安全事件應(yīng)急響應(yīng)規(guī)范》《算法違法違規(guī)處置制度》《信息安全和個(gè)人信息保護(hù)總則》《用戶數(shù)據(jù)權(quán)益處置流程指引》《科技倫理審查制度》
第二,算法備案階段需要準(zhǔn)備材料
(一)算法資料
1.算法基礎(chǔ)屬性信息:包括算法類(lèi)型、算法名稱(chēng)、上線時(shí)間、應(yīng)用領(lǐng)域、算法提供者的角色(服務(wù)提供者/服務(wù)技術(shù)支持者)
2.算法詳細(xì)屬性信息:包括5個(gè)小板塊內(nèi)容
1)算法簡(jiǎn)介(簡(jiǎn)單概括性描述、使用場(chǎng)景)
2)算法數(shù)據(jù)(包括輸入數(shù)據(jù)模態(tài)、輸出數(shù)據(jù)模態(tài)、輸出文件格式)
3)算法模型(包括數(shù)據(jù)集來(lái)源、產(chǎn)生方式、是否涉及個(gè)人信息、使用哪種算法、算法性能、硬件要求等)
4)算法策略:(包括是否進(jìn)行預(yù)處理及方式、是否進(jìn)行后處理及方式、結(jié)果的審核方式等)
5)算法風(fēng)險(xiǎn)與防范機(jī)制(包括是否添加顯示與隱式標(biāo)識(shí)、具體的添加方式、用戶數(shù)據(jù)安全保障機(jī)制、對(duì)生成合成虛假信息的辟謠機(jī)制、不良內(nèi)容發(fā)現(xiàn)處置機(jī)制、風(fēng)險(xiǎn)防范說(shuō)明等)
(二)安全評(píng)估文件
《算法安全自評(píng)估報(bào)告》也是一個(gè)重磅文件,需在報(bào)告中針對(duì)算法功能、風(fēng)險(xiǎn)識(shí)別與分析、風(fēng)險(xiǎn)防控方案等進(jìn)行非常詳實(shí)的說(shuō)明。(可以理解為系對(duì)上述(一)算法資料的詳細(xì)說(shuō)明)由于專(zhuān)業(yè)性和細(xì)節(jié)要求比較高,因?yàn)樵摬糠直淮蚧氐那闆r也較多。
(三)公示信息
《擬公示內(nèi)容》為公開(kāi)披露文件,需簡(jiǎn)明呈現(xiàn)算法基礎(chǔ)信息(不涉及技術(shù)細(xì)節(jié))。
(四)產(chǎn)品信息登記
需完整填報(bào):產(chǎn)品名稱(chēng)及形態(tài)(APP、小程序、網(wǎng)頁(yè)等需分別登記)、訪問(wèn)路徑(下載地址/訪問(wèn)鏈接)、用戶規(guī)模數(shù)據(jù)(MAU/DAU/累計(jì)用戶等)、行政許可信息(如ICP備案號(hào))
(一)算法備案主要材料
1.《算法備案承諾書(shū)》
2.《落實(shí)算法安全主體責(zé)任基本情況》
3.《算法安全自評(píng)估報(bào)告》
4.《擬公示內(nèi)容》
(二)算法備案填報(bào)入口
登錄互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)(以下簡(jiǎn)稱(chēng)“備案系統(tǒng)”,網(wǎng)址:https://beian.cac.gov.cn)進(jìn)行填報(bào)。
(三)算法備案詳細(xì)填報(bào)流程
算法備案流程主要有兩個(gè)部分,主體備案和算法備案。主體信息審核通過(guò)后才能進(jìn)行算法備案,算法備案包括算法基礎(chǔ)信息填報(bào)、關(guān)聯(lián)產(chǎn)品及功能信息或技術(shù)服務(wù)方式填報(bào)。具體流程如下:
(四)算法備案公示
1. 備案號(hào)公示
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》完成備案的服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)在其對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)并提供公示信息鏈接。
2.運(yùn)行機(jī)制公示
根據(jù)備案系統(tǒng),企業(yè)需要公示算法的機(jī)制機(jī)理,包括算法基本原理、算法運(yùn)行機(jī)制、算法應(yīng)用場(chǎng)景以及算法目的意圖等內(nèi)容。

1、哪些企業(yè)需辦理算法備案?
提供具有輿論屬性、社會(huì)動(dòng)員能力,或涉及公眾利益的互聯(lián)網(wǎng)信息服務(wù)(如推薦算法、生成式 AI 服務(wù))的企業(yè),需按規(guī)定辦理備案,非此類(lèi)服務(wù)的企業(yè)暫無(wú)需申請(qǐng)。
2、備案需提交哪些核心材料?
需準(zhǔn)備企業(yè)營(yíng)業(yè)執(zhí)照、主體信息表、算法基礎(chǔ)信息(含原理、運(yùn)行機(jī)制)、關(guān)聯(lián)產(chǎn)品 / 服務(wù)說(shuō)明,若涉及生成式 AI,還需補(bǔ)充訓(xùn)練數(shù)據(jù)來(lái)源說(shuō)明等材料。
3、備案公示有哪些要求?
備案通過(guò)后,需在對(duì)外服務(wù)的網(wǎng)站、APP 顯著位置標(biāo)明備案編號(hào)并附公示鏈接,同時(shí)公示算法機(jī)制機(jī)理(含應(yīng)用場(chǎng)景、目的意圖),公示內(nèi)容需與備案信息一致。
這份資料是算法備案材料的核心之一,核心內(nèi)容包括:
算法安全專(zhuān)職機(jī)構(gòu)設(shè)置
常見(jiàn)錯(cuò)誤:機(jī)構(gòu)設(shè)置模糊、人員配置不足、責(zé)任不明確
正確寫(xiě)法要點(diǎn):
機(jī)構(gòu)名稱(chēng):應(yīng)體現(xiàn)"算法安全"職能,如"算法安全管理中心"或"算法安全委員會(huì)"
組織架構(gòu):采用樹(shù)狀圖+文字說(shuō)明,明確匯報(bào)關(guān)系
負(fù)責(zé)人資質(zhì):詳細(xì)說(shuō)明學(xué)歷背景、專(zhuān)業(yè)經(jīng)驗(yàn)、工作履歷
人員配置:量化明確,如"專(zhuān)職算法安全人員5名,其中技術(shù)崗3名(負(fù)責(zé)日常監(jiān)測(cè)),合規(guī)崗2名(負(fù)責(zé)制度建設(shè))"
技術(shù)保障:具體說(shuō)明保障措施,避免模糊表述
核心制度建設(shè)
(1)算法安全自評(píng)估制度
(2)算法安全監(jiān)測(cè)制度
?、傩畔踩O(jiān)測(cè):
內(nèi)容審核機(jī)制:如“三級(jí)審核(AI初篩+人工復(fù)核+專(zhuān)家終審)”
關(guān)鍵詞庫(kù)管理:敏感詞數(shù)量、更新頻率、覆蓋范圍
人工技術(shù)結(jié)合:人工審核比例(如5%)、響應(yīng)時(shí)間(如2小時(shí)內(nèi))
?、跀?shù)據(jù)安全監(jiān)測(cè):
數(shù)據(jù)全生命周期管理:采集→傳輸→存儲(chǔ)→使用→銷(xiāo)毀
數(shù)據(jù)分級(jí)分類(lèi):如L1至L4級(jí)敏感度劃分
訪問(wèn)權(quán)限控制:最小權(quán)限原則落實(shí)情況
?、塾脩魝€(gè)人信息安全監(jiān)測(cè):
個(gè)人信息保護(hù)措施:加密、脫敏、去標(biāo)識(shí)化
用戶權(quán)利保障:查詢(xún)、更正、刪除、撤回同意的實(shí)現(xiàn)方式
投訴處理機(jī)制:投訴渠道、處理時(shí)限、反饋方式
?、芩惴ò踩O(jiān)測(cè):
漏洞監(jiān)測(cè):算法漏洞掃描頻率、覆蓋范圍
公平性監(jiān)測(cè):不同用戶群體差異分析(如性別、年齡)
對(duì)抗攻擊防范:防篡改、防欺騙機(jī)制
(3)算法安全事件應(yīng)急處理制度
事件分級(jí):建議3-4級(jí)(如:一般、較大、重大、特別重大)
響應(yīng)流程:采用流程圖,明確不同級(jí)別事件處理流程
責(zé)任分工:每個(gè)環(huán)節(jié)明確責(zé)任人及備份聯(lián)系人
演練機(jī)制:每年至少1次應(yīng)急演練,保留記錄
(4)算法違法違規(guī)處置制度
違規(guī)情形分類(lèi):數(shù)據(jù)違規(guī)、內(nèi)容違規(guī)、權(quán)益違規(guī)、安全違規(guī)
處置措施梯度:警告→整改→限制功能→下線→報(bào)告監(jiān)管部門(mén)
處置流程:發(fā)現(xiàn)問(wèn)題→評(píng)估定級(jí)→處置決策→執(zhí)行→記錄
歷史案例:可匿名化提供1-2個(gè)歷史處置案例
互聯(lián)網(wǎng)信息服務(wù)算法備案辦理費(fèi)用無(wú)固定標(biāo)準(zhǔn),整體區(qū)間在5000元起,核心受辦理地區(qū)、辦理方式及企業(yè)自身?xiàng)l件決定。主要差異在附加及代辦等費(fèi)用。
此外,企業(yè)若需增資、人員、場(chǎng)地滿足辦理?xiàng)l件,會(huì)產(chǎn)生額外成本;特殊行業(yè)及加急辦理也會(huì)讓費(fèi)用相應(yīng)增加。