健全算法推薦治理機制 推動新技術安全可信發展

近年來，大數據、物聯網、雲計算等新一代信息技術快速發展，數字化、網絡化、智慧化加速推進，新技術新應用新業態蓬勃興起。作為數字經濟時代的重要底層架構，算法逐步成為影響內容分發、服務提供、資源配置的基礎性力量，與此同時，算法也引發了群體歧視、算法合謀、信息繭房等一系列問題，給公眾利益、社會穩定和國家安全帶來巨大挑戰。習近平總書記多次強調，要依法加強網絡社會管理，加強網絡新技術新應用的管理，確保互聯網可管可控。2021年12月31日，國家網信辦聯合工業和信息化部、公安部、市場監管總局出臺《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》），針對當前突出問題，全面搭建了算法綜合治理機制，邁出我國新技術新應用立法的重要一步。

一、堅持問題導向，聚焦人民群眾反映強烈的算法問題

堅持以人民為中心，是習近平新時代中國特色社會主義思想的重要內容，貫穿于習近平新時代中國特色社會主義思想的各個方面。全面貫徹落實以人民為中心，要求突出問題導向、目標導向，積極回應群眾強烈訴求和急難愁盼問題。當前，算法技術廣泛滲入互聯網應用，深入貼近人民生活，由算法引發的信息繭房、算法歧視、未成年人網絡沉迷、騎手安全、不正當競爭等新問題層出不窮，引發社會廣泛關注。

《規定》聚焦重點、抓綱帶目，對上述新問題、新挑戰進行了全面、系統和具體回應，進一步細化用戶權利，切實維護用戶自主權利。一是強化算法透明度，保障用戶知情權。算法透明是實施算法監督、自主選擇的重要前提，也是在損害發生後用戶進行權利救濟的必要保障。《規定》明確了平臺應用算法的告知義務，對算法基本原理、目的意圖和主要運行機制等的公示義務，並鼓勵平臺優化對檢索、排序、選擇、推送、展示等規則的透明度和可解釋性。二是賦予用戶退出個性化推薦的權利。與《個人信息保護法》《電子商務法》相銜接，《規定》第十七條規定了平臺向用戶提供不針對其個人特徵的選項，或者向用戶提供便捷的關閉算法推薦服務選項的義務。三是創新性提出對用戶標簽的管理權，確保用戶對輸入數據的適當干預。根據《規定》的要求，用戶可選擇或刪除用於算法推薦服務的針對其個人特徵的用戶標簽，從輸入數據層面實現更大自主權。此外，《規定》重點強化對未成年人、老年人、勞動者、消費者等特定群體的權益保護。

二、堅持底線思維，夯實平臺算法安全治理的主體責任

當前，人工智慧、大數據等新技術新應用體現出重大國家戰略意義，關係國家安全和公共利益，這更加要求我們堅持底線思維，著力防範化解算法帶來的政治安全、意識形態安全、社會秩序等方面重大風險。在《網絡安全法》《數據安全法》《個人信息保護法》等頂層立法框架下，《規定》與近年國家網信辦出臺的《網絡信息內容生態治理規定》《互聯網用戶公眾賬號信息服務管理規定》《網絡音視頻信息服務管理規定》《互聯網直播服務管理規定》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等互聯網信息服務相關法律規範有效銜接、一脈相承。例如，《規定》對《網絡信息內容生態治理規定》第十二條個性化算法推薦技術的人工干預和自主選擇機制，以及《網絡音視頻信息服務管理規定》第十條有關深度學習、虛擬現實等新技術新應用的安全評估義務等制度，均作了進一步規定。

基於網絡平臺的技術、數據優勢，強化網絡平臺在算法運行中的全流程主體責任，成為《規定》的重要內容。一是《規定》以基於風險的規制為基本理念，確立了算法定期審核、評估等要求。重點強調對算法相關的數據、模型等進行評估審查，規定平臺應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等內容，應當建立健全安全評估監測、安全事件應急處置等管理制度。二是《規定》注重技術治理手段，並確立了負面清單制度。鼓勵平臺綜合運用內容去重、打散干預等技術策略，積極化解信息繭房，實現信息多樣性，同時在不正當競爭、勞動保障、大數據殺熟等方面確立了多項禁止性行為，為算法推薦服務劃定底線紅線。三是《規定》重點強調在網絡信息內容生態治理中的主體責任。要求平臺建立健全算法機制機理審核、科技倫理審查、用戶註冊、信息發佈審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預信息呈現，在各個重點環節積極呈現符合主流價值導向的信息等。

三、堅持良法善治，推進新技術新應用監管的中國路徑

當前，算法等新技術新應用已經成為推動企業數字化轉型和國家治理能力現代化的重要力量，推動算法技術應用中的良法善治意義重大。良法善治意味著應堅持從中國實際出發，立足我國基本國情，統籌考慮經濟社會發展狀況、法治建設總體進程、人民群眾需求變化等綜合因素，借鑒國際社會有益經驗，確保各項制度設計有效落實。《規定》在借鑒國外經驗基礎上，提出事前監管、區分監管、系統監管等思路，貢獻了新技術新應用監管的中國智慧和中國方案。

一是事前監管，確立算法備案、算法評估等制度。《規定》對具有輿論屬性或者社會動員能力的算法推薦服務提供者提出了備案要求，要求通過算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，有效應對算法黑箱問題。針對變更備案信息的要求進一步體現了監管靈活性和敏捷性優勢。二是區分監管，確立分級分類的思路。《規定》從全局角度出發，在複雜多變局面下統籌發展和安全、效率和公平、活力和秩序，引導技術向上向善發展。其中，第二十三條確立了算法分級分類的標準，要求根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等，對算法推薦服務提供者進行差異化管理。三是系統監管，建立多元共治的局面。《規定》著力完善治理體系，統籌各方建立完整制度鏈條。優化監管框架，實現事前事中事後全流程、全鏈條監管，增強監管系統性和權威性；注重充實算法監管力量，培育算法治理的社會性支撐力量，如第三方評估機構、外部專家團隊，推動行業自律和出臺標準指南；推進公眾監督，暢通社會監督和申訴渠道，並切實有效處理公眾訴求。

整體來看，在立法目的上，《規定》注重推動算法安全可信和技術創新之間的有效平衡。一方面建立健全算法安全治理機制，構建完善的算法安全監管體系，另一方面，注重推進算法自主創新，促進算法健康、有序、繁榮發展。在治理理念上，《規定》體現個人賦權和系統治理相結合的算法治理趨勢。在賦予用戶算法知情權、自主選擇權等權利的同時，注重從事前、事中、事後全流程對輸入數據、算法邏輯等全要素進行系統治理。在行為規範上，注重堅持正確導向和底線思維。強調算法應遵循技術倫理，以主流價值觀為引領，強化算法透明度義務規範；同時建立算法運行的負面清單，禁止利用算法影響網絡輿論、實施壟斷和不正當競爭等行為。下一步，建議進一步健全算法安全治理機制，強化監管執法和多元協同治理，落實平臺主體責任，推動數字經濟發展行穩致遠。（作者：王愛華，中國信息通信研究院副總工程師）