編者按：中央網(wǎng)信辦日前發(fā)布通知，牽頭開展“清朗·2022年算法綜合治理”專項(xiàng)行動(dòng)，開展時(shí)間為2022年4月8日至12月初。此次專項(xiàng)行動(dòng)聚焦網(wǎng)民關(guān)切，深入排查整改互聯(lián)網(wǎng)企業(yè)平臺(tái)算法安全問題，評(píng)估算法安全能力，重點(diǎn)檢查具有較強(qiáng)輿論屬性或社會(huì)動(dòng)員能力的大型網(wǎng)站、平臺(tái)及產(chǎn)品，督促企業(yè)利用算法加大正能量傳播、處置違法和不良信息、整治算法濫用亂象、積極開展算法備案，推動(dòng)算法綜合治理工作常態(tài)化和規(guī)范化，營造風(fēng)清氣正的網(wǎng)絡(luò)空間。
此前，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等九部委聯(lián)合發(fā)布《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，要求利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。接著，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，規(guī)制內(nèi)容包括監(jiān)督管理執(zhí)法部門、行業(yè)組織、算法推薦服務(wù)提供者等主體應(yīng)當(dāng)遵循的原則規(guī)范，重點(diǎn)是對(duì)個(gè)人權(quán)益、市場秩序、公共利益、國家安全等造成危害的算法應(yīng)用進(jìn)行規(guī)制，自2022年3月1日起施行，預(yù)示著國家對(duì)網(wǎng)絡(luò)空間的治理已經(jīng)從數(shù)據(jù)治理邁向算法治理。如何對(duì)算法推薦服務(wù)的頂層設(shè)計(jì)進(jìn)行立法規(guī)制？如何依法規(guī)制算法推薦服務(wù)行為，全面助力企業(yè)重塑算法合規(guī)體系建設(shè)？這些成為業(yè)界關(guān)注的話題。
隨著數(shù)字經(jīng)濟(jì)的發(fā)展，數(shù)據(jù)規(guī)模急劇擴(kuò)大、運(yùn)算能力快速提升，算法推薦服務(wù)作為企業(yè)、個(gè)人及政府定位新坐標(biāo)、把握新動(dòng)向、選擇新目標(biāo)的基礎(chǔ)工具，日益滲透進(jìn)社會(huì)各領(lǐng)域。算法推薦服務(wù)在推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的同時(shí)，算法歧視、大數(shù)據(jù)殺熟、流量造假、電商平臺(tái)強(qiáng)制“二選一”、誘導(dǎo)沉迷等算法黑箱問題也給社會(huì)帶來嚴(yán)峻挑戰(zhàn)，迫切需要對(duì)算法推薦服務(wù)的頂層設(shè)計(jì)進(jìn)行立法規(guī)制，確立公平、透明、非歧視的算法開發(fā)和運(yùn)用的價(jià)值觀取向，依法規(guī)制算法推薦服務(wù)行為，全面助力企業(yè)重塑算法合規(guī)體系建設(shè)，促進(jìn)算法相關(guān)行業(yè)規(guī)范有序發(fā)展。
算法推薦服務(wù)納入依法規(guī)制范圍
算法推薦服務(wù)，屬于信息自動(dòng)化篩選、個(gè)性化分發(fā)的行為，需要以信息采集及分析等處理為基礎(chǔ)，是思維模式與技術(shù)實(shí)現(xiàn)的組合。算法已經(jīng)歷多次變化，從開始的技術(shù)產(chǎn)品變?yōu)楝F(xiàn)在的網(wǎng)絡(luò)平臺(tái)工具，被用于向用戶提供網(wǎng)絡(luò)服務(wù)，承擔(dān)網(wǎng)絡(luò)空間的日常治理任務(wù)；算法推薦服務(wù)從最初的股票自動(dòng)交易、搜索鏈接等發(fā)展為現(xiàn)在的外賣平臺(tái)調(diào)度算法等。尤其是人工智能技術(shù)的發(fā)展，算法具備自主性和認(rèn)知特征，從工具逐漸上升為決策者，對(duì)社會(huì)秩序和個(gè)體權(quán)益的影響很大。
數(shù)字經(jīng)濟(jì)時(shí)代，算法已廣泛應(yīng)用于社會(huì)生活和公共管理的各種場景，目前整個(gè)社會(huì)信息分發(fā)市場中，智能算法推薦型分發(fā)模式占比已超過70%，依法對(duì)算法推薦服務(wù)的規(guī)制及法律責(zé)任承擔(dān)，已成為全社會(huì)關(guān)注的熱點(diǎn)話題。3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《算法規(guī)定》）規(guī)制的范圍包括：生成合成類，主要規(guī)范內(nèi)容聚合、內(nèi)容自動(dòng)化生成及內(nèi)容合成服務(wù)；個(gè)性化推送類，主要規(guī)范基于用戶畫像而進(jìn)行的內(nèi)容、商品或服務(wù)的個(gè)性化推送服務(wù)；排序精選類，主要規(guī)范內(nèi)容服務(wù)提供者的版面頁面管理，諸如首屏、熱搜、精選、榜單、彈窗等；檢索過濾類，主要規(guī)范搜索引擎、內(nèi)容檢索、內(nèi)容干預(yù)等服務(wù)或行為；調(diào)度決策類，主要規(guī)范工作調(diào)度服務(wù)，如快遞平臺(tái)、出行平臺(tái)等。
《算法規(guī)定》明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范，涵蓋當(dāng)前社會(huì)普遍關(guān)注的算法推薦熱點(diǎn)問題，如用戶模型、流量造假、個(gè)性化推送、未成年人身心健康保護(hù)、互聯(lián)網(wǎng)平臺(tái)勞動(dòng)者權(quán)益保障、大數(shù)據(jù)殺熟等，并且對(duì)上述行為應(yīng)當(dāng)承擔(dān)的法律責(zé)任進(jìn)行明確規(guī)定。算法推薦技術(shù)是算法推薦服務(wù)提供者提供個(gè)性化服務(wù)的重要基礎(chǔ)，對(duì)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的各類行為進(jìn)行規(guī)范，是維護(hù)互聯(lián)網(wǎng)信息服務(wù)行業(yè)良好市場秩序、促進(jìn)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的關(guān)鍵。算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，積極傳播正能量，不得利用算法推薦服務(wù)從事違法活動(dòng)或者傳播違法信息，采取措施防范和抵制傳播不良信息，著力防范化解算法推薦服務(wù)帶來的政治安全、意識(shí)形態(tài)安全、社會(huì)秩序等方面重大風(fēng)險(xiǎn)。
構(gòu)建多元主體協(xié)同共治的治理格局
目前，網(wǎng)絡(luò)平臺(tái)損害消費(fèi)者的知情權(quán)、選擇權(quán)的現(xiàn)象突出，依法規(guī)范網(wǎng)絡(luò)平臺(tái)行為成為數(shù)字經(jīng)濟(jì)法治化建設(shè)亟待解決的問題。最近，《國家發(fā)展改革委等部門關(guān)于推動(dòng)平臺(tái)經(jīng)濟(jì)規(guī)范健康持續(xù)發(fā)展的若干意見》明確提出，探索數(shù)據(jù)和算法安全監(jiān)管，從嚴(yán)管控非必要采集數(shù)據(jù)行為，依法依規(guī)打擊黑市數(shù)據(jù)交易、大數(shù)據(jù)殺熟等數(shù)據(jù)濫用行為。在嚴(yán)格保護(hù)算法等商業(yè)秘密的前提下，支持第三方機(jī)構(gòu)開展算法評(píng)估，引導(dǎo)平臺(tái)企業(yè)提升算法透明度與可解釋性，促進(jìn)算法公平。嚴(yán)肅查處利用算法進(jìn)行信息內(nèi)容造假、傳播負(fù)面有害信息和低俗劣質(zhì)內(nèi)容、流量劫持以及虛假注冊(cè)賬號(hào)等違法違規(guī)行為。國務(wù)院反壟斷委員會(huì)印發(fā)的《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》，對(duì)于經(jīng)營者通過數(shù)據(jù)、算法、平臺(tái)規(guī)則等新型手段達(dá)成壟斷協(xié)議，實(shí)施拒絕交易、限定交易或者大數(shù)據(jù)殺熟等行為，規(guī)定了壟斷行為的認(rèn)定方法，明令禁止平臺(tái)通過算法來實(shí)施壟斷行為。
在平臺(tái)經(jīng)濟(jì)領(lǐng)域出現(xiàn)的新型違法競爭行為，可能既有排除、限制競爭的濫用市場支配地位行為，也有不正當(dāng)競爭行為，還有屬于不合理交易行為，需要綜合運(yùn)用《反壟斷法》《反不正當(dāng)競爭法》《電子商務(wù)法》《消費(fèi)者權(quán)益保護(hù)法》等多部法律法規(guī)予以規(guī)范和治理。面對(duì)算法推薦服務(wù)運(yùn)行場景多維性、商業(yè)模式多樣性及競爭行為復(fù)雜性，依靠單一主體監(jiān)管很難滿足平臺(tái)經(jīng)濟(jì)健康發(fā)展的治理需求，算法治理應(yīng)該充分發(fā)揮多元主體的作用，讓各個(gè)主體參與其中，形成治理合力。這些多元主體包括政府相關(guān)部門、平臺(tái)企業(yè)、消費(fèi)者及團(tuán)體、經(jīng)營者及團(tuán)體、行業(yè)協(xié)會(huì)等組織，以更好地形成治理合力。《算法規(guī)定》鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全自律制度和行業(yè)準(zhǔn)則，組織制定行業(yè)標(biāo)準(zhǔn)。通過行業(yè)自律和制定行業(yè)標(biāo)準(zhǔn)的方式可以將各個(gè)參與主體納入其中，利于形成多元主體共治的格局，充分發(fā)揮社會(huì)公眾的監(jiān)督作用。
重塑企業(yè)算法推薦服務(wù)合規(guī)體系
良好的數(shù)據(jù)治理體系是開展算法治理的基礎(chǔ)，我國出臺(tái)的《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》三部法律，著力構(gòu)建個(gè)人信息和數(shù)據(jù)保護(hù)的基本法律框架，明確要求企業(yè)建立合規(guī)制度體系，可以說，建立個(gè)人信息及數(shù)據(jù)合規(guī)體系已經(jīng)成為現(xiàn)代企業(yè)的一項(xiàng)重要法律義務(wù)，按照《算法規(guī)定》新要求重塑企業(yè)算法推薦服務(wù)合規(guī)體系顯得十分重要。
全面梳理和整改算法應(yīng)用存在的問題。按照《算法規(guī)定》新要求，對(duì)企業(yè)內(nèi)部算法應(yīng)用的機(jī)制、模型、數(shù)據(jù)和應(yīng)用內(nèi)容進(jìn)行全面梳理，發(fā)現(xiàn)相關(guān)制度規(guī)定和業(yè)務(wù)流程及合同條款存在問題的應(yīng)當(dāng)盡快整改。建立用戶申訴渠道和制度，主動(dòng)配合監(jiān)管部門進(jìn)行檢查、備案和安全評(píng)估，及時(shí)排除違法違規(guī)的不良信息、誘導(dǎo)性算法模型、偏見性用戶標(biāo)簽及其他不符合法律法規(guī)、公序良俗和主流價(jià)值導(dǎo)向的情形，確保算法推薦服務(wù)行為的依法合規(guī)。
建立和完善算法應(yīng)用合規(guī)體系。網(wǎng)絡(luò)平臺(tái)企業(yè)應(yīng)當(dāng)高度重視最高人民檢察院牽頭開展的企業(yè)合規(guī)不起訴的監(jiān)督考察制度改革試點(diǎn)，認(rèn)真研判法律法規(guī)、監(jiān)管規(guī)定、行業(yè)準(zhǔn)則、國際標(biāo)準(zhǔn)對(duì)依法合規(guī)的強(qiáng)制性要求，依據(jù)國際標(biāo)準(zhǔn)化組織發(fā)布的ISO 37301《合規(guī)管理體系要求及使用指南》，重點(diǎn)完善算法應(yīng)用合規(guī)體系建設(shè)內(nèi)容，對(duì)相關(guān)制度流程進(jìn)行立改廢，明確企業(yè)合規(guī)體系建設(shè)新目標(biāo)。按照《算法規(guī)定》的規(guī)定，建立健全企業(yè)算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、安全評(píng)估監(jiān)測、安全事件應(yīng)急處置等管理制度和技術(shù)措施，制定并公開算法推薦相關(guān)服務(wù)規(guī)則。尤其是使用算法技術(shù)進(jìn)行推薦服務(wù)的企業(yè)，需要承擔(dān)個(gè)人信息保護(hù)和數(shù)據(jù)安全主體責(zé)任的合規(guī)義務(wù)，注重履行“通知-刪除”責(zé)任，采取有效措施保護(hù)用戶個(gè)人的合法權(quán)利，切實(shí)做到將服務(wù)內(nèi)容審查納入算法運(yùn)行的全流程中，完善考核問責(zé)追責(zé)機(jī)制。強(qiáng)化企業(yè)自律，積極踐行社會(huì)責(zé)任，關(guān)注因未履行合規(guī)義務(wù)帶來的民事訴訟、行政及刑事處罰風(fēng)險(xiǎn)，形成集事前防范、事中控制和事后救濟(jì)于一體的閉環(huán)管控機(jī)制。
健全企業(yè)審計(jì)監(jiān)督制度。作為網(wǎng)絡(luò)平臺(tái)企業(yè)的法定義務(wù)，《個(gè)人信息保護(hù)法》第五十四條要求個(gè)人信息處理者應(yīng)當(dāng)定期對(duì)其處理個(gè)人信息遵守法律、行政法規(guī)的情況進(jìn)行合規(guī)審計(jì)。主要內(nèi)容包括：審查內(nèi)部管理制度和個(gè)人信息備忘錄的完備性和合規(guī)性；個(gè)人信息處理和管理工作；審計(jì)履行個(gè)人信息查閱復(fù)制、修正、移轉(zhuǎn)及刪除義務(wù)情況；審核個(gè)人信息相關(guān)的合同及其他法律文書；根據(jù)個(gè)人信息及數(shù)據(jù)相關(guān)法律法規(guī)的更新，及時(shí)調(diào)整內(nèi)部制度的情況。《算法規(guī)定》要求算法推薦服務(wù)提供者定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等。審計(jì)制度既包括制度審計(jì)也包括技術(shù)安全審計(jì)，通過審計(jì)過程發(fā)現(xiàn)算法應(yīng)用或制度執(zhí)行的缺陷，并解決問題，可以幫助企業(yè)形成一個(gè)正向激勵(lì)的合規(guī)提升機(jī)制。
探索建立算法合規(guī)在線監(jiān)管系統(tǒng)。全面數(shù)字化轉(zhuǎn)型對(duì)合規(guī)管理手段提出更高要求，企業(yè)需要加快提升信息化、數(shù)字化、智能化水平，合規(guī)管理系統(tǒng)向各級(jí)子企業(yè)、分支機(jī)構(gòu)和重要項(xiàng)目系統(tǒng)延伸，確保全面覆蓋、落地見效。加快推進(jìn)合規(guī)管理信息化、數(shù)字化建設(shè)，探索建立算法合規(guī)管理在線監(jiān)管系統(tǒng)，加強(qiáng)對(duì)重點(diǎn)領(lǐng)域、關(guān)鍵節(jié)點(diǎn)的內(nèi)控管理。將算法推薦服務(wù)的法律審核嵌入重大決策、重要業(yè)務(wù)管理流程，通過大數(shù)據(jù)等手段，實(shí)現(xiàn)算法合規(guī)風(fēng)險(xiǎn)在線識(shí)別、分析、評(píng)估和防控。密切關(guān)注相關(guān)立法動(dòng)態(tài)，使合規(guī)體系更好地適應(yīng)法律的變化，有針對(duì)性地采取措施防范算法推薦服務(wù)的法律風(fēng)險(xiǎn)，助推企業(yè)數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展。