中國(guó)信息通信研究院副院長(zhǎng)  胡堅(jiān)波

【摘要】開展算法治理是依法加強(qiáng)網(wǎng)絡(luò)社會(huì)治理的重要組成部分，也是貫徹黨中央國(guó)務(wù)院決策部署、引導(dǎo)產(chǎn)業(yè)健康發(fā)展、順應(yīng)國(guó)際趨勢(shì)的重要舉措。近年來，算法在繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會(huì)發(fā)展等方面發(fā)揮重要作用，但與此同時(shí)，算法操縱信息、濫用數(shù)據(jù)、算法霸權(quán)等問題仍然存在，引發(fā)內(nèi)容安全風(fēng)險(xiǎn)、侵害用戶合法權(quán)益、破壞數(shù)字市場(chǎng)秩序、影響社會(huì)公共治理等問題，亟需深入治理。應(yīng)堅(jiān)持以人為本、安全可控、公平公正、透明可釋等基本原則理念，積極構(gòu)建多元主體協(xié)同的治理模式，以硬性法律制度夯實(shí)安全底線，以柔性治理手段激勵(lì)算法向上向善，穩(wěn)步推進(jìn)算法綜合治理體系建設(shè)，推動(dòng)我國(guó)數(shù)字經(jīng)濟(jì)和算法產(chǎn)業(yè)發(fā)展行穩(wěn)致遠(yuǎn)。

【關(guān)鍵詞】算法治理 算法風(fēng)險(xiǎn) 多元治理 科技倫理

【中圖分類號(hào)】 D922.6/TP391.3 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2022.10.002

當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革突飛猛進(jìn)，數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn)，數(shù)字技術(shù)與經(jīng)濟(jì)社會(huì)發(fā)展、人民生產(chǎn)生活交織融合，數(shù)字經(jīng)濟(jì)發(fā)展速度之快、輻射范圍之廣、影響程度之深前所未有。作為數(shù)字時(shí)代一項(xiàng)關(guān)鍵信息技術(shù)，算法早已無處不在，被嵌入社會(huì)運(yùn)行的諸多層次，并日益廣泛地應(yīng)用在新聞推薦、電子商務(wù)、無人駕駛、司法判決、智能診療等商業(yè)和公共領(lǐng)域，成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型和國(guó)家治理能力現(xiàn)代化的重要力量。與此同時(shí)，算法對(duì)社會(huì)生活的影響也“無遠(yuǎn)弗屆”，在造福人類的同時(shí)，實(shí)踐中算法歧視、算法霸權(quán)、算法黑箱等問題層出不窮，日益威脅著個(gè)人權(quán)利、公共利益乃至國(guó)家利益，因此，加強(qiáng)算法治理成為亟需全球共同面對(duì)的重要議題。

算法治理的重要性緊迫性日益凸顯

落實(shí)中央決策部署的重要舉措。開展算法治理是依法加強(qiáng)網(wǎng)絡(luò)社會(huì)管理的重要組成部分，也是認(rèn)真貫徹黨中央、國(guó)務(wù)院決策部署的重要舉措。習(xí)近平總書記多次強(qiáng)調(diào)，要依法加強(qiáng)網(wǎng)絡(luò)社會(huì)管理，加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理，確?；ヂ?lián)網(wǎng)可管可控。習(xí)近平總書記在十九屆中央政治局第十二次集體學(xué)習(xí)時(shí)的講話中強(qiáng)調(diào)，用主流價(jià)值導(dǎo)向駕馭“算法”。2020年12月，中共中央印發(fā)《法治社會(huì)建設(shè)實(shí)施綱要（2020－2025年）》，明確提出依法治理網(wǎng)絡(luò)空間，“制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。近年來，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等監(jiān)管部門貫徹落實(shí)黨中央、國(guó)務(wù)院決策部署，持續(xù)組織開展算法治理工作，聚焦人民群眾反映強(qiáng)烈、社會(huì)高度關(guān)注的算法推薦、信息繭房等問題，迅速出擊、積極作為，切實(shí)解決人民群眾最關(guān)心最直接最現(xiàn)實(shí)的問題。2021年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等九部門聯(lián)合發(fā)布《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，提出用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

引導(dǎo)產(chǎn)業(yè)健康發(fā)展的現(xiàn)實(shí)需要。算法治理水平對(duì)于數(shù)字經(jīng)濟(jì)發(fā)展環(huán)境和算法相關(guān)產(chǎn)業(yè)發(fā)展具有重要影響。作為數(shù)字經(jīng)濟(jì)時(shí)代的重要底層架構(gòu)，算法逐步成為影響內(nèi)容分發(fā)、服務(wù)提供、資源配置的基礎(chǔ)性力量，與此同時(shí)，算法也引發(fā)了群體歧視、算法合謀、不正當(dāng)競(jìng)爭(zhēng)等一系列問題，影響了數(shù)字經(jīng)濟(jì)市場(chǎng)秩序，阻礙了算法推薦服務(wù)等相關(guān)產(chǎn)業(yè)的健康發(fā)展。深入開展算法治理是適應(yīng)當(dāng)前我國(guó)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的關(guān)鍵舉措，也是防范化解安全風(fēng)險(xiǎn)、促進(jìn)算法服務(wù)行業(yè)健康發(fā)展的現(xiàn)實(shí)需要。我國(guó)已進(jìn)入高質(zhì)量發(fā)展階段，這并不是意味著我國(guó)已經(jīng)實(shí)現(xiàn)了高質(zhì)量發(fā)展，而是指我國(guó)發(fā)展已經(jīng)到了必須以高質(zhì)量發(fā)展為主要目標(biāo)要求的階段。習(xí)近平總書記在十九屆中央政治局第三十四次集體學(xué)習(xí)的講話中強(qiáng)調(diào)，要規(guī)范數(shù)字經(jīng)濟(jì)發(fā)展，堅(jiān)持促進(jìn)發(fā)展和監(jiān)管規(guī)范兩手抓、兩手都要硬，在發(fā)展中規(guī)范、在規(guī)范中發(fā)展。推進(jìn)算法治理不僅是一項(xiàng)具有重大社會(huì)效益的益民舉措，也是為算法相關(guān)產(chǎn)業(yè)持續(xù)健康發(fā)展?fàn)I造公平競(jìng)爭(zhēng)環(huán)境的重要保障。

順應(yīng)國(guó)際發(fā)展趨勢(shì)的普遍做法。從全球范圍來看，隨著算法技術(shù)演進(jìn)和應(yīng)用普及，起草制定算法監(jiān)管相關(guān)法律政策、規(guī)制引導(dǎo)算法技術(shù)和應(yīng)用向善發(fā)展，是全球數(shù)字經(jīng)濟(jì)發(fā)展背景下的大勢(shì)所趨，推進(jìn)算法治理已經(jīng)成為國(guó)際社會(huì)廣泛關(guān)注的重要議題和普遍做法。在國(guó)際組織層面，聯(lián)合國(guó)、經(jīng)濟(jì)發(fā)展與合作組織（OECD）、二十國(guó)集團(tuán)（G20）等發(fā)布多項(xiàng)相關(guān)倫理指南，推動(dòng)算法實(shí)現(xiàn)透明可釋、公平公正、安全可控。在區(qū)域和國(guó)家層面，歐盟提出技術(shù)主權(quán)話語體系，重點(diǎn)關(guān)注算法帶來的人類自主性、人性尊嚴(yán)威脅以及日益突出的極端言論、政治生態(tài)等問題。歐盟早在2016年通過的《通用數(shù)據(jù)保護(hù)條例》（GDPR）中就規(guī)定了免受自動(dòng)化決策權(quán)。此后，歐盟又相繼發(fā)布《數(shù)字服務(wù)法案》《數(shù)字市場(chǎng)法案》《人工智能法案》等，對(duì)算法利用和大型平臺(tái)展開全面監(jiān)管。美國(guó)在聯(lián)邦和地方層面提出多項(xiàng)算法相關(guān)立法，重點(diǎn)關(guān)注政府公共部門、人臉識(shí)別等領(lǐng)域產(chǎn)生的種族歧視、政治選舉操縱等問題。2017年12月，美國(guó)紐約市議會(huì)通過《關(guān)于政府機(jī)構(gòu)使用自動(dòng)化決策系統(tǒng)的當(dāng)?shù)胤ā罚瑢?duì)法院、警方等公權(quán)力機(jī)構(gòu)使用的人工智能自動(dòng)化決策系統(tǒng)進(jìn)行安全規(guī)制。2019年4月，美國(guó)參議員提出聯(lián)邦《算法問責(zé)法案》，要求美國(guó)聯(lián)邦貿(mào)易委員會(huì)對(duì)企業(yè)進(jìn)行算法審查，強(qiáng)調(diào)通過訴諸專業(yè)性的行政機(jī)構(gòu)或外部監(jiān)督主體，對(duì)算法決策問題進(jìn)行審查。

我國(guó)算法治理仍面臨諸多風(fēng)險(xiǎn)挑戰(zhàn)

近年來，在黨中央、國(guó)務(wù)院統(tǒng)一決策部署下，我國(guó)相關(guān)政府部門密切配合，積極推進(jìn)算法治理相關(guān)工作，出臺(tái)了全球第一部系統(tǒng)性規(guī)制算法推薦的法律文件——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，取得了階段性明顯成效。但與此同時(shí)，作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，算法發(fā)展變化快，新情況新問題不斷出現(xiàn)，目前仍面臨諸多問題和挑戰(zhàn)，需要持續(xù)深入推進(jìn)算法治理工作。

算法操縱信息引發(fā)內(nèi)容安全風(fēng)險(xiǎn)。目前，算法已經(jīng)成為互聯(lián)網(wǎng)信息分發(fā)的重要工具，代表了網(wǎng)絡(luò)宣傳的新范式。在信息大爆炸的背景下，算法推薦將信息獲取從“大海撈針”轉(zhuǎn)為“私人定制”，極大地提升了信息分發(fā)的效率和精準(zhǔn)度。但是，算法應(yīng)用也呈現(xiàn)一系列突出問題。一是以獲取流量為核心目標(biāo)，缺乏價(jià)值觀和客觀性。用戶流量是企業(yè)盈利的重要來源，算法所追求的技術(shù)中立僅限于形式和運(yùn)行程序中立，無法真正實(shí)現(xiàn)價(jià)值中立。在缺乏價(jià)值觀引領(lǐng)的前提下，算法作為企業(yè)獲客、增加用戶粘性的重要工具，容易優(yōu)先推送博人眼球的虛假信息、標(biāo)題黨、極端內(nèi)容、低俗泛娛樂等信息。二是容易導(dǎo)致信息單一性，形成信息繭房。一方面，長(zhǎng)期困于信息繭房、屏蔽異己信息，不利于個(gè)人理性思想塑造和觀點(diǎn)養(yǎng)成。另一方面，信息繭房容易激化矛盾、加劇社會(huì)焦慮情緒，甚至造成群體極化。三是算法具有操縱用戶思想、影響社會(huì)輿論的能力。算法通過大數(shù)據(jù)深度分析并實(shí)施有針對(duì)性信息推送，使人們潛移默化地遵循其所控制的技術(shù)系統(tǒng)的規(guī)范和要求，無形中對(duì)特定個(gè)人或人群進(jìn)行精準(zhǔn)思想“操縱”，影響公共空間意見的來源和構(gòu)成。

算法濫用數(shù)據(jù)侵害用戶合法權(quán)益。海量的數(shù)據(jù)“喂養(yǎng)”是算法創(chuàng)新的前提。伴隨算法、物聯(lián)網(wǎng)、5G等技術(shù)的快速發(fā)展，全球數(shù)據(jù)呈現(xiàn)爆發(fā)增長(zhǎng)、海量集聚的特點(diǎn)。在對(duì)數(shù)據(jù)收集處理的過程中，算法容易產(chǎn)生侵害用戶個(gè)人信息權(quán)益、算法歧視等典型問題。一方面，個(gè)人信息違規(guī)處理問題突出，嚴(yán)重侵犯用戶隱私等權(quán)益。例如，在未經(jīng)用戶同意情況下，過度收集用戶行為數(shù)據(jù)、人臉數(shù)據(jù)等個(gè)人信息，進(jìn)行算法畫像并精準(zhǔn)推送信息或商品，侵害用戶知情權(quán)、自主權(quán)和選擇權(quán)。另一方面，大數(shù)據(jù)殺熟等算法歧視問題突出。平臺(tái)依據(jù)用戶消費(fèi)習(xí)慣、地理位置、需求迫切程度等信息進(jìn)行定價(jià)，部分消費(fèi)者在未知情況下支付更高價(jià)格。根據(jù)總臺(tái)報(bào)道，電商平臺(tái)大數(shù)據(jù)殺熟現(xiàn)象突出，平臺(tái)對(duì)價(jià)格不敏感用戶、蘋果手機(jī)用戶或老用戶、會(huì)員用戶定價(jià)更高，侵害消費(fèi)者公平交易權(quán)和知情權(quán)，損害社會(huì)公平交易秩序。

利用算法霸權(quán)破壞數(shù)字市場(chǎng)秩序。在市場(chǎng)競(jìng)爭(zhēng)領(lǐng)域，算法有助于促進(jìn)服務(wù)創(chuàng)新，降低決策成本，在改善商品定價(jià)模型、提供定制化服務(wù)、分析預(yù)測(cè)價(jià)格趨勢(shì)等方面發(fā)揮積極作用。但與此同時(shí)，平臺(tái)利用算法實(shí)施限制交易、虛假宣傳等不正當(dāng)競(jìng)爭(zhēng)和壟斷行為，也對(duì)數(shù)字經(jīng)濟(jì)發(fā)展環(huán)境和市場(chǎng)競(jìng)爭(zhēng)秩序帶來負(fù)面影響。一是部分平臺(tái)企業(yè)利用算法給自營(yíng)業(yè)務(wù)以“優(yōu)待”。在市場(chǎng)競(jìng)爭(zhēng)中，平臺(tái)扮演了“參賽選手”和“裁判員”雙重角色，易于利用算法操縱商品展示、推薦和排序的優(yōu)先級(jí)進(jìn)行自我優(yōu)待。二是利用算法達(dá)成共謀協(xié)議。作為一種更高效的工具，算法在傳統(tǒng)的反競(jìng)爭(zhēng)行為當(dāng)中可能起到支持、促進(jìn)實(shí)施、維持和隱藏的作用，可能促進(jìn)橫向壟斷協(xié)議和縱向壟斷協(xié)議的達(dá)成和維持，例如，促成價(jià)格聯(lián)合行為，檢測(cè)固定或最低轉(zhuǎn)售價(jià)格的偏差。三是利用算法限制交易。平臺(tái)經(jīng)營(yíng)者通過算法進(jìn)行搜索降權(quán)、流量限制等懲罰性措施來保障“二選一”行為的實(shí)施。在市場(chǎng)監(jiān)管總局公布的調(diào)查中，個(gè)別電商平臺(tái)憑借市場(chǎng)力量和算法等技術(shù)手段，對(duì)不執(zhí)行平臺(tái)“二選一”等要求的平臺(tái)內(nèi)經(jīng)營(yíng)者實(shí)施處罰，包括減少促銷活動(dòng)資源支持、搜索降權(quán)等，破壞了公平有序的市場(chǎng)競(jìng)爭(zhēng)秩序。

算法問責(zé)困境影響社會(huì)公共治理。在公共領(lǐng)域，算法顯著提升了公共治理效率，例如，智慧交通系統(tǒng)的應(yīng)用大大提升了通勤效率。然而，算法在帶來便利的同時(shí)也為國(guó)家安全、公共利益和個(gè)人權(quán)利帶來新問題新挑戰(zhàn)，算法治理不足成為制約我國(guó)新發(fā)展階段數(shù)字經(jīng)濟(jì)提速和國(guó)家治理能力現(xiàn)代化的障礙。一是缺乏說明解釋、公眾參與等正當(dāng)程序要求。例如在社會(huì)福利分配、員工聘用等算法程序中，對(duì)于算法作出對(duì)用戶有重大影響的決定所造成的用戶權(quán)益損害，缺乏權(quán)利救濟(jì)的程序。二是通過算法實(shí)現(xiàn)對(duì)勞動(dòng)者的行為監(jiān)控，侵害其主體權(quán)益。“困在算法中的外賣騎手”、被技術(shù)支配的網(wǎng)約車司機(jī)、被智能手環(huán)實(shí)時(shí)監(jiān)控的環(huán)衛(wèi)工人等都身處算法規(guī)訓(xùn)的牢籠之中。三是責(zé)任歸屬難題。在自動(dòng)駕駛、智能醫(yī)療、輔助量刑等應(yīng)用中，對(duì)于因算法錯(cuò)誤帶來的人身、財(cái)產(chǎn)損害，如何在設(shè)計(jì)者、平臺(tái)、用戶等主體間分配責(zé)任，成為當(dāng)前制約算法應(yīng)用的重要障礙。

以“算法向善向上”明確我國(guó)算法治理的原則理念

開展算法治理首先需要明確治理的基本原則和理念，從觀念和道德層面提出各方主體開展算法活動(dòng)應(yīng)遵循的基本要求，同時(shí)有效彌補(bǔ)法律滯后性的缺陷，解決算法治理過程中法律規(guī)范的“時(shí)間差”“空白區(qū)”等問題，引導(dǎo)算法向善向上發(fā)展。

堅(jiān)持以人為本是算法治理的基本導(dǎo)向。開展算法治理工作必須堅(jiān)持以人民為中心的發(fā)展思想，不斷增強(qiáng)人民獲得感、幸福感、安全感，促進(jìn)人類社會(huì)和平發(fā)展和可持續(xù)發(fā)展。習(xí)近平總書記強(qiáng)調(diào)，“讓億萬人民在共享互聯(lián)網(wǎng)發(fā)展成果上有更多獲得感”。以人為本強(qiáng)調(diào)以人作為價(jià)值的核心和社會(huì)的本位，把人的生存與發(fā)展作為最高的價(jià)值目標(biāo)。要堅(jiān)守以人為本的宗旨，秉持良善的技術(shù)設(shè)計(jì)倫理原則來設(shè)計(jì)算法。當(dāng)前，以人為本成為國(guó)際社會(huì)算法治理普遍認(rèn)可的價(jià)值導(dǎo)向，例如，聯(lián)合國(guó)教科文組織同世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)2016年聯(lián)合發(fā)布的《機(jī)器人倫理初步報(bào)告草案》，倡導(dǎo)以人為本，努力促使“機(jī)器人尊重人類社會(huì)的倫理規(guī)范”；再如，歐盟2020年發(fā)布的《人工智能白皮書》也指出要以人為本、合乎道德、可持續(xù)發(fā)展。以人為本強(qiáng)調(diào)人是算法的目的而非工具，在算法應(yīng)用中，利用算法操縱人類思想、行為，利用算法窺探人類隱私、濫用個(gè)人信息等行為，均違背了以人為本的基本導(dǎo)向。因此，在算法設(shè)計(jì)、部署、應(yīng)用的全流程中，均應(yīng)牢固樹立以人為本的價(jià)值導(dǎo)向，確保算法尊重和維護(hù)人類利益和福祉 。

堅(jiān)持安全可控是算法治理的核心目標(biāo)。新技術(shù)快速迭代應(yīng)用的同時(shí)，也不斷帶來新的風(fēng)險(xiǎn)和安全隱患，隱患所涉領(lǐng)域從網(wǎng)絡(luò)安全到數(shù)據(jù)安全，再到算法安全，焦點(diǎn)持續(xù)演進(jìn)。算法安全與政治安全、國(guó)土安全、軍事安全、經(jīng)濟(jì)安全、文化安全、社會(huì)安全等一起，成為我國(guó)總體安全體系中的關(guān)鍵環(huán)節(jié)。習(xí)近平總書記指出，“沒有網(wǎng)絡(luò)安全就沒有國(guó)家安全”，“安全是發(fā)展的前提，發(fā)展是安全的保障，安全和發(fā)展要同步推進(jìn)”。當(dāng)前，算法泛化能力差、算法自我更新迭代不可控、數(shù)據(jù)質(zhì)量和樣本不足等技術(shù)應(yīng)用現(xiàn)狀，導(dǎo)致算法應(yīng)用和產(chǎn)品存在被攻擊、被欺騙、被操縱等多重風(fēng)險(xiǎn)。安全可控是確保算法可信和算法創(chuàng)新的重要前提。中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見》明確指出，“科技活動(dòng)應(yīng)客觀評(píng)估和審慎對(duì)待不確定性和技術(shù)應(yīng)用的風(fēng)險(xiǎn)，力求規(guī)避、防范可能引發(fā)的風(fēng)險(xiǎn)，防止科技成果誤用、濫用，避免危及社會(huì)安全、公共安全、生物安全和生態(tài)安全”。

堅(jiān)持公平公正是算法治理的價(jià)值追求。公平公正是歷史悠久的價(jià)值目標(biāo)和價(jià)值準(zhǔn)則，也是我國(guó)《民法典》《個(gè)人信息保護(hù)法》等諸多法律法規(guī)規(guī)定的基本原則。習(xí)近平總書記指出，“積極營(yíng)造開放、公平、公正、非歧視的數(shù)字發(fā)展環(huán)境”?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確規(guī)定，提供算法推薦服務(wù)，應(yīng)當(dāng)遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則。公平強(qiáng)調(diào)人人平等和機(jī)會(huì)均等，避免歧視對(duì)待，帶有明顯的工具性，即用同一尺度衡量所有的人或事，要求一視同仁。公正帶有明顯價(jià)值取向，強(qiáng)調(diào)這種價(jià)值取向的正當(dāng)性。一方面，治理算法歧視問題需要將公平公正作為算法治理的價(jià)值取向。算法歧視可分為人為造成的歧視、數(shù)據(jù)驅(qū)動(dòng)造成的歧視和機(jī)器自我學(xué)習(xí)造成的歧視，其本質(zhì)是社會(huì)歧視在算法應(yīng)用中的映射。另一方面，算法自我優(yōu)待、操縱排序等不正當(dāng)競(jìng)爭(zhēng)行為同樣違背了公平公正原則，是新技術(shù)推動(dòng)下平臺(tái)利用算法權(quán)力謀取私利，損害社會(huì)公正的表現(xiàn)。在我國(guó)進(jìn)行算法治理的過程中，應(yīng)當(dāng)堅(jiān)持公平公正的價(jià)值追求，尊重民族、種族、身體條件、宗教信仰等差異，包容地對(duì)待不同社會(huì)群體，避免各類歧視和偏見。

堅(jiān)持透明可釋是算法治理的重要保障。算法透明是指對(duì)算法相關(guān)信息的可訪問性和可解釋性，是算法責(zé)任分配的基礎(chǔ)?！蛾P(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確提出，“督促企業(yè)及時(shí)、合理、有效地公開算法基本原理、優(yōu)化目標(biāo)、決策標(biāo)準(zhǔn)等信息，做好算法結(jié)果解釋，暢通投訴通道，消除社會(huì)疑慮，推動(dòng)算法健康發(fā)展”。由于算法技術(shù)的復(fù)雜性，尤其是自主學(xué)習(xí)算法的自我迭代和產(chǎn)生的算法“黑箱”等問題，導(dǎo)致算法成為不可解釋的技術(shù)黑箱，引發(fā)算法問責(zé)的倫理難題。算法透明成為克服算法問責(zé)難題的重要前提和保障。算法透明首先意味著算法模型和輸入、輸出數(shù)據(jù)的透明可見，實(shí)現(xiàn)用戶的知情權(quán)和監(jiān)管部門對(duì)信息的獲取。算法透明并不要求算法源代碼的公開，僅要求對(duì)算法基本原理、主要運(yùn)行機(jī)制的公示。通過算法透明，可有效發(fā)揮公眾監(jiān)督、行業(yè)監(jiān)督和政府監(jiān)管的效力，避免算法黑箱下的平臺(tái)權(quán)力濫用。同時(shí)，算法透明還意味著算法運(yùn)行后的可解釋性。在自動(dòng)駕駛、金融、醫(yī)療等應(yīng)用場(chǎng)景下，算法如果難以實(shí)現(xiàn)可解釋，將阻礙相關(guān)主體損害救濟(jì)的實(shí)現(xiàn)，進(jìn)而降低算法可信賴性。因此，從技術(shù)、法律和倫理等多層面實(shí)現(xiàn)算法在重大風(fēng)險(xiǎn)領(lǐng)域的可解釋性，是當(dāng)前算法治理的重要保障。

多措并舉加快構(gòu)建算法綜合治理體系

算法治理工作涉及主體眾多、情況復(fù)雜多樣，是一項(xiàng)非常艱巨的系統(tǒng)工程，需要堅(jiān)持問題導(dǎo)向，多措并舉，推動(dòng)建立涵蓋“多主體”“多手段”的算法綜合治理格局。積極構(gòu)建多元主體協(xié)同的治理模式，加快推進(jìn)軟硬結(jié)合的治理手段，以硬性的法律制度夯實(shí)算法安全發(fā)展底線，以柔性的規(guī)范手段激勵(lì)算法向上向善發(fā)展。

積極構(gòu)建多元主體協(xié)同的治理模式。治理主體的多元化是算法治理的重要特征，依賴于包括政府、行業(yè)組織、企業(yè)、公眾在內(nèi)的多利益攸關(guān)方的參與合作，各方各司其職、各盡所能，以適當(dāng)?shù)慕巧?、最佳的方式協(xié)同共治，從而構(gòu)建嚴(yán)謹(jǐn)、全面、有效的全新治理模式。

一是發(fā)揮政府在算法治理中的主導(dǎo)作用。算法治理工作需要公權(quán)力發(fā)揮主導(dǎo)作用，政府監(jiān)管是算法治理最主要的推動(dòng)力量。近年來，算法技術(shù)在輿論宣傳、市場(chǎng)決策，乃至軍事等領(lǐng)域普及應(yīng)用，算法風(fēng)險(xiǎn)的廣泛性、全局性、不可控性凸顯，單憑個(gè)人或私人機(jī)構(gòu)力量難以有效對(duì)抗算法風(fēng)險(xiǎn)，需要公權(quán)力的干預(yù)和引導(dǎo)。國(guó)家政府部門作為肩負(fù)公共事務(wù)管理職責(zé)的公權(quán)力機(jī)關(guān)，應(yīng)當(dāng)依據(jù)職責(zé)和相關(guān)法律法規(guī)積極開展算法治理工作?！蛾P(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》提出，要健全算法安全治理機(jī)制，網(wǎng)信部門會(huì)同宣傳、教育、科技、工信、公安、文化和旅游、市場(chǎng)監(jiān)管、廣電等部門，建立部門協(xié)同聯(lián)動(dòng)長(zhǎng)效機(jī)制，履行監(jiān)管職責(zé)，共同開展算法安全治理工作?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也規(guī)定，國(guó)家網(wǎng)信部門、國(guó)務(wù)院電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門以及地方相關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)算法推薦服務(wù)監(jiān)督管理工作。未來，建議相關(guān)部門充分發(fā)揮監(jiān)管主體作用，健全完善算法規(guī)則標(biāo)準(zhǔn)、強(qiáng)化監(jiān)管執(zhí)法活動(dòng)、加大算法規(guī)范普法宣傳，持續(xù)提升算法治理水平和能力，推動(dòng)算法應(yīng)用向上向善發(fā)展。

二是規(guī)范企業(yè)切實(shí)履行算法治理主體責(zé)任。企業(yè)是最主要的市場(chǎng)主體，與傳統(tǒng)領(lǐng)域治理相比，互聯(lián)網(wǎng)企業(yè)是當(dāng)前算法最大的擁有者、開發(fā)者和使用者，因此也是算法治理的重要實(shí)踐者與行動(dòng)者，是確保算法技術(shù)在正確道路上發(fā)展的重要防線，其履責(zé)水平的高低直接關(guān)系到算法治理工作的水平。尤其是頭部平臺(tái)企業(yè)，作為算法技術(shù)的主要開發(fā)者和擁有者，掌握了資金、技術(shù)、人才、市場(chǎng)、政策扶持等大量資源，在推動(dòng)算法治理規(guī)則和標(biāo)準(zhǔn)落地上發(fā)揮著決定性作用，理應(yīng)承擔(dān)相關(guān)主體責(zé)任，嚴(yán)格遵守法律法規(guī)、科技倫理和技術(shù)標(biāo)準(zhǔn)，以高標(biāo)準(zhǔn)進(jìn)行自我約束與監(jiān)督，實(shí)現(xiàn)有效的行業(yè)自律自治。面對(duì)算法所引發(fā)的社會(huì)擔(dān)憂與質(zhì)疑，應(yīng)當(dāng)引導(dǎo)平臺(tái)企業(yè)主動(dòng)研究算法倫理問題，推動(dòng)科技向善，積極探索算法評(píng)估、算法透明、算法可釋等企業(yè)最佳實(shí)踐，推動(dòng)算法事前、事中、事后全流程風(fēng)險(xiǎn)把控，開發(fā)差分隱私、隱私計(jì)算、算法透明度工具等技術(shù)手段，并積極參與和引領(lǐng)算法國(guó)際標(biāo)準(zhǔn)制定，在算法治理中發(fā)揮重要作用。

三是引導(dǎo)行業(yè)組織積極參與算法治理。行業(yè)組織作為兼顧服務(wù)、溝通、自律、協(xié)調(diào)等功能的社會(huì)團(tuán)體，是協(xié)調(diào)算法治理、制定算法應(yīng)用產(chǎn)業(yè)標(biāo)準(zhǔn)的先行者和積極實(shí)踐者。算法行業(yè)只有通過不斷地自律發(fā)展，更多地履行法律義務(wù)和社會(huì)責(zé)任，更好地發(fā)揮政府和市場(chǎng)各自的作用，才能走向良性循環(huán)，才能滿足人民的需要，才能在國(guó)際上更具競(jìng)爭(zhēng)力。從國(guó)際社會(huì)來看，電氣與電子工程師協(xié)會(huì)（IEEE）、美國(guó)計(jì)算機(jī)協(xié)會(huì)（ACM）、人工智能促進(jìn)協(xié)會(huì)（AAAI）等行業(yè)協(xié)會(huì)，以及國(guó)際標(biāo)準(zhǔn)化組織（ISO）、國(guó)際電工委員會(huì)（IEC）等標(biāo)準(zhǔn)化組織在算法、人工智能治理領(lǐng)域發(fā)揮了重要作用。從國(guó)內(nèi)來看，我國(guó)目前也成立了人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟、人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟等行業(yè)組織，成員涵蓋了國(guó)內(nèi)主要的算法企業(yè)。下一步，在算法治理中，建議進(jìn)一步發(fā)揮行業(yè)組織作用，積極搭建政產(chǎn)學(xué)研溝通平臺(tái)，組織開展算法治理相關(guān)研究，制定算法技術(shù)及產(chǎn)品標(biāo)準(zhǔn)，推動(dòng)行業(yè)各方落實(shí)算法治理要求，持續(xù)貢獻(xiàn)行業(yè)治理經(jīng)驗(yàn)。

四是鼓勵(lì)公眾參與算法治理，完善社會(huì)監(jiān)督。公眾是算法技術(shù)、產(chǎn)品的主要服務(wù)對(duì)象，擁有對(duì)算法治理相關(guān)內(nèi)容的監(jiān)督、意見反饋等權(quán)利。公眾參與是實(shí)現(xiàn)算法有效治理不可缺少的重要力量。治理好算法，需要著力暢通各個(gè)治理主體間溝通渠道，加強(qiáng)社會(huì)公眾與平臺(tái)、政府等主體間的對(duì)話與協(xié)商，合作制定應(yīng)對(duì)算法風(fēng)險(xiǎn)挑戰(zhàn)的整體解決方案。公眾要積極參與算法治理的規(guī)則制定，適當(dāng)介入相關(guān)監(jiān)督、監(jiān)管過程，為算法治理獻(xiàn)計(jì)獻(xiàn)策，形成自下而上的協(xié)同治理模式，使算法服務(wù)真正地“以人為本，造福人類”。此外，新聞媒體是社會(huì)監(jiān)督的重要力量，在算法治理中可以充分發(fā)揮輿論監(jiān)督功能，暢通社會(huì)監(jiān)督表達(dá)渠道，著力發(fā)現(xiàn)問題、化解矛盾，力求通達(dá)社情民意、弘揚(yáng)社會(huì)正氣，保障公眾知情權(quán)、參與權(quán)、監(jiān)督權(quán)。

五是深化算法治理國(guó)際合作。習(xí)近平總書記指出，我們要攜手合作，共同營(yíng)造有利于數(shù)字經(jīng)濟(jì)發(fā)展的國(guó)際環(huán)境，要推動(dòng)建設(shè)和平、安全、開放、合作的網(wǎng)絡(luò)空間，探索建立多邊、透明、包容的數(shù)字領(lǐng)域國(guó)際貿(mào)易規(guī)則。算法技術(shù)發(fā)展和應(yīng)用具有跨國(guó)界、國(guó)際分工的特征，治理算法需要國(guó)際社會(huì)共同發(fā)力。由于各國(guó)在算法技術(shù)研發(fā)上的關(guān)注與投入不同，算法技術(shù)在各國(guó)的發(fā)展參差不齊，有關(guān)算法治理的需求和要求也各不相同?？梢钥紤]依托聯(lián)合國(guó)、上合組織、G20、金磚等國(guó)際組織和多邊場(chǎng)合，汲取各國(guó)關(guān)于算法治理的共性原則和最佳實(shí)踐，深入?yún)⑴c并積極宣介中國(guó)在算法治理領(lǐng)域的經(jīng)驗(yàn)做法，引導(dǎo)算法治理穩(wěn)步前進(jìn)并達(dá)成國(guó)際共識(shí)。

以硬性法律制度夯實(shí)算法安全底線。法律是治國(guó)之重器，法治是國(guó)家治理體系和治理能力的重要依托，是互聯(lián)網(wǎng)治理特別是算法治理工作不可或缺的重要手段。要妥善解決算法發(fā)展中治理的一系列突出矛盾和重大問題，必須密織法律之網(wǎng)、強(qiáng)化法治之力，劃清行為底線、明確違法違規(guī)高壓線，堅(jiān)持在法治軌道上統(tǒng)籌社會(huì)力量、平衡社會(huì)利益、調(diào)節(jié)社會(huì)關(guān)系、規(guī)范社會(huì)行為，推動(dòng)構(gòu)建涵蓋算法備案、分級(jí)分類、算法審查等舉措在內(nèi)的科學(xué)監(jiān)管體系，逐步形成算法治理長(zhǎng)效機(jī)制，確保算法發(fā)展既生機(jī)勃勃又井然有序。

一是健全完善算法備案制度，從服務(wù)入口實(shí)現(xiàn)登記備查。算法備案制度是一項(xiàng)推動(dòng)實(shí)現(xiàn)算法透明的重要?jiǎng)?chuàng)新制度。備案制度在我國(guó)有著較為廣泛的運(yùn)用，一般是指?jìng)浒钢黧w向行政主管機(jī)關(guān)就要求事項(xiàng)提供書面材料，主管機(jī)關(guān)接受備案主體材料，予以登記并存檔備查。通過算法備案制度，可在算法服務(wù)入口獲取算法設(shè)計(jì)部署階段的算法系統(tǒng)相關(guān)信息。當(dāng)算法的使用造成實(shí)際損害時(shí)，既有的算法備案信息也可以為監(jiān)督部門提供便捷的故障溯源與追責(zé)途徑，有利于及時(shí)便捷地保障國(guó)家、社會(huì)、個(gè)人的權(quán)利。特別是在算法應(yīng)用領(lǐng)域仍在拓展、影響尚不明確的情況下，采取算法備案這一監(jiān)管措施，可以在保持風(fēng)險(xiǎn)防控力的同時(shí)，隨時(shí)對(duì)算法發(fā)展和運(yùn)用的情況進(jìn)行觀察與研判。目前，在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，我國(guó)已經(jīng)上線運(yùn)行了算法備案系統(tǒng)。針對(duì)算法種類繁多、形式多樣的特性，應(yīng)通過立法方式進(jìn)一步擴(kuò)展備案范圍，完善備案程序、細(xì)化備案主體義務(wù)，穩(wěn)步推進(jìn)算法備案工作。

二是建立分級(jí)分類管理制度，依風(fēng)險(xiǎn)大小實(shí)現(xiàn)差異監(jiān)管。分級(jí)分類管理體現(xiàn)了科學(xué)化、精細(xì)化的算法治理基本思路，是平衡安全和發(fā)展的重要制度方案。當(dāng)前，以風(fēng)險(xiǎn)為導(dǎo)向的分級(jí)分類管理理念在國(guó)際社會(huì)得到廣泛認(rèn)可。例如，歐盟《通用數(shù)據(jù)保護(hù)條例》推行“基于風(fēng)險(xiǎn)的路徑”（risk-based approach），將風(fēng)險(xiǎn)作為判定個(gè)人數(shù)據(jù)保護(hù)義務(wù)的重要衡量標(biāo)準(zhǔn)；2021年，歐盟《人工智能法案》延續(xù)“基于風(fēng)險(xiǎn)”的監(jiān)管理念，對(duì)人工智能技術(shù)應(yīng)用進(jìn)行風(fēng)險(xiǎn)劃分，確立了不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)、極低風(fēng)險(xiǎn)等四級(jí)人工智能。再如，加拿大《自動(dòng)化決策指令》將算法風(fēng)險(xiǎn)劃分為四級(jí)，分別介于I（代表最小風(fēng)險(xiǎn)）和IV（代表最大風(fēng)險(xiǎn)）之間。在我國(guó)，分級(jí)分類管理已在多個(gè)領(lǐng)域得到普遍適用。例如，在數(shù)據(jù)安全領(lǐng)域，《中華人民共和國(guó)數(shù)據(jù)安全法》要求國(guó)家建立數(shù)據(jù)分類分級(jí)保護(hù)制度。2021年出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將算法推薦技術(shù)分為生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等五大類，同時(shí)，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確要求，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理。下一步，應(yīng)研究制定算法分級(jí)分類管理的具體制度要求，全面調(diào)查評(píng)估算法風(fēng)險(xiǎn)等級(jí)，通過出臺(tái)規(guī)范性文件、行業(yè)標(biāo)準(zhǔn)等明確細(xì)化算法分級(jí)分類的可操作標(biāo)準(zhǔn)，通過企業(yè)最佳實(shí)踐形成算法分級(jí)分類方案。

三是建立算法審查制度，深入平臺(tái)內(nèi)部實(shí)現(xiàn)穿透式監(jiān)管。算法審查是由監(jiān)管部門對(duì)算法的流程、要素進(jìn)行合規(guī)性審查，旨在揭示算法是否遵循了適當(dāng)程序，并發(fā)現(xiàn)侵害事實(shí)與算法損害結(jié)果的關(guān)聯(lián)性，以實(shí)現(xiàn)有效追責(zé)的監(jiān)管方式。近年來，國(guó)外由司法部門進(jìn)行的算法審查和由第三方機(jī)構(gòu)進(jìn)行的算法審計(jì)在算法治理中逐漸發(fā)揮重要作用。例如，美國(guó)威斯康星州最高法院對(duì)Wisconsin v. Loomis案中使用算法是否造成種族歧視的問題進(jìn)行司法審查。再如，2020年，荷蘭審計(jì)署對(duì)荷蘭政府使用算法的情況進(jìn)行為期一年的審計(jì)工作，以評(píng)估算法帶來的社會(huì)影響。適應(yīng)算法治理新形勢(shì)的需要，我國(guó)應(yīng)盡快建立算法審查制度，從審查機(jī)構(gòu)、審查范圍、審查流程、審查內(nèi)容等方面推進(jìn)算法治理和算法責(zé)任落實(shí)。一方面，可依法建立算法審查專門機(jī)構(gòu)，負(fù)責(zé)對(duì)算法進(jìn)行隨機(jī)抽查或定向抽檢，從技術(shù)上對(duì)算法進(jìn)行審查檢驗(yàn)，對(duì)算法風(fēng)險(xiǎn)提出更正、補(bǔ)救措施。另一方面，建立健全算法審查機(jī)制，對(duì)算法運(yùn)行的全過程，包括數(shù)據(jù)輸入、算法設(shè)計(jì)、算法運(yùn)行、結(jié)果影響進(jìn)行有效的審查監(jiān)督，注重對(duì)數(shù)據(jù)偏見的審查，確保數(shù)據(jù)樣本的公平客觀；注重對(duì)算法模型開發(fā)和運(yùn)行階段的人工干預(yù)，降低算法決策偏差所帶來的影響。

以柔性的規(guī)范手段激勵(lì)算法向上向善。算法風(fēng)險(xiǎn)作為數(shù)字智能時(shí)代的新型風(fēng)險(xiǎn)類型，具有明顯的廣泛性、復(fù)雜性，僅靠法律手段難以完全實(shí)現(xiàn)全面治理。以算法評(píng)估、技術(shù)治理、行業(yè)標(biāo)準(zhǔn)為代表的柔性規(guī)范手段，不僅彌補(bǔ)了法律滯后性帶來的治理空白，引導(dǎo)算法向上向善發(fā)展；同時(shí)也避免了法律制度的強(qiáng)制性約束，為企業(yè)創(chuàng)新和業(yè)務(wù)探索留下了空間。

一是利用算法評(píng)估提前研判安全風(fēng)險(xiǎn)。算法評(píng)估是自我監(jiān)督和外部強(qiáng)制性監(jiān)督結(jié)合的治理機(jī)制。算法評(píng)估目的是建立風(fēng)險(xiǎn)適應(yīng)型的算法治理，在設(shè)計(jì)、部署、運(yùn)行和結(jié)果輸出全生命周期進(jìn)行評(píng)估，不同評(píng)估結(jié)果對(duì)應(yīng)不同治理強(qiáng)度。這一制度要求在算法模型設(shè)計(jì)完成后、投入使用前，由專門機(jī)構(gòu)對(duì)算法可能造成的潛在歧視影響進(jìn)行事前評(píng)估，尤其要對(duì)其是否將對(duì)特定受保護(hù)群體產(chǎn)生不成比例的差別性影響加以評(píng)估。具體來看，算法評(píng)估從程序和實(shí)質(zhì)上創(chuàng)建了合理的算法透明度，保證算法系統(tǒng)的可追溯性、穩(wěn)健性和準(zhǔn)確性。當(dāng)前，算法評(píng)估制度已成為國(guó)內(nèi)外算法治理的重要手段。例如，2021年，歐盟《算法責(zé)任與透明治理框架》提出建立“算法影響評(píng)估”機(jī)制，以應(yīng)對(duì)算法對(duì)內(nèi)容與用戶行為的“過程操縱”。我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也規(guī)定了有關(guān)部門依法開展算法評(píng)估和監(jiān)督檢查的工作職責(zé)，并要求算法推薦服務(wù)提供者對(duì)評(píng)估和監(jiān)督檢查工作提供必要的數(shù)據(jù)、技術(shù)等支持或協(xié)助。下一步，應(yīng)盡快建立配套的算法安全檢查評(píng)估機(jī)制，推動(dòng)算法推薦服務(wù)提供者開展算法安全自評(píng)估，督促相關(guān)主體建設(shè)安全檢查評(píng)估力量，支撐有關(guān)部門對(duì)算法推薦服務(wù)進(jìn)行安全檢查，督促算法推薦服務(wù)提供者及時(shí)發(fā)現(xiàn)和整改相關(guān)問題。

二是利用技術(shù)手段預(yù)警日常風(fēng)險(xiǎn)隱患。技術(shù)治理是化解算法風(fēng)險(xiǎn)、實(shí)現(xiàn)日常預(yù)警隱患的重要手段。隨著人工智能的持續(xù)發(fā)展，算法技術(shù)治理方式也在不斷突破創(chuàng)新，方法種類不斷豐富，作用效果逐步提升。一方面，在設(shè)計(jì)和開發(fā)階段構(gòu)建可信人工智能框架、堅(jiān)持倫理與法治的設(shè)計(jì)原則、加強(qiáng)對(duì)算法系統(tǒng)的測(cè)試和驗(yàn)證、建立服務(wù)質(zhì)量指標(biāo)體系等；另一方面，在算法部署全流程中，加強(qiáng)技術(shù)實(shí)時(shí)監(jiān)測(cè)、通過技術(shù)手段實(shí)現(xiàn)算法系統(tǒng)的可解釋性等。從算法安全監(jiān)管體系的角度來看，算法風(fēng)險(xiǎn)監(jiān)測(cè)致力于對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景、影響效果等開展日常監(jiān)測(cè)，感知算法應(yīng)用帶來的網(wǎng)絡(luò)傳播趨勢(shì)、市場(chǎng)規(guī)則變化、網(wǎng)民行為等信息。從實(shí)踐來看，目前部分企業(yè)已通過數(shù)據(jù)篩選、算法設(shè)計(jì)、模型優(yōu)化等技術(shù)手段，將倫理原則“嵌入”算法應(yīng)用與產(chǎn)品中，從而解決諸如隱私泄露、算法偏見、非法內(nèi)容審核等問題，以達(dá)到科技向善的目的。在我國(guó)算法治理過程中，應(yīng)進(jìn)一步強(qiáng)化研究攻關(guān)算法全生命周期安全監(jiān)測(cè)等關(guān)鍵技術(shù)問題，開展網(wǎng)絡(luò)算法第三方監(jiān)測(cè)、評(píng)估等方面研究，實(shí)現(xiàn)算法標(biāo)準(zhǔn)化及可評(píng)估以促進(jìn)技術(shù)創(chuàng)新和成果轉(zhuǎn)化，提高算法產(chǎn)品服務(wù)質(zhì)量與國(guó)際競(jìng)爭(zhēng)力，助力打造公平開放的算法產(chǎn)業(yè)生態(tài)。

三是利用行業(yè)標(biāo)準(zhǔn)明確算法運(yùn)行底層邏輯。在軟法治理的工具箱中，行業(yè)標(biāo)準(zhǔn)是國(guó)際社會(huì)普遍依托的重要抓手。行業(yè)標(biāo)準(zhǔn)是對(duì)企業(yè)和市場(chǎng)需求的規(guī)則回應(yīng)，有助于細(xì)化具體要求，引導(dǎo)企業(yè)承擔(dān)社會(huì)責(zé)任，促進(jìn)算法應(yīng)用向上向善。在算法治理過程中，行業(yè)標(biāo)準(zhǔn)可在算法規(guī)范中嵌入倫理價(jià)值，例如，國(guó)際標(biāo)準(zhǔn)化組織《ISO／IEC 30122》、電氣和電子工程師協(xié)會(huì)《IEEE P7001》等文本中均嵌入了算法透明、安全可控等價(jià)值。與此同時(shí)，行業(yè)標(biāo)準(zhǔn)是一種編碼化的知識(shí)，可將技術(shù)的某項(xiàng)特性或路徑轉(zhuǎn)換為技術(shù)規(guī)范，進(jìn)而促使產(chǎn)品達(dá)到規(guī)范要求。此外，技術(shù)標(biāo)準(zhǔn)可以結(jié)合應(yīng)用場(chǎng)景和系統(tǒng)類型探索最佳方案，為人工智能產(chǎn)品的設(shè)計(jì)者提供清晰指引，確保系統(tǒng)生成可靠、完整且不可篡改的確鑿記錄作為追溯驗(yàn)證的依據(jù)。總體來看，行業(yè)標(biāo)準(zhǔn)對(duì)算法治理具有基礎(chǔ)性、支撐性、引領(lǐng)性作用，同時(shí)也是我國(guó)算法法律制度的細(xì)化和補(bǔ)充。我國(guó)《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》提出，要建立與人臉識(shí)別、人工智能等新技術(shù)新應(yīng)用相關(guān)的標(biāo)準(zhǔn)體系。下一步，應(yīng)積極回應(yīng)算法技術(shù)標(biāo)準(zhǔn)建構(gòu)的迫切需求，盡快細(xì)化算法相關(guān)立法中的規(guī)范要求，明確對(duì)算法的技術(shù)性規(guī)制需求，注重算法標(biāo)準(zhǔn)之間的銜接與配套、標(biāo)準(zhǔn)評(píng)估機(jī)制、標(biāo)準(zhǔn)實(shí)施機(jī)制等問題，建設(shè)能夠有效協(xié)同法律規(guī)范和技術(shù)標(biāo)準(zhǔn)的算法治理體系。

結(jié)語

當(dāng)前，面對(duì)算法治理的痛點(diǎn)和難點(diǎn)，積極構(gòu)建算法治理體系，最大限度地發(fā)揮技術(shù)潛力和優(yōu)勢(shì)，有效應(yīng)對(duì)其引發(fā)的社會(huì)和倫理影響已逐漸成為全球共識(shí)。未來算法治理路徑應(yīng)放在不同的場(chǎng)景、業(yè)務(wù)下進(jìn)行討論，并綜合運(yùn)用多手段、多主體協(xié)同治理。根據(jù)算法使用場(chǎng)景、影響范圍、可能的危害程度的不同，采用分級(jí)分類、基于風(fēng)險(xiǎn)治理的思路。對(duì)涉及重大敏感利益等“高風(fēng)險(xiǎn)”的算法應(yīng)用場(chǎng)景，應(yīng)當(dāng)加強(qiáng)事前監(jiān)管，依據(jù)合理審慎原則設(shè)置必要的準(zhǔn)入限制和約束條件。對(duì)于“低風(fēng)險(xiǎn)”算法應(yīng)用領(lǐng)域，采取基于結(jié)果的規(guī)制思路，側(cè)重于事中事后的監(jiān)管。應(yīng)采用倫理規(guī)范、行業(yè)標(biāo)準(zhǔn)、算法備案、算法審查等軟硬法并舉，通過國(guó)家政府、行業(yè)組織、企業(yè)、公眾等不同主體協(xié)同治理。在算法治理國(guó)際合作方面，既需要突出全球各國(guó)的共同理想和追求，也需要尊重和理解各國(guó)制度設(shè)計(jì)中存在的不同，通過合作的方式共同尋求合理有效的算法治理路徑。

參考文獻(xiàn)

中國(guó)信息通信研究院、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟，2020，《人工智能治理白皮書》，北京：中國(guó)信息通信研究院、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟。

張凌寒，2021，《權(quán)力之治：人工智能時(shí)代的算法規(guī)制》，上海人民出版社。

朱寶麗，2018，《行政備案制度的實(shí)踐偏差及其矯正》，《山東大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》，第5期。

許可、劉暢，2022，《論算法備案制度》，《人工智能》，第1期。

張欣，2021，《我國(guó)人工智能技術(shù)標(biāo)準(zhǔn)的治理效能、路徑反思與因應(yīng)之道》，《中國(guó)法律評(píng)論》，第5期。

許可，2022，《算法規(guī)制體系的中國(guó)建構(gòu)與理論反思》，《法律科學(xué)》，第1期。

蔡星月，2021，《人工智能的“標(biāo)準(zhǔn)之治”》，《中國(guó)法律評(píng)論》，第5期。

林凌，2021，《哲學(xué)視域下的智能傳播》，《山東師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》，第6期。

畢勛磊，2012，《論作為知識(shí)的技術(shù)標(biāo)準(zhǔn)》，《自然辯證法通訊》，第5期。

責(zé) 編／桂 琰

胡堅(jiān)波，中國(guó)信息通信研究院副院長(zhǎng)，教授級(jí)高級(jí)工程師，中國(guó)通信學(xué)會(huì)信息通信戰(zhàn)略咨詢委員會(huì)主任委員。研究方向?yàn)樾畔⑼ㄐ偶夹g(shù)政策、網(wǎng)絡(luò)規(guī)劃、移動(dòng)互聯(lián)網(wǎng)及智能終端。主要著作有《統(tǒng)籌發(fā)展和安全 提升數(shù)字化治理效能》（論文）、《5G助力數(shù)字經(jīng)濟(jì)新發(fā)展，兩岸產(chǎn)業(yè)合作迎來新機(jī)遇》（論文）等。

Take Multiple Measures to Promote Algorithmic Governance in China

Hu Jianbo

Abstract: Algorithmic governance is an important part of strengthening the governance of the cyber society according to the law. It is also an important measure to implement the decisions and arrangements of the CPC Central Committee and the State Council, guide the healthy development of the industry, and adapt to the international trends. In recent years, algorithms have played an important role in prospering the digital economy and promoting social development. However, at the same time, problems such as information manipulation, abuse of data and algorithmic hegemony still exist, which causes content security risks, infringes on the legitimate rights and interests of users, disrupts the digital market order and affects social public governance, as well as other problems that need to be resolved completely. This article argues that we should adhere to the basic principle and concept of putting people first and pursuing an algorithmic governance that is safe and controllable, fair and just, and transparent and visible; actively build a multi-party collaborative governance model; consolidate the bottom line of security with a rigid legal system; encourage algorithms to develop for social good with flexible governance means; steadily establish a comprehensive algorithmic governance system; and promote the stable and long-term development of China's digital economy and algorithmic industry.

Keywords: algorithmic governance, algorithmic risks, diversified governance, technological ethics