【摘要】人工智能正在引發(fā)一場(chǎng)遠(yuǎn)超乎于技術(shù)場(chǎng)域的時(shí)代變革，以大模型為代表的生成式人工智能塑造著未來(lái)的主要技術(shù)進(jìn)路。盡管我國(guó)已成為一個(gè)人工智能大國(guó)，但在核心理論創(chuàng)新、基礎(chǔ)底座建設(shè)、關(guān)鍵軟硬件和生態(tài)方面還有待提升，邁向人工智能強(qiáng)國(guó)還有很長(zhǎng)的路要走。在此情況下，如何在保障人工智能有力、有序、有益發(fā)展的同時(shí)，實(shí)現(xiàn)對(duì)人工智能的善治是亟需回應(yīng)的關(guān)鍵問(wèn)題。因此，平衡好發(fā)展與治理之間的關(guān)系，踐行價(jià)值對(duì)齊的倫理思路，吸收人工智能國(guó)際治理有益經(jīng)驗(yàn)，探索一條理念開(kāi)放、主體多元、對(duì)象分層、工具靈活的治理新思路，成為探索人工智能善治路徑的核心命題。
【關(guān)鍵詞】生成式人工智能 新興技術(shù)治理 價(jià)值對(duì)齊 敏捷治理
【中圖分類號(hào)】F49/TP18 【文獻(xiàn)標(biāo)識(shí)碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2024.14.002
【作者簡(jiǎn)介】梁正，清華大學(xué)公共管理學(xué)院教授、人工智能國(guó)際治理研究院副院長(zhǎng)。研究方向?yàn)樾屡d技術(shù)治理、科技創(chuàng)新政策、研發(fā)全球化、標(biāo)準(zhǔn)與知識(shí)產(chǎn)權(quán)。主要著作有《科學(xué)、技術(shù)與創(chuàng)新經(jīng)濟(jì)學(xué)》、《黑鏡與秩序：數(shù)智化風(fēng)險(xiǎn)社會(huì)下的人工智能倫理與治理》（合著）、《數(shù)字雙賦打通韌性城市建設(shè)“最后一公里”》（論文）、《互聯(lián)網(wǎng)平臺(tái)協(xié)同治理體系構(gòu)建——基于全景式治理框架的分析》（論文）等。
引言
任何技術(shù)發(fā)展都會(huì)經(jīng)歷開(kāi)始孕育—快速發(fā)展—成熟完善—穩(wěn)定并趨于退化的生命周期。[1]任何新技術(shù)的成長(zhǎng)都不是一蹴而就的。新技術(shù)從舊技術(shù)中孕育，汲取舊技術(shù)優(yōu)勢(shì)將其保留，摒棄舊技術(shù)的劣弊。技術(shù)進(jìn)步的本質(zhì)在于從一種技術(shù)系統(tǒng)到另一種技術(shù)系統(tǒng)的過(guò)渡。[2]從來(lái)也沒(méi)有孤立存在的“一種技術(shù)”，一種技術(shù)總是與其他技術(shù)聯(lián)系在一起。人工智能技術(shù)正在塑造新的技術(shù)體系，引領(lǐng)以其為核心的技術(shù)“中心環(huán)繞體系”變革，成為變革社會(huì)的力量。人工智能作為一種新興的顛覆性技術(shù)，其技術(shù)治理也難以擺脫科林格里奇困境，這使決策者面臨兩難選擇。尤其是對(duì)生成式人工智能（AIGC）而言，一方面，在技術(shù)得到深度開(kāi)發(fā)和廣泛應(yīng)用之前，我們無(wú)法預(yù)知技術(shù)可能產(chǎn)生的后果；另一方面，當(dāng)技術(shù)已經(jīng)深刻地改變了人類社會(huì)時(shí)，我們又無(wú)法確保對(duì)其的控制和掌控。這樣一種現(xiàn)實(shí)性迫切呼吁適應(yīng)性的治理方式，敏捷治理作為應(yīng)對(duì)生成式人工智能新態(tài)勢(shì)的治理模式，正是在這樣的背景中產(chǎn)生，并成為被持續(xù)探索的治理路徑。
生成式人工智能技術(shù)發(fā)展現(xiàn)狀概述
人工智能研究既是人類對(duì)外部世界的求知，更是破解人類編碼、深刻地自我認(rèn)知的探索過(guò)程。對(duì)人工智能的理解也隨著這一探索過(guò)程不斷深化：從最初的計(jì)算智能（快速邏輯運(yùn)算、海量?jī)?chǔ)存能力），發(fā)展到感知智能（“聽(tīng)”“說(shuō)”“看”“觸”能力），再到更高級(jí)的認(rèn)知智能（理解、詮釋能力）階段。數(shù)理邏輯推理、人工神經(jīng)網(wǎng)絡(luò)的構(gòu)建、獎(jiǎng)懲機(jī)制的行為仿生等分別將人工智能研究向前推進(jìn)。丹尼特（D. C. Dennett）拋出輪子是否存在于自然界這一問(wèn)題引出了人工智能發(fā)展的“認(rèn)知之輪”問(wèn)題。[3]不過(guò)，實(shí)踐表明任何單一進(jìn)路通向成功的可能性都是微乎其微的，基于多重思路的融貫，才有了當(dāng)今的人工智能大模型?？v觀生成式人工智能的創(chuàng)新與發(fā)展，總體而言可以有如下概括。
其一，生成式人工智能自其發(fā)布以來(lái)在技術(shù)上已經(jīng)取得了長(zhǎng)足的進(jìn)步。從數(shù)量上看，自2019年以來(lái)，全球已發(fā)布基礎(chǔ)大模型百余個(gè)，其中美國(guó)發(fā)布模型多達(dá)182個(gè)，中國(guó)發(fā)布30余個(gè)。[4]從模型質(zhì)量看，人工智能系統(tǒng)的推理能力已經(jīng)有了極大的提升。美國(guó)和加拿大的研究人員開(kāi)發(fā)了MMMU系統(tǒng)（Massive Multy-Discipline Multimodal Understanding and Reasoning Benchmark for Expert AGI），即面向?qū)I(yè)AGI大規(guī)模多學(xué)科多模態(tài)理解和推理基準(zhǔn)測(cè)量。它包含約11500道大學(xué)水平的問(wèn)題，涉及六個(gè)核心學(xué)科（藝術(shù)與設(shè)計(jì)、商業(yè)、科學(xué)、健康和醫(yī)學(xué)、人文和社會(huì)科學(xué)以及技術(shù)和工程），問(wèn)題形式多樣，是迄今為止對(duì)人工智能感知、知識(shí)和推理最嚴(yán)格的測(cè)試之一。通過(guò)該測(cè)試可以看出，其中多個(gè)大模型都表現(xiàn)良好，甚至在一些領(lǐng)域大模型能力逐漸接近人類專家（如圖1所示）。這充分展現(xiàn)了大模型的技術(shù)潛力和未來(lái)可見(jiàn)的發(fā)展前景。從模型應(yīng)用角度看，大模型的進(jìn)化速度和能力提升也是驚人的。例如，圖像生成模型Midjourney短時(shí)間內(nèi)已經(jīng)迭代數(shù)次，顯示出生成超現(xiàn)實(shí)主義圖像能力的顯著提升，如今其所創(chuàng)建的圖像已逼真度驚人。
其二，產(chǎn)學(xué)研合作日益緊密，產(chǎn)業(yè)界作為大模型發(fā)布的主力軍扮演著越來(lái)越重要的角色。從模型發(fā)布看，自2019年以來(lái)，谷歌在基礎(chǔ)模型發(fā)布數(shù)量上領(lǐng)先，共計(jì)40個(gè)，其次是OpenAI，共計(jì)20個(gè)。清華大學(xué)在非西方機(jī)構(gòu)中排名第一，發(fā)布基礎(chǔ)模型共計(jì)7個(gè)，而斯坦福大學(xué)在美國(guó)學(xué)術(shù)機(jī)構(gòu)中排名第一，發(fā)布基礎(chǔ)模型共計(jì)5個(gè)。[5]值得注意的是，2014年前后，學(xué)術(shù)界在機(jī)器學(xué)習(xí)模型的發(fā)布方面還處于領(lǐng)先地位。此后，產(chǎn)業(yè)界便占據(jù)了主導(dǎo)地位。2023年，產(chǎn)業(yè)界發(fā)布了51個(gè)引人關(guān)注的機(jī)器學(xué)習(xí)模型，而學(xué)術(shù)界只有15個(gè)。特別需要指出，2023年有21個(gè)優(yōu)質(zhì)大模型來(lái)自產(chǎn)學(xué)研合作，創(chuàng)下新高。現(xiàn)在，創(chuàng)建尖端的人工智能模型需要大量的數(shù)據(jù)、計(jì)算能力和財(cái)務(wù)資源，而學(xué)術(shù)界單方面已無(wú)法保障這些資源供給，這也促成了在大模型研究和發(fā)布上的產(chǎn)學(xué)研合作。
其三，大模型的模型訓(xùn)練不僅耗資巨大，其過(guò)程也不環(huán)保，這也使得模型建構(gòu)競(jìng)爭(zhēng)飽受環(huán)保主義的詬病。圖2直觀地顯示了AI指數(shù)估算的所有AI模型的訓(xùn)練成本，模型訓(xùn)練成本隨著時(shí)間的推移急劇增加。AI模型的訓(xùn)練成本與其計(jì)算要求之間存在直接關(guān)聯(lián)，計(jì)算訓(xùn)練需求越大的模型，訓(xùn)練成本就越高。同時(shí)，大部分基礎(chǔ)模型開(kāi)發(fā)商（如OpenAI、谷歌、Anthropic和Mistral）都沒(méi)有報(bào)告訓(xùn)練中的碳排放量。訓(xùn)練人工智能模型的環(huán)境影響可能難以估量。雖然推理的每次查詢排放量可能相對(duì)較低，但當(dāng)模型每天被查詢數(shù)千次甚至數(shù)百萬(wàn)次時(shí)，總體應(yīng)用耗能可能會(huì)超過(guò)訓(xùn)練耗能。當(dāng)前對(duì)模型碳排放的研究還很少。Luccioni等人于2023年發(fā)表的一項(xiàng)研究是較早全面評(píng)估模型排放的研究之一。圖3展示了各種模型任務(wù)中1000次推理的碳排放量，表明圖像生成等任務(wù)的碳足跡遠(yuǎn)高于文本分類。
綜合斯坦福大學(xué)年度《人工智能指數(shù)報(bào)告》及相關(guān)學(xué)術(shù)研究不難看出，生成式人工智能呈現(xiàn)井噴式發(fā)展的態(tài)勢(shì)。在國(guó)內(nèi)，各類垂直大模型應(yīng)用更是如雨后春筍般在市場(chǎng)涌現(xiàn)，該現(xiàn)象表明市場(chǎng)對(duì)生成式人工智能應(yīng)用前景的樂(lè)觀估計(jì)。但也必須指出，大模型自其誕生以來(lái)亦伴隨著諸多隱患和風(fēng)險(xiǎn)。如何平衡發(fā)展與治理，構(gòu)建“兩個(gè)輪子走路”的人工智能發(fā)展與治理體系迫在眉睫。本文將在總結(jié)風(fēng)險(xiǎn)挑戰(zhàn)的基礎(chǔ)上，通過(guò)中美歐人工智能治理的比較研究，探索適合我國(guó)國(guó)情的人工智能治理之路。
人工智能應(yīng)用的風(fēng)險(xiǎn)挑戰(zhàn)及綜合效應(yīng)
生成式人工智能通用性、涌現(xiàn)性、多模態(tài)的新特征勢(shì)必帶來(lái)新一輪的革命性變化，其影響不僅是技術(shù)層面的，更是經(jīng)濟(jì)、政治、社會(huì)等各層面的。生成式人工智能具有強(qiáng)滲透性，對(duì)社會(huì)變革的整體影響是系統(tǒng)性的。它勢(shì)必推動(dòng)產(chǎn)業(yè)的數(shù)智化轉(zhuǎn)型升級(jí)，產(chǎn)業(yè)布局面臨又一次新的重大調(diào)整，數(shù)據(jù)、算力、算法相關(guān)產(chǎn)業(yè)發(fā)展將大幅加速。AIGC促進(jìn)了內(nèi)容生產(chǎn)方式的顛覆性變革，通過(guò)降低內(nèi)容創(chuàng)作門(mén)檻使技術(shù)“平民化”，人機(jī)分工的混合勞動(dòng)力形式將成為勞動(dòng)主導(dǎo)范式。生成式人工智能將助推智力密集型服務(wù)產(chǎn)業(yè)規(guī)?；l(fā)展，使人工智能成為專用領(lǐng)域“顧問(wèn)”，并作為“外腦”賦能專業(yè)場(chǎng)景高效作業(yè)，通過(guò)建模、訓(xùn)練、優(yōu)化等步驟推動(dòng)知識(shí)模型生成。然而，也正是因?yàn)槠鋭?shì)如破竹的變革力，導(dǎo)致風(fēng)險(xiǎn)挑戰(zhàn)一直伴隨技術(shù)發(fā)展并日益凸顯。
總體看，人工智能的潛在風(fēng)險(xiǎn)可以主要?jiǎng)澐譃閮深悺Ｒ活愂蔷C合性風(fēng)險(xiǎn)，涵蓋了個(gè)體、社會(huì)、國(guó)家、人類四個(gè)層面。從個(gè)體層面看，包括算法歧視和偏見(jiàn)、錯(cuò)誤信息、隱私泄露、深度偽造和詐騙、知識(shí)產(chǎn)權(quán)爭(zhēng)議等；從社會(huì)層面看，主要有勞動(dòng)力結(jié)構(gòu)挑戰(zhàn)、數(shù)字鴻溝和社會(huì)不公、引發(fā)勞動(dòng)者心理問(wèn)題、資源消耗增加碳排放量等；從國(guó)家層面看，包括意識(shí)形態(tài)滲透、武器制造引發(fā)失控風(fēng)險(xiǎn)、國(guó)際權(quán)力分布不均衡加劇等；從人類層面看，引發(fā)了對(duì)人類未來(lái)地位的思考、硅基和碳基沖突、人機(jī)互構(gòu)新理念等。另一類是特定場(chǎng)景中的風(fēng)險(xiǎn)，主要有電商場(chǎng)景中的虛假宣傳與欺詐、大數(shù)據(jù)殺熟、推薦誤導(dǎo)、過(guò)度消費(fèi)等；醫(yī)療領(lǐng)域的不可解釋風(fēng)險(xiǎn)、歧視偏見(jiàn)、隱私泄露、反饋與監(jiān)管風(fēng)險(xiǎn)等；教育領(lǐng)域的沖擊應(yīng)試教育、學(xué)生過(guò)度依賴、學(xué)術(shù)誠(chéng)信危機(jī)、重塑教育生態(tài)等；科研領(lǐng)域的沖擊人文社科研究、新的知識(shí)生產(chǎn)方式以及相應(yīng)的科技倫理挑戰(zhàn)。
我們可以從人工智能的產(chǎn)業(yè)效應(yīng)、政治效應(yīng)、社會(huì)效應(yīng)三個(gè)層面對(duì)人工智能的社會(huì)影響和綜合效應(yīng)作一相對(duì)整體的把握。
人工智能應(yīng)用的產(chǎn)業(yè)風(fēng)險(xiǎn)與效應(yīng)。人工智能技術(shù)已經(jīng)成為全球經(jīng)濟(jì)增長(zhǎng)的新動(dòng)能和主導(dǎo)力量，對(duì)傳統(tǒng)經(jīng)濟(jì)模式的轉(zhuǎn)型、全面提升勞動(dòng)生產(chǎn)率、新價(jià)值體系下的高質(zhì)量發(fā)展發(fā)揮著舉足輕重的作用。宏觀上，“技術(shù)奇點(diǎn)”刺激“經(jīng)濟(jì)奇點(diǎn)”。一方面，人工智能技術(shù)在制造業(yè)等生產(chǎn)領(lǐng)域發(fā)揮積極作用，直接影響生產(chǎn)力質(zhì)的方面；另一方面，人工智能技術(shù)通過(guò)改變勞動(dòng)方式變革生產(chǎn)關(guān)系，適應(yīng)新技術(shù)推動(dòng)下的生產(chǎn)力發(fā)展。馬克思認(rèn)為勞動(dòng)生產(chǎn)力是由多種情況決定的，其中包括：工人的平均熟練程度，科學(xué)發(fā)展水平和它在工藝上的應(yīng)用程度，生產(chǎn)過(guò)程的社會(huì)結(jié)合，生產(chǎn)資料的規(guī)模和效能，以及自然條件。智能技術(shù)滲透于生產(chǎn)活動(dòng)的部分要素，如生產(chǎn)設(shè)備、組織形式、智能供應(yīng)鏈等，在經(jīng)濟(jì)增長(zhǎng)中的貢獻(xiàn)是直接的、強(qiáng)勁的。人工智能技術(shù)應(yīng)用日益成為衡量社會(huì)經(jīng)濟(jì)發(fā)展的尺度，成為產(chǎn)業(yè)結(jié)構(gòu)和社會(huì)結(jié)構(gòu)是否跟上時(shí)代潮流的重要指標(biāo)。
智能技術(shù)催化生產(chǎn)制造適應(yīng)智能社會(huì)的新變革。智能化生產(chǎn)和定制化生產(chǎn)縮短了生產(chǎn)時(shí)間和銷售時(shí)間，加速了資本周轉(zhuǎn)，優(yōu)化了資本結(jié)構(gòu)。加上大模型的加持，其能夠通過(guò)大數(shù)據(jù)與智能分析平臺(tái)，利用云計(jì)算將工業(yè)機(jī)器生產(chǎn)數(shù)據(jù)轉(zhuǎn)化為有用信息，實(shí)現(xiàn)生產(chǎn)的高效、精確、環(huán)保、綠色。大量智能設(shè)備的引入提升了工廠生產(chǎn)商品的精確性，優(yōu)化了產(chǎn)品質(zhì)量。同時(shí)，產(chǎn)銷流程盡在掌握，生產(chǎn)過(guò)程的可控性得以提升，生產(chǎn)線數(shù)據(jù)在智能技術(shù)的幫助下被采集、整理、分析，使得生產(chǎn)計(jì)劃和生產(chǎn)進(jìn)度的安排更加合理。此外，智能化還提升了產(chǎn)品的后期服務(wù)水平。生產(chǎn)中智能產(chǎn)品與物聯(lián)網(wǎng)連接，記錄已進(jìn)行的加工步驟和質(zhì)量指標(biāo)，將產(chǎn)品指引向最優(yōu)路徑，生產(chǎn)完成后，智能產(chǎn)品通過(guò)在線連接的方式與制造企業(yè)后臺(tái)服務(wù)流程保持聯(lián)系[6]。
人工智能應(yīng)用的政治風(fēng)險(xiǎn)與效應(yīng)。溫納的技術(shù)政治學(xué)認(rèn)為，技術(shù)對(duì)政治力量、政治格局具有影響力。人工智能對(duì)政治的影響力是前所未見(jiàn)的。近年來(lái)美國(guó)挑起了中美之間的科技戰(zhàn)、金融戰(zhàn)、貿(mào)易戰(zhàn)、輿論戰(zhàn)等一系列激烈競(jìng)爭(zhēng)博弈，其中科技戰(zhàn)為核心領(lǐng)域，科技戰(zhàn)中又以芯片制造和通訊安全為中心的技術(shù)戰(zhàn)影響巨大，引發(fā)了全球供應(yīng)鏈的動(dòng)蕩。人工智能已經(jīng)成為國(guó)與國(guó)之間、聯(lián)盟之間、地區(qū)之間的主要競(jìng)爭(zhēng)內(nèi)容。與之相伴的是國(guó)家安全和軍事實(shí)力層面的智能技術(shù)競(jìng)爭(zhēng)，任何一個(gè)大國(guó)都不想在這場(chǎng)決定命運(yùn)的競(jìng)爭(zhēng)中丟失主動(dòng)權(quán)。上述情況使得智能技術(shù)的政治性凸顯。
人工智能關(guān)系國(guó)家安全。隨著國(guó)家安全概念被泛化，尤為明顯的是，數(shù)據(jù)的控制和運(yùn)用已經(jīng)不再單純是個(gè)經(jīng)濟(jì)問(wèn)題，而是涉及國(guó)家安全，例如，數(shù)據(jù)可能被他國(guó)用于情報(bào)分析。數(shù)據(jù)主權(quán)是一個(gè)國(guó)家對(duì)其行政轄區(qū)內(nèi)個(gè)人、企業(yè)和組織所產(chǎn)生的數(shù)據(jù)擁有的最高權(quán)力。[7]誰(shuí)掌握了數(shù)據(jù)，誰(shuí)就擁有了數(shù)據(jù)主權(quán)。2022年7月，國(guó)家互聯(lián)網(wǎng)信息辦公室對(duì)滴滴全球股份有限公司依法作出網(wǎng)絡(luò)安全審查相關(guān)行政處罰的決定，其中涉及的一項(xiàng)違法違規(guī)行為即“違法違規(guī)運(yùn)營(yíng)給國(guó)家關(guān)鍵信息基礎(chǔ)設(shè)施安全和數(shù)據(jù)安全帶來(lái)嚴(yán)重安全風(fēng)險(xiǎn)隱患”[8]。人工智能在全球范圍內(nèi)引發(fā)了一場(chǎng)史無(wú)前例的關(guān)系國(guó)家安全的科技競(jìng)爭(zhēng)，經(jīng)濟(jì)全球化面臨前所未有的考驗(yàn)。
人工智能正在改變國(guó)家治理模式。人工智能技術(shù)為國(guó)家的高效運(yùn)行提供了新的基礎(chǔ)條件。它有助于完善國(guó)家治理體系，使之在剛性治理和柔性治理之間獲得平衡。[9]智能技術(shù)或直接或間接地轉(zhuǎn)變了政府職能。這主要得益于人工智能在很大程度上打開(kāi)了權(quán)力“黑箱”，政府信息公開(kāi)保障了公民的知情權(quán)，權(quán)力的運(yùn)行、流程、決策漸趨開(kāi)放，民眾開(kāi)始深入了解政治運(yùn)行機(jī)制。人工智能推動(dòng)了公民體系的健全發(fā)展。民眾擁有了更多渠道以獲取各方面的政治、政策信息，這促進(jìn)了公民意識(shí)的覺(jué)醒。這就要求政府必須應(yīng)對(duì)新情況，重塑角色，從傳統(tǒng)的管理者轉(zhuǎn)變?yōu)榉?wù)者、協(xié)調(diào)者甚至合作者，加強(qiáng)與其他治理主體間的信息與資源共享、合作共治。
人工智能發(fā)展對(duì)全球治理提出了新挑戰(zhàn)。人工智能時(shí)代，全球體系的領(lǐng)導(dǎo)權(quán)正在出現(xiàn)新變化。從權(quán)力邏輯看，美國(guó)在人工智能技術(shù)領(lǐng)域仍有強(qiáng)大實(shí)力，中國(guó)雖正在趕超但仍有差距，發(fā)達(dá)國(guó)家特別是美國(guó)希望鎖定其在智能技術(shù)領(lǐng)域相對(duì)于欠發(fā)達(dá)國(guó)家的優(yōu)勢(shì)。[10]因此，西方發(fā)達(dá)國(guó)家在智能技術(shù)上仍舊保持著主導(dǎo)權(quán)和話語(yǔ)權(quán)。從沖突邏輯看，生成式人工智能的多模態(tài)發(fā)展能夠改善文明間的對(duì)話狀況，不同文化群體交流的可能性和概率提升，進(jìn)而也可能形成新的沖突和適應(yīng)性問(wèn)題。這對(duì)全球治理提出了新要求和新挑戰(zhàn)。為了應(yīng)對(duì)霸權(quán)邏輯，僅靠在國(guó)際社會(huì)中呼吁平等、公平和正義的價(jià)值觀無(wú)益于問(wèn)題的實(shí)質(zhì)性解決。需要在國(guó)家之間開(kāi)展合作，發(fā)揮國(guó)際組織在全球治理中的功能。為了應(yīng)對(duì)沖突邏輯，要尋求國(guó)際社會(huì)在智能技術(shù)發(fā)展中的共識(shí)，通過(guò)協(xié)商機(jī)制應(yīng)對(duì)智能化過(guò)程中的不和諧因素，提出新的符合全球發(fā)展利益的人工智能發(fā)展新方向。
人工智能應(yīng)用的社會(huì)風(fēng)險(xiǎn)與效應(yīng)。社會(huì)治理步入智能化時(shí)代，人工智能被用于社會(huì)治理的各個(gè)方面?？傮w上，人類步入了智能社會(huì)。自主系統(tǒng)已經(jīng)部署在我們最重要的社會(huì)機(jī)構(gòu)中，然而，還沒(méi)有統(tǒng)一的方法評(píng)估此類應(yīng)用對(duì)人類社會(huì)的持續(xù)性影響。[11]
人工智能重塑了勞動(dòng)結(jié)構(gòu)以及不同層次勞動(dòng)者的勞動(dòng)過(guò)程。人工智能可能將會(huì)取代體力勞動(dòng)，甚至部分腦力勞動(dòng)。隨著智能技術(shù)應(yīng)用的不斷深化，工人的工作形式從主導(dǎo)操作性向輔助操作性轉(zhuǎn)變。與傳統(tǒng)勞資關(guān)系相比，智能技術(shù)背景下的勞資關(guān)系在勞動(dòng)條件建立、勞動(dòng)管理方式和勞動(dòng)報(bào)酬獲取方式上出現(xiàn)了很多新變化。[12]人工智能對(duì)就業(yè)的影響是顯而易見(jiàn)的，不僅重塑了勞動(dòng)結(jié)構(gòu)，還在結(jié)束某些舊行業(yè)、就業(yè)崗位的同時(shí)，創(chuàng)造新的就業(yè)。根據(jù)OpenAI的研究，未來(lái)受影響最大的行業(yè)是數(shù)據(jù)處理、信息服務(wù)、出版業(yè)和保險(xiǎn)行業(yè)，對(duì)于80%的美國(guó)人而言，至少有10%的工作任務(wù)會(huì)受到影響[13]。最近備受關(guān)注的自動(dòng)駕駛汽車引發(fā)的網(wǎng)約車司機(jī)對(duì)失業(yè)的恐慌，事實(shí)上已經(jīng)傳遞出一個(gè)信號(hào)，即人工智能引發(fā)的失業(yè)問(wèn)題已經(jīng)不再是未來(lái)話題，必然掀起新一輪對(duì)人工智能代替勞動(dòng)就業(yè)的討論。也有學(xué)者對(duì)人工智能對(duì)就業(yè)的沖擊持樂(lè)觀態(tài)度。例如，戴文波特（T. H. Davenport）認(rèn)為增強(qiáng)人工智能應(yīng)用有利于業(yè)務(wù)流程和模型的快速創(chuàng)新。一些關(guān)于自動(dòng)化的研究表明：一方面，人工智能傾向于完成自動(dòng)化任務(wù)，而非取代整個(gè)工作流程；另一方面，大多數(shù)管理人員并不希望大規(guī)模的自動(dòng)化和智能化。[14]這使人類面臨一個(gè)艱難的選擇：是改變我們的經(jīng)濟(jì)體制以應(yīng)對(duì)由此產(chǎn)生的社會(huì)動(dòng)蕩并保持經(jīng)濟(jì)增長(zhǎng)，還是承受一個(gè)非常困難的時(shí)期，同時(shí)目睹普遍貧困和提高生產(chǎn)力的矛盾。[15]
人工智能正在變革現(xiàn)有分配方式。其一，人工智能正在改變市場(chǎng)結(jié)構(gòu)，使掌控?cái)?shù)據(jù)的大企業(yè)在市場(chǎng)的信息不對(duì)稱上占有絕對(duì)主動(dòng)權(quán)，進(jìn)而讓該類企業(yè)獲得更多盈利。高技術(shù)企業(yè)之所以能比以往有更多發(fā)展機(jī)會(huì)，往往是利用了數(shù)據(jù)優(yōu)勢(shì)地位提升市場(chǎng)份額，少部分人利用智能技術(shù)優(yōu)勢(shì)獲取巨額利潤(rùn)，導(dǎo)致貧富差距進(jìn)一步拉大。其二，智能化對(duì)不同技能水平勞動(dòng)者收入的影響不同。就目前的情況看，智能化主要取代的是低技能勞動(dòng)者。隨著智能化的深入，尤其是大模型的推廣，部分高技能勞動(dòng)者也會(huì)在一定程度上受其影響。其三，從生產(chǎn)要素看，資本和技術(shù)成為主導(dǎo)要素，財(cái)富向少數(shù)掌握資本和技術(shù)的群體流動(dòng)。由于前兩點(diǎn)，智能技術(shù)對(duì)市場(chǎng)結(jié)構(gòu)的沖擊和對(duì)勞動(dòng)力成本的拉低使擁有不同生產(chǎn)要素群體的收入差距進(jìn)一步拉大。智能技術(shù)造成了分配的不均衡，進(jìn)而影響社會(huì)公平。
人工智能引發(fā)的一系列社會(huì)變化、社會(huì)問(wèn)題都需要再次依靠人類智慧善用智能技術(shù)進(jìn)行社會(huì)治理。這從上述智能革命對(duì)全球治理、國(guó)家治理和政府轉(zhuǎn)型的影響中便可見(jiàn)一斑。社會(huì)結(jié)構(gòu)、勞動(dòng)結(jié)構(gòu)、社會(huì)關(guān)系、社會(huì)公平從來(lái)不是社會(huì)發(fā)展面臨的新議題，只不過(guò)在智能社會(huì)背景下，出現(xiàn)了新挑戰(zhàn)。因此，智能時(shí)代呼吁智能治理更好地應(yīng)對(duì)新挑戰(zhàn)。智能治理包括反治理（智能低效、技術(shù)怠工、智能破壞、官僚主義智能化、過(guò)度治理）和再治理（防范專家權(quán)力過(guò)大的政治風(fēng)險(xiǎn)），對(duì)社會(huì)的正常運(yùn)行所發(fā)揮的作用是建設(shè)性的[16]。繼續(xù)在理性與感情、自我與他者的交際中爭(zhēng)論智能革命的社會(huì)問(wèn)題及應(yīng)對(duì)方案問(wèn)題，是極其有益的。[17]
實(shí)現(xiàn)人工智能善治的敏捷治理思路
人工智能的國(guó)際治理經(jīng)驗(yàn)。人工智能治理日益成為國(guó)際競(jìng)爭(zhēng)的戰(zhàn)略要地。一方面，美國(guó)利用其全球霸權(quán)進(jìn)行“長(zhǎng)臂管轄”，試圖從芯片管制、標(biāo)準(zhǔn)規(guī)則等方面扼制我國(guó)人工智能發(fā)展；另一方面，各國(guó)都在人工智能治理領(lǐng)域積極運(yùn)作、搶占先機(jī)，因?yàn)橹卫肀澈缶o密關(guān)聯(lián)的是標(biāo)準(zhǔn)與規(guī)則制定，治理主動(dòng)權(quán)直接關(guān)系發(fā)展主動(dòng)權(quán)。歐盟與美國(guó)在人工智能治理領(lǐng)域扮演著引領(lǐng)者的角色。
歐盟作為世界范圍內(nèi)人工智能立法的領(lǐng)跑者，在《數(shù)字市場(chǎng)法案》（DMA）、《通用數(shù)據(jù)保護(hù)條例》（CDPR）等文件基礎(chǔ)上，積極推動(dòng)統(tǒng)一立法工作，近期《人工智能法案》取得重要進(jìn)展，歐盟委員會(huì)和27個(gè)會(huì)員國(guó)就該法案達(dá)成協(xié)議。該法案自2021年提出以來(lái)，經(jīng)過(guò)了長(zhǎng)時(shí)間的討論、協(xié)商談判，為人工智能治理提供了全球首部硬法，使得歐盟在安全、可信、有道德的人工智能領(lǐng)域成為國(guó)際規(guī)則制定的領(lǐng)跑者。歐盟在技術(shù)和產(chǎn)業(yè)均不夠發(fā)達(dá)的情況下，通過(guò)規(guī)則制定，一方面，填補(bǔ)了人工智能道德領(lǐng)域的空白，成為全球標(biāo)準(zhǔn)制定者；另一方面，也為自身人工智能發(fā)展提供了基本保障，以避免其他國(guó)家人工智能產(chǎn)品的沖擊和風(fēng)險(xiǎn)。
《人工智能法案》以保護(hù)人的基本權(quán)利為核心，圍繞6項(xiàng)基本原則：人類主體和監(jiān)督，技術(shù)穩(wěn)健性和安全性，隱私和數(shù)據(jù)治理，透明度，多樣性、非歧視和公平，社會(huì)和環(huán)境福祉。根據(jù)人工智能系統(tǒng)對(duì)公民基本權(quán)利的威脅程度進(jìn)行分級(jí)，采取分級(jí)治理的監(jiān)管模式。該法案將人工智能風(fēng)險(xiǎn)劃分為四個(gè)等級(jí)：對(duì)人類安全和權(quán)利有明顯威脅應(yīng)被徹底禁止的不可接受風(fēng)險(xiǎn)；對(duì)個(gè)人健康、安全及基本權(quán)利有重大危害影響的高風(fēng)險(xiǎn)；使用者能意識(shí)到與人工智能互動(dòng)并自主判斷的有限風(fēng)險(xiǎn)；除上述之外的合規(guī)卻存在一定風(fēng)險(xiǎn)的輕微風(fēng)險(xiǎn)。值得注意的是，歐盟提倡實(shí)現(xiàn)監(jiān)管和發(fā)展的平衡，對(duì)高風(fēng)險(xiǎn)系統(tǒng)的監(jiān)管是該法案的核心，并將ChatGPT劃定為高風(fēng)險(xiǎn)的人工智能系統(tǒng)。
歐盟的《人工智能法案》也受到了一些質(zhì)疑，質(zhì)疑主要集中于高風(fēng)險(xiǎn)人工智能系統(tǒng)監(jiān)管方式的可操作性上。此前《人工智能法案》推進(jìn)相對(duì)順利的關(guān)鍵在于，AI監(jiān)管和發(fā)展并不沖突。歐盟延續(xù)GDPR理念，將數(shù)據(jù)安全治理體系作為監(jiān)管核心，以用戶個(gè)人隱私為主的數(shù)據(jù)安全保護(hù)主要在商業(yè)領(lǐng)域，而歐盟國(guó)家人工智能介入產(chǎn)業(yè)發(fā)展并不以商業(yè)應(yīng)用為主。如德國(guó)只專注于生產(chǎn)制造業(yè)中的人機(jī)協(xié)同，不會(huì)出現(xiàn)個(gè)人隱私數(shù)據(jù)問(wèn)題；法國(guó)以人工智能教育和研發(fā)為主，商業(yè)應(yīng)用雖不少，但也并非其主要人工智能布局領(lǐng)域。但當(dāng)下情況正在發(fā)生變化，基礎(chǔ)模型的出現(xiàn)導(dǎo)致歐盟AI監(jiān)管和發(fā)展出現(xiàn)本質(zhì)沖突。ChatGPT展現(xiàn)的巨大潛力，預(yù)示著基礎(chǔ)模型將對(duì)產(chǎn)業(yè)產(chǎn)生顛覆性影響，很可能導(dǎo)致歐盟原先的人工智能產(chǎn)業(yè)布局重新調(diào)整。換言之，歐盟不確定未來(lái)是否也會(huì)需要開(kāi)發(fā)、利用大模型來(lái)實(shí)現(xiàn)傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級(jí)，而對(duì)于基礎(chǔ)模型的嚴(yán)格監(jiān)管很可能導(dǎo)致歐盟在未來(lái)人工智能產(chǎn)業(yè)化時(shí)代落后甚至被淘汰。
美國(guó)對(duì)人工智能的監(jiān)管要求較少，主要以安全原則為主，結(jié)合“聯(lián)邦—州”二元立法結(jié)構(gòu)，建立符合產(chǎn)業(yè)現(xiàn)狀的治理模式。美國(guó)的人工智能治理強(qiáng)調(diào)個(gè)人隱私保護(hù)和產(chǎn)業(yè)發(fā)展的平衡，將提升透明度和反對(duì)歧視作為重要準(zhǔn)則，利用技術(shù)標(biāo)準(zhǔn)和規(guī)則指南促進(jìn)行業(yè)自律。相較于歐盟，美國(guó)的國(guó)家立法意愿并不強(qiáng)烈。
美國(guó)的人工智能治理展現(xiàn)出以下三個(gè)特征：一是以行政令為主，相比于出臺(tái)具有極強(qiáng)約束力的法律文件，更側(cè)重于提出AI監(jiān)管原則和框架，如2020年發(fā)布的《人工智能應(yīng)用監(jiān)管指南》提出10項(xiàng)AI監(jiān)管原則，2022年發(fā)布的《人工智能權(quán)利法案藍(lán)圖》提出負(fù)責(zé)任地使用AI路線圖，2023年發(fā)布的《人工智能風(fēng)險(xiǎn)管理框架》提供了可參考的AI風(fēng)險(xiǎn)管理框架。2023年9月，美國(guó)第一個(gè)嚴(yán)格、全面的立法藍(lán)圖——《兩黨人工智能立法框架》被提出，但尚未被國(guó)會(huì)通過(guò)。
二是地方立法較多，美國(guó)已經(jīng)有眾多州推出了關(guān)于人工智能的立法，其中馬里蘭州、加利福尼亞州、馬薩諸塞州、華盛頓州都已通過(guò)超過(guò)5部的立法。
三是以行業(yè)自律為主，相較于監(jiān)管，美國(guó)更關(guān)心人工智能產(chǎn)業(yè)的創(chuàng)新發(fā)展。2023年以來(lái)美國(guó)行業(yè)自律變得更加主動(dòng)，科技巨頭主動(dòng)尋求與相關(guān)機(jī)構(gòu)進(jìn)行合作，如2023年8月，美國(guó)白宮與7家頂級(jí)人工智能公司，包括谷歌、微軟、亞馬遜、Meta、OpenAI、Anthropic和Inflection達(dá)成共識(shí)，各公司都同意在開(kāi)發(fā)人工智能方面作出一系列自愿承諾，包括允許獨(dú)立專家在公開(kāi)亮相之前評(píng)估工具，研究與人工智能相關(guān)的社會(huì)風(fēng)險(xiǎn)，并允許第三方測(cè)試系統(tǒng)漏洞。
與此同時(shí)，美國(guó)在人工智能立法方面也有所動(dòng)作。2023年10月，民主黨和共和黨參議員聯(lián)合提出兩黨法案，要求創(chuàng)新主體對(duì)AI生成的內(nèi)容和聊天機(jī)器人進(jìn)行明確標(biāo)注和披露；要求開(kāi)發(fā)人員在AI生成內(nèi)容上添加清晰且顯著的標(biāo)簽；聯(lián)合來(lái)自政府、學(xué)術(shù)界、媒體界和AI開(kāi)發(fā)的領(lǐng)導(dǎo)者成立一個(gè)工作組，重點(diǎn)關(guān)注識(shí)別AI生成內(nèi)容的最佳實(shí)踐和披露情況。同月，總統(tǒng)拜登簽署的《關(guān)于安全、可靠和值得信賴的開(kāi)發(fā)和使用人工智能行政令》提出了8項(xiàng)目標(biāo)，要求15家領(lǐng)軍企業(yè)自愿承諾推動(dòng)安全、可靠、可信的人工智能發(fā)展。同年11月又推出了《2023年人工智能研究、創(chuàng)新和問(wèn)責(zé)法案》，鼓勵(lì)人工智能創(chuàng)新的立法舉措和建立問(wèn)責(zé)框架。該法案提出人工智能系統(tǒng)分類方法、透明度要求及相應(yīng)監(jiān)管手段，也透露了未來(lái)美國(guó)生成式AI的監(jiān)管方向主要是對(duì)“為人類作者和人工智能生成的內(nèi)容提供真實(shí)性和出處信息”的手段的開(kāi)發(fā)和標(biāo)準(zhǔn)化。
我國(guó)人工智能治理經(jīng)驗(yàn)。我國(guó)對(duì)人工智能的治理歷經(jīng)了摸索治理理念、對(duì)象、主體、工具的探索式治理；以柔性規(guī)制方式為我國(guó)人工智能治理的基本態(tài)度而面向國(guó)際社會(huì)的回應(yīng)式治理；通過(guò)多部門(mén)聯(lián)動(dòng)出臺(tái)法律法規(guī)等硬性規(guī)制工具的集中式治理；以及適應(yīng)技術(shù)變化，主動(dòng)采取剛?cè)岵⑦M(jìn)，增強(qiáng)社會(huì)抗風(fēng)險(xiǎn)韌性的敏捷式治理這四個(gè)階段。[18]
在回應(yīng)式治理階段，針對(duì)國(guó)內(nèi)行業(yè)問(wèn)題，我國(guó)出臺(tái)了一系列軟性規(guī)則。如《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》等，堅(jiān)持以創(chuàng)新發(fā)展為導(dǎo)向，積極推動(dòng)行業(yè)發(fā)展，塑造了有利于人工智能發(fā)展的大氣候；再如《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》的出臺(tái)，為人工智能發(fā)展規(guī)劃了明確的時(shí)間表與路線圖。在集中式治理階段，我國(guó)推動(dòng)各部門(mén)聯(lián)動(dòng)，針對(duì)性地采取整治措施，對(duì)企業(yè)的違規(guī)行為進(jìn)行了規(guī)范和整頓，并相繼在數(shù)據(jù)維度、算法維度、平臺(tái)維度頒布了一系列的法律法規(guī)，同時(shí)及時(shí)更新了行業(yè)標(biāo)準(zhǔn)與倫理規(guī)范。
從全球范圍看，我國(guó)較早制定了人工智能國(guó)家戰(zhàn)略，積極推動(dòng)人工智能治理工作，堅(jiān)持多維度、多領(lǐng)域、多層次的整體治理方針。重視整體規(guī)劃，制定了國(guó)家級(jí)的人工智能發(fā)展規(guī)劃；加強(qiáng)機(jī)構(gòu)建設(shè)，成立了國(guó)家新一代人工智能治理專業(yè)委員會(huì)；關(guān)注垂直領(lǐng)域，出臺(tái)相關(guān)政策和舉措促進(jìn)發(fā)展與治理的平衡；重視法律法規(guī)的完善，由國(guó)家互聯(lián)網(wǎng)信息辦公室主導(dǎo)監(jiān)管規(guī)制；參與國(guó)際治理，積極在國(guó)際舞臺(tái)發(fā)出中國(guó)聲音。
總而言之，我國(guó)現(xiàn)階段人工智能治理采取了軟硬法兼施的路徑。國(guó)家立法上，我國(guó)先后頒布了《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》，下一步應(yīng)積極推進(jìn)人工智能立法工作，集思廣益探討人工智能法草案。監(jiān)管規(guī)制上，我國(guó)先后發(fā)布了《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》《生成式人工智能服務(wù)管理暫行辦法》《科技倫理審查辦法（暫行）》《全球人工智能治理倡議》，接下來(lái)應(yīng)落實(shí)軟法規(guī)制，促進(jìn)原則、標(biāo)準(zhǔn)、指南、意見(jiàn)的落地，助力人工智能健康發(fā)展。地方舉措上也有諸多進(jìn)展，如北京市人民政府辦公廳印發(fā)了《促進(jìn)北京市通用人工智能創(chuàng)新發(fā)展若干措施》，杭州市人民政府辦公廳印發(fā)《關(guān)于加快人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的實(shí)施意見(jiàn)》等，支撐產(chǎn)業(yè)創(chuàng)新生態(tài)，發(fā)揮典型示范引領(lǐng)作用?？傮w上，我國(guó)人工智能治理形成了中央與地方合作、公共部門(mén)與私營(yíng)部門(mén)協(xié)調(diào)的多層次整體布局。
然而，隨著人工智能時(shí)代的到來(lái)尤其是生成式人工智能的快速發(fā)展，我國(guó)人工智能治理工作也面臨著新問(wèn)題、新挑戰(zhàn)。僅僅沿用過(guò)去的治理辦法已難以應(yīng)對(duì)新形勢(shì)下人工智能發(fā)展的迅猛勢(shì)頭，如何規(guī)避新一代人工智能帶來(lái)的新風(fēng)險(xiǎn)，需要構(gòu)建適應(yīng)新一代人工智能發(fā)展的治理框架，真正將問(wèn)題發(fā)現(xiàn)與應(yīng)對(duì)措施落到治理實(shí)踐中，這也正是敏捷式治理嘗試回答的主要問(wèn)題。
構(gòu)建新一代人工智能治理模式——敏捷治理。ChatGPT目前取得的成果為通用人工智能的未來(lái)發(fā)展注入了一劑強(qiáng)心劑，使人們的注意力轉(zhuǎn)向人工智能大模型機(jī)制中可能產(chǎn)生的“涌現(xiàn)”現(xiàn)象。技術(shù)上，“涌現(xiàn)”基于高質(zhì)量大數(shù)據(jù)、超強(qiáng)算力、智能算法的基礎(chǔ)技術(shù)架構(gòu)，通過(guò)詞向量、句向量的表達(dá)將概念問(wèn)題轉(zhuǎn)化為數(shù)學(xué)問(wèn)題，產(chǎn)生“超以象外，得其環(huán)中”的效果。結(jié)果上，大模型已經(jīng)在某種程度上展現(xiàn)出強(qiáng)人工智能的部分能力，甚至在一些領(lǐng)域創(chuàng)造了人工智能替代人的現(xiàn)實(shí)可能性。生成式人工智能對(duì)治理模式提出了新挑戰(zhàn)和新要求。
敏捷治理旨在構(gòu)建穩(wěn)健可行的人工智能倫理與治理框架。[19]它強(qiáng)調(diào)監(jiān)管的節(jié)奏和力度，以及治理手段的適應(yīng)性，是一套兼具柔韌性、流動(dòng)性、靈活性的模式方法，嘗試突破傳統(tǒng)的監(jiān)管與被監(jiān)管思維，構(gòu)建互動(dòng)的監(jiān)管關(guān)系，形成協(xié)同共治的體系。針對(duì)新興技術(shù)發(fā)展的特性，治理需要重新考慮法律假設(shè)、風(fēng)險(xiǎn)研判和利益平衡三個(gè)維度的問(wèn)題。[20]因此，踐行敏捷治理必須在治理理念、治理主體、治理對(duì)象、治理工具多個(gè)維度形成耦合機(jī)制，才能實(shí)現(xiàn)真正的善治。
治理理念上，堅(jiān)持創(chuàng)新導(dǎo)向、風(fēng)險(xiǎn)規(guī)制相結(jié)合的系統(tǒng)思路，妥善處理技術(shù)創(chuàng)新和規(guī)范治理之間的矛盾。以確保人工智能安全可靠為底線，鼓勵(lì)企業(yè)大膽創(chuàng)新，善用生成式人工智能賦能經(jīng)濟(jì)發(fā)展。只談治理不談發(fā)展必定造成治理的空洞化。雖然人工智能作為顛覆性技術(shù)不可避免會(huì)帶來(lái)風(fēng)險(xiǎn)，但必須防止技術(shù)被妖魔化，對(duì)新興技術(shù)應(yīng)當(dāng)保持寬容度，容許其在可控的范圍內(nèi)發(fā)生問(wèn)題，再糾正問(wèn)題。從國(guó)際經(jīng)驗(yàn)上看，美國(guó)強(qiáng)調(diào)科技創(chuàng)新和產(chǎn)業(yè)發(fā)展，歐盟重視價(jià)值導(dǎo)向的強(qiáng)監(jiān)管，這說(shuō)明，維持監(jiān)管與發(fā)展的平衡并不容易。如果在技術(shù)發(fā)展初期設(shè)置過(guò)高門(mén)檻，勢(shì)必阻礙創(chuàng)新，敏捷治理的核心理念就是要保持開(kāi)放性和靈活度。
治理主體上，堅(jiān)持多元參與、協(xié)同互動(dòng)的基本導(dǎo)向，需要改變政府與企業(yè)在傳統(tǒng)治理模式中的關(guān)系，政府與企業(yè)不再是監(jiān)管與被監(jiān)管的關(guān)系，而是以協(xié)同合作實(shí)現(xiàn)治理目標(biāo)為導(dǎo)向的互動(dòng)關(guān)系。政企之間搭建溝通渠道，政府需要準(zhǔn)確掌握行業(yè)動(dòng)態(tài)，企業(yè)需要積極參與相關(guān)政策動(dòng)向。在這一過(guò)程中，學(xué)術(shù)界可以作為有效的溝通渠道和交流平臺(tái)，推動(dòng)政策界、學(xué)術(shù)界、產(chǎn)業(yè)界的良性互動(dòng)，以確保人工智能的良善發(fā)展為共識(shí)，在政策互動(dòng)討論中形成解決方案。應(yīng)建立多方參與的測(cè)評(píng)體系，搭建風(fēng)險(xiǎn)評(píng)估平臺(tái)，通過(guò)普遍接受和認(rèn)可的方式測(cè)評(píng)新一代人工智能，完善標(biāo)準(zhǔn)體系，建立容錯(cuò)機(jī)制，在協(xié)同互動(dòng)中避免安全漏洞和風(fēng)險(xiǎn)。
在治理對(duì)象上，應(yīng)踐行上下結(jié)合、分層治理的基本準(zhǔn)則，重點(diǎn)做好對(duì)數(shù)據(jù)、算法、平臺(tái)的治理。數(shù)據(jù)方面，要兼顧數(shù)據(jù)利用和數(shù)據(jù)保護(hù)，保證效率性和規(guī)范化的協(xié)調(diào)，做好一體化和全局性的統(tǒng)籌。算法方面，應(yīng)將算法嵌入社會(huì)體系中進(jìn)行評(píng)估，以體系化的思維為算法向善提供解決方案。平臺(tái)方面，建構(gòu)諸利益相關(guān)方共同參與的協(xié)同體系，在平臺(tái)監(jiān)管中兼顧好創(chuàng)新和發(fā)展之間的關(guān)系?？傮w上要針對(duì)共性的數(shù)據(jù)和算法問(wèn)題形成普遍的底線約束，對(duì)企業(yè)和平臺(tái)的治理要在充分調(diào)查和分析的基礎(chǔ)上形成規(guī)范。此外，應(yīng)針對(duì)不同的應(yīng)用場(chǎng)景采用個(gè)性化的治理方法和手段，避免規(guī)則泛化導(dǎo)致的治理手段與目標(biāo)問(wèn)題不匹配的情況。
治理工具上，踐行靈活運(yùn)用、剛?cè)岵?jì)的基本方法，形成方法有梯度、應(yīng)對(duì)有緩急的多重手段。一是要審慎調(diào)研我國(guó)人工智能專項(xiàng)立法的必要性，在現(xiàn)有法律法規(guī)的基礎(chǔ)上完善制度建設(shè)。二是要落實(shí)目前已經(jīng)出臺(tái)的相應(yīng)規(guī)則和規(guī)范，在實(shí)踐中考察辦法、準(zhǔn)則的可行性。三是在科技倫理的整體規(guī)劃下研究人機(jī)對(duì)齊的實(shí)踐路徑，爭(zhēng)取在倫理對(duì)齊方面有所突破。四是在國(guó)際上通過(guò)人工智能治理全球倡議展現(xiàn)我國(guó)負(fù)責(zé)任大國(guó)形象。治理工具既包括宏觀層面的法律法規(guī)、倫理準(zhǔn)則，也包括中觀層面的行為準(zhǔn)則，以及微觀層面的技術(shù)標(biāo)準(zhǔn)、監(jiān)管技術(shù)和企業(yè)自我規(guī)制，應(yīng)根據(jù)應(yīng)用場(chǎng)景的具體情況采用適當(dāng)?shù)闹卫砉ぞ摺?/p>
結(jié)語(yǔ)
當(dāng)今人類社會(huì)是一個(gè)高度技術(shù)化的社會(huì)，回答如何治理人工智能的問(wèn)題，就是在回答如何處理好人類與技術(shù)關(guān)系的問(wèn)題。人工智能迎來(lái)了以大模型為主導(dǎo)的新世代，其顛覆性力量正在改變?nèi)祟惖纳a(chǎn)生活方式和思維方式。面對(duì)又一輪新興技術(shù)治理，需要擺脫傳統(tǒng)的監(jiān)管與被監(jiān)管慣性思維。應(yīng)倡導(dǎo)通過(guò)政策界、產(chǎn)業(yè)界、學(xué)術(shù)界的溝通與聯(lián)動(dòng)，在保障創(chuàng)新發(fā)展的同時(shí)，各方共同參與討論應(yīng)對(duì)風(fēng)險(xiǎn)的治理手段。在這樣的前提之下形成廣泛共識(shí)的、切實(shí)可行的、靈活調(diào)整的治理策略，才能使敏捷治理成為適應(yīng)時(shí)代情境的、擺脫克科林格里奇困境的、能夠有效應(yīng)對(duì)大模型不斷涌現(xiàn)風(fēng)險(xiǎn)挑戰(zhàn)的新興技術(shù)治理新模式、新方法。敏捷治理應(yīng)致力于譜寫(xiě)和諧的人工智能治理之音。
（本文系新一代人工智能國(guó)家科技重大專項(xiàng)和清華大學(xué)自主科研計(jì)劃的階段性成果，項(xiàng)目編號(hào)分別為：2023ZD0121700、20223080026；清華大學(xué)公共管理學(xué)院博士后李洋對(duì)本文亦有貢獻(xiàn)）
注釋
[1]陳昌曙：《技術(shù)哲學(xué)引論》，北京：科學(xué)出版社，1999年，第156頁(yè)。
[2]B. Gille, The History of Techniques: Volume 1 Techniques and Civilizations, Montreux: Gordon and Breach Science Publishers, 1986, p. ix.
[3]D. C. Dennett, "Cognitive Wheels: The Frame Problem of AI," in C. Hookway (ed.), Minds, Machines and Evolution, Cambridge: Cambridge University Press, 1984, pp. 129–151.
[4][5]"Artificial Intelligence Index Report 2024," https://aiindex.stanford.edu/report/.
[6]烏爾里希·森德勒等：《工業(yè)4.0：即將來(lái)襲的第四次工業(yè)革命》，鄧敏、李現(xiàn)民譯，北京：機(jī)械工業(yè)出版社，2014年，第68頁(yè)。
[7]沈國(guó)麟：《大數(shù)據(jù)時(shí)代的數(shù)據(jù)主權(quán)和國(guó)家數(shù)據(jù)戰(zhàn)略》，《南京社會(huì)科學(xué)》，2014年第6期。
[8]《國(guó)家網(wǎng)信辦：滴滴存在嚴(yán)重影響國(guó)家安全的數(shù)據(jù)處理活動(dòng)》，2022年07月21日，http://finance.people.com.cn/n1/2022/0721/c1004-32482059.html。
[9]高奇琦：《智能革命與國(guó)家治理現(xiàn)代化初探》，《中國(guó)社會(huì)科學(xué)》，2020年第7期。
[10]高奇琦：《全球善智與全球合智：人工智能全球治理的未來(lái)》，《世界經(jīng)濟(jì)與政治》，2019年第7期。
[11]K. Crawford; R. Calo, "There is a Blind Spot in AI Research," Nature, 2016, 538(7625).
[12]趙敏、王金秋：《新技術(shù)革命的政治經(jīng)濟(jì)學(xué)研究》，《政治經(jīng)濟(jì)學(xué)評(píng)論》，2020年第5期。
[13]T. Eloundou et al., "GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models," 22 August 2023, https://arxiv.org/pdf/2303.10130.pdf.
[14]T. H. Davenport, The AI Advantage: How to Put the Artificial Intelligence Revolution to Work, Cambridge: The MIT Press, 2018, p. 133.
[15]J. Kaplan, Artificial Intelligence: What Everyone Needs to Know, New York: Oxford University Press, 2016, p. 129.
[16]劉永謀：《技術(shù)治理、反治理與再治理：以智能治理為例》，《云南社會(huì)科學(xué)》，2019年第2期。
[17]吳彤：《關(guān)于人工智能發(fā)展與治理的若干哲學(xué)思考》，《人民論壇·學(xué)術(shù)前沿》，2018年第5期。
[18]姜李丹、薛瀾：《我國(guó)新一代人工智能治理的時(shí)代挑戰(zhàn)與范式變革》，《公共管理學(xué)報(bào)》，2022年2期。
[19]段偉文：《構(gòu)建穩(wěn)健敏捷的人工智能倫理與治理框架》，《科普研究》，2020年第3期。
[20]薛瀾、趙靜：《走向敏捷治理：新興產(chǎn)業(yè)發(fā)展與監(jiān)管模式探究》，《中國(guó)行政管理》，2019年第8期。
責(zé) 編∕桂 琰 美 編∕周群英
Good Governance of Artificial Intelligence from the Perspective of Emerging Technologies
—Development Status, Risks & Challenges and Governance Ideas
Liang Zheng
Abstract: Artificial intelligence is triggering an era of change far beyond the technical field, and the generative artificial intelligence represented by large models is shaping the main technological path in the future. Although China has become an artificial intelligence power, it still needs improvement in core theoretical research, basic infrastructure construction, key hardware-software and ecosystem, and there is still a long way to go for the country to become a strong artificial intelligence power. In this case, the key is how to achieve good governance of artificial intelligence while ensuring its strong, orderly and beneficial development. Therefore, balancing the relationship between innovation and governance, practicing the ethical idea of value alignment, learning from the best practice in international governance of artificial intelligence, and exploring a new governance approach with open ideas, diverse subjects, hierarchical objects, and flexible tools have become the core proposition of exploring the path of good governance of artificial intelligence.
Keywords: generative artificial intelligence, emerging technology, value alignment, agile governance
