當(dāng)前，我們正處于人工智能的啟蒙時(shí)代。被稱為人類歷史上第四次革命的人工智能，以其迅猛發(fā)展帶動(dòng)人類社會(huì)從信息時(shí)代跨入智能時(shí)代。這無(wú)疑會(huì)更加充分地實(shí)現(xiàn)人的自由，并帶來前所未有的發(fā)展機(jī)遇。但同時(shí)，如同硬幣的兩面，機(jī)遇總是伴隨著風(fēng)險(xiǎn)。人工智能技術(shù)的創(chuàng)新與應(yīng)用正在逐步改變?cè)械纳鐣?huì)結(jié)構(gòu)，產(chǎn)生新型的社會(huì)關(guān)系和法律關(guān)系，引發(fā)新型的社會(huì)沖突。這都在迫使我們?nèi)コ掷m(xù)思考應(yīng)該如何防范、轉(zhuǎn)化和規(guī)制人工智能帶來的風(fēng)險(xiǎn)。

人工智能發(fā)展帶來的新風(fēng)險(xiǎn)

人工智能與以往其他革命性技術(shù)的不同在于，它不僅具有技術(shù)屬性，而且具有社會(huì)屬性。正因?yàn)槿绱?，人工智能的風(fēng)險(xiǎn)不僅僅集中在技術(shù)層面，還滲透于社會(huì)和人類生活空間的諸多層面，具有全球性、廣泛性和互聯(lián)性的特征。在諸多風(fēng)險(xiǎn)當(dāng)中，以下幾種風(fēng)險(xiǎn)尤其引人關(guān)注：

技術(shù)不確定性帶來的安全風(fēng)險(xiǎn)

人工智能技術(shù)起源于二十世紀(jì)六十年代，在幾十年的發(fā)展歷程當(dāng)中經(jīng)歷了三起三落?，F(xiàn)階段人工智能技術(shù)的復(fù)興，一方面得益于計(jì)算機(jī)技術(shù)快速發(fā)展所帶來的算力提高，另一方面取決于深度學(xué)習(xí)技術(shù)的應(yīng)用。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)研究中的一個(gè)新領(lǐng)域，其動(dòng)機(jī)在于建立、模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，模仿人腦的機(jī)制來解釋數(shù)據(jù)。這是機(jī)器學(xué)習(xí)中一種基于對(duì)數(shù)據(jù)進(jìn)行表征學(xué)習(xí)的方法。在深度學(xué)習(xí)模型中，通常人們只需要給定、輸入數(shù)據(jù)和標(biāo)簽，即可獲得輸出結(jié)果。至于網(wǎng)絡(luò)中間層的內(nèi)部學(xué)習(xí)如何進(jìn)行，在當(dāng)下的研究階段，人們還不得而知。換言之，機(jī)器學(xué)習(xí)的結(jié)果不僅很難直觀解釋，而且很難控制。這種技術(shù)不確定性所帶來的風(fēng)險(xiǎn)，使人們恐懼于AI失控所帶來的嚴(yán)重后果。尤其是當(dāng)AI用于軍事、金融、醫(yī)療等高風(fēng)險(xiǎn)領(lǐng)域，一旦實(shí)際的計(jì)算結(jié)果與人們的期待出現(xiàn)較大偏差，產(chǎn)生AI的異化現(xiàn)象，將對(duì)社會(huì)造成不可預(yù)測(cè)的負(fù)面影響。

不平等的社會(huì)效益風(fēng)險(xiǎn)

一直以來，在聯(lián)合國(guó)的推動(dòng)下，各國(guó)都在努力彌補(bǔ)數(shù)字鴻溝。然而，現(xiàn)階段的一個(gè)普遍現(xiàn)象是：人工智能技術(shù)的應(yīng)用及其與互聯(lián)網(wǎng)公司的深度融合，進(jìn)一步加劇了互聯(lián)網(wǎng)巨頭公司的信息壟斷和數(shù)據(jù)壟斷，擴(kuò)大了各階層之間的數(shù)字鴻溝。而在數(shù)字經(jīng)濟(jì)形態(tài)下，數(shù)據(jù)已經(jīng)超越了其固有的物理屬性，成為了新的生產(chǎn)要素。數(shù)據(jù)優(yōu)勢(shì)在技術(shù)發(fā)展的助攻下，可以快速轉(zhuǎn)換成商業(yè)優(yōu)勢(shì)和經(jīng)濟(jì)優(yōu)勢(shì)，幫助大數(shù)據(jù)持有者以更大的規(guī)模、更快的速度，實(shí)現(xiàn)財(cái)富集中，形成財(cái)富的壟斷。

與此同時(shí)，人工智能技術(shù)也對(duì)現(xiàn)有的勞動(dòng)力市場(chǎng)造成了沖擊。雖然根據(jù)某些權(quán)威經(jīng)濟(jì)學(xué)家的預(yù)測(cè)，以未來的視角來看，人工智能技術(shù)發(fā)展帶來的新增勞動(dòng)就業(yè)崗位將抵消由其引發(fā)的失業(yè)現(xiàn)象。然而未來尚未到來，當(dāng)下的失業(yè)問題卻已擺在人們面前。在各大銀行的分支機(jī)構(gòu)中，原來的柜員已悄然削減，取而代之的是智能化柜員機(jī)器人；在許多停車場(chǎng)的出入口，收費(fèi)人員被解雇，因?yàn)樽詣?dòng)化付款模式不再需要他們的出現(xiàn)。最近，麥肯錫的一份報(bào)告透漏，2018年，人工智能驅(qū)動(dòng)的自動(dòng)化導(dǎo)致德國(guó)和美國(guó)三分之一的勞動(dòng)力重新尋找工作。這與上述巨額財(cái)富向少數(shù)人手里集中的現(xiàn)象形成了鮮明的對(duì)比。

法律制度缺失的風(fēng)險(xiǎn)

正如德國(guó)社會(huì)學(xué)家烏爾里希•貝克在《風(fēng)險(xiǎn)社會(huì)》一書中所表述的那樣：當(dāng)代社會(huì)的本質(zhì)是“風(fēng)險(xiǎn)社會(huì)”，科技風(fēng)險(xiǎn)是風(fēng)險(xiǎn)社會(huì)的重要內(nèi)容。而科技風(fēng)險(xiǎn)的產(chǎn)生，一方面是由于科學(xué)技術(shù)本身的發(fā)展造成的，另一方面則是由于制度在回應(yīng)科技發(fā)展過程中的缺失。換言之，科技風(fēng)險(xiǎn)與制度風(fēng)險(xiǎn)是共生的、一體的。這是導(dǎo)致現(xiàn)代社會(huì)高風(fēng)險(xiǎn)的重要原因。

人工智能風(fēng)險(xiǎn)無(wú)疑屬于風(fēng)險(xiǎn)社會(huì)中科技風(fēng)險(xiǎn)的范疇。作為現(xiàn)代社會(huì)治理的最主要方式，法律遵循著自身固有的屬性與腳步，習(xí)慣于對(duì)科學(xué)技術(shù)發(fā)展產(chǎn)生的社會(huì)問題作出緩慢和滯后的回應(yīng)。法律的穩(wěn)定性和滯后性，與人工智能技術(shù)的快速發(fā)展及其由此而產(chǎn)生的新的法律需求，形成了強(qiáng)烈的對(duì)比。2017年10月，當(dāng)人們還在討論人工智能是否具有人格時(shí)，沙特阿拉伯已經(jīng)授予機(jī)器人索菲亞公民身份。而更加讓人驚詫的是，這個(gè)世界上第一個(gè)機(jī)器人公民卻揚(yáng)言要?dú)缛祟?。在自?dòng)駕駛領(lǐng)域，技術(shù)創(chuàng)新和秩序安全兩種價(jià)值始終在進(jìn)行博弈。除了少數(shù)國(guó)家頒布了無(wú)人駕駛新立法，大多數(shù)國(guó)家的交通法律制度還停留在前互聯(lián)網(wǎng)階段。但無(wú)人駕駛的車輪已經(jīng)越走越遠(yuǎn)，即便世界范圍內(nèi)已經(jīng)出現(xiàn)了多起無(wú)人駕駛引發(fā)的交通事故，也未能阻擋新的嘗試。此外，侵權(quán)的責(zé)任如何界定也尚未清晰。類似此種法律制度的缺失，包括智能系統(tǒng)生成的作品著作權(quán)問題、強(qiáng)制保險(xiǎn)問題、隱私問題、算法的透明度問題等。這些不是個(gè)別部門法需要面臨的難題，而是幾乎全部法學(xué)領(lǐng)域均有涉及的全局性問題。

完善人工智能相關(guān)立法的幾點(diǎn)思考

談及人工智能的規(guī)制構(gòu)建問題，法律人其實(shí)并不孤獨(dú)，國(guó)際關(guān)系學(xué)者、倫理學(xué)家、政治學(xué)家等多個(gè)領(lǐng)域的社會(huì)學(xué)者都沖在研究和實(shí)踐的第一線。雖然法律并不是現(xiàn)代文明社會(huì)唯一的治理和調(diào)解方式，但卻是最主要和最有效的方式。在新的治理方式取代法治治理之前，人類社會(huì)應(yīng)該致力于完善人工智能相關(guān)的法律規(guī)制，為人工智能發(fā)展制定規(guī)則的邊界。這是一項(xiàng)繁雜且重要的任務(wù)，不可能一蹴而就。為此，在立法初始階段，對(duì)一些基本范疇的思考，具有極其重要的意義。

人工智能立法要兼顧安全與發(fā)展

正如著名法學(xué)家徐顯明曾經(jīng)闡述的那樣，自人類社會(huì)開始構(gòu)建規(guī)則以來，安全始終是人們追求的第一價(jià)值目標(biāo)。社會(huì)秩序安全是技術(shù)發(fā)展的重要保證。立法者不僅要考慮安全的價(jià)值，也要從產(chǎn)業(yè)促進(jìn)的角度進(jìn)行考量。在進(jìn)行人工智能立法時(shí)，尤其要進(jìn)行安全與發(fā)展的價(jià)值衡量。這是因?yàn)槿斯ぶ悄芗夹g(shù)已經(jīng)成為世界主要大國(guó)的戰(zhàn)略性技術(shù)，對(duì)一國(guó)的發(fā)展至關(guān)重要。如果過于嚴(yán)格的立法阻礙了本國(guó)人工智能技術(shù)和產(chǎn)業(yè)的發(fā)展，勢(shì)必會(huì)使國(guó)家在大國(guó)競(jìng)爭(zhēng)的時(shí)代處于不利的地位。

2018年5月5日，歐盟《通用數(shù)據(jù)保護(hù)條例》生效。這是迄今為止世界范圍內(nèi)最為嚴(yán)格的個(gè)人數(shù)據(jù)保護(hù)法案，引起了廣泛的關(guān)注。然而我們也應(yīng)該看到，歐盟正在積極推進(jìn)立法促進(jìn)人工智能的發(fā)展。相比之下，美國(guó)一直以來都比較偏重于對(duì)人工智能技術(shù)研發(fā)和產(chǎn)業(yè)的促進(jìn)與保護(hù)。這從美國(guó)最近的兩個(gè)司法判例中可窺見一斑。在路米斯訴威斯康辛州法院的案件中，法院支持算法屬于商業(yè)秘密。在搜索王訴谷歌的算法第一案中，法院認(rèn)為網(wǎng)頁(yè)排名是一種意見，支持了谷歌認(rèn)為算法是言論自由的主張，將算法置于美國(guó)憲法第一修正案的保護(hù)之下。在中美博弈的大背景下，中國(guó)的立法更應(yīng)該科學(xué)協(xié)調(diào)安全與發(fā)展這兩對(duì)范疇，做到保護(hù)人們基本權(quán)利和促進(jìn)人工智能發(fā)展相統(tǒng)一。

“傳統(tǒng)法+”與分散式立法

在實(shí)現(xiàn)真正的超人工智能前，人工智能還要經(jīng)歷專門人工智能和通用人工智能階段。專門人工智能僅具備某項(xiàng)認(rèn)知能力，能夠在封閉的環(huán)境中實(shí)現(xiàn)單一任務(wù)。通用人工智能具備人類的所有認(rèn)知能力，可以由同一個(gè)智能系統(tǒng)實(shí)現(xiàn)不同的認(rèn)知任務(wù)。而超人工智能將在所有認(rèn)知能力和領(lǐng)域全面超過人類。目前，我們正處于專門人工智能向通用人工智能轉(zhuǎn)變的時(shí)代，語(yǔ)音識(shí)別、圖像識(shí)別、智能金融等仍舊屬于專門人工智能的應(yīng)用。

立法者在構(gòu)建人工智能法律體系時(shí)，雖然可以具備一定的前瞻性和先進(jìn)性，但必須立足于人工智能現(xiàn)在的發(fā)展階段。也就是說，立法必須是現(xiàn)實(shí)的，作為上層建筑的法律體系，必須根據(jù)科學(xué)家對(duì)人工智能的賦能現(xiàn)實(shí)而制定。在專門人工智能階段，人工智能更多程度上仍舊是實(shí)現(xiàn)人類自由的一種工具，雖然現(xiàn)有的法律體系面對(duì)人工智能引發(fā)的新型法律關(guān)系產(chǎn)生了一定的法律空白，但并不是所有的人工智能問題都是法律上的新問題。相反，在專門人工智能階段，大部分的問題仍舊可以置于原有的法律框架之下。而對(duì)于新問題的規(guī)制，相較于集中式立法的模式，更適合采用分散式立法的方法來推進(jìn)。這并非頭痛醫(yī)頭、腳痛醫(yī)腳的雜亂安排，而恰巧是科學(xué)立法的貫徹和實(shí)施。具體來說，一是因?yàn)槿斯ぶ悄茉诿總€(gè)領(lǐng)域的發(fā)展與應(yīng)用程度并不相同，對(duì)法律原則和規(guī)則的需求不同；二是因?yàn)榧惺搅⒎▽?duì)于立法技術(shù)、人力和物力有著更高的要求，往往也需要花費(fèi)更多的時(shí)間，顯然與人工智能技術(shù)的快速發(fā)展不相符。

積極參與人工智能國(guó)際立法

在傳統(tǒng)社會(huì)，風(fēng)險(xiǎn)具有地域性，風(fēng)險(xiǎn)在地緣因素的影響下傳播。然而，現(xiàn)代社會(huì)的技術(shù)、人才、資本、文化等要素在全球范圍流動(dòng)，全球化的發(fā)展使風(fēng)險(xiǎn)跨越了國(guó)界，風(fēng)險(xiǎn)全球化成為風(fēng)險(xiǎn)社會(huì)的重要特征。人工智能帶來的軍備競(jìng)賽、核武器風(fēng)險(xiǎn)增加、人權(quán)保護(hù)等問題，只靠國(guó)內(nèi)機(jī)制顯然得不到有效解決，應(yīng)該放在國(guó)際治理的角度下進(jìn)行討論。

與國(guó)際法在網(wǎng)絡(luò)空間適用的問題具有相似性，國(guó)際法在人工智能領(lǐng)域的適用，也面臨著兩個(gè)基本問題：第一，原有的國(guó)際法規(guī)則是否適用于人工智能相關(guān)問題，即既有規(guī)則的繼受問題；第二，如何構(gòu)建新的人工智能國(guó)際規(guī)則。2013年，第三屆聯(lián)合國(guó)信息安全政府專家組通過報(bào)告，確認(rèn)國(guó)際法特別是《聯(lián)合國(guó)憲章》適用于網(wǎng)絡(luò)空間，并且宣示：國(guó)家主權(quán)和源自國(guó)家主權(quán)的國(guó)際規(guī)范和原則適用于國(guó)家進(jìn)行的信息通信技術(shù)活動(dòng)，以及國(guó)家在其領(lǐng)土內(nèi)對(duì)信息通信技術(shù)基礎(chǔ)設(shè)施的管轄權(quán)。借鑒此結(jié)論，對(duì)于在人工智能領(lǐng)域原有國(guó)際規(guī)則的繼受問題，答案也應(yīng)該是肯定的。當(dāng)然，這并不妨礙在國(guó)際法的立法真空地帶，針對(duì)新的人工智能問題構(gòu)建新的國(guó)際規(guī)則。然而，對(duì)于如何在人工智能領(lǐng)域?qū)υ袊?guó)際規(guī)則進(jìn)行解釋，即到底如何適用原有規(guī)則，以及如何構(gòu)建新的國(guó)際規(guī)則，各個(gè)國(guó)家基于不同的法律文化和本國(guó)利益，持有不同的觀點(diǎn)，仍舊處在激烈的討論和博弈階段。中國(guó)作為世界第二大經(jīng)濟(jì)體和聯(lián)合國(guó)常任理事國(guó)，特別是人工智能技術(shù)和產(chǎn)業(yè)蓬勃發(fā)展的國(guó)家，應(yīng)該積極參與到人工智能國(guó)際規(guī)則的解釋與制定當(dāng)中，體現(xiàn)我國(guó)的軟實(shí)力。

總而言之，法律并非一成不變，法律的生命力體現(xiàn)在其融合時(shí)代的不斷演進(jìn)之中。法律規(guī)制只有不斷進(jìn)行調(diào)整，才能回應(yīng)人工智能對(duì)法律制度帶來的挑戰(zhàn)，最終形成人工智能時(shí)代的法律體系。

【本文作者為中國(guó)電子科學(xué)研究院研究員、美國(guó)福特漢姆大學(xué)訪問學(xué)者】

責(zé)編：趙博藝 / 蔡圣楠