【摘要】當前，中國正處在數(shù)字化轉(zhuǎn)型的關鍵時期，各種無人化應用場景的快速發(fā)展成為這一革命性進程的加速器。無人化技術在多場景的推廣應用提高了生產(chǎn)與管理的智能化水平，顯著降低用工成本，給人們提供了更舒適便捷的服務。但無人化應用場景的加速部署同樣蘊含著跨場域、跨業(yè)務、跨部門的新型復合風險，給數(shù)字經(jīng)濟的良性發(fā)展帶來挑戰(zhàn)。以多中心、去邊界和深度合作為主要特征的協(xié)同治理成為應對無人化跨界風險的新選擇。

【關鍵詞】數(shù)字化轉(zhuǎn)型  無人化應用  跨界風險  協(xié)同治理    

【中圖分類號】D669    【文獻標識碼】A

當前全球主要經(jīng)濟體爭相進行整體性數(shù)字化轉(zhuǎn)型，不斷向智能社會躍進，無人化應用領域憑借高效、無感、便捷等方面的技術優(yōu)勢在數(shù)字化大潮中異軍突起，發(fā)展勢頭強勁。在2022年北京冬奧會上，多樣態(tài)的無人化應用場景給世人留下了深刻印象，防疫機器人、接待機器人、遞送機器人、物流機器人、炒菜機器人、送餐機器人等各類智能“黑科技”大放異彩。隨著經(jīng)濟社會的發(fā)展，無接觸、智能化、高效率的無人化應用擴展到越來越多的生產(chǎn)生活場景之中，為企業(yè)的提質(zhì)增效和人民生活便利化提供了更多元的選擇。

無人化應用的發(fā)展情況與驅(qū)動因素

近年來，人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)技術的商業(yè)化模式逐漸走向成熟，無人經(jīng)濟的發(fā)展進入快車道，在諸多領域出現(xiàn)了更多無人化應用新場景。當前，我國數(shù)字經(jīng)濟中無人化板塊進入加速發(fā)展時期，主要分布在無人零售、工業(yè)機器人、無人載具、物流倉儲和商旅服務等行業(yè)領域。

我國無人化應用的發(fā)展呈現(xiàn)出三個主要特征。一是適用范圍廣，應用場景多元化。像無人零售、智慧物流、無人銀行、無人加油站等生活服務場景在大城市已經(jīng)屢見不鮮，并不斷向中小城市和村鎮(zhèn)擴張。而在生產(chǎn)領域，無人化應用讓智慧工廠、無人車間和智慧農(nóng)業(yè)成為現(xiàn)實，生產(chǎn)中一些或單調(diào)或繁復的工作開始交給智能機器人去完成，而在一些高危行業(yè)和惡劣工作環(huán)境下，機器人已經(jīng)可以替人涉險，最大限度地避免事故災難對人的直接傷害。二是功能日趨完善，智能融合化趨勢明顯。在大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)、5G通信技術快速迭代與深度融合的加持下，無人化應用在多個領域的功能愈發(fā)完善，通過技術集成，呈現(xiàn)出模塊化、系統(tǒng)化和高智能性特征。例如，智慧物流和倉儲的無人化應用已經(jīng)實現(xiàn)了更高水平的路徑規(guī)劃、自主移動、自主管理與分揀和無接觸精準配送等功能，達到了在統(tǒng)一的無人系統(tǒng)控制下分階段、無縫銜接地完成工作任務的智能水平。三是無人化應用帶來了管理體驗的高效化和用戶體驗的個性化。在生產(chǎn)和管理端，無人化應用極大地提高生產(chǎn)率，明顯減少一線員工數(shù)量，進而降低運行成本，整體性提高管理效率，這從根本上促進企業(yè)的數(shù)字化轉(zhuǎn)型和公共管理服務部門的數(shù)字治理效能提升。在客戶消費端，無人化應用的無感式、人性化、便捷式服務水平和質(zhì)量不斷提升，滿足了客戶對服務效率的極致追求和對產(chǎn)品服務的多元化、定制化和人性化的高標準需求，消費者體驗效果的好評度也隨之提升。

無人化應用的快速發(fā)展受多種因素驅(qū)動。首先，數(shù)字技術的革新是無人化應用興起和擴展的支撐因素。人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)是支撐無人化的關鍵技術，它們的融合創(chuàng)新讓人與物、物與物之間的全方位對接成為現(xiàn)實。其次，以降成本提效率為目標的經(jīng)濟考量是驅(qū)動無人化應用發(fā)展的動力因素。對效率、效益最大化的追求是驅(qū)動資本、企業(yè)和管理部門不斷投入資金研發(fā)無人化技術、采用無人化應用、推廣無人化場景的原動力。成規(guī)模的無人化應用的部署和多場景化的推廣可以提高經(jīng)濟效益和資本回報率。另外，人口老齡化加劇，人口紅利消失導致的勞動力成本高企等因素進一步強化了雇主研發(fā)、部署無人化應用的意愿和速度。最后，新冠肺炎疫情成為無人化應用需求增長的特定因素。傳染性極強的新冠病毒讓保持社交距離、減少人員接觸成為防疫“剛需”，在促進經(jīng)濟發(fā)展和做好疫情防控要求下，無人化應用獨有的“無接觸、安全性、智能化”特征讓其成為助力科學抗疫、助推智能經(jīng)濟產(chǎn)業(yè)化進程中不可或缺的關鍵要素，這倒給無人化應用場景的推廣帶來新發(fā)展機遇。

無人化應用快速發(fā)展中的跨界風險

作為極具顛覆性的技術應用，無人化應用的發(fā)展推動了經(jīng)濟社會的進步，也帶來了新的風險與挑戰(zhàn)。種種跡象表明，它們正在改變著就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私甚至挑戰(zhàn)國際關系準則，對政府管理、經(jīng)濟安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠影響。這些發(fā)展中的風險復雜、多變又相互關聯(lián)，形成了跨界風險。

首先是網(wǎng)絡安全風險，它是基礎性風險因素。無人化應用的依存基礎是泛在化的移動網(wǎng)絡和物聯(lián)網(wǎng)等信息通訊設施，物與物、人與人、人與物的互聯(lián)互通是無人化應用場景實現(xiàn)的必要條件。萬物互聯(lián)既是無人化應用的特征也是跨界風險的源頭。網(wǎng)絡基底技術及其構(gòu)成的系統(tǒng)都存在安全漏洞。例如，在所有網(wǎng)絡系統(tǒng)和軟件中常見的0Day漏洞（又稱暫時沒有安全補丁的漏洞，該漏洞從被發(fā)現(xiàn)到被利用再到被封堵存在著時間差，這期間所遭受的攻擊難以防范），就會讓聯(lián)網(wǎng)設備面臨信息泄露、系統(tǒng)癱瘓的威脅。據(jù)統(tǒng)計，2020年全球約有123 億臺設備聯(lián)網(wǎng)，隨著無人化應用場景的擴張，這一數(shù)字還會成倍增加。在這些設備中，由于成本和設計的原因，大量無人化設備安全防護系統(tǒng)陳舊或過于簡單，無法有效抵御類似0Day漏洞的攻擊。即使重啟一個簡單的物聯(lián)網(wǎng)燈泡，最終也可能會暴露真實的網(wǎng)絡地址，攻擊者就能夠利用漏洞遠程接管設備，將提前準備好的攻擊代碼或惡意程序添加到所在網(wǎng)絡中，竊取甚至控制個人或組織的其他聯(lián)網(wǎng)設備，導致信息泄露或財產(chǎn)損失。

其次是數(shù)據(jù)安全風險，它是核心風險因素。在數(shù)字時代，任何以電子或者其他方式對信息的記錄都可以稱為數(shù)據(jù)。從某種程度上講，無人化應用及場景的運行本質(zhì)上就是數(shù)據(jù)的處理過程。而建立在網(wǎng)絡基礎上的數(shù)據(jù)處理，包括數(shù)據(jù)的收集、存儲、使用、加工、傳輸?shù)榷鄠€功能環(huán)節(jié)或多或少都存在著安全隱患，導致數(shù)據(jù)處于缺乏保護或非法利用的狀態(tài)，無法保障整個無人化應用場景的持續(xù)安全。無人化應用場景里的數(shù)據(jù)安全風險主要包括數(shù)據(jù)泄露、數(shù)據(jù)篡改、數(shù)據(jù)濫用、違規(guī)傳輸、非法訪問等幾種形式。例如，在常見的無人化服務場景中，數(shù)據(jù)濫用的情況就比較嚴重。無人化設備在提供消費服務時候需要人臉識別、掃碼登記支付操作，通常會采集用戶的生物信息、手機號、設備信息，還會越界讀取個人通信信息、短信和相冊等敏感信息。無人化設備采集到的這些信息可能會被非法傳輸給設備商、經(jīng)銷商、服務商等多層次的數(shù)據(jù)后臺，用于消費習慣“畫像”和標簽化等數(shù)據(jù)加工，甚至發(fā)生非法的用戶信息數(shù)據(jù)共享與交易行為。

最后是社會安全風險，它屬于技術風險的衍生風險因素。無人化應用的網(wǎng)絡和數(shù)據(jù)最終都是要為社會和用戶服務，網(wǎng)絡安全風險和數(shù)據(jù)安全風險也終將會傳導到社會領域，由此引發(fā)的社會安全風險可以分為三種類型：一類是因人機功能定位不當或權(quán)責歸屬模糊不清導致的法律風險。無人化應用運行中產(chǎn)生了許多人機交互的數(shù)據(jù)，這些數(shù)據(jù)的產(chǎn)權(quán)歸屬、收益分配和安全保護責任與成本分攤等關鍵問題要么尚未得到法律確認，要么法規(guī)的操作性不強，容易產(chǎn)生利益相關的自然人與法人之間的權(quán)責糾紛。另外，在特殊情境下，無人化設備出現(xiàn)功能故障導致財產(chǎn)損失與人身傷害時，因主體“缺失”導致的責任認定困境，也會引發(fā)無人設備生產(chǎn)者、運營者和使用者等多方利益糾紛。第二類是無人化應用擴展對工作崗位的替代效應產(chǎn)生的結(jié)構(gòu)性失業(yè)風險。“無人”最初的設計目標本就是盡量替代人工進行勞動。在某種意義上來說，無人化應用越普及，被其替代的工作崗位就越多，直接從事該崗位的原有勞動者面臨的失業(yè)威脅越大。當然，無人化應用場景的發(fā)展也會增加對無人化系統(tǒng)的研發(fā)、運營和維護等工作崗位的需求。如果被無人化應用替代勞動崗位的“失業(yè)者”與因無人化應用場景擴展新增的“就業(yè)者”不是同一批“人”，則更容易發(fā)生結(jié)構(gòu)性失業(yè)風險。第三類風險是指上述多重風險進一步傳導放大形成的社會風險，如新型的數(shù)字鴻溝與數(shù)字不平等。當無人化應用場景滲透日常生活的各個領域，成為主要的生產(chǎn)形式和生活方式的時候，那些對無人化應用適應性差或抵觸使用無人化應用的群體，就會因缺乏替代場景或備用選擇而無法享受無人化發(fā)展帶來的數(shù)字生活紅利，或者連基本的生活也受到限制。

從總體上看，這些跨界風險存在以下特征：一是風險跨越了空間場域邊界。無人化應用的風險跨越技術與社會兩大領域，縱橫影響技術、生產(chǎn)、生活和管理等多重維度。無論是無人化應用的軟件系統(tǒng)還是無人化應用的物理設備都難逃技術漏洞的物理攻擊，無論是單純的消費領域還是社會穩(wěn)定與國家安全領域都有可能因為無人化應用風險的外溢而遭受威脅或損失。二是風險跨越了時間的影響邊界。無人化應用場景中一些風險具有“黑箱效應”，普通人難以察覺，類似0day漏洞的發(fā)現(xiàn)與封堵可能會拖延很長時間，此類風險缺少明確的起點和終點，在相當長一段“潛伏期”內(nèi)對其波及領域產(chǎn)生實質(zhì)威脅。三是風險跨越了系統(tǒng)功能邊界。無人化應用場景是典型的復雜系統(tǒng)，其內(nèi)部的功能分工有別于傳統(tǒng)的機械化分割，其構(gòu)成要素之間的多重耦合、功能嵌套、邊界重疊和非線性作用機制都決定了發(fā)生在內(nèi)部的任何一個環(huán)節(jié)的功能障礙或破壞，都有可能快速地突破子系統(tǒng)的功能邊界，擴散到整個無人化應用場景網(wǎng)絡中，產(chǎn)生級聯(lián)故障或系統(tǒng)癱瘓。四是風險跨越了傳統(tǒng)的安全邊界。與跨越系統(tǒng)功能邊界相關聯(lián)，無人化應用場景的風險同樣突破了原有意義上的安全防護界限。通常，政府、市場和社會各自設定了安全防護規(guī)制與措施，但這些系統(tǒng)因各自發(fā)揮的功能目標不同，安全防護的側(cè)重點也各異。當跨界運作的無人化應用場景全方位、立體化地嵌入其中并通過互聯(lián)網(wǎng)和物聯(lián)網(wǎng)將各類系統(tǒng)鏈接起來的時候，一個領域（或業(yè)務部門或管理層級）的安全措施不能或無力抵御來自相連領域的風險威脅，風險的傳導和波及或?qū)_破條塊化分割的安全邊界，造成全域性系統(tǒng)安全風險。五是風險跨越了組織的管理邊界。由于無人化應用場景涉及企業(yè)、行業(yè)、政府和用戶等眾多主體，在其研發(fā)、運營和使用等多個階段都存在風險隱患，在上述時空邊界和功能安全邊界模糊不清或防護不足的情況下，按照傳統(tǒng)的業(yè)務、部門和層級進行安全監(jiān)管分工的組織邊界也會被打破，如果相關監(jiān)管固守之前的組織架構(gòu)、管理職責和權(quán)限，將無法有效應對無人化應用擴張帶來的跨界風險的沖擊與挑戰(zhàn)。

以協(xié)同治理創(chuàng)新應對無人化應用新型跨界風險

面對無人化應用快速發(fā)展帶來的跨界風險，傳統(tǒng)的治理模式難以取得良好的效果，碎片化的治理結(jié)構(gòu)和缺乏彈性的治理機制無法應對無人化跨界風險帶來的新挑戰(zhàn)。協(xié)同治理是一種秉持整體性視角，以多中心、去邊界和深度合作為主要特征的新型治理模式。以協(xié)同治理應對跨界風險成為數(shù)字時代風險治理的新思路。

一是技術領域的主動防護與“協(xié)同數(shù)網(wǎng)”創(chuàng)新。“以技治技”是治理跨界風險的重要原則，借助人工智能、區(qū)塊鏈等新技術獨有的“算法對抗”“自主驗證”技能來提高協(xié)同防護的效率。其一，構(gòu)建以“零信任架構(gòu)”為基礎的主動防護機制。建構(gòu)網(wǎng)絡安全是治理無人化應用跨界風險的基礎性工作。通過建立“持續(xù)驗證，永不信任”網(wǎng)絡安全防護框架，將系統(tǒng)的安全邊界延伸到無人化應用場景的最末端，無論是用戶、設備、應用程序在試圖獲得網(wǎng)絡訪問權(quán)限的時候，在其身份真實性被驗證之前，訪問請求都能夠被堅決拒絕，從而構(gòu)建一個基于身份策略模型的動態(tài)訪問控制的安全防護體系。其二，推動“協(xié)同數(shù)網(wǎng)”建設，提升主動防護的能力。數(shù)據(jù)處理是無人化應用的核心過程，通過組建完善“云端”數(shù)據(jù)資源的接入和一體化調(diào)度中心，降低算力使用成本和門檻，形成“數(shù)據(jù)樞紐”，建立無人化應用復雜系統(tǒng)的“中樞大腦”，統(tǒng)籌運算和風險監(jiān)測預警功能。在此基礎上，利用區(qū)塊鏈的分布式獨立核算與存儲功能，實現(xiàn)信息的自我驗證、傳遞和管理，進而形成一個既能促進跨場域、跨部門、跨層級的數(shù)據(jù)流通又能實施風險治理功能的“數(shù)鏈”系統(tǒng)，提高無人化應用數(shù)據(jù)處理效率的同時可以有效防范數(shù)據(jù)篡改或非法傳輸?shù)蕊L險。

二是社會領域的風險會商與爭端解決機制創(chuàng)新。首先，在前端的風險分析與評估階段，應鼓勵試點多主體參與的風險會商體系。通過建立常態(tài)化的議事機構(gòu)、制定規(guī)范的議事規(guī)則，督促不同的監(jiān)管主體（政府職能部門、相關企業(yè)及平臺、行業(yè)協(xié)會、學術研究機構(gòu)、專業(yè)社會組織）根據(jù)自身資源優(yōu)勢和能力狀況，開展會商式的風險評估活動，分析研判無人化應用跨界風險在不同場景、不同發(fā)展階段、不同功能形態(tài)上的風險源頭、風險類型、發(fā)生概率、形成機制和傳導鏈條及影響程度，確定風險等級，提出兼具治理共識和明確指向的風險防范指導。在后端的矛盾糾紛化解階段，應嘗試建立包容審慎的爭端解決機制。以無人化應用為代表的數(shù)字經(jīng)濟很容易形成“數(shù)字技術霸權(quán)”和“數(shù)字技術弱勢群體”對立狀況，造成數(shù)字鴻溝的擴大，激化企業(yè)平臺與普通用戶之間的利益矛盾。因此，建立包容審慎的爭端解決機制，充分考慮到多元主體各自的利益和訴求，以平臺企業(yè)的獲利讓渡和用戶有限度的信息授權(quán)為基礎，合理地分配因數(shù)據(jù)流動帶來的收益，讓無人化應用場景的擴張兼顧市場經(jīng)濟效益和公共服務的共享價值。

三是跨領域的立體治理創(chuàng)新。立體治理是協(xié)同治理面對新興科技跨界風險時所采取的一種創(chuàng)新治理手段，是針對跨界風險的時空延展性和功能邊界的復雜性特點設計出的兼具長度、寬度和深度的“三維治理”形態(tài)。其一，以敏捷治理和觸發(fā)響應機制來靈活調(diào)節(jié)風險治理的時機（時間跨度）。既然無人化應用跨界風險在時間上具有高度不確定性和治理的時滯性，那么在應用場景存續(xù)的全周期都保持風險警覺，隨著無人化技術及應用場景的發(fā)展調(diào)整風險監(jiān)測治理的時機，通過設定風險響應的“底線”，決定觸發(fā)監(jiān)管介入的合適時機，在保持監(jiān)管處置及時性的同時，避免過度監(jiān)管反應影響系統(tǒng)的自主性、拖延生產(chǎn)服務效率或降低科技創(chuàng)新的動力。其二，以全主體協(xié)同參與的聯(lián)合監(jiān)管拓展風險治理的寬度。理論上的多主體和多中心協(xié)同治理實際上是“知易行難”。如果應對無人化應用跨界風險不得不采取跨場景、跨業(yè)務、跨部門的聯(lián)合監(jiān)管，那么主體間的風險責任和管理權(quán)限就需要得到明確和重新劃分。在此基礎上，根據(jù)交叉領域跨界風險特征和影響程度，打破原有的業(yè)務、部門和層次的邊界，重塑治理的組織架構(gòu)，整合原有的風險治理功能，建立一個基于統(tǒng)一目標任務導向的聯(lián)合監(jiān)管治理體系，提高風險監(jiān)管效能。其三，以無人化應用場景的可信性建設增強跨界風險治理的深度。無人化技術及應用場景的復雜性是跨界風險的根源，而為應對這些風險建立的管理體系如果變得過于龐雜，反而可能會加重風險危機的嚴重程度。從風險治理的角度看，要提高無人化應用的可解釋性、透明度，提高監(jiān)管機構(gòu)安全監(jiān)督、評估和信息披露的及時性、通俗性和翔實程度，這既是對技術領域加強與社會溝通、獲得社會支持、實現(xiàn)自我完善的“倒逼”，也是對監(jiān)管機構(gòu)的監(jiān)管行為的公開、公正、公平等治理屬性的督促和強化。

（作者為山東大學生活質(zhì)量與公共政策研究中心專任研究員，山東大學（威海）法學院教授、博導；山東大學政治學與公共管理學院博士研究生李瑾對本文亦有貢獻）

【注：本文系國家社科基金年度重點項目“人工智能發(fā)展中的社會風險及適應性治理研究”（項目編號：20ASH009）及山東大學人文社科重大項目“防范化解數(shù)字化轉(zhuǎn)型中的重大社會風險研究”（項目編號：21RWZD18）階段性成果】

【參考文獻】

①胡華成編著：《無人經(jīng)濟》，北京：清華大學出版社，2022年。

②張曉：《數(shù)字化轉(zhuǎn)型與數(shù)字治理》，北京：電子工業(yè)出版社，2021年。

③杜慶昊：《數(shù)字經(jīng)濟協(xié)同治理》，長沙：湖南人民出版社，2020年。

④馬奔：《危機管理中跨界治理的檢視與改革之道：以汶川大地震為例》，《清華大學學報（哲學社會科學版）》，2009年第3期。

⑤張玉磊：《跨界公共危機與中國公共危機治理模式轉(zhuǎn)型：基于整體性治理的視角》，《華東理工大學學報（社會科學版）》，2016年第5期。

責編/于洪清    美編/楊玲玲

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復本微信號獲得授權(quán)，轉(zhuǎn)載時務必標明來源及作者，否則追究法律責任。