數(shù)字人產(chǎn)業(yè)隨著生成式人工智能技術(shù)多模態(tài)的融合發(fā)展，迎來了前所未有的發(fā)展機遇。從影視娛樂到品牌營銷，從電商直播到金融服務，數(shù)字人深入各行各業(yè)，并重塑商業(yè)生態(tài)。在今年全國兩會期間，有網(wǎng)絡(luò)媒體推出了數(shù)字主持人，實時了解兩會熱點。近日，深度還原真人整體外觀和語言風格的數(shù)字人“采銷東哥”在其直播首秀中，取得了總觀眾量達到2000萬、直播間整體訂單量破10萬的優(yōu)異成績。數(shù)字人應用已成為人工智能企業(yè)競相角逐的新賽道。

數(shù)字人已近乎實現(xiàn)與真實主體外形上的共用、交互上的共通以及認知上的共生。數(shù)字人的構(gòu)建和運行不僅需采集真實主體肖像、聲音等以實現(xiàn)外在的惟妙惟肖，還需要通過學習真實主體所發(fā)表言論、生活軌跡等來實現(xiàn)邏輯、語言等深層次特質(zhì)上的如出一轍。

數(shù)字人的應用本質(zhì)與可能存在的問題

數(shù)字人產(chǎn)業(yè)的蓬勃發(fā)展是數(shù)字化社會生產(chǎn)發(fā)展到新階段的標志，是從人的“生物本體”被數(shù)字信息化到“數(shù)字化的人”，再發(fā)展到“數(shù)字人”單獨參與數(shù)字社會生產(chǎn)的進化過程。

首先，數(shù)字經(jīng)濟時代已經(jīng)形成了個人數(shù)據(jù)與“生物本體”的分離，數(shù)據(jù)作為生產(chǎn)要素參與社會生產(chǎn)的數(shù)字社會生產(chǎn)方式。個體的數(shù)據(jù)信息是人的數(shù)字化表達，可以不同程度地關(guān)聯(lián)到一個可識別的生物個體。不同于工業(yè)時代將土地、礦產(chǎn)作為生產(chǎn)資料，數(shù)字經(jīng)濟時代已經(jīng)逐步建立起以數(shù)據(jù)為生產(chǎn)要素的社會生產(chǎn)方式。人參與數(shù)字社會生產(chǎn)的方式即是人的生物信息被提取、分離以個人信息、行蹤軌跡等數(shù)據(jù)作為生產(chǎn)要素。在數(shù)字社會生產(chǎn)中，平臺需要通過知情同意機制合法取得生物個體的個人信息與行為數(shù)據(jù)，并通過去標識化轉(zhuǎn)化為企業(yè)財產(chǎn)權(quán)益，進行數(shù)字社會生產(chǎn)。數(shù)字社會生產(chǎn)的數(shù)字產(chǎn)品如用戶畫像和行為預測算法，則可通過服務合同和定向廣告投放方式進行交易。此外，數(shù)字時代的社會管理與社會生產(chǎn)也建立在“人的數(shù)字化”基礎(chǔ)上，個人數(shù)據(jù)信息成為人口統(tǒng)計、治安管理、工業(yè)生產(chǎn)、交易的實現(xiàn)要素。

其次，數(shù)字人的本質(zhì)，是生成式人工智能的自主性使得個人數(shù)據(jù)在社會生產(chǎn)流程中與“生物本體”進一步分離，數(shù)據(jù)信息所承載的人格屬性減弱，生產(chǎn)要素屬性增強。由于生成式人工智能的強大自主功能，人的生物本體與數(shù)字要素分離更為徹底，甚至可以單純生成數(shù)字人主體。這一自動化運行的過程是一個使個人和社會“去人性化”的過程。

但這一過程也進一步激發(fā)了數(shù)字人產(chǎn)業(yè)倫理的討論。數(shù)字人脫胎于真實人類主體，在其構(gòu)建及交互過程中，一方面可能存在著對真實主體人格權(quán)益不法侵害的風險，另一方面現(xiàn)行法律體系尚未形成對數(shù)字人權(quán)益的保護規(guī)范，對于侮辱數(shù)字人以及未經(jīng)許可擅自使用數(shù)字人等風險的應對力所不及。

由于數(shù)字人與生物本體脫離更為徹底，數(shù)字人帶來的風險也不同于以往。數(shù)字人應用在交互方式上相對自由，底層運行邏輯導致數(shù)字人容易生成錯誤內(nèi)容，帶來可信度風險。甚至有的用戶可能利用數(shù)字人傳播有害信息、侵害他人合法權(quán)益以及實施詐騙勒索等違法犯罪行為。在與用戶交互的過程中，數(shù)字人可能生成歧視侮辱的言論、公開他人隱私，在廣告代言場景下還存在虛假廣告的風險。

當前，數(shù)字人已成為平臺企業(yè)的擴展服務與營銷熱點，平臺企業(yè)利用自主研發(fā)的人工智能模型提供數(shù)字人構(gòu)建服務，通過用戶在平臺上對數(shù)字人的應用從而實現(xiàn)數(shù)字生產(chǎn)要素的匯聚。從人工智能治理體系來看，平臺企業(yè)不僅是數(shù)字人的技術(shù)支持者、服務提供者，數(shù)字人輸出的自動化生成還標志著平臺企業(yè)扮演著內(nèi)容生產(chǎn)者的角色。

數(shù)字人還引發(fā)人們對人類主體性以及數(shù)字人可控的思考。比如，數(shù)字人已深度參與到社會活動中，能否將數(shù)字人視為真實人類主體分布式存在的一部分，以及其能否完全代替人類，等等。此外，在交互過程中，數(shù)字人經(jīng)過不斷的學習迭代可能會導致最終呈現(xiàn)出與真實主體截然相反的“性格”，如何應對其所帶來的彌散式社會風險，也成為人們思考的一個方面。

對數(shù)字人產(chǎn)業(yè)治理需多管齊下

從數(shù)字社會生產(chǎn)的角度討論數(shù)字人產(chǎn)業(yè)治理，需多管齊下，綜合治理。

首先，要充分借鑒既往個人信息保護與數(shù)據(jù)治理的經(jīng)驗，對數(shù)字人構(gòu)建過程進行治理。憲法規(guī)定，國家尊重和保障人權(quán)，公民的人格尊嚴不受侵犯，公民的通信自由和通信秘密受法律的保護。即使在數(shù)字社會生產(chǎn)中，承載人格利益的信息數(shù)據(jù)與個體分離，個體也保留一定的個體自治與自主性。如果完全偏重于數(shù)據(jù)生產(chǎn)與利用，則會使人類福祉和人類自決的考慮從屬于強大的經(jīng)濟行為者的優(yōu)先事項和價值。

數(shù)字社會生產(chǎn)要注意保護“數(shù)字化的人”上承載的人格權(quán)益等相關(guān)權(quán)益，同時重視個人數(shù)據(jù)的社會生產(chǎn)要素屬性。例如，各國普遍視為重點規(guī)制對象的“用戶畫像”，實質(zhì)就是將散落的個人信息與數(shù)據(jù)集合，目的是模擬個人行為，使個體的行為和偏好成為可計算的、可預測的、可交易的數(shù)據(jù)集。數(shù)字人構(gòu)建過程的治理應延續(xù)這一理念。依據(jù)民法典的規(guī)定，自然人對其肖像、姓名、聲音等享有人格權(quán)益，除依照法律規(guī)定或者根據(jù)其性質(zhì)不得許可的之外，可以將自己的肖像、姓名、聲音等許可他人使用。此外，根據(jù)個人信息保護法相關(guān)規(guī)定，在收集敏感個人信息前，不僅要明確告知信息主體，還需取得信息主體的單獨同意。故而，真實主體的書面授權(quán)應作為數(shù)字人構(gòu)建的前置要素。

其次，對于數(shù)字人與個體進一步分離參與數(shù)字社會生產(chǎn)產(chǎn)生的交互過程進行治理。鑒于數(shù)字人與真實主體的高度對應關(guān)系及真實主體授權(quán)品牌方使用的實際情況，應當穿透數(shù)字人面紗，由背后的真實主體、扮演廣告經(jīng)營者角色的數(shù)字人應用企業(yè)以及廣告主承擔相應的責任。

探索數(shù)字人如何技術(shù)向善。數(shù)字人一定程度上是個體“生物本體”的數(shù)字化表達，連接著數(shù)字世界與物理世界。如果對數(shù)字人實施侮辱等行為，將間接導致現(xiàn)實世界中真實主體相關(guān)權(quán)益受到侵犯。在人機共生時代，對人格權(quán)的保護應當適當延伸至數(shù)字人之上。應明確數(shù)字人商業(yè)化運營的利益分配機制。隨著平臺從數(shù)字化到數(shù)智化發(fā)展，數(shù)字人產(chǎn)業(yè)商業(yè)布局將不斷走向縱深，各利益主體之間應當通過合同等方式建立公平合理透明的利益分配機制。

最后，在數(shù)字人產(chǎn)業(yè)治理的過程中，應以個人與產(chǎn)業(yè)兩個層面為切入點，促進科技創(chuàng)新與人權(quán)保障協(xié)調(diào)發(fā)展。

個人層面，堅持以人為本、以保障人類主體性為根本遵循。應對構(gòu)建數(shù)字人所采集的真實主體個人數(shù)據(jù)實現(xiàn)全生命周期的嚴格管理和監(jiān)督使用，謹防數(shù)據(jù)泄露與過度使用風險。拒絕將與用戶交互后的數(shù)字人模型再次投入訓練池循環(huán)利用。在構(gòu)建數(shù)字人前置階段，應充分尊重真實主體的人格尊嚴與自由意志，與其明確約定個人數(shù)據(jù)的使用范圍。在后續(xù)的運營階段，謹防生成與真實主體形象嚴重不相符或者違背當事人意愿的數(shù)字人形象。

產(chǎn)業(yè)層面，秉持科技向善、可信可控的理念，加強科技倫理風險研判與控制。數(shù)字人產(chǎn)業(yè)鏈相關(guān)的技術(shù)設(shè)計、服務運營、應用場景以及交互傳播等全流程需強化元倫理分析，從全局角度確?？萍汲晒旄Ｓ诿瘛Ｓ绕涫窃谌斯ぶ悄?ldquo;復活”的具體應用場景下，數(shù)字人深層次的情感負載，對人類的倫理理念和行為準則產(chǎn)生重要影響。數(shù)字人應用服務提供者作為“守門人”，應采取適當防沉迷措施，對數(shù)字人進行顯性與隱性標識，避免用戶迷失于現(xiàn)實與虛擬的界分。此外，為防止他人去除顯性標識進行非法使用，應采取信息流水印等方式以便溯源監(jiān)督。產(chǎn)業(yè)鏈倫理治理體系的構(gòu)建還需協(xié)同推進，作為產(chǎn)業(yè)鏈末端的用戶也應恪守AI倫理與文明底線，不斷提升自身數(shù)字素養(yǎng)。