摘 要:ChatGPT雖然尚未對(duì)人們的生產(chǎn)方式帶來(lái)根本性變革，但有可能改變?nèi)藗兣c計(jì)算機(jī)的互動(dòng)方式，推動(dòng)從用戶創(chuàng)作到人工智能創(chuàng)作的轉(zhuǎn)型，發(fā)展?jié)摿εc應(yīng)用空間巨大。與此同時(shí)，ChatGPT帶來(lái)技術(shù)層面、市場(chǎng)層面、規(guī)范層面、國(guó)際競(jìng)爭(zhēng)層面的多重風(fēng)險(xiǎn)挑戰(zhàn)。人工智能技術(shù)的發(fā)展和應(yīng)用，將對(duì)人類經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)深刻影響，我國(guó)人工智能技術(shù)發(fā)展也面臨新的機(jī)遇和挑戰(zhàn)。促進(jìn)我國(guó)人工智能高效安全發(fā)展，應(yīng)積極引導(dǎo)，促進(jìn)價(jià)值觀念再成型；積極研發(fā)新興應(yīng)用場(chǎng)景，占據(jù)市場(chǎng)優(yōu)勢(shì)地位；確保算法優(yōu)勢(shì)；統(tǒng)籌發(fā)展和安全；明確戰(zhàn)略定位，提供宏觀指導(dǎo)；做好風(fēng)險(xiǎn)評(píng)估，確保企業(yè)合規(guī)。

關(guān)鍵詞:ChatGPT 人工智能 語(yǔ)言模型 機(jī)器學(xué)習(xí) 趨勢(shì)研判 規(guī)范引導(dǎo)

【中圖分類號(hào)】G32 【文獻(xiàn)標(biāo)識(shí)碼】A

ChatGPT代表生成式人工智能技術(shù)及其商業(yè)應(yīng)用的爆發(fā)，引發(fā)產(chǎn)業(yè)和行業(yè)大變革

2022年11月30日，美國(guó)人工智能公司OpenAI推出基于深度學(xué)習(xí)的大語(yǔ)言模型ChatGPT，可實(shí)現(xiàn)交互式問(wèn)答、創(chuàng)作、編程等復(fù)雜功能，備受市場(chǎng)關(guān)注。據(jù)報(bào)道，ChatGPT上線兩個(gè)月，全球日活用戶就已突破1億，成為歷史上用戶增長(zhǎng)最快的應(yīng)用程序。2023年2月1日，OpenAI在其官網(wǎng)主頁(yè)宣布，將試點(diǎn)ChatGPT付費(fèi)訂閱版ChatGPT Plus，每月收費(fèi)20美元。由此可見(jiàn)，隨著企業(yè)內(nèi)部成本壓力加大，技術(shù)可用度日趨成熟，人工智能產(chǎn)業(yè)正加速?gòu)那把丶夹g(shù)探索向商業(yè)化落地轉(zhuǎn)型。ChatGPT的應(yīng)用前景包括對(duì)話式機(jī)器人、智能創(chuàng)作、編程機(jī)器人等；此外，其在教育、學(xué)術(shù)、客服等領(lǐng)域的應(yīng)用也在逐漸落地。

ChatGPT的基本模式是人工智能生成內(nèi)容（AIGC），專注于生成語(yǔ)言文本，并一定程度上替代現(xiàn)有搜索引擎功能。與以往的對(duì)話式人工智能（如微軟小冰）相比，ChatGPT核心能力包括：對(duì)問(wèn)題的理解能力大幅提升，可以實(shí)現(xiàn)連續(xù)多輪對(duì)話；結(jié)果的準(zhǔn)確性大幅提升，同時(shí)可以主動(dòng)承認(rèn)錯(cuò)誤、發(fā)現(xiàn)無(wú)法回答的問(wèn)題；具備識(shí)別非法與偏見(jiàn)的機(jī)制，針對(duì)不合理提問(wèn)進(jìn)行提示，并拒絕回答；理解用戶需求并創(chuàng)造內(nèi)容，甚至可以協(xié)助進(jìn)行代碼編寫(xiě)。雖然目前ChatGPT無(wú)法給人們的生產(chǎn)方式帶來(lái)根本性變革，但有可能改變?nèi)藗兣c計(jì)算機(jī)的互動(dòng)方式，推動(dòng)從專家生成內(nèi)容（PGC）、用戶生成內(nèi)容（UGC）到人工智能生成內(nèi)容（AIGC）的轉(zhuǎn)型。

全球著名信息技術(shù)研究與顧問(wèn)咨詢公司高德納（Gartner）將人工智能生成內(nèi)容（后文統(tǒng)一用AIGC）列為最有商業(yè)前景的人工智能技術(shù)，預(yù)計(jì)AIGC行業(yè)將在2—5年內(nèi)將進(jìn)入成熟期，發(fā)展?jié)摿εc應(yīng)用空間巨大。ChatGPT的商業(yè)化服務(wù)探索、AIGC賽道的投資成為當(dāng)前關(guān)注焦點(diǎn)。

AIGC領(lǐng)域的總體態(tài)勢(shì)表現(xiàn)為：國(guó)外頭部機(jī)構(gòu)引領(lǐng)技術(shù)和商業(yè)應(yīng)用，國(guó)內(nèi)整體進(jìn)度落后2—3年，尤其是基礎(chǔ)技術(shù)研發(fā)方面。此外，除科技巨頭積極布局AIGC行業(yè)外，科技創(chuàng)業(yè)公司的機(jī)會(huì)成本也顯著增加。目前，國(guó)外多家生成式人工智能創(chuàng)業(yè)公司獲得大筆融資且擁有較高估值。ChatGPT具備強(qiáng)大的交互和信息檢索能力，對(duì)谷歌、百度等傳統(tǒng)搜索引擎公司構(gòu)成潛在替代風(fēng)險(xiǎn)，倒逼搜索引擎行業(yè)進(jìn)行技術(shù)升級(jí)。用戶可以直接在ChatGPT以提問(wèn)形式獲得期待答復(fù)，比起傳統(tǒng)在搜索引擎人工瀏覽整合答案的效率大大提升。目前，各大搜索引擎企業(yè)正在加速將AIGC嵌入其網(wǎng)站中，例如微軟將ChatGPT應(yīng)用于其搜索引擎必應(yīng)（Bing）中，百度于3月推出人工智能聊天機(jī)器人文心一言，并整合到其搜索引擎中。當(dāng)前AIGC領(lǐng)域領(lǐng)先的國(guó)外公司主要包括OpenAI、Stability AI、Midjourney、Jasper等，其中OpenAI技術(shù)積累最強(qiáng)，發(fā)布了多款A(yù)IGC底層算法。國(guó)內(nèi)公司如阿里、網(wǎng)易、百度、騰訊、字節(jié)等均在部署推出AIGC的應(yīng)用產(chǎn)品。

基于此，當(dāng)前一種觀點(diǎn)認(rèn)為ChatGPT是科技史上的里程碑事件、顛覆性成果，會(huì)刺激基于人工智能的商業(yè)模式爆發(fā)式發(fā)展，進(jìn)而引發(fā)產(chǎn)業(yè)和行業(yè)大變革。另一種聲音則認(rèn)為ChatGPT只是近年來(lái)持續(xù)發(fā)展的人工智能技術(shù)的一次成功的商業(yè)化應(yīng)用，距離真正的人工智能還有很長(zhǎng)的路，甚至可能并非在正確的道路上?？傮w而言，ChatGPT的橫空出世，利好國(guó)內(nèi)外算力與存儲(chǔ)（芯片、計(jì)算機(jī)等）相關(guān)基礎(chǔ)設(shè)施發(fā)展以及數(shù)據(jù)、算法等AIGC商業(yè)化應(yīng)用，但仍不能忽視其所帶來(lái)的潛在道德和社會(huì)危險(xiǎn)。

ChatGPT帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)

OpenAI首席執(zhí)行官Altman曾在推特承認(rèn)，真正的強(qiáng)人工智能（Artificial General Intelligence，AGI）可能在未來(lái)十年內(nèi)實(shí)現(xiàn)。所以，當(dāng)前必須極其認(rèn)真地對(duì)待其所帶來(lái)的網(wǎng)絡(luò)安全等一系列風(fēng)險(xiǎn)。

技術(shù)層面的風(fēng)險(xiǎn)

從技術(shù)層面而言，人工智能語(yǔ)言模型GPT的出現(xiàn)和升級(jí)意味著語(yǔ)言人工智能和人工智能整體技術(shù)水平的顯著進(jìn)步。但若人工智能基礎(chǔ)設(shè)施不及預(yù)期，大模型訓(xùn)練就無(wú)法完成或者達(dá)不到預(yù)期效果。當(dāng)前AIGC技術(shù)仍有局限，模型仍需持續(xù)迭代優(yōu)化，技術(shù)發(fā)展可能存在不及預(yù)期風(fēng)險(xiǎn)，具體包括算力支持不及預(yù)期、數(shù)據(jù)質(zhì)量不及預(yù)期等。尤其是我國(guó)在AIGC領(lǐng)域仍處于發(fā)展初期，技術(shù)迭代速度較慢，基礎(chǔ)技術(shù)研發(fā)領(lǐng)域創(chuàng)新性供給不足。ChatGPT目前仍存在很多局限性，需進(jìn)行持續(xù)技術(shù)優(yōu)化。例如，ChatGPT可能生成不正確或荒謬的信息，抑或是正確但無(wú)用的廢話，也可能會(huì)產(chǎn)生違反倫理道德的答案。由于其所基于的訓(xùn)練數(shù)據(jù)庫(kù)僅截至2021年（而非基于實(shí)時(shí)數(shù)據(jù)），也會(huì)產(chǎn)生回答已經(jīng)過(guò)時(shí)的現(xiàn)象。

市場(chǎng)層面的風(fēng)險(xiǎn)

從市場(chǎng)層面而言，新一代人工智能語(yǔ)言模型的升級(jí)推動(dòng)AIGC的發(fā)展，極大拓展了市場(chǎng)規(guī)模。根據(jù)高德納（Gartner）預(yù)測(cè)，到2025年AIGC產(chǎn)生的數(shù)據(jù)將占所有數(shù)據(jù)的10%，2030年AIGC市場(chǎng)規(guī)模將超過(guò)萬(wàn)億人民幣。目前，因?yàn)槎嘀卦?，各?guó)類似于ChatGPT的技術(shù)發(fā)展不完善、不平衡，應(yīng)用不及預(yù)期。若ChatGPT等技術(shù)發(fā)展不及預(yù)期，AIGC滲透率未能如期提升、應(yīng)用場(chǎng)景受限，理論上存在的潛在市場(chǎng)規(guī)模就無(wú)法充分釋放。對(duì)于我國(guó)而言，國(guó)內(nèi)企業(yè)以及國(guó)內(nèi)外企業(yè)對(duì)于同一市場(chǎng)的開(kāi)發(fā)與分配之間的不均衡可能會(huì)導(dǎo)致蜂擁而上的相關(guān)企業(yè)最后陷入無(wú)效競(jìng)爭(zhēng)或者惡性競(jìng)爭(zhēng)的狀態(tài)，以及投入與產(chǎn)出的極不對(duì)稱。

規(guī)范層面的風(fēng)險(xiǎn)

ChatGPT帶來(lái)的規(guī)范層面的風(fēng)險(xiǎn)挑戰(zhàn)，主要包括以下幾個(gè)方面：

第一，人工智能驅(qū)動(dòng)網(wǎng)絡(luò)犯罪風(fēng)險(xiǎn)。當(dāng)前，ChatGPT使得網(wǎng)絡(luò)犯罪分子更容易進(jìn)行低級(jí)別的網(wǎng)絡(luò)攻擊。ChatGPT可以產(chǎn)生多種語(yǔ)言的釣魚(yú)郵件，即使不懂英文或高級(jí)代碼的犯罪分子也可以輕易達(dá)成犯罪目的。ChatGPT可以被要求創(chuàng)建惡意軟件來(lái)檢測(cè)敏感的用戶數(shù)據(jù)，還可以入侵計(jì)算機(jī)系統(tǒng)或電子郵件賬戶以獲取重要信息。國(guó)外科技媒體Bleeping Computer的網(wǎng)絡(luò)安全研究員Ax Sharma曾讓ChatGPT寫(xiě)了一封令人信服的釣魚(yú)郵件，并創(chuàng)建了JavaScript來(lái)竊取信用卡號(hào)碼。然而，ChatGPT也許只是人工智能驅(qū)動(dòng)網(wǎng)絡(luò)犯罪的開(kāi)始。芬蘭一篇題為《人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊的安全威脅》的研究論文認(rèn)為，未來(lái)五年，人工智能的迭代確實(shí)將改變網(wǎng)絡(luò)安全攻擊者和防御者的模式。

第二，知識(shí)產(chǎn)權(quán)與隱私保護(hù)風(fēng)險(xiǎn)。由于ChatGPT是以訓(xùn)練數(shù)據(jù)模式為基礎(chǔ)的，所以它不具備原創(chuàng)性思維和創(chuàng)造性反應(yīng)的能力，因此ChatGPT生成的文本可能導(dǎo)致抄襲，此外版權(quán)歸屬與深偽技術(shù)也為知識(shí)產(chǎn)權(quán)保護(hù)帶來(lái)困境。由于對(duì)抄襲的擔(dān)憂，ChatGPT已經(jīng)在美國(guó)紐約和西雅圖的學(xué)校被禁止使用。此外，ChatGPT引發(fā)了關(guān)于用于訓(xùn)練和改進(jìn)的個(gè)人數(shù)據(jù)的隱私和安全問(wèn)題，它保留了用戶個(gè)人數(shù)據(jù)和敏感信息，一旦數(shù)據(jù)被濫用，會(huì)造成隱私泄露風(fēng)險(xiǎn)。簡(jiǎn)單地說(shuō)，所有與ChatGPT的對(duì)話都可以被存儲(chǔ)，并由人類培訓(xùn)師審查，以檢查和改進(jìn)人工智能模型。人工智能可能會(huì)生產(chǎn)違反常規(guī)、違背法律和道德的內(nèi)容，或幫助人類以作弊等形式完成違反常規(guī)、違背法律和道德的行為。由于 AIGC 發(fā)展處于早期，政策監(jiān)管仍不明確，利用 ChatGPT 生成的內(nèi)容可能存在侵犯其他內(nèi)容知識(shí)產(chǎn)權(quán)等規(guī)范層面的風(fēng)險(xiǎn)。與任何能夠產(chǎn)生類似人類文本的技術(shù)一樣，ChatGPT對(duì)網(wǎng)絡(luò)安全和隱私也會(huì)產(chǎn)生消極影響，尤其是風(fēng)險(xiǎn)因素的存在可能會(huì)改變網(wǎng)民對(duì)于網(wǎng)絡(luò)世界的認(rèn)知，進(jìn)而改變甚至顛覆網(wǎng)絡(luò)安全系統(tǒng)。網(wǎng)民應(yīng)用ChatGPT主要可能觸及的規(guī)范風(fēng)險(xiǎn)包括：

錯(cuò)誤信息風(fēng)險(xiǎn)：ChatGPT改變了傳統(tǒng)的網(wǎng)絡(luò)搜索方式與傳播方式。雖然大型語(yǔ)言模型難免會(huì)產(chǎn)生錯(cuò)誤信息，但只有當(dāng)錯(cuò)誤信息被廣泛傳播、閱讀并相信才會(huì)產(chǎn)生傷害。ChatGPT在網(wǎng)絡(luò)環(huán)境下具有大規(guī)模且廉價(jià)生成文本的能力，若被惡意濫用，勢(shì)必會(huì)使得虛假信息在網(wǎng)絡(luò)世界廣泛傳播。

深偽技術(shù)風(fēng)險(xiǎn)：基于大數(shù)據(jù)自然語(yǔ)言處理模型，ChatGPT通過(guò)深偽技術(shù)產(chǎn)生的文本與人類書(shū)寫(xiě)的文本沒(méi)有區(qū)別。這可以用于在線模仿個(gè)人。而深偽文本的廣泛傳播會(huì)導(dǎo)致人們對(duì)于網(wǎng)絡(luò)世界信息傳播與人際交流的不信任。

數(shù)據(jù)泄漏風(fēng)險(xiǎn)：ChatGPT基于大型網(wǎng)絡(luò)文本數(shù)據(jù)庫(kù)進(jìn)行了預(yù)訓(xùn)練，因此它可能包含敏感信息或偏見(jiàn)。如果模型與包含敏感信息的數(shù)據(jù)（例如個(gè)人數(shù)據(jù)，財(cái)務(wù)數(shù)據(jù)或健康數(shù)據(jù)）一起使用，這可能會(huì)導(dǎo)致隱私漏洞。

第三，政策監(jiān)管漏洞。當(dāng)前AIGC處于發(fā)展初期，相關(guān)政策規(guī)范處于滯后和監(jiān)管不明的狀態(tài)。首先在技術(shù)層面，監(jiān)管機(jī)構(gòu)面臨算法不透明、技術(shù)障礙等問(wèn)題，進(jìn)一步增加了監(jiān)管難度。其次，在法律規(guī)范層面，當(dāng)前算法與人工智能領(lǐng)域相關(guān)法律規(guī)范仍處于缺位狀態(tài)，監(jiān)管機(jī)構(gòu)面臨采取行動(dòng)缺乏對(duì)應(yīng)法律依據(jù)的現(xiàn)實(shí)困境。

國(guó)際競(jìng)爭(zhēng)局面的挑戰(zhàn)

第一，技術(shù)封鎖挑戰(zhàn)。目前ChatGPT沒(méi)有對(duì)中國(guó)用戶開(kāi)放使用，無(wú)法用國(guó)內(nèi)手機(jī)號(hào)進(jìn)行注冊(cè)，國(guó)內(nèi)用戶想要使用ChatGPT存在諸多限制?？萍茧m然無(wú)國(guó)界，但是科技公司有國(guó)籍。而ChatGPT未對(duì)中國(guó)用戶開(kāi)放，實(shí)則也是這些年中美科技博弈的縮影，是美國(guó)實(shí)行對(duì)華技術(shù)封鎖的體現(xiàn)。OpenAI公司目前掌握著AIGC底層算法和核心技術(shù)，也就占領(lǐng)了國(guó)際社會(huì)該領(lǐng)域的技術(shù)話語(yǔ)權(quán)。

第二，國(guó)家安全風(fēng)險(xiǎn)。根據(jù)路透社2月13日的報(bào)告，由于ChatGPT對(duì)國(guó)家安全的影響，美國(guó)立法者已經(jīng)著手相關(guān)立法工作。對(duì)于我國(guó)而言，一方面，由于OpenAI公司本身的政治立場(chǎng)，ChatGPT在回答政治問(wèn)題，尤其是中美問(wèn)題時(shí)，存在明顯的親美貶中的傾向；另一方面，惡意行為者、其他非國(guó)家行為者，對(duì)中國(guó)有敵意的國(guó)家行為者可能會(huì)利用這些系統(tǒng)，故意訓(xùn)練或生成錯(cuò)誤的，甚至是詆毀我國(guó)的信息。

從ChatGPT看人工智能生成淵源和現(xiàn)實(shí)影響

從“奇點(diǎn)”到“爆點(diǎn)”的推動(dòng)要素。從數(shù)年前甚囂塵上的人工智能“奇點(diǎn)論”至如今對(duì)話交互式人工智能應(yīng)用成功與全社會(huì)層面進(jìn)行交互，人工智能從“奇點(diǎn)”走向“爆點(diǎn)”的事實(shí)已露端倪。然而所謂“爆點(diǎn)”，爆于何點(diǎn)卻需要更嚴(yán)謹(jǐn)?shù)囊嘏c趨勢(shì)研判才能佐證。依目前來(lái)看，近期的人工智能爆點(diǎn)源自于接近性門(mén)檻降低帶來(lái)的應(yīng)用用戶群體急速擴(kuò)張與對(duì)行業(yè)既有價(jià)值規(guī)則的沖擊，更深一層則源自于機(jī)器學(xué)習(xí)產(chǎn)生以來(lái)，以多重語(yǔ)料庫(kù)為學(xué)習(xí)材料不斷打磨鍛煉而形成的語(yǔ)言交互及邏輯模型。人工智能與語(yǔ)言交互領(lǐng)域的突破源自于對(duì)于相應(yīng)要素的長(zhǎng)期積累與培育打磨。以上效果的最終呈現(xiàn)自互聯(lián)網(wǎng)發(fā)明伊始便開(kāi)始沉淀，并由硬件與算力的提升及互聯(lián)網(wǎng)共享數(shù)據(jù)內(nèi)容的海量增殖而最終得以完善。

束羈于預(yù)設(shè)的功能范疇。雖然以ChatGPT為代表的交互式人工智能應(yīng)用已展現(xiàn)了令人瞠目的智能性與邏輯編排能力，但其展現(xiàn)卻仍滯留于“高于一般，低于前沿”的發(fā)展階段，且將長(zhǎng)久處于該階段。導(dǎo)致這一結(jié)果的原因有二：其一，機(jī)器學(xué)習(xí)的基礎(chǔ)材料與模型機(jī)理皆是由人力完成，語(yǔ)言作為人力交互的最基本表達(dá)方式也是最簡(jiǎn)單的呈現(xiàn)，其表現(xiàn)方式在機(jī)器易學(xué)的同時(shí)也易為大眾所接受，但無(wú)論其對(duì)基礎(chǔ)材料的重新編排如何精妙，其高度遠(yuǎn)無(wú)法超過(guò)語(yǔ)料庫(kù)本身所呈現(xiàn)的邏輯最高點(diǎn)，這也是由語(yǔ)言作為表達(dá)工具的邏輯功能所限。其二，位于前沿的科學(xué)研究與發(fā)現(xiàn)皆為人力突破極限所衍生的新高度與新事物，其中除科學(xué)技術(shù)與發(fā)現(xiàn)技巧之外，大部分創(chuàng)新成果需要對(duì)新事物發(fā)現(xiàn)進(jìn)行符合人類知性與感性邏輯的選擇。大部分技術(shù)選擇并不一定最科學(xué)，卻最符合人的感性與認(rèn)知，而機(jī)器目前無(wú)法代替人類完成這一選擇。哪怕機(jī)器能夠代替人類選擇，人類也會(huì)出于主觀能動(dòng)性，對(duì)于機(jī)器篩選結(jié)果進(jìn)行再次審核監(jiān)督，從而進(jìn)行知性與感性的糾正。

賦值社會(huì)效果有待突破。人工智能賦值社會(huì)的技術(shù)應(yīng)用周期較長(zhǎng)，從開(kāi)發(fā)到各行業(yè)落實(shí)應(yīng)用常常需要緩慢的過(guò)程。而如今飛快提速的對(duì)話式人工智能是社會(huì)層面全盤(pán)接觸人工智能的開(kāi)始。對(duì)話交互的方式提升人們獲取信息的效率，減少了人與人溝通過(guò)程中的思想負(fù)擔(dān)與理性壓制，儼然成為一種無(wú)思想壓力的新社交體現(xiàn)。而廣范圍的應(yīng)用卻也使得獲取信息的途徑減少，在人工智能本身尚不能保證其內(nèi)容準(zhǔn)確度及與人類價(jià)值觀念的符合度時(shí)，這種單一來(lái)源的交互問(wèn)答剝奪了人與人交互并驗(yàn)證思想與內(nèi)容對(duì)錯(cuò)是非的路徑，易產(chǎn)生負(fù)面效果，此為途徑上的缺失。

社會(huì)面的全接觸效果也源于營(yíng)銷與宣傳帶來(lái)的眼球吸引效應(yīng)。美國(guó)谷歌和微軟等大型科技企業(yè)參與相關(guān)競(jìng)爭(zhēng)，更吸引著全球熱切的目光。但是，直至目前，公開(kāi)的對(duì)話式人工智能應(yīng)用仍存在嚴(yán)重缺陷。雖然人工智能通過(guò)讀取大量數(shù)據(jù)，可以給出像模像樣的答案，但也存在很多致命性錯(cuò)誤或缺陷。很難說(shuō)人工智能真正理解了問(wèn)題和自己用于作答的詞匯的含義，此為內(nèi)容上的缺失。通過(guò)梳理ChatGPT等對(duì)話人工智能出現(xiàn)的諸多錯(cuò)誤，就可以發(fā)現(xiàn)機(jī)器要達(dá)到真正的智能所面臨的核心技術(shù)課題仍未解決，從內(nèi)容和途徑上都尚無(wú)法完成賦值社會(huì)的目標(biāo)追求。

人工智能未來(lái)發(fā)展變化趨勢(shì)

加速推動(dòng)基礎(chǔ)研究。就目前的發(fā)展趨勢(shì)看，未來(lái)人工智能將持續(xù)、深度賦能科學(xué)研究活動(dòng)，為科研活動(dòng)提供新的、革命性的基礎(chǔ)性操作平臺(tái)與方法，推動(dòng)科研活動(dòng)由傳統(tǒng)的研究模式，擴(kuò)展至智能式研究模式，從而大幅提高科學(xué)研究效率，甚至顛覆當(dāng)前主流科研方法。社會(huì)大眾對(duì)人工智能應(yīng)用層面的全盤(pán)接觸始于ChatGPT，而各專業(yè)領(lǐng)域與人工智能的對(duì)接融合卻早已產(chǎn)生顯著成效。如天文學(xué)領(lǐng)域利用數(shù)據(jù)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)，通過(guò)給定一個(gè)引力透鏡信息估算暗物質(zhì)能量比例參數(shù)。化學(xué)領(lǐng)域在人工智能導(dǎo)入后實(shí)現(xiàn)了高速合成反應(yīng)的高效率實(shí)操，其效率與精確度遠(yuǎn)高于手工提取設(shè)計(jì)。另有諸如醫(yī)學(xué)、生物學(xué)等領(lǐng)域的人工智能前沿應(yīng)用已逐漸解決包括縮減臨床試驗(yàn)監(jiān)測(cè)周期、快速有效分析與提取遺傳數(shù)據(jù)并繪圖等損力耗時(shí)的繁瑣工作。人工智能的作用機(jī)理決定了它很難在某特定領(lǐng)域超越最先進(jìn)的人力，卻可能在長(zhǎng)時(shí)間的算力與模型積累之下，超越大部分的人力范疇。但明顯可見(jiàn)的是，通過(guò)數(shù)量級(jí)與效率的疊加無(wú)法完成的工作，人工智能也無(wú)法解決，就如同人類決策的復(fù)雜與知性無(wú)法復(fù)制。

對(duì)于價(jià)值觀念的顛覆性遠(yuǎn)超過(guò)技術(shù)本身的顛覆性。機(jī)器學(xué)習(xí)提供了不同以往的研發(fā)與溝通效率，卻并非人工智能帶來(lái)顛覆科技的象征。此處并非否定人工智能在應(yīng)用層面產(chǎn)生了對(duì)社會(huì)邏輯與產(chǎn)業(yè)倫理各層面的顛覆效果，而是人工智能對(duì)于技術(shù)研發(fā)的顛覆性遠(yuǎn)不如對(duì)社會(huì)層面價(jià)值觀念的顛覆性來(lái)得更為明顯與直接。交互式人工智能是人類社會(huì)認(rèn)識(shí)和熟悉人工智能的一扇窗口，從這扇窗口中我們窺見(jiàn)了其超過(guò)一般人群的表達(dá)能力、邏輯思維能力、記憶與組織能力、管理與領(lǐng)導(dǎo)能力，使之從一般人的視角與立場(chǎng)出發(fā)明顯在與人力的比較中處于優(yōu)勢(shì)地位。但這也正是由于人類社會(huì)長(zhǎng)期積累的語(yǔ)言邏輯知識(shí)的數(shù)量級(jí)疊加帶來(lái)的賦能。細(xì)讀之下，ChatGPT嚴(yán)謹(jǐn)邏輯內(nèi)容下的空洞說(shuō)明與缺乏內(nèi)涵深度的思想羅列在深度思維層面顯現(xiàn)出了其薄弱性，更遑論對(duì)于具有爭(zhēng)議性的問(wèn)題及新興科學(xué)發(fā)現(xiàn)的更新效率上，ChatGPT明顯弱于科學(xué)前沿的開(kāi)拓者。由此可知，技術(shù)所帶來(lái)的顛覆性主要源于其大幅度介入社會(huì)生活所帶來(lái)的沖擊。

人工智能的社會(huì)意義與市場(chǎng)意義。人工智能目前呈現(xiàn)的效果具有積極的社會(huì)意義與市場(chǎng)意義。在社會(huì)層面，廣泛的接受度及其對(duì)社會(huì)民眾帶來(lái)的沖擊與震撼，可讓人類與其他社會(huì)主體重新認(rèn)識(shí)人工智能對(duì)于社會(huì)的影響力與未來(lái)趨勢(shì)，對(duì)于提升接受度，從而刺激開(kāi)發(fā)主體與實(shí)施主體進(jìn)行更進(jìn)一步的開(kāi)發(fā)與完善具有積極意義，進(jìn)而影響市場(chǎng)層面。市場(chǎng)意義帶來(lái)的應(yīng)用效果與研發(fā)效果疊加目前已見(jiàn)端倪，包括我國(guó)頭部企業(yè)在內(nèi)的互聯(lián)網(wǎng)平臺(tái)與資源企業(yè)正在積極投入到交互式人工智能的開(kāi)發(fā)與應(yīng)用當(dāng)中，不久之后將帶動(dòng)更大范圍與更深層面的技術(shù)開(kāi)發(fā)與市場(chǎng)聯(lián)動(dòng)。

成就智能型研發(fā)的有效工具。目前為止的主流科研模式仍基于實(shí)驗(yàn)操作方法，執(zhí)行問(wèn)題提出、方法設(shè)計(jì)、模型創(chuàng)建的基本規(guī)程，最終解決既定問(wèn)題。智能型科研模式則強(qiáng)調(diào)對(duì)科研大數(shù)據(jù)的智能化處理與操作，獲取數(shù)據(jù)之中的潛在規(guī)律、發(fā)現(xiàn)其中的異常、智能構(gòu)建規(guī)律模型等，或是通過(guò)自動(dòng)化、持續(xù)性的工具操作來(lái)解放科研人員體力與精力。人工智能對(duì)科學(xué)研究的意義，不僅限于輔助性的獲得新科學(xué)發(fā)現(xiàn)、新數(shù)據(jù)規(guī)律，更重要的是，它愈發(fā)成為一種新型的基礎(chǔ)性科研平臺(tái)，或是通過(guò)為整個(gè)科學(xué)研究提供革命性研究工具，來(lái)提高整個(gè)科學(xué)研究活動(dòng)效率。

我國(guó)人工智能發(fā)展面臨的機(jī)遇與挑戰(zhàn)

社會(huì)面與市場(chǎng)面接受度不同。任何創(chuàng)新都將在一定周期內(nèi)處于低接受度的實(shí)驗(yàn)階段，這個(gè)周期的長(zhǎng)短取決于社會(huì)層面的接收程度與技術(shù)本身融入社會(huì)需求的效果。而此次ChatGPT卻是先融入社會(huì)范疇之后，在一定領(lǐng)域產(chǎn)生了融入后剝離的逆向效果。如近期多家權(quán)威期刊對(duì)于以人工智能交互表達(dá)而生成的文章內(nèi)容持排斥意見(jiàn)，并引為禁止刊載的理由。各級(jí)學(xué)校、教育機(jī)關(guān)也頻頻表示對(duì)學(xué)生依靠ChatGPT完成作業(yè)、報(bào)告等情況加以制約。這類逆剝離現(xiàn)象源于人工智能作為工具過(guò)度深入介入人類社會(huì)行為，從而對(duì)既有行為效果產(chǎn)生了扭曲。如同技術(shù)的創(chuàng)新研發(fā)終將服務(wù)于人類社會(huì)一樣，在效果上扭曲人類社會(huì)既有規(guī)則并引發(fā)負(fù)面影響的人工智能應(yīng)用方法自然會(huì)受到社會(huì)排斥。而社會(huì)的排斥并不直接引起市場(chǎng)層面的排斥，因?yàn)樯鐣?huì)面產(chǎn)生斥力的原因便是由于不同立場(chǎng)人群間一部分人產(chǎn)生需求，一部分人抵制需求。需求存在，則市場(chǎng)面供給就可能持續(xù)，是否保持市場(chǎng)面的供給則需要規(guī)則與制度依據(jù)社會(huì)選擇進(jìn)行制約。

基礎(chǔ)研究與產(chǎn)業(yè)鏈優(yōu)勢(shì)。人工智能所能帶來(lái)的機(jī)械操作效率積累，為基礎(chǔ)技術(shù)的研發(fā)帶來(lái)了巨大的利好條件，將有望使大部分研究人員從枯燥且易錯(cuò)的基礎(chǔ)操作當(dāng)中解放出來(lái)，完成更多的前沿設(shè)計(jì)工作。我國(guó)目前產(chǎn)業(yè)鏈優(yōu)勢(shì)明顯，研發(fā)資源與人力積累豐厚，卻因時(shí)間軸上晚于西方，在基礎(chǔ)研究上處于劣勢(shì)地位。人工智能應(yīng)用于各研究領(lǐng)域，將有望在基礎(chǔ)研究積累上進(jìn)一步解放資源，提升創(chuàng)新與創(chuàng)造能力，為進(jìn)一步的產(chǎn)業(yè)積累與前沿突破提供有利條件。

西方國(guó)家的先發(fā)優(yōu)勢(shì)影響。通過(guò)對(duì)本次語(yǔ)言交互人工智能應(yīng)用爆發(fā)的研判，可見(jiàn)目前西方在技術(shù)積累與應(yīng)用場(chǎng)景開(kāi)發(fā)上對(duì)比我國(guó)處于優(yōu)勢(shì)地位。美國(guó)開(kāi)發(fā)的ChatGPT，采用美西方掌握控制的語(yǔ)言文檔資料數(shù)據(jù)庫(kù)（大數(shù)據(jù)）訓(xùn)練引導(dǎo)產(chǎn)生的結(jié)論，暴露了其意識(shí)形態(tài)的傾向性、歸屬性、強(qiáng)制性。同時(shí)，開(kāi)源促成了技術(shù)模型的接近性。我國(guó)對(duì)于人工智能跟進(jìn)速度與效率始終保持高度發(fā)展?fàn)顟B(tài)，多年來(lái)形成的技術(shù)市場(chǎng)與產(chǎn)業(yè)密度決定我國(guó)的優(yōu)勢(shì)在于對(duì)于新興應(yīng)用的落地執(zhí)行與基于市場(chǎng)反饋的多元優(yōu)化。多元場(chǎng)景落地基礎(chǔ)條件中包括資本、技術(shù)、執(zhí)行與市場(chǎng)接受度等方面，持續(xù)發(fā)展互聯(lián)網(wǎng)經(jīng)濟(jì)、數(shù)字經(jīng)濟(jì)的我國(guó)，兼有穩(wěn)步推進(jìn)的條件與廣泛的用戶積累。

確保技術(shù)本身與應(yīng)用環(huán)境的安全性。2010年開(kāi)始并持續(xù)到現(xiàn)在的人工智能浪潮并不是人類思考邏輯，而是由讓計(jì)算機(jī)自己歸納出數(shù)據(jù)的各種類型的機(jī)器學(xué)習(xí)來(lái)引領(lǐng)。隨著相當(dāng)于計(jì)算機(jī)大腦的半導(dǎo)體性能越來(lái)越高以及互聯(lián)網(wǎng)普及，可以收集全世界的數(shù)據(jù)，被稱為“深層學(xué)習(xí)”的可以識(shí)別復(fù)雜類型的軟件技術(shù)問(wèn)世等要素全部得以實(shí)現(xiàn)。由于機(jī)器學(xué)習(xí)逐漸到達(dá)能力提升臨界點(diǎn)，目前的人工智能應(yīng)用尚未脫出現(xiàn)有規(guī)則控制，短期未來(lái)也不會(huì)。然而人工智能介于技術(shù)開(kāi)發(fā)與產(chǎn)業(yè)應(yīng)用的爆發(fā)臨界卻是不爭(zhēng)的事實(shí)。鑒于國(guó)內(nèi)外安全形勢(shì)，在我國(guó)總體國(guó)家安全觀政策框架下，未來(lái)應(yīng)用于各社會(huì)及產(chǎn)業(yè)全景的人工智能是否可控，將是判別一款應(yīng)用是否可推進(jìn)的基礎(chǔ)條件。

促進(jìn)我國(guó)人工智能發(fā)展的對(duì)策建議

積極快速引導(dǎo)，促進(jìn)價(jià)值觀念再成型。人類決策的復(fù)雜與知性無(wú)法復(fù)制。監(jiān)督學(xué)習(xí)是未來(lái)主動(dòng)左右人工智能服務(wù)內(nèi)容與價(jià)值傾向的主要手段。積極賦予人工智能人性價(jià)值判斷，結(jié)合網(wǎng)絡(luò)語(yǔ)料對(duì)交互式人工智能進(jìn)行有效的人工監(jiān)督學(xué)習(xí)，通過(guò)用戶反饋強(qiáng)化學(xué)習(xí)，導(dǎo)入人類社會(huì)的需要與價(jià)值判斷，將避免其產(chǎn)生社會(huì)負(fù)面影響。同時(shí)，根據(jù)不同行業(yè)對(duì)于人工智能體驗(yàn)的需要，針對(duì)各行業(yè)影響效果，推動(dòng)細(xì)化規(guī)則，有效監(jiān)督落地，是達(dá)成細(xì)節(jié)監(jiān)管的必要條件。

積極研發(fā)新興應(yīng)用場(chǎng)景，占據(jù)市場(chǎng)優(yōu)勢(shì)地位。人工智能技術(shù)所涉及的應(yīng)用場(chǎng)景繁雜，目前各行業(yè)均已導(dǎo)入了有效的機(jī)器學(xué)習(xí)機(jī)制，形成了可推動(dòng)的應(yīng)用場(chǎng)景?；谖覈?guó)產(chǎn)業(yè)鏈整體優(yōu)勢(shì)與基礎(chǔ)數(shù)據(jù)提供源的體量?jī)?yōu)勢(shì)，比之交互式泛娛樂(lè)效果的人工智能應(yīng)用，我國(guó)有望在西方占有交互式人工智能探索主動(dòng)權(quán)的大環(huán)境下應(yīng)用和推動(dòng)包括主要產(chǎn)業(yè)領(lǐng)域在內(nèi)的人工智能應(yīng)用模式落地，呈現(xiàn)與西方不同的服務(wù)于基礎(chǔ)產(chǎn)業(yè)與前沿研究的深層發(fā)展模式。同時(shí)，需始終保持審慎態(tài)度，控制細(xì)分領(lǐng)域顛覆性效果肆意膨脹。

確保算法優(yōu)勢(shì)。當(dāng)前我國(guó)缺乏核心算法，過(guò)度依賴開(kāi)源，幾乎93%的國(guó)內(nèi)研究者使用人工智能開(kāi)源軟件包。雖然我國(guó)也有少數(shù)學(xué)者做出了原創(chuàng)性研究成果，但比之西方在實(shí)踐階段的擴(kuò)展尚有明顯不足。日前，西方包括谷歌在內(nèi)的人工智能研究主體紛紛宣布裁員，許多知名的開(kāi)源開(kāi)發(fā)者遭到解雇，這或?qū)槲覈?guó)加速積累、實(shí)現(xiàn)超越提供有利條件。但也應(yīng)當(dāng)注意，開(kāi)源部分的切割裁員更將帶來(lái)開(kāi)源資源和開(kāi)源社區(qū)活躍度的下降，需慎防開(kāi)源算法被西方國(guó)家利用成為鉗制我國(guó)人工智能學(xué)習(xí)發(fā)展的工具。

統(tǒng)籌發(fā)展和安全。在發(fā)展中規(guī)范，在規(guī)范中發(fā)展，保證企業(yè)發(fā)展在法治軌道上運(yùn)行。一方面，積極鼓勵(lì)企業(yè)通過(guò)自身的發(fā)展推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展，對(duì)于企業(yè)的正當(dāng)權(quán)益應(yīng)該通過(guò)立法的形式予以確認(rèn)，對(duì)企業(yè)有可能的違規(guī)違法行為予以及時(shí)糾正處理；另一方面，政策往往起到引領(lǐng)經(jīng)濟(jì)社會(huì)發(fā)展的作用，可以通過(guò)政策的形式對(duì)企業(yè)發(fā)展的方向予以指引。人工智能的應(yīng)用涉及網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人隱私等，一方面我們可以在現(xiàn)有法律規(guī)范的框架內(nèi)予以規(guī)范；另一方面對(duì)于企業(yè)發(fā)展的新業(yè)態(tài)若無(wú)法通過(guò)現(xiàn)有法律予以規(guī)范的，要及時(shí)立法，確保有法可依、依法行政。

明確戰(zhàn)略定位，提供宏觀指導(dǎo)。一方面，人工智能技術(shù)的應(yīng)用促進(jìn)社會(huì)發(fā)展、節(jié)約社會(huì)開(kāi)支、提高運(yùn)作效率，因此國(guó)家總體上應(yīng)該鼓勵(lì)人工智能技術(shù)發(fā)展與應(yīng)用，保護(hù)企業(yè)積極性；另一方面應(yīng)該給企業(yè)的發(fā)展以宏觀指導(dǎo)，知悉商業(yè)逐利的本質(zhì)以及市場(chǎng)營(yíng)銷的本性，與國(guó)外企業(yè)積極競(jìng)爭(zhēng)引領(lǐng)權(quán)，避免國(guó)內(nèi)產(chǎn)業(yè)重復(fù)建設(shè)、惡性競(jìng)爭(zhēng)。

做好風(fēng)險(xiǎn)評(píng)估，確保企業(yè)合規(guī)。在企業(yè)自身發(fā)展過(guò)程中，為了有效降低各種風(fēng)險(xiǎn)，要考慮使用ChatGPT模型的潛在后果并采取措施最大程度地降低濫用風(fēng)險(xiǎn)：一是限制對(duì)ChatGPT模型的訪問(wèn)，監(jiān)管其使用情況并查看數(shù)據(jù)，然后再將其提供給模型以過(guò)濾或刪除敏感信息；二是使用安全和私人的計(jì)算環(huán)境并正確處理數(shù)據(jù)，以防止數(shù)據(jù)泄露或未經(jīng)授權(quán)訪問(wèn)數(shù)據(jù)；三是定期監(jiān)管和審核該模型的性能和正在處理的數(shù)據(jù)，可以揭示并防止濫用或操縱。

結(jié)語(yǔ)

強(qiáng)化人工智能對(duì)各產(chǎn)業(yè)及各行業(yè)的支撐作用，對(duì)我國(guó)未來(lái)發(fā)展具有重大意義，而基于我國(guó)堅(jiān)實(shí)的產(chǎn)業(yè)與技術(shù)基礎(chǔ)，人工智能的研發(fā)溢出效果也將在不久后顯現(xiàn)。目前，社會(huì)面對(duì)人工智能的認(rèn)知還有不足，由于對(duì)話式交互方式的出現(xiàn)，社會(huì)與產(chǎn)業(yè)層面對(duì)人工智能的追逐產(chǎn)生了更加狂熱的傾向。由于人工智能無(wú)法做到領(lǐng)導(dǎo)前沿與指明方向的功能，因此數(shù)量級(jí)與效率的疊加無(wú)法完成的工作，需由宏觀決策加以引導(dǎo)。位于“爆點(diǎn)”的人工智能應(yīng)用無(wú)法對(duì)新興技術(shù)與產(chǎn)業(yè)領(lǐng)域進(jìn)行超前研判，因此宏觀的理性認(rèn)知與發(fā)展決策變得至關(guān)重要。

【本文作者為浙江大學(xué)光華法學(xué)院教授】

參考文獻(xiàn)

[1]Vaccari, C., & Chadwick, A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society, 6(1).

責(zé)編：周素麗／美編：王嘉騏