人工智能不能做什么

現(xiàn)在我們應(yīng)該對人工智能提一個終極的問題：人工智能不能做什么？

這個問題可以分為兩類：一類是基于人工智能的局限性，或者基于人工智能與人類心智的本質(zhì)差異，人工智能不能做什么。另一類是即使出現(xiàn)了全智全能的人工智能，出于道德的考慮和對人類命運(yùn)的關(guān)切，人工智能不能做什么。這兩類問題是互相關(guān)聯(lián)的。

不能產(chǎn)生意識和自我意識。人工智能的根本局限性是不能產(chǎn)生意識和自我意識。這個問題筆者曾在《大科學(xué)時(shí)代的基礎(chǔ)研究、核心技術(shù)和綜合創(chuàng)新》一文中作過論述。[10]郞咸平教授最近在《AlphaGo風(fēng)光背后：人工智能時(shí)代加速到來》節(jié)目中，以“智能經(jīng)濟(jì)”、“智能犯罪”、“智能天網(wǎng)”和“智能意識”四種人工智能為例，分析人工智能發(fā)展如何陷入二律背反。

以“智能經(jīng)濟(jì)”為例，如果人工智能完全取代人工，則勞動價(jià)值歸零，工資也歸零，經(jīng)濟(jì)卻無限增長，社會產(chǎn)品無限豐富，社會產(chǎn)品按照公平原則分配給每個人。這就是“智能經(jīng)濟(jì)”的前景。試問，在這樣的情況下，還有誰會來投資“智能經(jīng)濟(jì)”呢？

正題：智能經(jīng)濟(jì)導(dǎo)致經(jīng)濟(jì)無限增長。

反題：智能經(jīng)濟(jì)導(dǎo)致GDP歸零。

二律背反也稱作“二律悖反”，它是一種悖論，即從它的正題可以推出它的反題；同時(shí)，從它的反題可以推出它的正題。

機(jī)器人意識也是一個悖論。

如果機(jī)器產(chǎn)生了意識和自我意識，那么，這樣的機(jī)器人沒有人敢用。請問，工廠的生產(chǎn)線敢用這樣的機(jī)器人嗎？你不怕它自我意識覺醒后罷工、造反、破壞生產(chǎn)線嗎？又問，陪護(hù)機(jī)器人、性愛機(jī)器人你敢用嗎？你不怕它哪一天突然自我意識覺醒，殺死它的陪護(hù)對象和性愛伙伴？如果發(fā)生這種事情，請問你如何訴訟？你會勝訴嗎？你沒有機(jī)會，因?yàn)樯碳以缇妥屇阍谫徺I機(jī)器人時(shí)簽下了免責(zé)協(xié)議書。

正題：有意識的AI能夠?yàn)槟闾峁└诵缘姆?wù)。

反題：有意識的AI可能按自己的意志行事，從而違背其服務(wù)對象的意志。

所以，沒人敢使用具有意識和自我意識的機(jī)器人。

筆者認(rèn)為，有意識的人工智能永遠(yuǎn)不會出現(xiàn)。一是基于人工智能的局限性，或者基于人工智能與人類心智的本質(zhì)差異，人工智能不是生命，所以，它永遠(yuǎn)也不會產(chǎn)生意識。二是出于道德的考慮和對人類命運(yùn)的關(guān)切，具有理性和正常思維的人類永遠(yuǎn)也不會允許人工智能具有意識和自我意識。

不能發(fā)明語言和使用語言，也就不可能有思維。1997年，“深藍(lán)”超級計(jì)算機(jī)戰(zhàn)勝國際象棋大師卡斯帕羅夫。2016年，谷歌公司的AlphaGo以五戰(zhàn)全勝的成績完勝人類圍棋高手李世石?？梢哉f，在推理的某些領(lǐng)域，人工智能已經(jīng)戰(zhàn)勝人類。那么是否可以說，人工智能也能夠像人類一樣思考，甚至還要勝過人類呢？

其實(shí)，迄今所有的機(jī)器行為和人工智能在推理方面都只是模仿人類心智，是按照一種叫做“演繹規(guī)則”（Modus Ponens, MP）的非智能方式來完成推理。這條規(guī)則表述為：

如果天下雨，地面就會濕；天下雨了，所以，地面會濕。這個推理過程是一個客觀因果性的反映，不論你是否認(rèn)識到這種因果性，其運(yùn)行方式都是一樣的。非人類動物也能認(rèn)識到這種因果關(guān)系，并形成條件反射。這是人和動物共同的學(xué)習(xí)機(jī)制，人工智能的學(xué)習(xí)訓(xùn)練也是基于這一原理。所以，盡管人工智能在某些推理和學(xué)習(xí)的領(lǐng)域已經(jīng)遠(yuǎn)超人類，但它們并不是運(yùn)用與人類一樣的思維能力，而是僅僅運(yùn)用了基于刺激反應(yīng)的學(xué)習(xí)訓(xùn)練原理，并且這種推理和學(xué)習(xí)的能力也是人類賦予它的。

人類的思維有何不同？根據(jù)人類認(rèn)知五層級理論，人類思維是一種以語言為基礎(chǔ)的高階認(rèn)知能力。人類的抽象思維能力是以抽象概念為基礎(chǔ)的，歷史和邏輯在這里是如此的統(tǒng)一。200萬年前，南方古猿發(fā)明了能夠表達(dá)抽象概念的符號語言，人類終于完成了從猿到人的進(jìn)化。在概念語言的基礎(chǔ)上，人類產(chǎn)生了抽象思維，其核心是四種基本的推理能力：由因及果的演繹推理、從個別到一般的歸納推理、從個別到個別的類比推理以及由果溯因的溯因推理。此外，人類還形成了兩種主要的思維加工方式：自上而下（top-down）的分析方法和自下而上（bottom-up）的綜合方法。200萬年以來，特別是發(fā)明文字5000年以來，建立城邦、創(chuàng)建文明2500年以來，人類憑借在進(jìn)化中獲得的強(qiáng)大的語言和思維這兩種最重要的認(rèn)知能力，創(chuàng)建了人類全部的知識體系，現(xiàn)在已經(jīng)穩(wěn)居于生命進(jìn)化鏈的最高端，成為“萬物之靈”。

完全在進(jìn)化過程之外的人工智能，沒有語言，也不可能產(chǎn)生思維。人類現(xiàn)今仍然從語言、思維這兩個方面牢牢控制著人工智能。只要這個過程不被破壞，機(jī)器或人工智能統(tǒng)治人類的幻想永遠(yuǎn)也不可能實(shí)現(xiàn)。

不能擁有健全心智和豐富情感，也就不可能超越人類。是否擁有情感，是人和機(jī)器（人工智能）最本質(zhì)的差異。以筆者欣賞的鋼琴家王羽佳和跳水運(yùn)動員全紅嬋為例，我們來探討人和人工智能的差異到底有多大，人不可超越的品質(zhì)又在哪里？這兩位優(yōu)秀的中國人表現(xiàn)出的令人驚嘆的行為能力，貫穿和滲透著腦與神經(jīng)心智、心理心智、語言心智、思維心智、文化心智的高超能力。

音樂語言也是一種符號語言。王羽佳具有對音樂符號的超強(qiáng)理解力、記憶力和音樂表現(xiàn)能力。演奏一首樂曲，需要從句法、語義和語用三個層次來把握它。句法保證不會出現(xiàn)音符的錯誤，語義和語用則保證傳達(dá)演奏者對樂曲意義的正確理解和演奏者的個性和風(fēng)格，而這一切都是瞬間貫通的。此外，藝術(shù)作為一種最高級的文化認(rèn)知能力，向下包含著思維認(rèn)知、語言認(rèn)知、心理認(rèn)知和腦與神經(jīng)認(rèn)知能力，這些也都是瞬間貫通的。在演奏每一個音符時(shí)，王羽佳在以上各個層級上的超凡的心智和認(rèn)知能力都在瞬間得到了出色的展現(xiàn)。

人工智能是否可以和王羽佳演奏同一首樂曲且同樣表現(xiàn)優(yōu)秀呢？在今天當(dāng)然不行，但按照人工智能目前的發(fā)展，我相信終究有一天它會達(dá)到幾乎相同的水平。但筆者想提醒大家，用人工智能做出來的樂曲可以算是音樂，但絕對稱不上藝術(shù)。正如用電腦打印出來的各種漢字字體，盡管十分規(guī)范，但絕對算不上書法作品一樣。聽王羽佳的鋼琴演奏，我能體會到她的感情，感受到她的溫度，但聽人工智能演奏同一首樂曲，我立刻知道那不是人，而是冷冰冰的機(jī)器。有一天會舉行人工智能的鋼琴比賽嗎？沒有人會阻止這樣做。但筆者決不會去看這樣的演出，相信絕大多數(shù)人也不會對它有興趣，當(dāng)然，人工智能的設(shè)計(jì)者和懷著商業(yè)目的的演出公司除外。

全紅嬋的故事與王羽佳幾乎是同一個道理。全紅嬋的“水花消失術(shù)”創(chuàng)造了跳水運(yùn)動的奇跡，這需要多么強(qiáng)大的心理素質(zhì)以及身體和心理的控制能力，需要多么強(qiáng)大的自信！我相信可以設(shè)計(jì)一款機(jī)器人，像針一樣地入水，完全沒有一滴水花，但我相信沒有人去看這樣的機(jī)器人跳水比賽。所以，如果人工智能達(dá)不到擁有健全心智和豐富情感的藝術(shù)家王羽佳和運(yùn)動員全紅嬋的水平，就不要妄言超越人類。

不能成為生命體，不能完成自我進(jìn)化。已經(jīng)有人預(yù)言人工智能會成為新的生命形式，即“生命3.0”。邁克斯·泰格馬克（Max Tegmark）在《生命3.0》中這樣定義我們這個星球上曾經(jīng)出現(xiàn)和將來出現(xiàn)的生命：生命1.0，硬件不能更新、軟件不能更新，這是非人類的生命形式；生命2.0，硬件不能更新，軟件能夠更新，這是人類的生命形式；生命3.0，硬件能更新，軟件也能更新，這是未來的生命形式，即人工智能生命。[11]這是一種以科學(xué)幻想的方式設(shè)想出來的在進(jìn)化過程之外突然蹦出來的生命，但它是不可能存在的，因?yàn)樗猩问蕉际窃谶M(jìn)化中產(chǎn)生的，從最簡單的病毒到最復(fù)雜的人類，沒有進(jìn)化之外的生命。[12]

泰格馬克的《生命3.0》甚至斷言生命不必是碳基的，可以有所謂“硅基生命”，這同樣是科幻電影和神魔小說的情節(jié)。為何在35億年的生命進(jìn)化史中，生命最初產(chǎn)生于海洋，最終進(jìn)化出來的也是以碳為基本元素、以水為介質(zhì)的碳基生命，而從未產(chǎn)生過“硅基生命”？這個問題，恐怕只有上帝才能回答。這個上帝，是斯賓諾莎的上帝，是萬物的主宰——自然。

因此，沒有所謂“硅基生命”，而且永遠(yuǎn)也不會有！因?yàn)槿斯ぶ悄懿荒艹蔀樯?，也就不可能完成所謂“進(jìn)化”，因?yàn)樗械倪M(jìn)化都是自然過程，迄今為止人工智能的所有智能，都是人類賦予的，而不是機(jī)器自身進(jìn)化出來的。

在教育領(lǐng)域，請遠(yuǎn)離ChatGPT。語言、思維和文化是人類特有的認(rèn)知能力。人類認(rèn)知是以語言為基礎(chǔ)，以思維和文化為特色的。因此，語言和思維是人類認(rèn)知的根基，“我言，故我在。”“我思，故我在。”[13]人類的語言、思維和文化認(rèn)知能力是在進(jìn)化中獲得的，并且在整個基礎(chǔ)教育、高等教育階段和終身發(fā)展中都在學(xué)習(xí)、訓(xùn)練和提高這些心智認(rèn)知能力。這是人類心智和認(rèn)知能力得以永遠(yuǎn)保存、不斷進(jìn)化和發(fā)展的根本原因。

我們不能設(shè)想在人的心智和認(rèn)知發(fā)展過程中某種甚至全部的能力都被人工智能所替代，因?yàn)槲覀儾荒茉O(shè)想在學(xué)前的言語（口語）能力形成和發(fā)展階段就用ChatGPT來替代兒童的聽說能力、會話能力、語言交際能力和圖畫能力；我們同樣不能設(shè)想在小學(xué)識字和思維發(fā)展階段就讓孩子們使用ChatGPT來寫字、寫作文、背誦課文、做算術(shù)題和繪畫；初中和高中階段是學(xué)生的語言和思維能力進(jìn)一步發(fā)展提高的時(shí)期，我們不能設(shè)想中學(xué)生使用ChatGPT來學(xué)習(xí)古文和寫作格律詩詞、學(xué)習(xí)外語和解數(shù)理化難題、查詢資料和寫作文、甚至匪夷所思地用它作替身參加高考（試驗(yàn)表明ChatGPT能夠取得比優(yōu)等生更好的考試成績）?？赡苡腥藭?，既然它做得比人好，為什么不呢？要知道在基礎(chǔ)教育階段，上述的這些學(xué)習(xí)、訓(xùn)練和考試都是孩子的心智發(fā)育成長所必需的，不能用ChatGPT和任何人工智能來替代。所以，ChatGPT請離我們的孩子遠(yuǎn)點(diǎn)！大學(xué)和研究生階段，仍然是人的心智和認(rèn)知發(fā)展的重要時(shí)期，這個時(shí)期除了學(xué)習(xí)知識，更是進(jìn)行科學(xué)研究和知識創(chuàng)新的重要時(shí)期，同樣不需要也不能用ChatGPT和任何人工智能來替代人類心智的認(rèn)知能力的發(fā)展和提高。所以，在教育領(lǐng)域，請遠(yuǎn)離ChatGPT，否則將會帶來難以預(yù)料的負(fù)面結(jié)果。

當(dāng)然，我們不否認(rèn)人工智能包括ChatGPT的某些功能，例如，現(xiàn)在有人用它來給領(lǐng)導(dǎo)寫講話稿；也有人用它寫體育比賽的報(bào)道；還有人用它來查資料，或用它來做翻譯。這些工作，盡管用ChatGPT來做好了。但在教育領(lǐng)域，不能讓人工智能包括ChatGPT來取代人類心智和認(rèn)知。這不是行不行的問題，而是允許不允許的問題。對這個問題，我們堅(jiān)定地回答“不”！這里我們倒是想反問一下ChatGPT軟件和其他人工智能的設(shè)計(jì)者和制造者，如果當(dāng)年你從學(xué)前、小學(xué)、初中、高中到大學(xué)，一路都使用代替你說話、思考、閱讀、計(jì)算和寫作的軟件，請問你還能成為現(xiàn)在的你嗎？

人工智能不能瘋狂，不能主宰人類命運(yùn)。其實(shí)令人擔(dān)心的不是人工智能，而是制造人工智能的人類。所有可能危及人類生存和發(fā)展的“壞的”科學(xué)技術(shù)，其共同之處是它們都違背了人類生存和發(fā)展的自然基礎(chǔ)，它們試圖改變自然，甚至想成為自然的主宰，成為人類命運(yùn)的主宰。

現(xiàn)代科學(xué)技術(shù)的發(fā)展出現(xiàn)了越來越背離自然的傾向。自然語言是好的，ChatGPT說，來用我的語言吧，它比你的語言更強(qiáng)大；自然思維是好的，ChatGPT說，讓我來幫你寫作和思維吧；芯片專家說，來做芯片植入吧，你的孩子可以贏在起跑線……

科學(xué)技術(shù)包括人工智能和ChatGPT似乎成了某些人手中的“玩物”，他們考慮的不是人類的生存和發(fā)展，不是人類的道德和理想，他們考慮的只是自身的利益。對于當(dāng)前“走火入魔”的ChatGPT，筆者既不懷疑它僅有的那一點(diǎn)點(diǎn)價(jià)值，也不擔(dān)心它將替代多少人的工作，這是技術(shù)宣傳的需要和因商業(yè)利益而人為制造的恐慌，并不是而且永遠(yuǎn)也不可能成為現(xiàn)實(shí)。

意大利文藝復(fù)興時(shí)期的科學(xué)巨匠伽利略曾經(jīng)說過：“自然是完美的（Nature is Perfect）。”喬姆斯基在《生成轉(zhuǎn)換語言導(dǎo)論：從原則參數(shù)到最簡方案》一書前言中引用了這一名言，讓我們以這兩位科學(xué)大師的話來結(jié)束本文，也希望這兩位相隔數(shù)百年但同樣有深厚人文情懷的科學(xué)大師的話對今天的科學(xué)家有所啟發(fā)。

伽利略說：“自然是完美的。”這個理論啟發(fā)了現(xiàn)代科學(xué)，而科學(xué)家的任務(wù)就是要去證明這個理論，無論是研究運(yùn)動定律、雪花的結(jié)構(gòu)、花朵的形狀和生長，還是我們所知道的最復(fù)雜的系統(tǒng)，人類的大腦。[14]

（本文系國家社會科學(xué)基金重大項(xiàng)目“語言、思維、文化層級的高階認(rèn)知研究”、貴州省哲學(xué)社會科學(xué)規(guī)劃國學(xué)單列重大項(xiàng)目“認(rèn)知科學(xué)與陽明心學(xué)的實(shí)證研究”的階段性成果，項(xiàng)目編號分別為:15ZDB017、20GZGX10）

注釋

[1]蔡曙山：《言語行為和語用邏輯》，北京：中國社會科學(xué)出版社，1998年，第335～400頁；蔡曙山：《沒有喬姆斯基，世界將會怎樣》，《社會科學(xué)論壇》，2006年第6期；蔡曙山、鄒崇理：《自然語言形式理論研究》，北京：人民出版社，2010年，第141～299頁。

[2]蔡曙山：《認(rèn)知科學(xué)導(dǎo)論》，北京：人民出版社，2021年，第3頁。

[3][12]蔡曙山：《生命進(jìn)化與人工智能》，《上海師范大學(xué)學(xué)報(bào)》，2020年第3期。

[4]詳細(xì)論述可參見米黑爾·羅科、威廉·班布里奇編：《聚合四大科技 提高人類能力》，蔡曙山、王志棟等譯，北京：清華大學(xué)出版社，2010年。

[5]維特根斯坦：《邏輯哲學(xué)論》，賀紹甲譯，北京：商務(wù)印書館，1996年，第88頁。

[6]“唔，上帝到了。我今天在五點(diǎn)一刻的火車上碰到他了。”在一封落款日期為1929年1月18日，寫給妻子莉迪婭·洛普科娃的信里，著名經(jīng)濟(jì)學(xué)家凱恩斯就是這樣描述維特根斯坦回到劍橋的。見瑞·蒙克：《維特根斯坦傳：天才之為責(zé)任》，王宇光譯，杭州：浙江大學(xué)出版社，2014年，第397頁。

[7][8]喬姆斯基：《ChatGPT的虛假承諾》，2023年3月8日，https://news.ifeng.com/c/8O29XJjYKOO。

[9]1967年，菲利帕·福特發(fā)表的《墮胎問題和教條雙重影響》中，首次提到了“電車難題”（Trolley Problem）。Sebastian Krügel, Andreas Ostermaier & Matthias Uhl, "ChatGPT's Inconsistent Moral Advice Influences Users' Judgment," Scientific Reports, 2023(13), p. 4569, https://doi.org/10.1038/s41598-023-31341-0。

[10]蔡曙山：《大科學(xué)時(shí)代的基礎(chǔ)研究、核心技術(shù)和綜合創(chuàng)新》，《人民論壇·學(xué)術(shù)前沿》，2023年5月上。

[11]M. 泰格馬克：《生命3.0》，汪婕舒譯，杭州：浙江教育出版社，2018年，第32頁。

[13]蔡曙山：《我言，故我在：語言、思維、文化層級的高階認(rèn)知研究》，北京：人民出版社，2023年（待出版）。

[14]Jamal Ouhalla , Introducing Transformational Grammar: From Principles and Parameters to Minimalism, Edward Arnold Publishers Limited, 1999, Preface by Chomsky, p. 19.

The Future Development of AI from the Perspective of Cognitive Science

Cai Shushan

Abstract: Chomsky's Generative translational grammar (GT grammar) is the foundation of the revolution of linguistics and the cognitive science. Today it is also the theoretical basis of ChatGPT. How far has AI really been going from GT to ChatGPT? Starting from Chomsky GT grammar analysis and his language cognition, we re-comprehend the significance of Chomsky linguistic revolution, and reveal the close correlation, dependency and development motivation between artificial intelligence and human mind. The establishment of cognitive science has made it possible for us to understand the human mind and artificial intelligence from a multidisciplinary and synthetical perspective. On this basis, take ChatGPT as an example, we analyze the advantages and disadvantages of this AI software and the confusion it causes, ask the ultimate question "what can't artificial intelligence do", and try to give our answers. Artificial intelligence is non-human intelligence built by humans, which is nothing more than an imitation of the human mind. The essential difference between artificial intelligence and human mind lies in higher order cognition (human cognition), i.e., in thinking cognition and language cognition as its basic. The future development of AI is bound to be a new generation of AI that reflects the human mental and cognitive characteristics, that is, language cognition, thinking cognition and cultural cognition driven by language. Language cognition, thinking cognition and cultural cognition will play an important role in the future development of artificial intelligence.

Keywords: human mind, AI, N. Chomsky, GT grammar, ChatGPT