【摘要】隨著近年來人工智能技術(shù)的發(fā)展，在人機(jī)融合智能中“向善/向惡”問題越來越受到社會(huì)的關(guān)注。本文闡述了對(duì)人機(jī)融合智能時(shí)代人心問題的幾點(diǎn)思考，首先簡要介紹人機(jī)及其融合智能，并對(duì)人機(jī)融合智能的有關(guān)研究背景進(jìn)行了闡述；進(jìn)而討論了當(dāng)前人機(jī)智能融合時(shí)代所面臨的種種困難和瓶頸；最后分析了人機(jī)智能融合時(shí)代的人心善惡問題及其影響。
【關(guān)鍵詞】人工智能 人機(jī)融合智能 人心
【中圖分類號(hào)】TP18 【文獻(xiàn)標(biāo)識(shí)碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2020.01.004
人機(jī)融合智能的起源及未來發(fā)展方向
智能，包括人工智能，都是復(fù)雜系統(tǒng)，其中的許多事情不是都能用邏輯思維解釋清楚的，還有大量的非線性、非邏輯成分，可解釋性、終身學(xué)習(xí)、動(dòng)態(tài)表征、強(qiáng)弱推理都需要類比，但類比的機(jī)制機(jī)理遠(yuǎn)遠(yuǎn)不是單純用科學(xué)技術(shù)所能解決了的，尤其涉及情感、情境、虛體等，更是如此。試圖單純用數(shù)學(xué)，尤其是用現(xiàn)代不完備的數(shù)學(xué)解決智能或人工智能的核心問題，無異于緣木求魚、畫餅充饑、水中撈月，如同拿著木棒、石頭造飛機(jī)和火箭一般，原因很簡單：定性的真東西尚都在遙遙無期中探索，定量的只能是自動(dòng)化吧！
人、機(jī)、環(huán)境系統(tǒng)之間的相互作用產(chǎn)生了智能，這不僅是一個(gè)科學(xué)問題，也包含非科學(xué)部分的研究（如人文藝術(shù)、哲學(xué)宗教）。其中，人是復(fù)雜系統(tǒng)，機(jī)是相對(duì)簡單的系統(tǒng)，環(huán)境的漲落變化非常大，所以我們研究的人機(jī)環(huán)境系統(tǒng)既有“確定性”，又有“隨機(jī)性”，是“復(fù)雜的巨系統(tǒng)”。錢學(xué)森認(rèn)為，針對(duì)“復(fù)雜的巨系統(tǒng)”，人類目前還沒有找到解決的一般原理和方法，人機(jī)融合智能系統(tǒng)理論可能就是一種有益的嘗試。然而，人機(jī)中的時(shí)空、邏輯機(jī)制不一致是引發(fā)智能融合困難的關(guān)鍵，人機(jī)融合智能的瓶頸還是如何實(shí)現(xiàn)有理、有利、有節(jié)的節(jié)奏和韻律。譬如，在人機(jī)融合過程中有些問題將會(huì)變得越來越突出：如何進(jìn)行有效的人機(jī)功能分配？人機(jī)何時(shí)何處以何方式進(jìn)行何種分配？當(dāng)人、機(jī)速度不匹配時(shí)，以人速為準(zhǔn)較好還是以機(jī)速為準(zhǔn)較好？人機(jī)怎樣融合學(xué)習(xí)？人機(jī)怎樣融合理解？人機(jī)怎樣融合決策？人機(jī)怎樣融合推理？人機(jī)怎樣融合感知？人機(jī)怎樣融合意圖？還有數(shù)據(jù)、信息、知識(shí)、智能、智慧之間究竟是如何相互作用并轉(zhuǎn)化的？《易經(jīng)》析動(dòng)靜，《道德經(jīng)》論是非，《孫子兵法》談虛實(shí)，維特根斯坦證有無，布爾代數(shù)說0、1，圖靈測試言相似，馮·諾依曼共存算，這些概念之間是什么關(guān)系？在數(shù)字邏輯中，與或非及其之外的關(guān)系存在嗎？在非數(shù)字邏輯中，如何定義類比程度的計(jì)算？以人為本的思路還對(duì)嗎？如果不對(duì)，以啥為本？如果對(duì)，會(huì)不會(huì)割裂人、物（機(jī)）、環(huán)境之間的共在關(guān)系？如何表征既是又不是？既應(yīng)又不應(yīng)？既能又不能？既要又不要？既肯定又否定？既……又不……呢？如何表征宏觀、中觀的疊加和糾纏態(tài)？如何在人機(jī)融合中產(chǎn)生并培養(yǎng)容忍、讓步、妥協(xié)等機(jī)制機(jī)理呢？
當(dāng)代人工智能由最初的完全人工編譯的機(jī)器自動(dòng)化發(fā)展到了人工預(yù)編譯的機(jī)器學(xué)習(xí)，接下來的發(fā)展可能是通過人機(jī)融合智能的方法來實(shí)現(xiàn)機(jī)器認(rèn)知，最終實(shí)現(xiàn)機(jī)器覺醒。
現(xiàn)今人機(jī)融合智能面對(duì)的困難
現(xiàn)今人機(jī)融合智能的瓶頸之一是沒有物理上的定理或定律出現(xiàn)，即界定什么是人機(jī)融合智能。要研究清楚這個(gè)問題，首先要對(duì)智能的本質(zhì)進(jìn)行探究。根本上說機(jī)器智能、人工智能是人類智能概念化、系統(tǒng)化、程序化了的反映，而碎片化的知識(shí)+碎片化的邏輯構(gòu)成了各種紛繁復(fù)雜著的人類智能，碎片化的知識(shí)+碎片化的邏輯+隱/顯性的倫理道德法律規(guī)定構(gòu)成了人類的智慧，人的真正智能需要不同領(lǐng)域不同角度邏輯的組合、混合、融合，所以真實(shí)的智能是縫補(bǔ)聯(lián)結(jié)后的百納衣，而不是漂亮靚麗的制成品。
經(jīng)過人工智能的幾次高潮低谷之后，理性的權(quán)威以及形式化方法背后的樂觀主義招致了大量質(zhì)疑。符號(hào)、聯(lián)結(jié)、行為技術(shù)不僅帶來了進(jìn)步，也帶來了人們對(duì)智能領(lǐng)域更多的困惑，同時(shí)，人工智能、基因工程等變革性科技讓人類似乎比歷史上的任何一個(gè)時(shí)代都更可能給自己帶來心理、倫理和思維上的挑戰(zhàn)。用理性尋找真理不再重要，存在的意義才是最核心的問題。啟蒙主義用理性代替上帝，結(jié)果卻是一切價(jià)值的崩潰，存在越來越走向虛無——海德格爾用《存在與時(shí)間》試圖解答存在本質(zhì)的問題，胡塞爾從前期《邏輯研究》轉(zhuǎn)向后期《大觀念》的思路；同時(shí)，分析哲學(xué)領(lǐng)袖維特根斯坦也從前期《邏輯哲學(xué)論》轉(zhuǎn)向后期《哲學(xué)研究》的思路，兩次轉(zhuǎn)變都不約而同地去掉了“邏輯”，分別走向了“觀念”和“哲學(xué)”，這也許不是巧合和偶然。
“邏輯”主要涉及判斷和推理，它屬于較高層次的意識(shí)活動(dòng)，而要講清楚判斷理論，還要對(duì)感覺、知覺等較低層次的意識(shí)活動(dòng)進(jìn)行研究，尤其是需要對(duì)物理性的數(shù)據(jù)、心理性的信息知識(shí)等的一多彌聚表征機(jī)理進(jìn)行深入研究，“名可名非常名”中的“名”主要是講這種動(dòng)態(tài)的表征、命名、定義、范疇化。而“道可道非常道”中的“道”反映的則是事實(shí)與價(jià)值、事物與關(guān)系的混合，既包括客觀（being）也包括主觀（should），既涉及邏輯和數(shù)學(xué)的普遍有效性，也涵蓋了心理規(guī)律偶然性的真理，是邏輯與非邏輯的集合體，情感也許是一種自己邏輯與他人非邏輯的復(fù)合體。
老子的道極其自然，比如，他說“智慧出，有大偽”，其意思是人越追求智慧，人為的東西就越多，自以為是的成分就越大。這就需要把平常對(duì)待世界的看法顛倒過來，讓事物來看我們，如同昆蟲的復(fù)眼一般。塞尚說過：好的畫家不是從外面而是從里面看世界。有智慧的人也經(jīng)常用和日常相反的方法看世界的，譬如，塞翁失馬里的塞翁、井岡山上的星星之火們等，我們不應(yīng)該只是用科學(xué)的方法看世界，智能及其哲學(xué)應(yīng)該使人真正向自然開放，使自然中的人機(jī)環(huán)境系統(tǒng)以它自有的形態(tài)向我們說話、展示。
智能的倫理問題。人工智能或數(shù)字化能否“向善”的問題表面上是人機(jī)交互或融合的問題，人和機(jī)器配合給世界演雙簧看，實(shí)質(zhì)上還是人性的問題。如果把科學(xué)看成是物真，是客觀存在的being，那么藝術(shù)就是人善，是主觀想象的should，兩者融合就是美，用有限去表征無限。善就是初心，人之初的心，也是人曾活著的意義和價(jià)值，當(dāng)然人性也有弱點(diǎn)，個(gè)人不時(shí)會(huì)在善與偽善中間徘徊，但對(duì)整個(gè)人類而言，善就是應(yīng)該（should）的主流和方向，否則，后果會(huì)不言而喻吧！
從源頭上看，智能與倫理本是同根生，即“是非之心，智也”，從發(fā)展的角度看，能夠明辨是非也是個(gè)人及群體綿延不斷的主要倚仗了。只有科技的真，沒有藝術(shù)的善，人們常常會(huì)在各個(gè)領(lǐng)域的邊緣緊張焦慮，如物理性原子下的蛋（彈）該怎樣處理？生理性基因編的輯（忌）應(yīng)如何對(duì)待？數(shù)理性智能控的制（治）怎樣把握？管理性不足失的分（紛）如何彌補(bǔ)？……這一切，都會(huì)涉及到自然人與自己創(chuàng)造的物質(zhì)、文明世界怎樣進(jìn)行交互的問題，最后又需要自己不得不回答的問題，如人與人之間的愛和情會(huì)被取代嗎？美顏反映了人性的弱和優(yōu)點(diǎn)嗎？
人機(jī)融合的關(guān)鍵是人的機(jī)化+機(jī)的人化之平衡，其本質(zhì)是人、機(jī)、環(huán)境系統(tǒng)各種資源的優(yōu)化配置與適宜調(diào)度，涉及人力資源、物理裝備資源、時(shí)空管理資源、各種環(huán)境資源等的一多分有。其中的一個(gè)難點(diǎn)和瓶頸是——感覺不等于知覺，生理測量值（心電、腦電、皮膚電等）不一定反映心理情緒值（記憶、理解、認(rèn)知等），更不要說思維/意識(shí)/智能值等，如人臉識(shí)別與人心理解的非線性。人機(jī)融合的態(tài)、勢、感、知之間既不是簡單的時(shí)序關(guān)系，也不是復(fù)雜的無序關(guān)系，而是一種事實(shí)與價(jià)值的主客觀融合關(guān)系。
也許，從道德角度分析，宗教不僅是一種迷信，而且是揚(yáng)善去惡一種途徑和關(guān)系，關(guān)系本身就有人賦予的意義部分，科技是中性的，只有功能而沒有能力，這是因?yàn)槟芰κ怯腥诵缘?，功能是沒有人性的，如何實(shí)現(xiàn)這兩者的結(jié)合呢？這就需要考慮科技所不能單獨(dú)解決的部分——善的問題，例如，針對(duì)技術(shù)的不確定，人在設(shè)計(jì)算法時(shí)，要提前考慮數(shù)字世界之外存在著的現(xiàn)實(shí)世界，適時(shí)地融入相應(yīng)的基本前提和規(guī)范，以使人們面對(duì)不可能完全掌控的未來時(shí)，不過分地?fù)?dān)憂焦慮，重啟內(nèi)在的認(rèn)知原力，進(jìn)而在更大程度上把握可以掌控的部分。也許每個(gè)人身體上都有一種原力，有些可以發(fā)現(xiàn)世界（事實(shí)），有些可以發(fā)明世界（價(jià)值）。每件事物都有一種待開發(fā)的原力，有些可以被發(fā)現(xiàn)，有些可以被發(fā)明，但這需要在一定的情境下。
準(zhǔn)確地說，智能不僅包含自然科學(xué)和工程技術(shù)，還涉及許多社會(huì)科學(xué)的領(lǐng)域，如人文、哲學(xué)、宗教乃至藝術(shù)等等，這從世界上最早的兵書之一《孫子兵法》的英文名字可見一斑：The Art of War。這說明：好的智能有時(shí)候不僅是技術(shù)還是藝術(shù)。美軍2016年發(fā)布的《自主性》研究報(bào)告中指出，AI可用于對(duì)部隊(duì)和指揮官進(jìn)行告警及提供行動(dòng)方案的建議，但還遠(yuǎn)遠(yuǎn)沒有達(dá)到能夠代替人類制定決策的程度。這個(gè)觀點(diǎn)是比較客觀、務(wù)實(shí)、有效的?？创藱C(jī)智能化發(fā)展的這個(gè)難題，不同視角會(huì)得出不同的結(jié)論。從新技術(shù)落地發(fā)展的角度看，當(dāng)前發(fā)展人機(jī)融合智能面臨著三大瓶頸問題：缺大小實(shí)在樣本數(shù)據(jù)、缺算法人因驗(yàn)證手段、缺復(fù)合專業(yè)融合。三大瓶頸問題，說到底是缺乏研究的認(rèn)識(shí)論及方法論——人都說不清楚，指望機(jī)器說清楚，在短期內(nèi)是很難做到的，所以人機(jī)融合的研究確實(shí)必要：人解決“做正確的事”，機(jī)解決“正確地做事”。人機(jī)融合智能的本質(zhì)就是把事實(shí)與價(jià)值統(tǒng)一起來：人負(fù)責(zé)價(jià)值，而機(jī)處理事實(shí)。人機(jī)融合智能也許可以破解“休謨之問”：Being與Should、自然與自覺的一致性。曾有人說，在計(jì)算開始的地方，理解便終結(jié)了。而人機(jī)結(jié)合在一起的深度態(tài)勢感知就可以實(shí)現(xiàn)可理解的計(jì)算+算計(jì)。
以人為本的思想，在初級(jí)的人機(jī)融合智能中是可以理解的，機(jī)器的主要角色是輔助性的，但隨著機(jī)器各種功能的不斷提高，尤其是隱約出現(xiàn)類人能力的跡象時(shí)，“以人為本”的觀念可能會(huì)被發(fā)生變化，我們從《道德經(jīng)》中的啟示可見一斑：一、要把道的存在本身和人為構(gòu)造區(qū)分開來；二、為了克服以人為中心就需要避免人為努力。這是由于要克服人為努力，又需要另外一種人為。老子主要是要克服人道主義，這種人道主義以儒家為代表，突出人的地位和作用，天在人道主義里是被遮蔽的。他認(rèn)為：人并不重要，自然中存在的道才是中心。人只是自然中的一分子，只是物的一種而已，無限廣闊的宇宙里存在著無窮無盡的變化，只有與之隨動(dòng)的人才能更好地發(fā)揮主觀、客觀能動(dòng)性吧！例如，從文藝復(fù)興到工業(yè)革命再到后來，每隔一段時(shí)間，世界情境就會(huì)更新一次。在西方，每一個(gè)階段都會(huì)產(chǎn)生新的對(duì)世界的看法。
人文藝術(shù)之所以比科學(xué)技術(shù)容易產(chǎn)生顛覆原創(chuàng)思想，主要是追求主觀價(jià)值和意義，而不是單純的客觀事實(shí)存在。人文藝術(shù)哲學(xué)宗教給人提供了更廣闊的想象空間，正可謂人們看見什么并不重要，重要的是人們?nèi)绾卧忈尶匆姷氖挛铩?/p>
情感的本質(zhì)就是價(jià)值的判斷。價(jià)值的量化非常困難，這需要把價(jià)值的本質(zhì)和計(jì)算的本質(zhì)都搞清楚，才可能做價(jià)值計(jì)算。有人認(rèn)為“絕對(duì)價(jià)值不好搞，能計(jì)算相對(duì)價(jià)值也行”，其實(shí)，相對(duì)價(jià)值計(jì)算更難，各種因素都在變，連坐標(biāo)系都在變。
價(jià)值、意義本質(zhì)上應(yīng)該是隨主體、客體與環(huán)境相互作用的變化而改變的，比如，有可能一條信息上一秒有價(jià)值，下一秒就完全沒有價(jià)值了，也可能下下一秒又有更大的價(jià)值了，事物之間關(guān)系改變很快，價(jià)值因此在過程中的變化也很大。價(jià)值的計(jì)算怎么通過算法實(shí)現(xiàn)，理論都還沒搞清楚。
人機(jī)認(rèn)知不一致性問題。好的人機(jī)融合智能主要解決機(jī)器對(duì)人的助智（輔助分析、決策）和學(xué)伴（個(gè)性化、彈性成長），可以通過知幾、趣時(shí)、變通實(shí)現(xiàn)不同數(shù)據(jù)、信息、知識(shí)的往返跳躍、匹配對(duì)接、循證查詢，即不斷使得多種數(shù)據(jù)/信息/知識(shí)進(jìn)行動(dòng)態(tài)演化組合以達(dá)到任務(wù)要求。其中的抽象提煉，舉一反三就是類比、歸納、演繹混合機(jī)制使然，其中類比起著非常重要的作用，相比歸納、演繹兩種推理而言，類比具有鮮明的穿透效應(yīng)，它可以穿透物質(zhì)與意識(shí)、主觀與客觀、表象與本質(zhì)、真實(shí)與虛擬、感性與理性、倫理與道德、線性與非線性、確定與不確定等之間的隔閡，讓休謨之問不再成為問題，讓萊布尼茲的理性演算更為感性，讓維特根斯坦的邏輯與非邏輯融合的越發(fā)完美，讓人、物（機(jī)）、環(huán)境之間的協(xié)調(diào)綿綿不斷。
人機(jī)智能難于融合的主要原因就在于時(shí)空和認(rèn)知的不一致性，人處理的信息與知識(shí)能夠變異，其表征的事物/事實(shí)千變?nèi)f化，一直具有相對(duì)性，機(jī)器處理的數(shù)據(jù)標(biāo)識(shí)缺乏這種相對(duì)變化性。
在西方倫理學(xué)界一般認(rèn)為倫理學(xué)的基本問題有兩個(gè)基準(zhǔn)：一個(gè)是我們應(yīng)該如何行動(dòng)？另一個(gè)是我們應(yīng)該成為什么樣的人？前者以行為為中心，屬于規(guī)范倫理學(xué)研究范疇，也是休謨之問的應(yīng)該（should）問題；后者以行為者為中心，屬于美德倫理學(xué)研究范疇，也是休謨之問的being問題。這與智能生成的基本問題：“事實(shí)與價(jià)值能否相符”是一致的。智能的生成將涉及到主觀目的與行為動(dòng)機(jī)，并與情境中的客觀事實(shí)變化密切相關(guān)。產(chǎn)生智能不僅需要形式化的計(jì)算，更需要意識(shí)性的類比。掌握事實(shí)性與價(jià)值性的因果關(guān)系，深研人機(jī)融合智能，開展深度態(tài)勢感知，將是智能研究的重大突破口之一。
人機(jī)之間的適時(shí)干預(yù)要求：干預(yù)的既不能早也不能晚，既不超前也不滯后，干預(yù)早了，往往會(huì)造成雙方的措手不及，干預(yù)晚了，時(shí)過“時(shí)遷”，為時(shí)已晚。所以如何實(shí)現(xiàn)人機(jī)之間結(jié)合任務(wù)要求的適時(shí)、適當(dāng)干預(yù)將是未來人機(jī)一致性研究的難點(diǎn)和關(guān)鍵。
區(qū)塊鏈就是把人機(jī)群體智能之間的事實(shí)與價(jià)值關(guān)系統(tǒng)一起來的一種工具，優(yōu)點(diǎn)是可以通過信用/智能合約手段揚(yáng)善抑惡、安全/高效整合各種資源；缺點(diǎn)是這是一個(gè)烏托邦，除了明鏈，許多暗鏈會(huì)并行不悖，如（一開始就）預(yù)置隱患，還有真實(shí)的虛假問題（某人有某種學(xué)位，但是別人給他寫的答辯論文，而答辯委員們又不太了解他的研究內(nèi)容，造成事實(shí)上的學(xué)位，價(jià)值上的假學(xué)位），所以單純數(shù)字上的區(qū)塊鏈很可能只有有/無，沒有陰/陽和虛/實(shí)。
人機(jī)融合智能的難點(diǎn)——人心研究
近來，許多學(xué)者和普通人都提出未來人工智能的問題。這是因?yàn)楝F(xiàn)在的人工智能還遠(yuǎn)遠(yuǎn)未達(dá)到大家的期望，現(xiàn)在大家看到的AI在某種意義上都是自動(dòng)化或者是高級(jí)自動(dòng)化，那智能化和自動(dòng)化有什么區(qū)別呢？自動(dòng)化是這樣的，固定的輸入及可期望的輸出，如很多生產(chǎn)線都是自動(dòng)化生產(chǎn)線，而智能化不是這樣，輸入可以固定也可以不固定，但是輸出一定是非預(yù)期性的，絕大部分是非預(yù)期性，出乎意料的東西，這才是智能。什么叫做智能？有兩個(gè)說法：第一個(gè)說法是孟子寫過的“智者是非之心也”，是非之心就是“智”，你可以有意識(shí)，但不一定有智能，意識(shí)是無關(guān)乎是非的，而智能是要知道是非的，明白倫理的。根據(jù)我們的研究，倫理和智能應(yīng)該是一回事。什么是倫理？在古希臘看來，倫是分類，分類的道理就是倫理；智能的本質(zhì)也是分類——是非之心。第二個(gè)說法是，西方著名學(xué)者米塞斯曾認(rèn)為：“所謂知識(shí)就是區(qū)別A與非A，智能也與之相似”。從這兩個(gè)說法我們可以看出，東西方對(duì)智能的認(rèn)識(shí)是類同的。中國傳統(tǒng)文化倡導(dǎo)“仁義”。什么叫仁？孔子的仁就是一撇一捺——人，通假字通到那個(gè)人身上。什么叫義？義就是應(yīng)該，孟子特別講義和仗義。東方和西方智能的共同交界處可能就是這個(gè)義——應(yīng)該（should）。
智能研究領(lǐng)域里面這幾位東西方的先驅(qū)值得關(guān)注：第一是休謨，是智能哲學(xué)起源的根，休謨之問，即從事實(shí)里面能不能推導(dǎo)出價(jià)值觀，這是休謨很重要的觀點(diǎn)，筆者認(rèn)為這可能是未來強(qiáng)人工智能的突破點(diǎn)，也是人機(jī)融合智能的關(guān)鍵之處。第二個(gè)是智能科學(xué)之源萊布尼茲，他第一次提出“普遍語言”和“理性演算”，在這兩個(gè)詞的基礎(chǔ)上弗雷格提出了分析哲學(xué)里面的涵項(xiàng)一詞。后來出現(xiàn)了布爾，也是從萊布尼茲的思想里面演化出布爾代數(shù)的，再后來是圖靈、馮諾依曼都是從這延伸出來的……真正的技術(shù)起源是萊布尼茲。若還有點(diǎn)牽強(qiáng)的話，那么大家都知道圖靈，實(shí)際上圖靈的老師和朋友是維特根斯坦，這是一個(gè)很厲害的人，他是圖靈的老師和朋友，他給了圖靈很多好的智能和哲學(xué)思想，但是很多人很少知道他，這是非常遺憾的，也是人工智能界的遺憾，不提他是不行的，他人生里面兩部書：第一部書是翻譯成中文只有幾十頁的《邏輯哲學(xué)論》，這部書里面講人的語言是撬開人和人、人和世界關(guān)系的切入點(diǎn)，規(guī)范化的社會(huì)語言是非常重要的，即按照規(guī)則語法一句話一句話地說可以理解世界；當(dāng)他40多歲之后，他又回到劍橋，他寫了一些手稿，后來他的一個(gè)女學(xué)生安斯康姆給他整理出版了第二本書叫做《哲學(xué)研究》，這本書也不厚，翻譯成漢語一兩百頁，他否定了第一本書的思想，認(rèn)為真正了解人類智能最重要的切入點(diǎn)是自然化和生活化的語言，如集貿(mào)市場人與人之間省略了主謂賓補(bǔ)的無語法的對(duì)話等。這兩部書就是弱人工智能和強(qiáng)人工智能的哲學(xué)基礎(chǔ)，第一部書有關(guān)邏輯哲學(xué)論，第二部書則涉及哲學(xué)研究，沒有邏輯。真正強(qiáng)人工智能里面肯定不全是邏輯，僅有邏輯，那都是自動(dòng)化，那都是規(guī)則化的東西，非理性的東西才是揪人心的東西，才是人類智慧的東西?？傊?，智能的哲學(xué)思辨起源于休謨、笛卡爾、弗雷格、維特根斯坦，從事實(shí)到價(jià)值，從生理到心理，從形式到意向，從邏輯到非邏輯；而智能的科學(xué)技術(shù)起源于萊布尼茲、布爾、圖靈、馮·諾依曼，從文字到演算，從表征到推理，從指令到編碼，從存儲(chǔ)到計(jì)算……
東方思想這方面知識(shí)從《易經(jīng)》開始，《易經(jīng)》非常棒。但西方是不承認(rèn)東方有哲學(xué)的，認(rèn)為東方思想里面少邏輯性的東西，只有結(jié)果性的東西。最早是伏羲氏，他看到四季變化就開始寫了《易經(jīng)》；《易經(jīng)》第二個(gè)作者是周文王——“文王拘而演周易”，文王把社會(huì)管理放在《易經(jīng)》里面，除了自然以外放入了社會(huì)化管理；《易經(jīng)》第三個(gè)作者是孔子，他把人與人之間的倫理放入了《易經(jīng)》里面，《易經(jīng)》就是這三個(gè)人接力集成所著?！兑捉?jīng)》里面有三個(gè)詞六個(gè)字是人類智慧的核心：第一個(gè)詞叫“知幾”，就是要看到事物發(fā)展的苗頭、兆頭；第二個(gè)詞是“趣時(shí)”，即要及時(shí)抓住時(shí)機(jī)；第三個(gè)詞是“變通”，即隨機(jī)應(yīng)變、因時(shí)而變?，F(xiàn)在智能產(chǎn)品里面有這些東西嗎？什么苗頭，什么抓住時(shí)機(jī)，什么變通，你看看大部分都是自動(dòng)化。第二本書是老子《道德經(jīng)》，第一句話可能是智能里面最重要的一句話，“道可道非常道，名可名非常名”，老子的“名”里面涉及到智能里面的第一階段——輸入表征階段，英語叫representation，就是表達(dá)、表示，一個(gè)事物有萬種表征，一花一世界，一樹一菩提，人能把一個(gè)事物表征為很多方面，但在知識(shí)圖譜里面就非常糟糕，知識(shí)圖譜的對(duì)象、屬性、關(guān)系都是死的，那是一個(gè)標(biāo)簽的世界，什么時(shí)候出現(xiàn)活的知識(shí)圖譜現(xiàn)在還看不到邊界，因?yàn)楝F(xiàn)有的表征手段解決不了這個(gè)問題。老子《道德經(jīng)》里面的“道”，包含了算法，算法不是單純的數(shù)學(xué)計(jì)算方法，也包含了人非邏輯性的算計(jì)之法在里面，這是人特有的直覺性的東西。
“人智”之所以很難轉(zhuǎn)成“機(jī)智”，是因?yàn)槿四X不是電腦，“人智”主要是明辨是非，“機(jī)智”側(cè)重于模式識(shí)別。只有在把一物與它物區(qū)分開來，才會(huì)對(duì)該物有了認(rèn)知；只有把一個(gè)人的知識(shí)或信仰狀態(tài)與他人的區(qū)分開來，才對(duì)一個(gè)人有了解。哲學(xué)上最難，也是最重要的任務(wù)之一，是明確世界的兩類特征，即那些獨(dú)立于任何觀察者而存在的內(nèi)在特征和那些相對(duì)于觀察者或使用者而存在的外在特征。例如，一個(gè)物體有質(zhì)量（無論對(duì)誰而言）與這個(gè)物體是浴缸（也可是水缸、飾缸、糧缸）。所以對(duì)智能態(tài)勢感知系統(tǒng)研究的下一步工作，就是將其具體應(yīng)用到某一或某些情境中，檢驗(yàn)其有效性和可靠性?？茖W(xué)和數(shù)學(xué)中的陳述乃是描述性的being，因?yàn)樗鼈兠枋隽丝陀^事實(shí)；而倫理學(xué)和美學(xué)中的陳述則是評(píng)價(jià)性的should，因?yàn)樗鼈儽挥脕肀磉_(dá)感覺和態(tài)度、指導(dǎo)行為，而不是陳述事實(shí)。而人機(jī)融合智能中的深度態(tài)勢感知就是試圖讓人、機(jī)、環(huán)境三者像石榴籽一樣緊緊地抱在一起。
一個(gè)學(xué)科領(lǐng)域常常是以一個(gè)錯(cuò)誤為基礎(chǔ)發(fā)展起來的，但這并不必然是致命的，事實(shí)上許多領(lǐng)域都是以錯(cuò)誤為基礎(chǔ)的。比如，化學(xué)就是以煉金術(shù)為基礎(chǔ)的，認(rèn)知科學(xué)就是假設(shè)“腦是一個(gè)數(shù)字化的計(jì)算機(jī)”這個(gè)錯(cuò)誤為基礎(chǔ)的，同樣，人工智能則是以邏輯推理這個(gè)錯(cuò)誤為研究基礎(chǔ)開始的。
人總是從無知開始的：知道的越多，知道的越少。人之智能中可程序性的一部分被轉(zhuǎn)化成了人工智能，而人智中許多可陳述但不可程序的部分和更多不可陳述的部分遠(yuǎn)遠(yuǎn)沒有被轉(zhuǎn)化，尤其涉及到不可解釋、不可學(xué)習(xí)的非邏輯部分（如情感的深層次、意識(shí)的隨機(jī)變、思維的模糊化）。人，有一種更抽象的能力仍未被發(fā)現(xiàn)，這就是從非邏輯開始的智能系統(tǒng)。這種智能也可以從錯(cuò)誤開始，但總能找到適合的正確；這種智能可以從混亂開始，但總能找到依稀的有序；這種智能可以從事實(shí)開始，但總能找到意向的價(jià)值……同時(shí)，這種智能也可以從正確開始，但總能找到各種的錯(cuò)誤；這種智能也可以從有序開始，但總能找到各樣的混亂；這種智能也可以從主觀價(jià)值開始，但總能找到相關(guān)的客觀事實(shí)。正可謂，數(shù)據(jù)價(jià)值化產(chǎn)生了信息，信息系統(tǒng)化形成了知識(shí)，知識(shí)邏輯化構(gòu)成了智能，智能非邏輯化演化成了智慧，智慧落實(shí)到行為就表現(xiàn)為有意義……
結(jié)束語
有專家仔細(xì)研究機(jī)器學(xué)習(xí)后發(fā)現(xiàn)，機(jī)器學(xué)習(xí)就像一個(gè)理發(fā)的故事：老和尚讓小和尚用南瓜練習(xí)理發(fā)，小和尚理完后常常下意識(shí)地把剪刀插在南瓜上，所以，對(duì)于可以實(shí)現(xiàn)人們期待的強(qiáng)智能而言，現(xiàn)有的數(shù)學(xué)、物理等形式化工具都需要改變，只有誕生出新的數(shù)學(xué)、物理、生理、心理、倫理、法理、管理……也許才可能衍生出新的人機(jī)融合智能形式。
世界是復(fù)雜的，復(fù)雜即不確定性，而人的認(rèn)知往往是從一個(gè)確定的部分開始探索不確定性的，其中充滿了試錯(cuò)和反思，進(jìn)而完成從事實(shí)到價(jià)值的一跳。義，也就是應(yīng)該、should機(jī)制，功不可沒，也許人機(jī)融合智能里的“人心”就是“應(yīng)該”吧，即人和其他智能體的內(nèi)在驅(qū)動(dòng)力，不斷驅(qū)使數(shù)據(jù)、信息、知識(shí)、概念、意識(shí)、物質(zhì)在不同時(shí)間空間中進(jìn)行流轉(zhuǎn)、變異，并在物理、心理、數(shù)理等業(yè)務(wù)時(shí)/空間中得到拓?fù)鋺?yīng)用。
（本文系國家社科基金重大項(xiàng)目“智能革命與人類深度科技化前景的哲學(xué)研究”階段性成果，項(xiàng)目批準(zhǔn)號(hào)：17ZDA028）
參考文獻(xiàn)
劉偉，2019，人機(jī)融合智能的現(xiàn)狀與展望，《國家治理》，第4期。
Endsley, M. R., 1995, "Measurement of situation awareness in dynamic systems", Human Factors, 37(1), pp. 65-84.
Wickens, c. et al. 2003, "Attention-situation awareness (A-SA) model", NASA Aviation Safety Program Conference on Human Performance Modeling of Approach and Landing with Augmented Displays, p. 189.
Hooey, B. L.; Gore, B. F.; Wickens, C. D.; Scott-Nash, S.; Socash, C.; Salud, E. & Foyle, D. C., 2011, "Modeling pilot situation awareness", Human Modelling in Assisted Transportation, Springer, Milano, pp. 207-213.
劉偉，2017，《關(guān)于人機(jī)融合智能中深度態(tài)勢感知問題的思考》，《山東科技大學(xué)學(xué)報(bào)》，第6期。
劉偉，2016，《關(guān)于人工智能若干重要問題的思考》，《人民論壇·學(xué)術(shù)前沿》，第4期。
劉偉，2019，《追問人工智能：從劍橋到北京》，北京：科學(xué)出版社。
劉偉，北京郵電大學(xué)崗位教授、中國信息與電子工程科技發(fā)展中心專家委員會(huì)特聘專家、國家自然科學(xué)基金評(píng)議專家。研究方向?yàn)槿藱C(jī)融合智能、認(rèn)知工程、人機(jī)環(huán)境系統(tǒng)工程、未來態(tài)勢感知模式與行為分析/預(yù)測技術(shù)。主要著作有《人機(jī)交互技術(shù)與評(píng)估》《追問人工智能：從劍橋到北京》等。
責(zé) 編／趙鑫洋
The Human Mind in the Age of Man-Machine Integration Intelligence
Liu Wei
Abstract: With the development of AI technology in recent years, the "good or evil" issue arising in the human-computer integration intelligence has attracted more and more attention. This paper expounds some thoughts on the human mind issue in the era of human-computer integration intelligence. Firstly, it briefly introduces the human-computer concept and their integration intelligence, and expounds the research background of human-computer integration intelligence. Then it discusses all kinds of difficulties and bottlenecks in the era of human-computer integration intelligence. Finally, it analyzes the issue of "good or evil" human mind in the era of human-computer integration intelligence and their impacts.
Keywords: AI, human-machine fusion, human mind
