人工智能技術(shù)發(fā)展：構(gòu)建“好的人工智能社會”是全人類面臨的嚴峻挑戰(zhàn)

人們期待通過技術(shù)“保護我們以擺脫現(xiàn)實生活的悲慘險境”時，也一直在關(guān)注技術(shù)發(fā)展可能帶給人類的風險。人類社會從傳統(tǒng)社會邁向現(xiàn)代社會是一個質(zhì)的飛躍，自工業(yè)革命伊始，技術(shù)一直被視作這一宏大社會進程的重要變革性力量，但從倫理學角度看，技術(shù)也一直被視作一種憂患之源。

人類發(fā)展技術(shù)的歷史也一直糾結(jié)在“技術(shù)控”與“技術(shù)失控”的二元邏輯主線之中。人們在享受技術(shù)便利的同時，有可能失去了對復雜技術(shù)系統(tǒng)的控制，進而對人類生存帶來災(zāi)難。“技術(shù)的反向控制與適應(yīng)”的主題也一直存在于各個文化體系和知識形式之中。從傳統(tǒng)社會思想家對“技術(shù)危險性”的警示到工業(yè)革命之初社會科學家對“啟蒙黑暗面”的關(guān)切；從近現(xiàn)代戲劇與文學作品（狄更斯、托爾斯泰、卡夫卡等）對“技術(shù)兩面性”的大眾化詮釋和傳播，到技術(shù)研究領(lǐng)域?qū)?“技術(shù)敵托邦”的探索，再到近代社會科學的政策分析，所有關(guān)切都指向技術(shù)所帶來的意想不到的社會結(jié)果，“技術(shù)的潛在功能與社會功能紊亂”問題一直是人類發(fā)展的夢魘。而人工智能可能自然演化具備自覺意識并對人類發(fā)動攻擊則是技術(shù)憂慮在當代公眾意識中的折射。

人們曾一度認為，人類對自己制造的東西最為了解，并能達到對“制造物”的牢固控制，然而科技發(fā)展的速度往往超乎人類想象。起初，機器人只是作為一種人類生活工具出現(xiàn)在科幻小說中的。20世紀中期，當艾薩克·阿西莫夫出版《我，機器人》的時候，機器人世界還是想象中的世界，在科幻作家最初設(shè)想中，機器人以照顧人類為己任。然而隨著科學技術(shù)的進步，人們開始對機器人技術(shù)是否會超出人類控制范圍產(chǎn)生了懷疑。當今，人類生活中已經(jīng)充斥著大量機器人，并且越來越智能化，科學的進步總是超乎人們預測。于是，人們開始設(shè)想高度發(fā)展的人工智能未來，當智能機器人充斥于我們生活那一天，是否會不再滿足于為人類服務(wù)，而像人類宣戰(zhàn)，并統(tǒng)治世界？機器與人的關(guān)系是否有可能會從“人”與“物”的關(guān)系轉(zhuǎn)化成“人”與“人”的關(guān)系呢？

當前人工智能已經(jīng)從科學實驗階段進入商業(yè)應(yīng)用階段，智能機器執(zhí)行任務(wù)的復雜度正在以指數(shù)速度增長，人工智能發(fā)展正在進入爆發(fā)前的臨界點；人工智能進化中的遞歸式自我改善有可能會導致最終的“智能爆炸”。人工智能飛速進步所展示的人類創(chuàng)造出一種全新生命形式的可能性，不僅將標志著進化的突破，而且也可能給人類物種的生存構(gòu)成潛在威脅。人工智能技術(shù)失控可能源自作為技術(shù)創(chuàng)造者的工程師的疏忽大意和無意識，也可能源于機器人的某個深度學習瞬間的豁然領(lǐng)悟。在電影《西部世界》中智能機器人開始不再聽命于工程師們，開始傷害和自我傷害，并最終擺脫了人類的控制，開始反抗屠殺人類。

構(gòu)建“好的人工智能社會（Good AI Society）”是全人類面臨的嚴峻挑戰(zhàn)。隨著人工智能在生產(chǎn)活動和社會活動中的作用不再被忽略，人工智能甚至有可能讓人類失去智慧能動者的唯一地位。傳統(tǒng)社會中僅僅針對人的產(chǎn)業(yè)制度和生產(chǎn)規(guī)則面臨重組的挑戰(zhàn)，以適應(yīng)非人行動者參與的需要；“讓生活更美好”的人類愿景正面臨如何構(gòu)建“好的人工智能社會”的緊迫挑戰(zhàn)。

“善治”與“善智”：發(fā)展“負責任”的人工智能，走向技術(shù)與社會的“良性互構(gòu)”

在技術(shù)發(fā)展中，人類應(yīng)當避免“近視癥”的困擾，預先規(guī)劃、做好頂層設(shè)計，僅僅和過于強調(diào)技術(shù)發(fā)展的“獨特能力”，反而容易落入“能力陷阱”。人工智能時代不僅僅意味著一場技術(shù)與產(chǎn)業(yè)革命，對全球價值鏈結(jié)構(gòu)、全球產(chǎn)業(yè)競爭格局產(chǎn)生深刻影響，更是一場社會、文化、價值與思維等領(lǐng)域的全景式整體性變革。技術(shù)發(fā)展應(yīng)當服務(wù)于人本身。人工智能發(fā)展要堅持“善治”與“善智”的統(tǒng)一，人工智能社會要走向“網(wǎng)絡(luò)空間”與“現(xiàn)實空間”的深度融合，應(yīng)當盡快搭建起“行動者網(wǎng)絡(luò)”和“利益相關(guān)者”就人工智能問題開展相關(guān)討論與合作的新平臺。歷史證明，人類面臨重大的技術(shù)風險往往有助于推動形成社會共識；而好的社會共識則是歷史進步的強大推動力。

隨著新的機器自動生產(chǎn)者的加入，會導致設(shè)計者、使用者、監(jiān)管者之間責任的模糊和缺失，精細分工下的“有組織不負責任”亟需得到解決。傳統(tǒng)技術(shù)倫理學是把倫理道德看作技術(shù)活動之外的一種規(guī)范力量，對技術(shù)后果進行倫理反思和批判；“后經(jīng)驗轉(zhuǎn)向”時代的技術(shù)倫理規(guī)約強調(diào)規(guī)范性和建構(gòu)性的統(tǒng)一，主張“端口前移”：從負面?zhèn)惱砗蠊慕遗七M到正面?zhèn)惱韮r值的“預防式置入”；在技術(shù)設(shè)計中“嵌入”道德要素，通過恰當?shù)募夹g(shù)設(shè)計規(guī)范和制約“創(chuàng)造者”的行為，實現(xiàn)“把技術(shù)關(guān)進倫理的籠子里”的目標。

“技術(shù)與社會如何和諧共處的主題”一直是技術(shù)社會學的重要論域。作為跨越技術(shù)決定論與技術(shù)建構(gòu)論二元對立的整合性綱領(lǐng)，技術(shù)與社會的“相互建構(gòu)論”已經(jīng)成為當代技術(shù)社會學研究的主導性范式。面對不確定性的世界嘗試提供確定性的理論框架是危險的，面對人工時代的來臨，我們必須跨越學術(shù)、社會、政治、國家和行業(yè)的界限開展多方合作，讓所有個體、群體和區(qū)域都能參與到當前的轉(zhuǎn)型過程，并從中受益。

大數(shù)據(jù)背景下的人工智能具有“強加性的巨大功能”，以人工智能為代表的第四次工業(yè)革命隱藏著巨大挑戰(zhàn)、蘊含著空前機遇。經(jīng)濟長期滯脹、就業(yè)壓力劇增、社會不平等發(fā)展、“好的人工智能社會”如何構(gòu)建等都在考驗人類的協(xié)作、創(chuàng)新與智慧。中國是世界上“現(xiàn)實中最大的發(fā)展中國家”“世界上第二大經(jīng)濟體”“未來的最強大國家”，世界對第四次工業(yè)革命中的“中國角色”寄予厚望。在當前階段，中國面臨經(jīng)濟發(fā)展新常態(tài)、供給側(cè)改革、傳統(tǒng)企業(yè)轉(zhuǎn)型、制造業(yè)升級等問題。不論是政府、企業(yè)還是個人，深入了解第四次工業(yè)革命的本質(zhì)內(nèi)涵和系統(tǒng)意義，全面評估人工智能帶給社會的機遇與挑戰(zhàn)必將是行穩(wěn)致遠、角逐未來的重要砝碼。

（作者為清華大學社會科學學院黨委副書記、教授、博導,社會創(chuàng)新與風險管理中心主任）

【注：本文系國家社科基金“‘后經(jīng)驗轉(zhuǎn)向’時代的技術(shù)倫理規(guī)約機制及模式研究”（項目編號：13BZX024）的階段性成果】

【參考文獻】

①張成崗：《技術(shù)與現(xiàn)代性研究》，北京：中國社會科學出版社，2013年。

②[美]蘭登·溫納著，楊海燕譯：《自主性技術(shù)》，北京：北京大學出版社，2014年。

③[美]科德·戴維斯、道格·帕特森著，趙亮、王健譯：《大數(shù)據(jù)倫理：平衡風險與創(chuàng)新》，沈陽：東北大學出版社，2016年。

責編/宋睿宸    美編/楊玲玲