【摘要】人工智能以大數據為基礎，依托海量個人信息、圖像數據、文本數據和傳感器數據，借助強大的數據分析能力，是推動經濟社會高質量發(fā)展的重要抓手。人工智能在顯著增強信息的獲取能力、挖掘能力、共享能力的同時，也增加了數據濫用和個人隱私泄露的風險。為此，要建立健全數據保護法律體系，提升個人對信息的控制，引導公眾樹立牢固的總體國家安全觀，增強數據安全意識，構筑數據安全防線，推動形成全社會共同維護數據安全的良好氛圍。

【關鍵詞】人工智能 個人信息保護 數據安全 【中圖分類號】G122 【文獻標識碼】A

習近平總書記指出：“沒有網絡安全就沒有國家安全，就沒有經濟社會穩(wěn)定運行，廣大人民群眾利益也難以得到保障。”人工智能技術推動經濟社會各領域從數字化、網絡化向智能化加速躍遷的同時，也加劇了個人信息被侵害的風險。如何兼顧技術革新與個人信息安全，已經成為人工智能時代的重要議題。

人工智能呈現出的新特征

人工智能是引領新一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，呈現出深度學習、跨界融合、人機協同、群智開放和自主操控的新特征。深度學習是人工智能的核心方法，通過多層神經網絡實現復雜數據模式的識別。這種算法能從大量的非結構化數據中學習模式和特征，是現代人工智能的基石。它拓寬了智能技術的應用場景，實現自我優(yōu)化和智能化決策，顯著提升了人工智能的實用性。跨界融合則是通過人工智能技術與物聯網、大數據和云計算的深度融合，助力產業(yè)結構升級和智能化轉型。它不僅改善傳統行業(yè)的工作效率和服務質量，還催生出新產業(yè)、新模式、新動能。以智慧城市為例，人工智能技術通過實時分析交通數據，優(yōu)化交通信號控制，減少擁堵發(fā)生。智能監(jiān)控攝像頭能實時識別和預警異常行為，提高公共安全管理水平。同時，人工智能還可以賦能醫(yī)療健康、金融服務、智能制造、電子商務、環(huán)境保護等多個領域，通過海量數據的供給分析持續(xù)優(yōu)化并改善各類應用場景。

人工智能不僅是技術工具，還將成為發(fā)展新質生產力的重要引擎。人機協同是將人類的認知力、創(chuàng)造力與機器的智能化相結合，通過智能算法與人腦智慧的協同交互，實現生產力整體躍升。在制造業(yè)中，機器人可以幫助工人完成高重復性的裝配和檢測任務。在醫(yī)療領域，智能技術不僅能分析患者的基因數據、病歷和生活習慣，還可以輔助醫(yī)生提供個性化診療方案。同時，開放的人工智能生態(tài)系統還通過共享數據和算法穩(wěn)步推動技術革新。以阿里巴巴達摩院和騰訊優(yōu)圖實驗室為代表的人工智能研究機構，積極通過開源平臺發(fā)布研究成果和數據集。群智開放不僅推動了全球人工智能協同共治，還成為科技跨越發(fā)展的助推器。

人工智能的自主學習和決策能力能夠在復雜環(huán)境中實現自我調整和優(yōu)化。2023年11月，工業(yè)和信息化部等四部委聯合發(fā)布了《關于開展智能網聯汽車準入和上路通行試點工作的通知》，要求智能網聯汽車生產企業(yè)和使用主體加強能力建設，促進產品功能、性能提升和產業(yè)生態(tài)的迭代優(yōu)化。2024年7月，無人駕駛計程車“蘿卜快跑”在武漢和廣州相繼運營。這種自主駕駛技術通過傳感器和深度學習算法，在實時變化的交通環(huán)境中確保“人、車、路、云”多要素的融合交互。

總體上看，這些新特征都是以大數據為基礎，依托海量個人信息、圖像數據、文本數據和傳感器數據的持續(xù)供給，賦能經濟社會高質量發(fā)展。隨著應用場景的進一步拓展，個人信息保護的重要性也愈發(fā)凸顯。如何增強數字技術的透明度和可解釋性，確保智能系統可信可控，確保個人信息在人工智能時代的合法、正當和必要使用，顯得尤為重要。

人工智能給個人信息保護帶來新挑戰(zhàn)

人工智能是一把“雙刃劍”，它在引領產業(yè)變革，發(fā)揮“頭雁”效應的同時，也不可避免地帶來科技倫理風險。2021年，全國信息安全標準化技術委員會發(fā)布的《人工智能倫理安全風險防范指引》明確指出，人工智能技術會對個人的人身權、隱私權引發(fā)侵權風險。這是因為人工智能技術不僅加劇個人信息暴露的風險，還拓展了個人信息的傳播途徑和生命周期。

一方面，新技術極大地增強了數據分析和挖掘能力，威脅著個人信息安全。機器學習、深度學習和自然語言處理等人工智能技術突破了非自動化數據處理系統的碎片化局限，能在海量零散數據中精準描繪用戶畫像，甚至挖掘出數據主體自己都未曾意識到的行為偏好和潛在需求?；谶@些技術，廣告服務商可以分析用戶的瀏覽記錄和購買歷史，預測消費偏好，精準投放廣告。搜索引擎和社交平臺通過用戶的搜索記錄、點贊和分享行為，推斷用戶偏好和生活習慣，并提供個性化服務。在這個迭代反饋的循環(huán)中，人工智能技術會根據用戶的行為信息自主優(yōu)化算法，進而持續(xù)預測、挖掘更多的個人信息。更嚴峻的是，由于透明度和可解釋性亟待提升，以深度學習為代表的部分智能算法形成了“黑箱模型”，普通用戶甚至是開發(fā)者都難以理解并預見其工作原理和決策過程。這些新技術破壞了數據主體對個人信息的控制，增加數據濫用和隱私泄露的擔憂。

另一方面，人工智能技術顯著增強信息的共享能力，拓展了個人信息的傳播半徑和生命周期。用戶在社交平臺上的每一次互動分享都會被系統自動識別分類；智能手機、智能家居設備、可穿戴設備時刻處理著用戶數據，個人的身份信息、健康信息、行程軌跡、行為偏好整合在一起，用戶畫像一覽無余。依托群智開放特征，這些智能終端之間互通互聯，個人信息在不同平臺和設備之間得以共享。再經過人工智能算法的處理、訓練、生成，最終成為網絡社會個人難以磨滅的“數字標簽”。這其中不僅記錄著數據主體的行為偏好，還可能囊括個人信用、健康、生物識別、宗教信仰、政治觀點等敏感數據。一旦被泄露或濫用，不僅會對個人隱私造成嚴重侵害，還會引發(fā)身份盜竊、財務欺詐、網絡騷擾等問題，直接威脅數據主體的人格利益和生活安全。如果“數字標簽”包含了個人的不良記錄，這種關聯性還會被在線存儲，導致數據主體的人格利益長期遭受貶損，甚至引發(fā)歧視性風險。《中國互聯網絡發(fā)展狀況統計報告》顯示，截至2023年12月，我國網民規(guī)模高達10.92億人，互聯網普及率77.5%。如此龐大的主體數量無疑凸顯出網絡社會保障個人人格利益的重要性和緊迫性。因此，我們在享受智能化服務的同時，必須高度重視數據保護和隱私安全問題。

人工智能時代個人信息保護的路徑研究

一是完善國家數據法治建設。為應對新興數字技術引發(fā)的時代浪潮，我國秉持積極的立法態(tài)度，致力于建立健全數據保護法律體系。2016年11月，第十二屆全國人大常委會審議通過《中華人民共和國網絡安全法》，這是我國第一部網絡安全領域的專門立法，建構了個人信息保護的主要原則和基本規(guī)則。2017年，《中華人民共和國民法總則》第111條新增“個人信息受法律保護”的規(guī)定，明確了個人信息權的法律屬性問題。2019年，全國人大常委會將《中華人民共和國個人信息保護法》納入立法規(guī)劃，開啟統一數據立法模式的新征程。2021年1月1日《中華人民共和國民法典》施行，人格權編專章規(guī)定個人信息保護的一般規(guī)則，要求個人信息處理遵循合法、正當、必要的原則，并規(guī)定自然人享有查閱復制、異議更正、刪除的數據權利。2021年11月1日，《中華人民共和國個人信息保護法》生效，作為網絡時代的標志性立法成果，它既注重保障個人信息權益，規(guī)范個人信息處理活動，也充分體現數據發(fā)展理念，集中展示了數據法治的中國方案。同年，《中華人民共和國數據安全法》實施，該法從國家安全高度出發(fā)，對數據安全管理提出系統要求，明確了各類數據處理活動的安全管理責任，為我國數據安全法律體系的建立和完善搭建基礎框架。2023年，國家網信辦等七部門聯合發(fā)布《生成式人工智能服務管理暫行辦法》，這是全球首個全面監(jiān)管生成式人工智能的規(guī)范文件，以“知情同意”為核心強化了個人信息的安全保障。2024年5月，國務院印發(fā)《國務院2024年度立法工作計劃》，再次將《人工智能法草案》列入預備審議項目。這些立法工作不僅體現了我國對個人信息保護問題的高度重視，也為數據經濟發(fā)展提供規(guī)范和指引，為應對人工智能時代的新挑戰(zhàn)提供強有力的法律保障。

二是強化個人數據控制。人工智能技術的普及加劇了個人信息被侵害的風險，提升個人對信息的控制已經成為數據治理的重要途徑。“知情同意”是數據控制的核心理念，要求個人信息處理必須獲得數據主體同意授權或符合法律規(guī)定。當前，傳統的“一次性同意”模式已經不能滿足人工智能的發(fā)展趨勢，應當向持續(xù)的信息披露和動態(tài)同意機制轉變。為此，《個人信息保護法》更新了“知情同意”規(guī)則，數據主體可以撤回同意授權，并要求個人信息處理者刪除已公開的個人信息。強化數據控制的另一個途徑是增強個人信息權利?！秱€人信息保護法》第四章規(guī)定個人針對信息處理活動享有知情權、決定權等基礎性權能，以及查閱權、復制權、可攜帶權、補充權、更正權、刪除權和解釋說明權等工具性權能。在這個方面，歐盟數據改革還提出建構網絡社會被遺忘權的設想，這項權利與《個人信息保護法》第47條規(guī)定的刪除權頗為相似，都承載著強化個人信息控制的權能。

三是提升公眾數據安全意識。增強公眾數據安全意識是個人信息保護的關鍵一環(huán)，公眾對數據安全和隱私保護的認知和素養(yǎng)直接影響著個人信息保護的整體水平。數據安全人人有責，需要全民共同參與。

首先，政府應當加強數據安全教育。《數據安全法》和《個人信息保護法》的實施有效提升了全社會的網絡法治意識和素養(yǎng)。然而，數據安全問題正以更加隱蔽和復雜的方式影響著大眾生活，極易被忽視。在人工智能時代，需引導公眾樹立牢固的總體國家安全觀，增強數據安全意識，構筑數據安全防線。為此，政府可以通過多種形式加強數據安全教育。例如，在義務教育階段設置數據安全課程，從小樹立數據安全意識；在農村地區(qū)和基層社區(qū)開展義務講座或宣傳活動，幫助居民掌握基本網絡安全防護技能；利用媒體宣傳數據安全知識，樹立安全典型，推廣優(yōu)秀案例。多措并舉，全面提升公眾的數據安全意識。

其次，企業(yè)應當落實數據安全管理責任。企業(yè)應明確數據安全責任人，建立健全管理體系和工作機制，制定數據泄露應急預案，定期進行數據安全審查和風險評估。企業(yè)需將數據安全管理要求融入發(fā)展戰(zhàn)略和考核機制，同步推進業(yè)務發(fā)展和數據安全工作。將數據安全視為核心任務，確保規(guī)范化、制度化，真正落實到日常運營和管理之中。

最后，提升數據安全意識還需要全社會共同努力。不同群體對隱私和信息安全的關注度和承受能力各異，弱勢群體往往更容易受到信息泄露和濫用的侵害。要倡導全民參與數據安全保護，鼓勵公眾積極舉報數據泄露和濫用行為，形成全社會共同維護數據安全的良好氛圍。發(fā)揮人民群眾的群防群治功能，打造人人參與的數據安全防線，進而構建安全、可信賴的數字社會。

通過加強數據法治建設，提高公眾信息保護意識，采取行之有效的技術保障措施，可以更好地平衡信息自由和隱私保護的關系。確保個人信息安全不僅是法律和倫理的要求，更是技術發(fā)展的基石。只有在個人信息得到有效保護的前提下，人工智能才能在各個領域穩(wěn)步推進，真正為社會進步和人類福祉作出貢獻。

（作者為天津大學法學院講師）

【注：本文系國家社科基金青年項目“網絡社會被遺忘權建構研究”（項目編號：19CFX007）階段性成果】

【參考文獻】

①王利明：《數據保護的價值演變——從意思自治到人格尊嚴的發(fā)展》，《北京日報》，2024年3月4日。

②程嘯：《論個人信息權益》，《華東政法大學學報》，2023年第1期。

責編/孫垚 美編/陳媛媛

聲明：本文為人民論壇雜志社原創(chuàng)內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。