面向技術發展的人工智慧彈性治理框架研究

劉 露1,2 楊曉雷1,2 高 文3

（1北京大學法學院；2北京大學法律與人工智慧研究中心；3北京大學資訊科學技術學院）

摘要:

人工智慧技術的大規模應用一方面促進了相關領域的發展，另一方面也加速顯現出了其所帶來的風險。如何揚長避短，讓人類在充分安全的條件下享用人工智慧帶來的重大利好，已經成為人工智慧治理體系建設中的突出問題和重要任務。人工智慧並非成熟技術，且在不同發展階段呈現出了不同的技術特點和社會特徵。人工智慧治理體系建設相關研究應採用發展的思路，治理框架的設計要秉承彈性動態的理念，並與技術同步生長。本文著重對人工智慧治理焦點的變化進行了分析，並對人工智慧彈性治理框架的效用及可行性進行了詳細闡述，以期為健全人工智慧治理體系提供理論參考。

關鍵詞:

人工智慧，治理框架，倫理監管，價值規範

中圖分類號:

D90-053

文獻標識碼:

A

DOI:

10。19524/j。cnki。10-1009/g3。2021。02。015

當前，我國已將人工智慧產業作為國家優勢和戰略產業的突破點，運用新技術推動新的生產生活方式，將人工智慧深入到傳統社會產業轉型當中，重塑社會格局。［1］

人工智慧技術已進入高速發展的時間視窗，技術的市場化和社會化正在並將更加深遠地對當下和未來的社會行為、社會關係、相關社會規則制度，以及社會治理方式產生顯著的影響。［2］人工智慧技術的應用一方面促進了相關領域的發展進步，另一方面也加速顯現出了其所帶來的風險。如何揚長避短，讓人類在充分安全的條件下享用人工智慧所帶來的重大利好，已經成為人工智慧治理體系建設的突出問題和重要任務。但需要注意的是，人工智慧並非成熟技術，技術在不同發展階段帶來的社會效應不盡相同，因此，人工智慧治理體系建設的研究同樣需要採用發展的思路，避免出現傳統治理方式阻礙技術發展的情況。

一、

人工智慧技術發展與治理焦點的變化

人工智慧技術在與人類社會和物理世界的不斷互動中成熟。自20世紀50年代在達特茅斯會議上提出至今，人工智慧經歷了從“神經網路”到“專家系統”再到“深度學習”的三度技術領跑熱潮，在不同的發展階段，人工智慧技術顯現出了不同的技術特點和社會特徵，因此，在治理思路的設計上，需要主動把握智慧技術產業變革對社會各方面的影響，並選擇合適的治理方式。

從人工智慧的定義出發，“智慧”究竟是什麼？一般來說，智慧的產生需要經過從感覺到記憶，再到思維的過程，而智慧的結果就是產生了行為和語言。人們將行為和語言的表達稱為“能力”，而將這兩者結合起來就是“智慧”。智慧作為智力和能力的表現，主要體現為感覺、記憶、思維、語言、行為的共同作用。隨著科學技術的發展，人類對自身大腦和神經的研究取得了一定的進展，這也讓人類看到了解決“智慧”問題的希望。［3］但在現階段，人類仍然沒有辦法徹底研究清楚自身的神經系統是如何運作的，也未能清楚地認識到人類大腦的一些功能和原理。不解決這些問題，人類就沒有辦法走向“智慧”研究的未來。

對以演算法、算力、資料為基礎要素的，可以實現特定工作要求的人工智慧被稱為“弱人工智慧”，也叫“專用人工智慧”。基於這種技術特點，人們將人工智慧的核心特徵進行提取，與傳統的工業、交通、金融業等行業全面融合，形成了新的社會經濟形態。而能夠自適應地應對外界環境挑戰，完成人類能完成的所有任務的人工智慧被稱為“強人工智慧”或者“通用人工智慧”。至今為止出現的人工智慧技術均屬於專用人工智慧範疇，但對通用人工智慧的不斷研究將會對社會、經濟、軍事等領域產生變革性的影響（見圖1）。

圖 1人類社會與不同階段人工智慧技術的結合

1.新技術的萌發與傳統社會環境的衝突

提及人工智慧，很多人會理解為是機器學習、深度學習演算法的成功，但人工智慧的爆炸式發展不僅因為機器演算法的出色表現，更要歸功於硬體GPU的廣泛使用、雲平臺提供的幾乎無限的儲存空間、各種行業應用資料終端和物聯網感測器對資料的大量採集、無線通訊網路和骨幹網路對終端資料的快速傳輸等等。［4］因此，人工智慧市場的成熟並不是單純的演算法驅動，而是多種技術手段、行業平臺、社會影響因素共同作用的結果，其帶來的社會問題也具有更多的交叉性。

（1）資料資訊保安

在人工智慧機器學習和深度學習專案中，高效能模型的訓練需要大量訓練樣本作為支撐。演算法對資料的強烈依賴催生了資料非法獲取和濫用的頻繁發生。在巨大的經濟利益誘惑面前，APP強制授權、超範圍收集個人資訊等現象大量存在，違法違規使用個人資訊的問題越發突出，由資料商業化利用引起的不正當競爭案件數量也在逐年增長。［5］

資料的所有權、知情權、採集權、儲存權、使用權等成為每個公民在資訊時代的新權益。從資料生命週期的角度，在資料的生產、採集、傳輸、儲存、加工、銷燬的過程中，資料的處理主體隨著資訊產業鏈的細分而不斷分化；從資訊產業空間的角度，個人資料、生產資料、經濟資料、環境資料從不同終端匯聚，經過關聯處理、深度加工，輸送至不同行業和政府，驅動整個資訊產業的運轉。［6］無論從時間還是空間的角度，資料內容在整個資訊鏈條上都呈現出了高度耦合的特徵，資料的權益界限十分模糊，如何在公開、公平、公正的原則下賦予資料主體自主權利並解決主體間的權屬爭議，成為了新的治理問題。

（2）演算法的客觀性

演算法作為大資料處理的計算程式、人類思維的一種物化形式、人腦的外延，其本質是以數學或計算機程式碼形式表達的意見。智慧演算法的設計目的、資料運用、結果表徵等都是開發者、設計者的主觀價值選擇，他們會把自己持有的偏見嵌入智慧演算法之中。而智慧演算法又可能把這種偏見傾向進一步放大或者固化。

在人工智慧演算法推薦系統的不利影響下，社會化媒體時代多通道的傳播形態反而不利於資訊的自由傳播。［7］新媒體在傳播過程中會出現“迴音室效應”、“資訊繭房”、“網路巴爾幹化”等有意識或無意識形成的不良現象，導致人們沉浸在自己偏好的資訊世界中，造成公眾意識形態嚴重分化和網路群體極化。

與傳統決策系統不同，對於基於智慧演算法的人工智慧決策，公眾無法理解複雜演算法的機制原理和框架模型。智慧演算過程透過輸入資料和計算模型自行完成，甚至演算法設計者也無法清晰地解釋機器的具體操作過程。黑箱問題便由此而生，自主決策系統結論的可解釋性成為了演算法利用的新難題。［8］［9］

（3）社會信任危機

人工智慧與人類世界和物理世界不斷進行互動，顛覆性的使用者體驗大幅提升了人類認知和改造世界的能力，使得人們在“虛擬”和“現實”間無縫穿梭。“斯坦福監獄實驗”、“米爾格倫實驗”等大量的心理學實驗證實，虛擬現實可能會對人的行為產生影響，而這種影響會延續到現實世界中。在虛擬社會“相逢不相識”的情況下，可能出現道德主體社會感淡漠現象，容易發生“逾越”行為，形成網路暴力或惡意資訊的大規模傳播，給社會誠信造成嚴重衝擊。

人工智慧演算法具備強大的學習模仿能力，由此帶來的偽造技術的升級使日常生活所用到的合同、契約、證書及相關法律文字的防偽鑑定面臨新的困難，對社會秩序的各個層面構成了嚴重威脅。宣揚錯誤政治觀點的政客偽造影片、對抗網路生成的“虛擬特工”、使用基於通用語言模型GPT-3的“最強假新聞生成器”造假等種種問題已經在影響著社會秩序，巨大的輿論壓力對倫理安全和社會安全也造成了新的威脅。

2. 機器權利的擴張與人類權利的衝突

隨著技術的不斷髮展，智慧體與社會環境相互作用形成了更高等級的智慧，具有獨立思維能力的通用人工智慧時代逐漸來臨。有知覺和自我意識的高階人工智慧技術能夠完成抽象思維、複雜理念理解、快速學習等一系列高階智慧活動。人作為社會的主體，具有獨立意思表示、權利能力、行為能力，作為客體的物處於人類主體的控制之中。而通用人工智慧更加強調智慧的類人屬性，是具備獨立思維和情緒的智慧機器，處於一個類主體的狀態。不明確的分類帶來了智慧體在倫理、義務、道德、責任等多方面的衝突表現（圖2），這種具有類主體性質的社會矛盾會隨著智慧體能力的提升而不斷加劇。

圖 2智慧體的類主體地位

（1）機器權利與人權的平衡

對於智慧機器的人身權利，已有國家開始著手相關工作。沙烏地阿拉伯授予美國漢森機器人公司生產的機器人索菲亞以公民資格。歐盟議會法律事務委員會（JURI）釋出了《就機器人民事法律規則向歐盟委員會提出立法建議的報告草案》，併發布了研究成果《歐盟機器人民事法律規則》，主張賦予高水平智慧機器人和電子人以主體資格。但是對智慧體法律主體地位的討論目前在學界仍未有定論，仍將智慧體視為法律客體。

機器權利和人類權利的關係並非和諧，以電氣與電子工程師協會（IEEE）《人工智慧設計的倫理準則》為代表的人工智慧領域倫理監管建議，都著重提到了機器權利與人類價值觀和人權的關係，要保證系統的設計和運作符合人類的尊嚴、權利、自由和文化多樣性，不侵犯人權。“無人駕駛”的倫理困境已經成為人類與機器操控權分配的典型代表，“輔助駕駛系統”能力的誇大和人類對駕駛控制權的放棄導致了此類自動駕駛事故仍在不斷髮生。在2019年衣索比亞航空事故中，波音737Max的飛行控制計算機出現“資料錯誤”，但飛行員無法奪回對飛機的控制權，最終釀成悲劇。因而，在主張機器權利的同時，更需要對其加以義務限制，如法律義務和道德保障義務。［10］

（2）智慧體作品的智慧財產權歸屬

人工智慧可以自動迭代演算法並反饋學習，產生新資料，具備一定的創造能力。結合演算法的設計，專用人工智慧雖已可以產出一定的創作性成果，但模仿型的創作不具備主觀創作能力。知識所屬權是指權利人對其智力勞動所創作的成果和經營活動中的標記、信譽依法享有的專有權利。［11］由於人工智慧不具備法律主體資格，無法行使權力並承擔義務與責任，因此人工智慧體對創作物不具備相應的著作權等相關權利。

代表性的案例是歐洲專利局（EPO）於2019年12月底，以申請案不符合歐洲專利公約（EPC）為理由，正式做出駁回AI智慧DABUS的兩項發明申請案（EP 18275163、EP 18275174）的決定。但是，隨著高階人工智慧不斷向獨立智慧體發展，其本身的地位和行為屬性，使得人和物的關係需要重新界定，智慧財產權的歸屬問題在未來也會成為新的治理焦點。

（3）社會衍生問題

人工智慧風險總體上分為兩種形式，一是上面提及的，由於人工智慧自身技術缺陷或者自身邊界不明確導致的風險，可稱之為人工智慧的原生問題；二是人工智慧領域的衍生問題，即人工智慧技術與原有全球問題（如恐怖主義、氣候變化、流行性疾病）相互交織引發的新的社會危機。如勞動力結構變化，當前越來越多的技能落伍者面臨勞動力市場的重新選擇，結構性的就業矛盾難以避免，需要積極面對勞動力市場的變化，提升從業者資訊科技能力和水平［12］；又如致命性自主武器應用，目前對於支援還是禁止致命性自主武器系統，國際社會仍存在很大分歧，各國也在努力尋求合理的倫理機制和國際法規，對致命性自主武器系統進行有效管控。伴隨著智慧體對人類工作替代性的加強，社會衍生問題會逐步處於突出地位。

二、

治理模式的運用取決於技術能力和社會環境的變化

1.治理的出現：突出技術與倫理的規範價值

治理出現於人工智慧技術發展的初始階段，此時大規模的市場應用尚未形成。［13］人工智慧沒有對社會產生根本性的影響，治理體系也處於萌芽狀態。治理內容多為對人工智慧原生技術問題的處理和隨著社會對人工智慧認識的加深而逐步形成的倫理規制框架。

在這個階段，技術治理的問題主要集中在人工智慧技術的安全性和可用性，如演算法的公平、算力的可控、資料的安全等內容。演算法在不斷髮展中仍存在諸多缺陷，如魯棒性、遷移性、自適應性、可解釋性等，這些問題在一定程度上制約了人工智慧的廣泛應用。技術的蓬勃發展帶來了算力需求的指數增長，其與算力提升速度趨緩之間形成了一定的矛盾。在資料方面，大資料的資產屬性有別於傳統的物理資產，因此，人工智慧對資料的系統架構、安全能力、防控水平都提出了新的要求。

與此同時，作為道德守則的人工智慧倫理框架正在逐步形成。倫理規範既有約定俗成又有理性建構，倫理規範本身是軟措施，並不以國家強制力作為後盾，但它們構成了人工智慧啟蒙時代的道德基礎。將發展人工智慧定位於以人為本、服務於人的目標，是人們對人工智慧的價值判斷和選擇，如1950年圖靈在《計算機器和智慧》中提到“人工智慧的發展是研究、開發用於模擬、延伸和擴充套件人類智慧能力的理論、方法、技術及應用系統，從而解決複雜問題的技術科學並服務於人類”［14］。

在這個階段，技術沒有與應用場景充分結合，相關技術應用的安全風險不明確或處於未知和有待防範和控制的狀態，政策和法律治理手段無法明確發揮效用。

2.治理的加速：強調法律和政策對應用場景的監管

治理的加速伴隨著技術的飛速發展，人工智慧技術的應用場景正在逐漸成為監管的主要物件，促進與監管並行成為主要基調。人工智慧已經作為重要的技術手段與各個行業進行了深度的耦合，該階段的治理除了包含上一階段對技術的治理外，大部分內容是對人工智慧與各行業結合的場景進行治理，即轉換為對“人工智慧+”的治理。當前對人工智慧的治理正處於該階段。

在這個階段，政府在人工智慧治理中發揮著領導性的作用，體現在國家層面上人工智慧技術研發與治理框架的搭建，專業機構的設立，以及政策與法律的制定等方面。在人工智慧技術應用前景相對較為明確和成熟的領域，以法律和政策為基礎的風險防控體系開始發揮效用。在自動駕駛、無人機、產業機器人、醫療看護機器人等應用場景中，各國已經在不同程度上開始進行適當的監管或為可能的監管進行著準備，紛紛出臺了各類規範性政策或法規。如美國國家公路交通安全管理局釋出的軟法性規範《自動駕駛系統：安全願景2。0》和《智慧投顧指南》；英國的《2018年自動駕駛汽車和電動車法》；中國的《智慧網聯汽車道路測試管理規範》和《人工智慧輔助診斷技術管理規範（試行）》等。

在大部分綜合領域，人工智慧技術仍處於高速迭代時期。法律治理的強制性，穩定性、滯後性的特徵使得當前各國政府無一例外地積極支援和鼓勵“倫理指南”等軟法性、自治性規範的研究和制定，以期在不限制發展的前提下對人工智慧的社會影響進行規範。在推進人工智慧治理規則全球共享上，G20（二十國集團）、人類未來研究所、電氣與電子工程師協會等國際組織在很大程度上成為治理規則的引導者和推動者，提出了《阿西羅馬人工智慧原則》和《G20人工智慧原則》，以及一系列全球人工智慧標準化檔案。［15］

3.治理的穩定：形成穩定的智慧社會規範體系

人工智慧治理的成熟階段是以技術應用的成熟為基礎和前提的，可以理解為專用人工智慧的發展進入社會穩定期且長期處於穩定狀態或通用人工智慧已經實現並達到成熟階段。

只有技術穩定應用，法律和政策才能持續穩定地發揮作用。經過社會各種價值的衝突、調整、平衡、沉澱，人工智慧相關的價值要素在這一階段已經脫離了整體抽象和概念化表達的狀態，作為權利和義務有機地融入到了法律規範和社會制度之中。治理的過程需要在人類絕對主體性和智慧體可控可知的前提下，對人工智慧技術在研發和應用過程中在政治、經濟、軍事、社會管理等生產生活領域所產生的社會效應進行梳理評估。

在法律治理意義上，發展成熟的人工智慧應用場景應該與不同領域的法律關係以及不同層級的法律規範有更加緊密的關聯和深層的涉及，在現實執行的規範體系中能夠充分體現自己的存在。［16］也就是說，圍繞相關事物產生的社會行為關係能夠被相關的部門法律所界定，從而對其進行有效規制，並透過法律的執行和適用進行調整。

但是這種穩定狀態的人工智慧社會權利義務內容和行為模式尚未成為現實，還需要隨著技術的發展開展進一步地深入研究。在這個階段，要做到持續跟蹤強人工智慧技術和產業發展態勢，及時評估強人工智慧的應用影響，進行動態策略分析，側重保障安全和防範風險的倫理和政策監管，但應保留足夠的靈活性，保障安全和發展的平衡，對發育成熟的相關社會行為和關係及時進行規範化和制度化。

三、

構建治理模式多元的人工智慧彈性治理框架

人工智慧治理主體（國家政府、國際組織、行業組織、企業、公眾）透過治理手段對治理的客體（人工智慧技術、人工智慧產品、人工智慧服務等）進行規制。在一定時間和空間範圍內，條件的變化會導致治理模式的變化，這些變化的治理模式便形成了一定時間和空間範圍內的治理和規制道路。

人工智慧治理的框架就是對人工智慧治理和規制的基本要素、條件、方式、方法的結構性構成，可以將其描述為自變數、函式值、運算規則的函式運算模型。在整體人工智慧治理和規則建設過程中，所要考量的安全保障、風險防範、權益實現、發展進步等價值，所涉社會主體的群體性或個體性，所涉現實客體價值的抽象或者具體狀態，相關法律秩序有序變遷的保障性因素等等，構成了治理和規制工作需要著重對待的現實變數因素。這些因素既包括不同階段人工智慧作為客觀客體所展現出來的價值目標和問題因素，即這個函式公式的自變數，也包括人工智慧技術在研發和應用狀態下所形成的社會治理條件和因素，還包括人工智慧治理在不同情況下所選用實施的具體規制和治理的方式方法，即這個公式的函式值。基於此，人工智慧的社會治理就是在不同的發展階段，在解決不同問題的運演算法則確定的情況下，這些變數因素的現實動態博弈過程和結果。

在社會價值基礎的大前提下，人工智慧領域的治理手段是非常多元化的，包括倫理原則、政策導向、法律規制、技術治理手段。而其所運用的運演算法則，就是立法、司法、法律適用、倫理道德和政策等不同的規制方法和規制方案在規制治理方面所具有的獨特的功能特點，與相關現實問題解決和價值目標實現之間合理匹配的關聯關係（圖3）。在架構圖中，多種治理手段以松耦合的形式匹配關聯，治理模式呈現多元性，且隨著社會和技術的發展動態變化。

圖 3人工智慧治理體系邏輯結構圖

四、

我國當前人工智慧治理路徑探索

要實現人工智慧彈性治理框架的效用，需要從以下三個方面加以推進：

（1）動態評估和應對技術發展形勢，樹立彈性包容的治理理念

人工智慧技術已經成為當前最具戰略性的技術領域。在這一決勝未來的關鍵性技術競爭中，我國企業和研究機構在技術研發和創新中處於全球領先地位，並積極參與到了國際競爭與合作當中。需要充分發揮和調動現有優勢，透過跨學科的調查、各利益相關方的對話和公共討論，對人工智慧產業可能為我國帶來的影響進行及時和整體性的預估，並制定相應的應對計劃。

明智的政策選擇和前瞻性的應對，既需要有及時、準確、全面的資訊作為支撐，也需要政府與專業可靠的智囊，以及產業最前線的各利益相關方開展精誠合作，共同應對技術革命帶來的機遇和挑戰；同時堅持開放協作，提升國際競爭力，積極參與國際規則制定過程併發揮更大的影響力，為我國產業謀取更大的發展機會。

在治理理念上，要結合技術發展的實際情況，運用複合的治理工具，構建分階段的治理路徑，在保持治理監管靈活性的同時，保留技術創新和發展的空間。［17］分階段的治理方案包括，在近期加快制定產品和服務標準，加強資料治理和個人隱私保護，採用場景化的規制消化人工智慧帶來的各種問題，並從長遠的角度實現法律和倫理的對接，做好對人工智慧技術機遇、影響、問題和挑戰的持續性跟蹤研究。

（2）探求“發展與安全”的平衡，保持產業界、學術界、公眾的溝通協商

技術發展和社會安全是人工智慧應用價值的兩個重要方面。安全與發展在人工智慧技術發展和應用的不同階段呈現的狀態是不同的；在不同國情和社會條件下，二者之間的矛盾張力狀況也不一樣，由此形成的不同博弈和選擇從根本上決定著資訊科技倫理治理和規制的道路和方法。

各國政府雖共同定位於“發展與安全”，但在具體內容和權重分配上仍有一定的差異。美國、歐盟、英國、澳大利亞等西方發達國家的“發展”重點主要在於促進創新和競爭，政府的措施旨在提供更多的公共服務和公共產品。日本和韓國則在促進創新和競爭的基礎上，試圖更進一步地透過政府的支援和努力促進本國產業的“發展”，為此採取了更為積極的支援性措施。在發展與安全的權重分配上，英國的《人工智慧在英國：是否準備好、願意並且有能力應對？》指出：“任何可能對個人生活產生實質性影響的人工智慧系統，除非該系統能夠對其決策產生完整和令人滿意的解釋，否則就不應當被部署。”而日本在《官民ITS （Intelligent Transport Systems）構想和路線圖》中確立的“高度自動駕駛系統制度設計相關立場”，第一點就提及“首先應當認可自動駕駛將帶來的巨大的社會利益，並從推進其引入的角度去考慮如何準備相關制度。”由此可見，不同國家對“發展與安全”的態度存在顯著區別。各國政府和國際社會對人工智慧的治理都仍處於討論和研究階段，尚未形成規則和共識，保持富有彈性的治理監管體制將有利於透過持續跟蹤和觀察技術發展的趨勢和國際討論的進展及時和低成本地進行調整。

作為目前最為前沿性並主要由私營部門推動的技術領域，頭部企業和科研重點院校是人工智慧技術的主要開發者和擁有者。在“發展與安全”的過程中，建立和保持與產業界、學術界的溝通協商機制，有助於更快更好地掌握相關領域的專家知識，隨時瞭解相關領域的最新發展動態和需求，並集合多方智慧為人工智慧監管提供有益的見解。伴隨技術應用性和開放性的增強，公眾對人工智慧產品實踐的參與度也在不斷提高。深入瞭解公眾對人工治理的價值期待和社會治理需求，積極幫助公眾適應人工智慧時代帶來的環境挑戰和勞動力市場的結構變化，樹立公眾對人工智慧的使用信心，是實現社會與技術價值雙贏的重要途徑。

（3）加強倫理、政策、法律多種治理方式的有效結合，重視軟法性規範的研究和制定

倫理規範構成了人工智慧時代的社會道德基礎，標誌著社會、組織、個人的文明程度，也決定著人類未來的走向。科技領域，倫理先行，在基礎價值選擇方面，人類已就“可持續發展”達成共識—“滿足當代人的需求而不影響後代人滿足需求的能力”。在這樣的價值取向下，需要建立人工智慧科技倫理理論、規範和監管體系，要求原有的技術體系和治理體系做出改變，並與科技風險監管責任相匹配。

政策是靈活性的治理工具，國家可以運用政策手段靈活調控資訊科技和產業的發展進度，使得技術發展在安全和效率之間達成適度的平衡。在政策治理方面，既要注重對智慧產業的整體促進，以在全球的技術競爭中搶佔先機，又要關注人工智慧技術在發展中即將暴露和已經暴露出來的風險，進而開展風險評估，決定是否出臺相應政策，暫緩產業發展或提供相應的風險解決方案。

法律是強制性的治理工具，但由於法律的穩定性、滯後性以及違反後果的嚴重性，各國在人工智慧領域中對法律手段的使用非常慎重。透過對各國人工智慧相關立法進行梳理可以發現，全球目前還沒有一部有關人工智慧的綜合性立法。

為了避免強制監管對技術的約束，當前各國政府大多僅設立了專門機構，以研究人工智慧對相關領域的影響並提出政策建議的促進性立法，我國政府也在積極支援和鼓勵“倫理指南”等自治性規範的研究和制定。儘管這些促進性立法和倫理原則規範沒有強制性的法律效力，但它們代表了當前受到高度重視的監管方向，並且極有可能在未來條件成熟時轉化為具有強制力的法律規定。可以逐步嘗試在某些人工智慧應用發展相對成熟的領域建立“監管沙箱”制度，即對於新興的產品或服務，可以先透過簡化的市場準入程式，允許其在一定範圍內快速落地進行測試和驗證，從而降低制度滯後對技術發展的影響。

總之，基於我國當前的人工智慧治理場景，應當積極研究資訊科技和產品的新問題，以期在治理方式和立法體系上做出及時的應對。面向飛速發展的技術形勢，需要彈性運用多種治理手段，並在不同的社會規範維度下分工配合，運用社會輿論、政策引導、國家強制力等多種力量，全面引導人工智慧技術的安全有序發展。

對於相對比較成熟的技術領域，要加強約束；對於尚不成熟的技術領域，要強化研究，不要因治理上的操之過急而阻礙了技術的正常發展。堅持前期引導，中期約束，後期干預的治理邏輯。在技術發展前期，可以考慮運用倫理和政策手段，以“服務於人類福祉”的理念引導技術發展；在中期，可以透過修改部門法和頒佈行政法規的方式，對技術的不良現象進行必要約束；在後期，可以考慮以專門立法的方式對特定技術進行整體干預。同時，我國在人工智慧治理研究中要不斷關注國際合作和競爭方面的新進展和新趨勢，開放協作，提升國際競爭力，積極參與國際規則制定過程併發揮更大的影響力，為我國產業謀取更大的發展機會。

參考文獻

［15］

國家資訊化專家諮詢委員會秘書處。 資訊化藍皮書： 中國資訊化形勢分析與預測（2018—2019）。 北京： 社會科學文獻出版社， 2019： 283 300。

［16］

劉雲。 論人工智慧的法律人格制度需求與多層應對。東方法學， 2021（1）： 61-73。DOI： 10。3969/j。issn。1007-1466。2021。01。006。

［17］

雷瑞鵬， 邱仁宗。 新興技術中的倫理和監管問題。山東科技大學學報（社會科學版）， 2019， 21（4）： 1-11。

Research on Artificial Intelligence Flexible Governance Framework Facing Technology Development

LIU Lu1，2 YANG Xiao-lei1，2 GAO Wen3

（1Law School， Peking University；2Law and Artificial Intelligence Research Center， Peking University；3School of Electronics Engineering and Computer Science， Peking University）

Abstract:

Nowadays， the large-scale application of artificial intelligence technology not only promotes the development and progress of related application fields， but also presents the insecurity and risk。 How to maximize strengths and avoid weaknesses so that humans can enjoy the major benefits of artificial intelligence under fully safe conditions has become a prominent issue and an important task in the construction of an artificial intelligence governance system。 Artificial intelligence is not a mature technology， and it embodies different technical and social characteristics at different stages。 The research on the construction of artificial intelligence governance system needs to adopt a development idea， and the design of the governance framework must grow synchronously with technology in a flexible and dynamic manner。 This article emphasizes on the changes of the focuses of artificial intelligence governance， gives suggestions and enlightenments based on different stages of governance， and elaborates the utility and feasibility of the artificial intelligence flexible governance framework， in order to provide a theory reference for the improvement of the artificial intelligence governance system。

Keywords:

artificial intelligence， governance framework， ethical supervision， value norms

作者簡介：

劉露，北京大學法律與人工智慧研究中心研究員。研究方向為人工智慧治理和可信資料交易；

楊曉雷，北京大學法律與人工智慧研究中心主任。研究方向為人工智慧治理和法律科技；

高文，北京大學資訊科學技術學院教授，中國工程院院士。研究方向為人工智慧應用和多媒體技術。

專案資助：

中國工程院諮詢專案“我國工程科技倫理若干問題及應對戰略研究”（2019-XZ-46）；中國工程院諮詢專案“強人工智慧安全風險分析與法律對策研究”（2019-ZD-1）；百度基金專案“面向公眾法律諮詢服務的法律智慧核心技術研究”（2020BD009）。

END