鑽石舞台

保障人工智能健康發展，倫理與安全須先行。

權威發布

人工智能的倫理與安全是當今世界值得每個人高度關注的時代命題，尤其值得人工智能研究人員普遍關注和深入思考。

人工智能發展的核心是安全可信人工智能，這一概念最早由我國提出，並在G20會議上獲得多國認可。

人工智能的「可信」，也需要建立相應的法律、法規、標準和社會倫理準則。現階段技術的發展已經觸碰到了應用邊線，在很大程度上屬於邊界問題。

「安全」人工智能有三方面的要求:一是技術安全，涵蓋數據安全、網絡安全、算法安全和隱私安全;二是應用安全，涵蓋智能安防、輿情監測、金融風控和網絡防護;三是倫理安全，涵蓋倫理規範和法律法規。

「可信」人工智能包含三個要素:人、信息、物理，要求強人工智能系統能夠實現複雜的信息、物理與人的融合交互。

簡而言之，就是要求人工智能具備與人類智能類似的特質，包括對未知情況的魯棒性、自我反省性、自適應性和公平性。人工智能的技術進步是可持續性的，只有人工智能倫理與安全同時兼顧安全、可信，才能實現人工智能的健康發展。

聯邦學習是實現安全可信人工智能的一個主要思路，與傳統的集中式機器學習不同，聯邦學習通過將訓練任務下放到用戶側，僅將訓練得到的模型參數結果發送給服務端，從而使數據保持在用戶本地，保證了用戶數據的隱私。

人工智能倫理問題發生在人工智能技術的應用場景中，即人工智能技術介入了人與人之間，改變了原來應該的人與人的關係，而引發了新的倫理問題。人工智能倫理規範就是要探討如何解決這些倫理問題，包括提出人工智能倫理準則，制定人工智能設計原則，約束從業人士職業規範等。

人工智能的「大腦」是「算法」，而以算法為核心的軟件機器人既有自動監控能力和自主決策能力，也負載着文化，具有技術偏向和路徑依賴性。我們需要制定人工智能從業人員的職業倫理準則，來達到下列目標：

人工智能的發展具有開放性與不確定性，相應的倫理和治理也應該是開放的和未完成的，因此在倫理上應尋求開放性共識，在治理上應施以適應性治理。

人工智能倫理目前的研究方向包括但不限於以下四點：第一是重視發展和治理的綜合性，來避免計算主義貶低人類的生命；第二是強化人工智能倫理研究的階段性；第三是建立生態影響評價體系；第四是建立人工智能的責任機制。

人工智能倫理準則的建構並非易事，其中存在着文化困境、倫理規範的困境、利益相關者的價值困境，以及技術困境這四方面的問題。建構適宜的人工智能倫理準則首先需要克服這些困境，具體的邏輯建構體系包括人工智能語言體系、人工智能價值體系、人工智能標準體系、人工智能責任體系和人工智能評價體系五方面。並且，人工智能倫理準則的建構需要以「實踐智慧」為核心，及時有效地調整人工智能倫理標準的實施方法，力求最大程度地實現人工智能倫理準則的實踐有效性。

人工智能技術迅猛發展，短時間大量資本湧入，造成市場泡沫，資本與有問題的倫理觀結合，可能會打開「潘多拉魔盒」，催生出「壞的技術」，導致人工智能不但無法造福人類，還會帶來不可預測的倫理、法律、社會問題。人工智能的應用前景看似魔幻，其實近在眼前，為之立法需儘早行動。人工智能立法需要思考的不是消滅客觀危險，而是在這些潛在的威脅和挑戰面前，增強風險認識能力，提高制度風險意識，通過法律和其他社會規範來預防規避風險，引導規範人工智能技術健康發展。

在新技術的衝擊下，必須有新的法律和現實相適應，這一點毋庸置疑。但人工智能法律法規必須具備較好的包容性，要為新技術的發展留下足夠的空間，法律條文應當以原則性為主，而不宜過細、過死。立法的過程一方面要重視「本地知識」的作用，多聽取人工智能行業從業者與相關專家的意見，法學家與人工智能科學家應該相互協同以制定出與行業現狀相符合的法律法規；另一方面要重視調查研究，理解清楚人工智能技術的本質，深入探討人工智能與人之間的關係，立足應用場景研究潛在風險，確保立法的明確性和適應性。

人工智能從產品到技術都在迅猛發展，現在是人工智能立法的準備階段、摸索階段、積累階段，也是人工智能立法的促進階段，可以先制定促進人工智能發展法。立法應該優先考慮對人們生活已經有影響的領域，如自動駕駛、服務類機器人領域，率先啟動立法、立項工作。將人工智能複雜環境中的突發事件納入法律規制的範圍，探索歸納該場景下突發事件的應對主體、問責機制，為後續立法提供借鑑。

人工智能立法是全人類所面臨的新課題，有學者提出，堅持以人為本的原則、建立全流程監管體系、明晰法律責任制度、明確數據信息保護與隱私權保護、強化涉及人工智能發展的知識產權保護、加強國際合作，加快制定專門的《人工智能發展法》。一部體系和結構完整的《人工智能發展法》既需要廓清人工智能機器人的基本職責、權利和義務，還需要釐清人（法人）機之間的責任分配以及責任承擔方式，更需要不同領域相關法律的配合和補充。

2021年12月21日，由中國科學院院士何積豐、中國人工智能學會原理事長鍾義信院士聯袂作序，清華大學出版社出版的新書《人工智能倫理與安全》在「上襲·師成達學暨2021數字思想峰會」上進行全球首發。

本書從人工智能公平性和包容性、透明性和隱私性，人和人工智能系統之間的合作，以及相關技術的可靠性與健壯性等角度，覆蓋信息科學、倫理、哲學、法律等社會學各界的先進思想與理論，為讀者全面理解相關領域知識奠定基礎。

在打開本書的同時，我們也掀開了國內人工智能倫理與安全領域在人、信息、物理這三個要素上的可信方面研究新的一頁。

人工智能的奇點會不會到來、什麼時候到來都未知，甚至無法控制，但保持對未來的思考、探索更多的可能性，甚至引導人工智能向對人類有益的方向發展，都是非常重要的命題。然而，人類需要保持的對未來的思考，又何止人工智能。

或許人工智能可以幫助人類更快地找到答案。總之，保持對未來的思考和開放包容的態度，重視人工智能倫理與安全的研究和發展，總是利大於弊的。人工智能科技革命的浪潮滾滾而來，這個時代的每個人都需要做好足夠的準備，以應對這場技術和倫理的雙重衝擊，請保持思考、保持勇敢，讓我們以AI之名，一起向未來！