鑽石舞台

《走進人工智能》

你好，這裡是吳飛的數字專欄《走進人工智能》。上一講中我們介紹了「科學第三極：美美與共的科學計算」。在專欄的第十四講，我為你準備的內容是「人工智能的雙重屬性：技術價值非中立」。人工智能在賦能社會進步和經濟發展的過程中，帶來的倫理學討論不再只是人與人之間的關係，也不是人與自然界既定事實之間的關係，而是人類與自己所發明的一種產品在社會中所構成的關聯，因此人工智能具有技術性和社會性的雙重屬性，需要關注人與機器、機器與機器以及人機共融所形成的社會形態中應遵守的道德準則和法律法規。這一講我將介紹機器人三定律、人工智能治理以及科林格里奇困境三部分內容。

紅旗法案與機器人三定律

在社會中，每個人要通過保證「自律」的道德和規範「他律」的法律來約束個人行為，使得社會正常運行。道德（moral）一詞源自拉丁語，意為風俗習慣、生活方式和風格作風。法律（law）一詞原義為「規定下來的事情」，是立法機關制定的、國家政權保證執行的行為規則。林肯曾經說過「法律是顯露的道德、道德是隱藏的法律」。

人工智能是新一輪科技革命和產業變革的重要驅動力量，是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的「頭雁」效應，對經濟發展、社會進步、國際政治經濟格局等產生重大而深遠的影響，體現出賦能社會的技術屬性。同時，人工智能正創造和形成着人與機、機與機以及人機共融的新的社會形態，因此我們必須確保把人類價值觀、道德觀和法律法規貫穿於人工智能的產品和服務之中，賦予人工智能社會屬性。

一般而言，社會意識在很多時候落後於社會存在，比如歷史上有名的「紅旗法案（Red flag traffic laws）」。19 世紀，汽車剛被發明出來時，被大眾認為是一種怪物，不少人憂心忡忡地認為汽車會給人類社會帶來重重危險。因此，1865 年英國議會通過了一部被稱為「紅旗法案」的《機動車法案》。這個法案規定：每一輛在道路上行駛的機動車必須由3 個人駕駛，其中一人必須在車前面50米以外做引導，並且這個人還要不斷地搖動紅旗為機動車開道，提示人們危險將近，汽車速度每小時不能超過6.4公里。紅旗法案的結果是把汽車當馬車用，使得汽車工業發展幾乎處於停滯狀態，在英國汽車發展史上留下了可悲的一頁。

俄羅斯猶太裔科幻小說作家阿西莫夫（Isaac Asimov）在科幻短篇小說《環舞》中首次提出了三條定律：（1）機器人不得傷害人類，或因不作為使人類受到傷害；（2）在不違背第一定律的前提下，機器人必須服從人類的命令；（ 3）在不違背第一和第二定律的前提下，機器人必須保護自己。後來，阿西莫夫又加入了一條新定律：第零定律，即機器人不得傷害人類整體，或因不作為使人類整體受到傷害。

產品名稱：走進人工智能∣有聲通識十五講

主理人：吳飛

出品機構：高等教育出版社 、高等教育電子音像出版社

合作機構：浙江大學上海高等研究院、上海人工智能實驗室智能教育中心

出品時間：2022年1月