close

大數據文摘出品

目錄

第一節 引言

人生軌道:躍遷與升華

蘇軾的哲思:人生的意義

什麼是活明白

當今學子的困惑

第二節 初讀文學《赤壁賦》:橫槊賦詩

第三節 重讀學術《赤壁賦》:清風明月

做學問的本質——登無人之境、享清風明月

第四節 再讀哲學《赤壁賦》:「心」與「理」的平衡

人生的有限和無窮

出世與入世:「心欲」與「天理」的平衡

從人工智能的角度解讀「心」與「理」的平衡

結束語

本文由來

附錄:在講座上的問答摘編

鳴謝

引言
1.1 人生軌道:躍遷與升華
人生一世所追求的,用世俗的語言來講,無非三個層次:

第一就是活着,這對應於馬斯洛七層需求理論(hierarchical theory of needs)的最低兩層物質需求-- 生理和安全。

第二是想活得好,對應馬斯洛說的中間兩層社會需求 -- 愛與認同,尊嚴與名聲。

第三是追求活得有意義,或者說,活得明白,這對應於馬斯洛的三層高級的精神需求 -- 好奇與理解,審美,實現自我潛能與價值。

人生的終極價值可以分為兩種:無窮或有限。
(1)無窮而位列不朽。這是指個體的價值和影響力通過一代代人不斷地傳遞,假設種群、文化不滅的話,在無窮的時間和社會群體求和(積分),所能達到的極限是無窮大。中國哲學思想歷來不相信輪迴與天堂地獄之說,從2500年前春秋時期的叔孫豹開始,就建立了「立德、立功、立言」的三不朽思想。中國傳統儒家思想的人生目標就是追求不朽。
(2)有限而落入黑洞。大部分個體都價值有限,影響力傳播的時空也很有限,人離世之後,落入一個「人生黑洞」,沒有任何信息能傳出來。年輕的時候想起這個結局,總覺得這未免太殘酷了、太恐懼了。為解決這個問題,有人提出廣義的社會不朽論,是指個體可以貢獻到群體的偉大事業中,實現集體(民族、國家)的不朽,也即歷史是由人民群眾創造的。
如果我們把這些人生的層次畫出來,就有點類似物理學中的原子軌道的能級圖。人生不同階段在這些層級中跳轉,主動或者被動,躍遷到新的能級軌道。積極向上的人生態度就是努力調整、升華自己的思想境界,實現更高的自我價值。
根據原子物理學模型,電子在能級跳躍過程中,能激發出光子Photon,這就是物體發光的現象。人們在能級跳躍(特別是向下)過程中,往往有感而發,也能發出五顏六色的「光」,這包括互聯網上的吐槽、流行歌曲和帶有審美的詩辭歌賦。本文要討論的《赤壁賦》就是蘇軾在人生大變局、能級大跳躍(從高向低)的時刻,發出的一道光芒,劃破千年的時空,仍能啟迪當世。
人生軌道與能級躍遷

1.2 蘇軾的哲思:人生的意義
蘇軾當年從文壇才子、朝廷命官(知州,主政一方),活得很好、活得有意義的能級,一夜之間被陷入獄,而後貶到黃州,落到他在《寒食帖》中所描繪的活着都艱難的「空庖煮寒菜,破灶燒濕葦」的困境。在這次人生向下的躍遷中,創作出了《赤壁賦》這樣堪稱「千古一賦」的文學名篇。黃州之後,蘇軾經歷了多次的波折,他的詩文反映了他在這個上下顛簸、仕途坎坷的過程中,內心的掙扎和心態的調整,從而練成了超然物外的樂觀態度,成就了他「活得明白」的升華。《赤壁賦》中給世人所描繪的「清風明月」的境界,是對自然的好奇與審美,以及他對人生意義的哲思,仍然能與當今時代產生共鳴。
多年來,我一直試圖讀懂《赤壁賦》的內涵。隨着年齡增長和閱歷積累,我對《赤壁賦》在不同的人生階段有不同的感悟。

少年時初讀東坡赤壁,只感嘆其橫槊賦詩的豁達氣概,開一代豪放派文風之先河;

而立之年重讀,漸領會清風明月的意境,對應於學術人生,夜深人靜之時探索無人之境的快樂;

已過不惑之年再讀,又喟嘆他對於出世與入世的平衡,和人生價值的哲學思考,且感受到文學、科學、人生的交織和互通。

夜深人靜,清風明月,蘇軾泛舟長江,思考人生的意義 -- 人活一世到底能得到什麼?人生如此渺小、短暫,「寄蜉蝣於天地,渺滄海之一粟」,「哀吾生之須臾,羨長江之無窮」,人生價值何在?他在《前赤壁賦》中的自問自答,以及在《後赤壁賦》中神交孤鶴與道士,反映了他當時內心的迷茫。
對於人生的意義,他還有一些想不明白、心有不甘,最後只能在含混的思維中睡去 -- 「相與枕藉乎舟中,不知東方之既白。」我相信很多人思考過同樣的問題,也就有過同樣的經歷:想不清楚,還是「洗洗睡吧」……
本文試圖用人工智能的認知架構模型,來解讀蘇東坡在《赤壁賦》中的出世入世的困惑,探討人類如何調整心態,達到「心」與「理」的平衡。有人會問:這怎麼跟人工智能扯上關係了?
通用人工智能研究的目標就是要創造有自主的感知、認知、決策、學習、執行和社會協作能力,符合人類情感、倫理與道德觀念的通用智能體(Agents)。
這樣的智能體要有自主的意識,有三觀,就算是智能體的三觀與人不一樣,他們也要能理解人類的三觀。不同於過去2000多年來哲學家、思想家、國學家、美學家所給出的解答,研究通用人工智能的科學家必須拿出認知架構、數學模型,用數學的語言清楚地表達並能分析三觀與思維的過程。所以,我們希望通過這樣的架構與模型,用「重構」的方式來解讀蘇軾的心理活動,試圖架起人工智能研究與中國古典人文哲學的溝通橋樑。
個體的思維活動與行為決策受到兩大因素(模型、表達)的驅動,分別對應於中國儒家兩大派別的思想:

程朱理學, 注重「天理」,這包含我們今天所看到的物質世界的「物理」,對應於人類的直覺、樸素的物理模型 (Intuitive physics),和人文社會的「倫理」與社會規範(ethics and social norm),後者對應於人工智能的行為決策函數所產生的行為模式。

陸王心學,這裡可以理解為內心的欲望,暫且稱作為「心」。現代的語言稱作價值觀。人工智能的語言稱作價值函數或者功利函數。機器學習領域針對具體小任務而定義的「目標函數」、「損失函數」是其中的一種。

「理」的規範與「心」的欲望,這兩者常常是不一致的,有矛盾。這個矛盾是人類作為高級動物,痛苦的根源。當人的個體能力、社會角色、地位,或者社會環境發生轉變的時候,心態的調整就是「心」的欲望與「理」的規範之間要達成一個新的平衡,重新定位自己。《赤壁賦》反映了蘇軾在人生大變局,心態大調整之時的內心活動。
要真正達成「心」與「理」的平衡是很難的,孔子說:
「三十而立、四十不惑,五十知天命、六十耳順,七十從心所欲而不逾矩」。
這裡的「矩」指規矩,也就是社會規範,是天理對人的約束。這句話可以理解為,自己心中想做的與社會期望你做的,達成一致了。作為聖人的孔子,要到七十歲才能到達「天理」與「心欲」的平衡,可見這是多麼困難。包括對天理的更深刻認識,心欲的消退與調整,以及對二者互為因果關係的理解。
那麼,「心」與「理」這一對關係中誰是主導?這是東西方哲學的一個十分深刻的議題,也是邁向通用人工智能、給機器人樹立三觀的關鍵問題。我們在後面的章節會展開討論,希望由此解讀蘇軾當年的心理活動。
從人工智能模型角度看,「理」與「心」作為兩種函數,它們的相互作用就是前面提到的人生軌跡躍遷中「發光」的數理機制。心與理的不同組合,產生不同的「光」,也就體現了人的格局。
在人生軌道的躍遷中,蘇軾是一個正面的典型,讓我們感受到了他思想的光芒,受到後世的敬仰。歷史上更多的是反面的例子,不少歷史人物沒有能夠在變化到來之時及時做出調整,值得我們思考,這裡不舉例。
在進入主題之前,我先來解釋一下,什麼是本文所說的「活明白」。
1.3 什麼是活明白
對於立志做學問的人群,以前社會上叫做 「知識分子」,本來的目標應該是幫助人類活明白。下面這張圖是多年前哈佛大學寄給校友的一個書籤,我一直保存着,它是荷蘭籍哲學家斯賓諾莎的一句名言:
「人類所能企及的最高活動就是為明白而學習,因為明白了就獲得了自由。」
哈佛送給校友的書籤
對於一般人來說,想不通的事情,就懶得去想,退回到活着、活得好的物質和社會能級。有更高精神抱負的人,追求思想的自由。想不明白的感覺就像是被困在一個狹小的空間,不得解脫,類似「幽閉恐懼症」。讀者如果想體會這個「幽閉恐懼症」的滋味,可以讀一下屈原的《天問》。
上圖是《天問》白話譯文的開頭部分。屈原那個時代,有太多想不清楚的物理現象,當時神話傳說的創世理論與模型,漏洞百出,根本無法解釋他所觀察到的自然現象,他想活明白一點,但是求而不得。從《天問》可以讀出來,他問的都是物理學的宇宙起源等重大科學問題,可是沒有科學的手段來回答,萬分苦惱。後面我要談到,活明白真的是人生到了一定層次(馬斯洛第五層,好奇)的重大樂趣、收穫與意義。子曰:「朝聞道,夕死可矣」,直接翻譯就是:早上明白一個道理,晚上死了也值啊。不過我個人估計,孔子說的聞道,是指社會倫理,他不太關心自然科學的定律與模型。
談到這裡,順便要說幾句,以屈子為代表的楚文化,是中國的一個亞文化,歷史上催生了很多優秀的、在重要歷史關頭敢於探索真理的人物,這明顯不同於以孔子為代表的北方主體文化。
中國主體文化不提倡去討論《天問》中那些想不明白的時空問題。比如,
"六合之外, 聖人存而不論; 六合之內, 聖人論而不議。」
——《莊子·齊物論》
又比如,《論語》中,季路問事鬼神。
我們今天在大學裡面搞研究,就是要追根溯源,開闢新的空間Space,探究模型在時空推到無窮大與無窮小之下的特徵。而孔子卻直接澆滅了學生的好奇心。從這個意義上講,孔子是優秀的人生導師,思想輔導員,卻未見得是一個好的科研導師。
中國民間流傳的「難得糊塗」的智慧,是有歷史淵源的。很多人就不想活明白,有些人明白很多事不能探究,搞明白了反而只會帶來心理上的負擔,不能採取行動(actionable),大多數時候只是徒增煩惱。所以,乾脆就裝沒看見,裝不知道。「麻痹自己」是智能體(包括人)在 「心」與「理」博弈中達成一種短暫平衡態的有效辦法。麻痹的方法有酒精,用化學辦法阻止理性思考,也有魯迅先生說的「精神勝利法」。我的意思是,這些心理活動的現象,都需要而且應該用人工智能的模型來解釋。
1.4 當今學子的困惑
2020年底,我讀到北大臨床心理學博士徐凱文教授的一篇調查論文,報告稱,有四成身在頂級學府的大學生出現了所謂的 「時代空心病」現象,「非常優秀的年輕人,在成長過程中沒有明顯創傷,卻感到內心空洞,感覺不到生命的意義和活着的動力」。近又看到一篇面向萬名科研工作者的問卷調查,發現大約1/2的研究人員有焦慮症狀。
這兩份報告折射的是由應試教育競爭和功利的科研學術評估所產生的社會現象。大多數青年學生對選課和分數斤斤計較,而對於科學前沿的探索反而猶猶豫豫。學生選容易考高分的課上,青年教授選容易發文章、獲高引用率的方向立題。這表面看起來是在優化自己的路徑,其實質是缺乏信仰的表現。由此導致的外在表現是短視、缺乏勇氣,贏在局部與眼前,輸在大局與長遠。
人們常常抱怨我們的科學研究缺乏原創,其實,原因大家也都看到了。我們不少科研人員在活着、活得好層面被各種評價指標牽制住了,在活明白的層面還不夠。
從外因看:在物質和社會世俗的層次,政府主導科研與高校,在活着、活得好這兩個層級建立了各種細分的能級、階梯,把科研人員的工資收入、晉升通道與這些指標、帽子掛鈎,深入到生活的方方面面。政府參與組織的會議,排座位、活動的報道都必須嚴格按照這些帽子、階梯的等級來排序。這本意是對科研的重視,但也一定程度干擾了學術的風氣與秩序。
從內因看:長時間的這種掛鈎就形成了科研習慣,很少有人能夠抗拒這些考核與評估的指標,跳出圈子,去追求科研的初心 -- 幫助人類活明白。興趣被澆滅,身心俱疲之後,用一個新名詞來說,趕緊找個地方「躺平了」。當大家都去追求有限的物質和社會功利目標,就聚集在一起、散不開,造成了內卷與焦慮。
當前,全國的科研機構與高校正在開展「破五唯」改革,力圖破除「唯論文、唯帽子、唯職稱、唯學歷、唯獎項」的人才評價標準。但如何培養和認定「人才」,如何資助和評價科研「成果」,大家普遍還比較困惑。

初讀文學赤壁賦:橫槊賦詩
蘇軾出生於四川眉州,20歲中進士,在北宋朝廷與文壇轟動一時。
公元1079年,42歲的蘇軾任湖州知州時,遭人陷害,捲入「烏台詩案」文字獄,後經多方營救得以釋放,被貶湖北黃州任團練副使(地方民兵武裝部副部長),跌落至人生低谷。從活得好、活得有意義,跌落到活着艱難的層次。到黃州後,他和家人一起開墾城東一塊坡地,種地以貼家資,始稱「東坡居士」。公元1082年-1084年間,他連續創作了《赤壁賦》、《念奴嬌·赤壁懷古》、《後赤壁賦》、《寒食帖》等詩詞與書法,在中國文學與文化史上留下了濃墨重彩的一筆。從此,中國有了蘇東坡。
明代書畫大家董其昌認為《赤壁賦》在文學史上的地位可與屈原的《離騷》相媲美,《寒食帖》的書法價值上可與王羲之的《蘭亭序》相當,開一代文風之先河,後人難以超越:
「東坡先生此賦,楚騷之一變;此書,蘭亭之一變也。宋人文字俱以此為極,則與參參,知所藏名跡雖多,知無能逾是矣。」
南宋《風月堂詩話》則認為:「東坡文章至黃州後,人莫能及」。
蘇東坡一生命運多舛,在一次次人生不斷轉軌的過程中,他的詩詞就像是能級躍遷時激發出的一道道光芒,流傳千年,也成就了他人生最大的價值,達到文學「不朽」的境地。
從表面上看這些詩詞,蘇東坡顯得很淡定,超然物外,說什麼:
「 竹杖芒鞋輕勝馬,一蓑煙雨任平生。」
但是,他在情急悲痛之中寫下的《寒食帖》暴露了他真實的境遇與心情,此時的蘇軾生活窘迫、欲哭無淚。
「空庖煮寒菜,破灶燒濕葦。那知是寒食,但見烏銜紙。
君門深九重,墳墓在萬里。也擬哭途窮,死灰吹不起。」
—— 蘇軾 《寒食帖》1082年
這個被稱作「天下第三行書」的《寒食帖》,其價值之一就在於它毫無掩飾地記錄了蘇軾當時的狀態。
說到這裡,順便講一講我對書法欣賞的理解。現在有些人想用人工智能來自動生成書法,用不同風格的字去訓練神經網絡,希望能夠輸出類似的字體。顯然,這些神經網絡不可能懂得這些字的語義、更無法體會其中的情感。幾年前,一位MIT的教授來UCLA講座,顯示了兩組文字(不是中文),一組是人寫的,一組是人工智能模型合成的,大家很難猜出來哪一組是合成的,這樣就通過了所謂的「圖靈測試」。我坐在聽眾席上,一眼就猜出來了。他問我怎麼猜出來的。我猜的辦法是,自己想象着握筆寫字的過程,人是用一隻手握一支筆按照一定順序寫,這裡面就有次序和停頓。當然,寫書法還得停下來蘸墨水。而計算機生成的時候是噴墨,更具體一點說,是最底層產生式神經元的感受域的向量的線性疊加,完全不受這個動作、墨水的限制。這兩者在圖像上雖然只有極其細微的差別,但是在整體的感知 + 認知表達上卻相去甚遠。
用我自己的模型語言來說,你看到的是一幅圖像(這是信號)I,你首先得到的是這個字的一個感知的解譯圖(parse graph),記作, 並由此重構、想象出寫字的人的動作和心情,得到一個認知的解譯圖
越是懂書法的人,能夠體會到的認知的部分就越多,甚至可以重構蘇軾當時捏筆行文的姿態,去體會他當時的心境,進入到與古人對話的狀態。這些書法(感知)之外的東西(認知),要靠人去想象(俗話稱作「腦補」),這也正是它所蘊含的價值。越是有經驗的書法家,腦補的就會越多。我把這些人運用經驗、主觀想象的部分稱作智能的「暗物質」(Dark Matter of AI)。
不光是書法,人看到椅子會想象自己坐上去是否舒服,看到杯子,會想象手怎麼去把杯子拿起來,這些都屬於認知解譯圖的部分。
除了書法、人工智能作詩、編曲、作畫,都存在類似的問題。如果一個智能體沒有主觀的價值函數、沒有主觀的情感、不能想象人的行為動作,它就只能停留在淺顯的圖像層面 I,這些神經網絡模型甚至到不了感知表面(),更不可能達到與人形成深層次共鳴的認知層面()。
回到蘇軾和他的《赤壁賦》。和大多數人一樣,我第一次讀到《念奴嬌·赤壁懷古》,是在高中的語文課本里。當時對這首詞的理解,僅僅停留在讀詞的內容和豪放派的文風。老師說,蘇軾應該知道赤壁之戰並不是發生在黃州,現在這裡直接就叫「東坡赤壁」了。見圖右上角的確有一個赤色的岩面,後來長江改道,不從這裡經過,變成了一個湖汊子。
本文作者2020年9月回國後,再訪松風閣
我的家鄉在湖北鄂州,三國時期孫權在此建都,稱作武昌(用意是因武而昌,是武昌魚的原產地),與黃州隔江相望。地處長江中下游,江面開闊,水流平緩。完全沒有詩詞中描繪的:
「 亂石穿空,驚濤拍岸,捲起千堆雪 」
這樣的氣勢恢弘的大場面。後來有很多書畫大家根據蘇軾的文章來作畫,產生了一些氣勢磅礴的赤壁場景,其實都是不符合地理情況的想象。
當地唯一的山是鄂州的西山(樊山),上圖的左下角照片是我站在山頂的亭子上拍攝的, 背後的江面和整個黃州十分平坦。西山上有一個很有名的亭子「松風閣」(上圖的右下角),因宋代著名書法家黃庭堅的《松風閣詩帖》而聞名。1102年,黃庭堅在此過夜,聽松濤懷念亦師亦友的蘇軾,當時蘇軾已經過世。
蘇東坡兩次夜遊赤壁,寫成《前赤壁賦》和《後赤壁賦》,就被供奉在赤壁公園的二賦堂,正面是《前赤壁賦》,背面寫着《後赤壁賦》。雖然說《念奴嬌·赤壁懷古》很容易理解,但是《赤壁賦》對於年輕人來說是很難讀懂的,缺乏人生閱歷,就無法體會蘇軾的心境。這一點就像前面提到的對於《寒食帖》書法的欣賞,需要根據自己的經歷來腦補這其中的
總體來說,《赤壁賦》給年輕的我留下了兩個思考的問題:
(1)作為一個文人,蘇軾為什麼在此時此地多次念念不忘曹操、周瑜?
(2)怎麼有人能夠憑藉幾百個字,就能流芳千古,達到不朽?
相比之下,我們現在寫的論文,往往3年之後就沒人再讀了,更有甚者,就算是網絡上轟動一時的熱搜,一周、一月之後,就再無人問津,更何況是千年之後呢。這太神奇了。
前文提到我小時候對於人生黑洞的恐懼,《赤壁賦》算是給我指了一條出路,看到了人生價值的一線希望。大概這就是人文之鄉風對青年學子的影響了吧。
作者於1986年8月,接到中國科技大學的錄取通知後,赴合肥之前游黃州赤壁時照的老照片,背後是蘇東坡像。

重讀哲學赤壁賦:清風明月

等我過了而立之年,讀完博士,2002年當上了終身教授,重讀《赤壁賦》,開始領悟到兩首《赤壁賦》所描繪的清風明月意境之妙。
「壬戌之秋,七月既望,蘇子與客泛舟游於赤壁之下。清風徐來,水波不興。舉酒屬客,誦明月之詩,歌窈窕之章。少焉,月出於東山之上,徘徊於鬥牛之間。白露橫江,水光接天。」
——《前赤壁賦》 1082年農曆7月16
「攜酒與魚,復游於赤壁之下。江流有聲,斷岸千尺;山高月小,水落石出。予乃攝衣而上,履巉岩,披蒙茸,踞虎豹,登虬龍,攀棲鶻之危巢,俯馮夷之幽宮。劃然長嘯,草木震動,山鳴谷應,風起水涌。」
——《後赤壁賦》 1082年農曆10月15
蘇子夜遊赤壁圖,畫作出自吉林藝術學院 溫國良教授
蘇軾的行為,就算放在今天,也已經是離經叛道了。他已經44歲了,挑的日子是農曆七月十六,滿月之時,半夜抱着酒罈子和魚,泛舟長江之上,在江中心燒烤,又是吹簫、朗誦詩歌,又是登岸、攀爬岩石,而後長嘯之聲劃破長江之上寂靜的夜空,最後還在江中睡到天亮。
近年來回老家的時候,我也幾次想去體驗一下,駕一葉扁舟夜遊長江,可惜周圍無人附和,大家都勸阻。在中國,要行離經叛道之事特別困難。
我上大學的時候,去合肥的交通十分不便,坐大輪、順江而下,到安慶上岸轉長途汽車,或者到蕪湖轉火車。大輪在長江上緩緩而行,要走一個晚上。我站在甲板上,皓月當空,看兩岸山巒起伏,思考自己迷茫的人生道路,輪船的汽笛聲劃破夜空,更是讓人萬分惆悵。完全沒有蘇軾那種瀟灑的、詩情畫意的場面,更沒有他那種橫槊賦詩的豪邁氣概。
3.1 做學問的本質 —— 登無人之境、享清風明月
蘇軾從朝廷大臣、文壇名士變成一介民夫,放浪山水,「漁樵於江渚之上,侶魚蝦而友麋鹿」,突破傳統文人的思想和行為的束縛,進入一個嶄新的思想自由的空間,從而開創出被後世士大夫階層所推崇的「清風明月」的境界,達到了他自己和中國文學創作的頂峰,成為永恆。中國近代文學家林紓(1852-1924)評論《赤壁賦》:「奇妙無以復加,易時不能再作」。
我對蘇軾的清風明月意境,有兩重理解:
(1)做科研的本質是在夜深人靜之時,探索前沿,登無人之境。
用數學語言來講,科學研究本質上就是找到新的空間(Space),這裡有它獨特的元素、結構、測度距離和美學,這個空間可以是一個抽象的數學空間,也可以是一個圖像空間,幾何形狀的空間,或者感知、認知的空間。科學研究的目標就是探索與領略這種空間的結構、奧妙,把它描繪出來。我的導師之前研究代數幾何,是一位菲爾茲獎獲得者,他介紹自己數學研究的經歷:「就像找到一扇門,打開以後,進入一個花園,然後把這個花園的結構理清楚,展示給世人」。
蘇軾是歷史上第一個描繪這個赤壁場景(清風、明月、江流、斷岸、吹簫、吟詩…)的文人,如果還有後人效仿,就沒有新意了。
(2)科研人員能獲得的往往只是享受清風明月的過程與經歷。
蘇軾在《前赤壁賦》的最後一段交代:他在江面上想明白了一件事,人一輩子到底能得到什麼呢?
「惟江上之清風,與山間之明月,耳得之而為聲,目遇之而成色,取之無禁,用之不竭,是造物者之無盡藏也,而吾與子之所共適。」
雖然說,現在不少科研人員可以拿到技術發明專利、開公司掙錢,但對於探索基礎和前沿的科學家,他們更多的是享受這個「清風明月」的經歷和過程。話說回來,人們掙了錢,然後花錢旅遊、坐過山車、看電影、去山上滑雪,其實買的也只不過是一種經歷。科研人員如果經歷了清風明月這個過程,那本身就是享受了,不是嗎?更何況這是「取之無禁,用之不竭」的自然饋贈。
我以前常常在實驗室待到很晚,然後開車回家。在空曠的高速路上,頭頂着一輪皓月,打開音樂,一路狂奔,特別是調通了代碼、想通難題之後,心情舒暢,特別享受。下面我再舉一個例子,解釋一下科研的享受在於過程與經歷,而不是結果。
我以前跟我的學生分享過讀海明威《老人與海》的感悟。這篇小說很樸實,人們把它當作一個寓言故事,不同背景的人,會讀出不同的感悟。主角是一個貧窮的、生活在古巴的老人(這裡我們把他寓意為一個缺乏經費的科研人員),靠一艘小船在大海打魚為生(科研探索)。一次偶然的機會,他釣上了一條巨大的魚,被魚拖到了深海(無人之境),經過日夜的搏鬥(加班加點的科技攻關),終於制服了大魚(巨大的科研發現)。但是,他的船太小了(平台、隊伍、資源都有限),裝不下這條大魚,只能把魚放在水中拖(文章沒有發表,或者是只能發表在小眾的期刊上)。結果,魚的血腥引來了一群鯊魚(商業開發、大資本),沿途把魚肉吃了個乾淨。精疲力竭的老人終於到達岸邊,把一個巨大的骨架拖上海灘。天亮了,岸邊路過的人們,看到這個骨架,議論紛紛。
這個老人雖然沒有吃到魚,但他獲得了這次打大魚的經歷。探索科學前沿的科學家大抵如此。現代社會能夠為有創新成就的科學家提供越來越好的生活環境,而作為有理想、有情懷的科學家,活得好不是主要目標,應該升華到活明白,追求做出偉大的貢獻。
我在2017年曾經寫過《學術人生:文章千古事,得失寸心知》一文,當時在這篇文章中我通過「愛因斯坦評論做科研的三種動機」以及「科學研究的三個時期與戰略定力」兩小節,講述了做科研的本質與定位問題,進一步闡述了「清風明月」是一種高級的審美與價值選擇。這裡就不重複了。
現實世界中,真正醉心於「清風明月」的科學家非常少,至於是否獲獎、是否有很高的引用並不重要,著書立說、成就經典才是對這些學者的褒獎。唯有如此,才能夠沉潛於學術研究、深耕於各自領域,化幽壑之潛蛟,待大浪淘盡,已斬波千里。

再讀哲學赤壁賦:「心」與「理」的平衡
過了不惑之年,再讀《赤壁賦》,就能夠體會到蘇軾在長江之上的哲學思考了。
第一節開篇提到過,個體的行為同時受到天理與心欲的驅動,這兩者的不一致是導致人們內心痛苦的根源。當人的社會角色或者社會勢態發生轉變的時候,心欲與天理需要達成一個新的平衡,不是每個人都能適應這個轉變、達成這個平衡。《赤壁賦》反映了蘇軾在變局之中,心態調整之時的內心活動。他糾結於兩大問題:

入世和出世的平衡:當年蘇軾已經44歲了,人生下半場是積極奮進(好像又沒有了平台和機會)?還是隨遇而安,繼續發明各種東坡美食?

有限與無窮的問題:人生終極價值如何結算、定論?這是所謂的中年危機,每個想活明白的人到了中年都要面對的問題。

下面,我對這兩個問題做一個解讀。

4.1 人生的有限與無窮
蘇軾在《赤壁賦》中,對有限與無窮的思考貫穿始終。
「寄蜉蝣於天地,渺滄海之一粟」
是詩人感嘆個體的渺小。
「哀吾生之須臾,羨長江之無窮」
是詩人感嘆個體生命的有限,羨慕自然之永恆。
從博弈論的角度來講,針對有限輪次的博弈,與無窮次博弈,博弈的策略是完全不同的。如果我們認識到人生的短暫與渺小,是不是就該及時行樂,那麼奮鬥的意義何在?所以,他想到了曹操當年:
「方其破荊州,下江陵,順流而東也,舳艫千里,旌旗蔽空,釃酒臨江,橫槊賦詩,固一世之雄也,而今安在哉?」
又想到了《念奴嬌 赤壁懷古》中的周瑜:
「 雄姿英發,羽扇綸巾,談笑間,檣櫓灰飛煙滅。」
人生的有限與無窮是一個困惑人類的根本問題。
在西方文明的源頭,以蘇格拉底、柏拉圖、亞里士多德為代表的古希臘哲學家,主要聚焦在知識的表達與邏輯的推理,這在後來發展成為數理邏輯、形式語言,構成了人工智能的前30年的主要理論框架。但是,這一套知識體系到了雅典後期,就讓位於基督教的宗教故事了,因為宗教對這個困擾人類的問題給出了一個解答。新約中記載,耶穌門徒St. Paul到訪雅典,與希臘的哲學家展開辯論,最後宗教獲勝 (獲得大眾的追隨)。基督教的上帝和天堂的信仰,對於困擾人類的終極問題至少是給出了一個答案。
新約Clement福音中明確提出:「human philosophies can reach partial truths, but these philosophies must be assisted by faith。」他們意識到,人類哲學(特別是講求實證的科學)永遠只能是觸達部分的真理,剩下的部分要由信仰來協助回答。他們認為這種信仰就是一種道德的純潔化(moral purification)。
在東方思想中,我們不相信鬼神,也不相信什麼來世今生。有人會問,佛教不是也有六道輪迴的思想嗎?據我的一位熟悉佛學的博士生告訴我,其實這是世俗社會對佛經的一個長期的誤解。佛學中的「三世今生」, 「六道輪迴」 本來都是代表人的思想狀態、心理狀態的變化、跳轉,通過比喻的方式來講解這些狀態。結果世俗的人就把比喻當成真的了。比如,六道中:

「餓鬼」是指人處於物慾貪婪的心態中;

「阿修羅」是指人處於自大自負的狀態中、用今天的話來講,個人膨脹的心態;

「畜生」是指人處於非理性的、衝動的狀態;

「地獄」是指人處在痛苦、無法解脫的狀態,等等。

佛學修行認識到,人處於不同的心態下,決策函數與價值函數有所不同。
絕大部分中國人沒有生死輪迴、上帝天堂等宗教信仰,尤其在儒學思想自漢代確立了主導地位後,功名利祿成為了社會精英的主要追求目標。前面提到過,孔子反對討論那些想不明白的時空與起源問題,提倡「聖人存而不論」。儒學在後世的發展中,也並沒有對生死和無窮進行解釋,而是強調當世的社會秩序與個體行為規則。
從現代科學的角度解釋,生命體的無窮可以體現在幾個方面:

生物信息:個體基因在人群中的流傳。

物理信息:人的活動在物理世界留下、除了地球上的痕跡,還有圖像通過光發送到宇宙中,若干光年之外的星系也許能在若干年後看到。

智能信息:思想、行為、價值取向等等,比如,《赤壁賦》在人世間的傳播。未來,隨着人工智能的進步,可能複製一個虛擬的個體,從而實現人的永生,當然,虛擬個體是有了,如果後世無人訪問,那還是沒有作用和意義。

這三者之中,達到無窮最靠譜的辦法應該還是第三種:智能信息的無窮傳播,以及對人類整體價值的提升。
接下來,我們就來到了本文的核心部分,由下面的4.2節 和 4.3節闡述「心欲」與「天理」的平衡,其中4.2節從哲學的角度介紹這個概念,4.3節從人工智能模型的角度給予進一步的闡述。

4.2 出世與入世:「心欲」與「天理」的平衡

出世入世之說源自佛學,不同佛學派別有不同的解讀,本文採用世俗的說法。入世指積極的人生態度:主觀上願意維持更多的社會關係,承擔更多的責任、力求有所作為。出世指消極的態度:迴避某些社會關係與責任,掙脫群體與社會規範的約束,過清靜悠閒的日子。歷史上一個有名的例子是東晉時期的陶淵明(365-427)。
那麼到底是要出世還是入世呢?儒家提倡所謂的「窮則獨善其身,達則兼濟天下。」《赤壁賦》反映了蘇軾在人生變局中,對於「入世」的無奈,和對於「出世」的不甘。他和陶淵明的價值取向是非常不同的,蘇對陶有很高的評價,但他畢竟沒有把黃州東坡當作桃花源。陶淵明更多是關注自己個體生命的體驗,在官僚體制中受挫之會,心灰意冷,開啟自得其樂的田園生活。蘇軾雖然蒙冤入獄,被貶到一個羞辱他智商與才華的位置上,但他沒有怨天尤人,也沒有消極避世。《赤壁賦》對於人生意義的思考比《歸去來兮辭》要積極、深遠,這也許是為什麼蘇軾受到後世更多的敬仰。
前面提到過,個體的行為同時受到天理與心欲的驅動,心態的調整本質上就是 「心」的欲望與「理」的約束之間的平衡。這是東西方哲學討論的深刻問題,也是通用人工智能需要解決的重要問題。
下面介紹一下這個哲學討論的主要概念。
4.2.1 鵝湖之會 – 理學與心學的第一次交鋒
在《赤壁賦》著成93年後,南宋1175年,在江西省一個叫做鵝湖的小鎮, 記載了中國思想史上一次重要的辯論。史稱「鵝湖之會」,由理學代表朱熹和心學代表陸九淵圍繞「理」與「心」的關係展開了一場辯論。
鵝湖之會 1175年(網絡圖片)
首先要說一點,在10年前,作為一個理工科的科研人員,我對所謂什麼理學、心學是不以為然的,看不懂,感覺莫名其妙。但是,自從開始考慮通用人工智能的大一統之後,我才意識到這是多麼核心的問題。
我認為「鵝湖之會」才是中國歷史上真正的「華山論劍」。順便提一句,金庸小說《射鵰英雄傳》的故事背景是南宋,經武俠迷考證,金庸小說的第一次華山論劍發生在1199年,也就是同一個時間點。
儒家思想從一開始就制定了「三綱、五常、八端」等基本的社會倫理規範與禮儀制度,以及「格物、致知、誠意、正心、修身、齊家、治國、平天下」的人生入世的路線圖。到了南宋時期,由於外來的佛學有更宏觀、完整的理論體系,唐代的禪宗六祖慧能又把佛學與中國社會實踐相結合,廣泛傳播。傳統的儒學已經勢微了,儒學家從程穎、程頤開始了革新運動,希望重振儒學,這而後分出兩派:理學與心學。
缺乏這些哲學概念的支撐,特別是完全沒有現代數學的工具,蘇軾在1082年很難想明白入世出世的根本問題。
4.2.2 理學的「格物致知」:從數據到模型
理學的代表人物朱熹(1130-1200)主張「理」是自然萬物和人類社會的根本法則、根本規律,世間萬物包括人在內都需要按照天理來約束自身的行為。我們後世講的自然科學,如物理、生理; 社會科學,如倫理ethics和社會規範(social norm),都應該屬於朱熹所講的天理的一部分。
那怎麼認識天理呢?朱熹開出的處方是儒家的方法論 --「格物致知」。仔細觀察事物,相當於數據收集,然後提煉出知識,也就是今天的數理模型。格物致知本質是就是從數據到模型的知識發現過程,就是今天人工智能所講的:Knowledge Discovery:From Data to Model。
可是,怎麼實現這個目標呢?朱熹當年不可能提出統計模型、機器學習的算法,所以,他的學生相當困惑,包括之後明代的王陽明(1472-1529)也抱怨,他沒法通過格物,比如肉眼觀察竹子的生長,而得到竹子的理(模型)。但要據此否定格物致知的思想,是完全沒有道理的。朱熹只不過是遠遠超前於他的時代了。
下面我來舉一個格物致知的獨特例子,非常有歷史意義,也說明中國800多年前的哲學思想與現代人工智能是直接關聯的。
有一次,一名學生問朱熹到底什麼是「理」,朱熹被逼到牆角了,指着談話的桌面說,你看樹的紋就有理,這就是所謂的紋理(英文texture)。當年看到這段對話,我不禁拍案叫絕 --因為這是計算機視覺乃至現代機器學習的一個根源、發端的問題。
我來解釋一下這句話的意思,比如楊樹的每一塊木板花紋都不一樣,但是我們都知道這是楊樹(下圖左);同樣,柳樹的木板,每一塊不同,但是,我們一看就知道屬於柳樹(下圖右)。
我們今天鋪地板的大理石,每一個方塊都不同,但我們看起來是同一類。
那麼,到底是什麼「理」(模型)來判斷兩塊「紋」屬於同一類?
數學上講,楊、柳、大理石,這樣的概念C分別就對應於一個圖像 I 的集合,是一個等價類:
我們可以認為,人腦必定是從圖像中提取了某些特徵與統計量, 離散化之後,表達成為一個高維的向量。同一個等價類的圖像擁有一個共同的向量數值
朱熹在1160年左右被問到而回答不清的問題,800年後,到1960年被貝爾實驗室的一位著名的心理物理學家Julesz重新提出。後來我把這個叫做 Juelsz 之問(Jules question):
「是什麼圖像特徵與統計量,使得人眼認為兩幅圖像的花紋看起來是一樣的?」
這個問題把視覺問題轉化成為一個數學問題,Julesz開啟了一系列的心理物理學的實驗, 這些實驗為計算機視覺的創始者David Marr(馬爾)在1970年代末開啟視覺計算理論提供了重要依據。1980年代末,以數理邏輯為基礎的人工智能走到了道路的盡頭,人工智能進入所謂的寒冬期。而這個時候,計算機視覺等學科得以發展,統計建模的理論悄然開始了。而紋理texture的模型確實是統計建模理論里最早被攻克的問題。
由於紋理是所有物體都有的表觀特徵,80-90年代計算機視覺的很多學者都研究過這個問題。到了1995-2000年,這個問題被我和合作者用一系列文章較為完整地回答了,這也是我在哈佛大學博士論文的一部分。
上面的大理石圖像,其實是1996年我博士論文的一個實驗結果,左邊是觀察到的一幅大理石紋理圖片,右邊是計算機根據統計模型用馬爾可夫鏈蒙特卡洛(Markov Chain Monte Carlo)隨機遊走法從等價類中採樣生成的結果。如果人眼看出來是一樣的,就驗證了我們找到了這類紋理最大的共同特徵和統計量。下面這張圖是更多的結果:左邊是觀察的水波圖像,由此建立一個模型(紋理),由模型自動採樣生成中間和右邊的兩幅圖像作為驗證。
這個模型的取得綜合了神經科學、心理學、統計物理學的很多知識,我這裡不宜展開說了。紋理最後就表達成為這麼一個概率模型——這就是朱熹當年所需要的「紋理」 !
這個模型裡面,F 代表了一個神經元,F*I 是神經元從圖像提取的特徵。在這個表觀模型之上,我們可以進一步建立各種高階的組成式(compositional)模型,來表達物體的構成、生活場景的布局、人的行為和社會活動的規範。這都是現代計算機視覺、認知科學研究的範疇。
儒家所提出的人的基本倫理、社會規範(Social Norm),都可以總結成為概率模型。如果我們把人看作社會大系統中的一個個體,其運動和行為就要符合這些模型(天理),如此一來,儒家的「八端」:「孝、悌、忠、信、禮、義、廉、恥」 對人的行為的規範和約束作用,便與物理學的各種相互作用與力是類似的,最後,都可以表達成為一個綜合的勢能函數 U,對應於上面紋理模型數學公式的指數項,我將在下文介紹這個勢能函數 U。
儒家思想認為,如果所有自然世界和人類社會都按照天理,即勢能函數U來運行,那麼社會就和諧平穩了,世界就太平了。孔子的理想就是要建立規範,恢復周朝的社會安定局面。
那麼,有沒有「搗亂」的因素呢?有!那就是人心。朱熹認為,社會之所以「不治」,就是因為人不合理的欲望太強,導致禮崩樂壞、物慾橫流。他進一步提出要「存天理、滅人慾」。這就把理與心對立起來看待了。
4.2.3 心學:心即是理、內聖外王
與「天理」對應的是「心欲」,這是人的各種物質和精神層面的訴求,包括第一節講的七層需求:生理、安全、愛與認同、尊嚴與名聲、好奇與理解、審美、實現自我潛能與價值。代表了人類對美好生活的嚮往與追求,是個體主觀能動性,也是社會發展的驅動力。我們可以認為,這是人類在進化的過程中受到環境、生物屬性、激素等共同的影響進化出來的價值體系總和,我把它們記作一個 V系統。與之相對應的是理學的各種勢能函數的總和,稱作U系統(包含了客觀物理定律和社會規範)。
陸九淵認為朱熹的「格物致知」道路,導致了外在的客觀規律與社會規範 U系統 對主觀個體內心追求 V系統的壓制。他提出了「自吾心達宇宙」的外化道路,將「心」作為個體與所處世界、社會關係的出發點。提出了與朱熹理學不同的修行路徑:首先要啟發內心,從初心出發,再做到知行合一,強調「自作主宰」,個體按照內心的規則行事。後來,陸九淵進一步主張「心即理,心外無物」。這是一個受到批判的唯心主義說法。我們不一定要主張「唯心」,但要明白「心」的確是智能的主體。我從研究人工智能的角度解讀,「心即是理」這個論斷的意思應該是:
從系統(價值體系)完全可以推導出U系統(社會規範)。
這是一個十分深刻的認識,也是當前人工智能發展的一個哲學轉折點。智能體(包括人、人工智能等)都不能被物化成為一個物理系統的元素,而應該由主觀的價值體系來主導,而社會規範是第二性的、處於從屬的地位。
到了明代,王陽明繼續發展了「心學」的理論體系。王陽明曾困頓於龍場,身處艱困的環境使他深刻反思,並設問聖人處此境況將何以自處?也就是在理的規範還沒有涉及到的新的情況下(novel situations)該怎麼辦?內心日夜反省,某半夜,王陽明忽然有所頓悟:「始知聖人之道,吾性自足,向之求理於事物之外者,誤也!」 王陽明自此領悟到「心」才是感應萬事萬物的根本,由此提出心即理的命題,這也解決了此前他對朱熹格物致知說的疑惑,史稱「龍場悟道」。藉由陽明心學以及其他貢獻,後來,王陽明實現了 「立德、立功、立言」 三不朽,成為了儒家所言的「聖人」、「內聖外王」的典範。
其實這個思想,早在禪宗六祖慧能(638-713)的《壇經》中已經有所暗示了。《壇經》的核心思想是十六個字:
「 菩提自性,本自清淨,但用此心,直了成佛 。」
這裡說的「自性」與「心」 範圍更廣,它包含了前面的價值體現V系統之外,還指人的認知思維的架構與機制(見本文 4.3.4 節中智能體的認知架構圖)。
佛是指覺悟的人(泛指「有情眾生」,應該也包括覺悟了的人工智能系統),通過參悟內心,可以了悟社會倫理。
慧能對於心在日常生活中的感知、認知、推理的重要的、主導作用,就體現在他出場的一句可堪驚世駭俗的言論:
「 不是風動,也不是幡動,仁者心動。」
智能體首先要「心動」,才能看到「幡動」,心是主體。我們每天走在大街上,對絕大多數的人、車、物體的行為都視而不見。我們看到的只是與我們當前任務(開車、走路、找某個地點)相關聯的那些部分。當然,一切任務又是被心所驅動的,是為了實現價值體系在某些維度的增值。
4.2.4 心與理的關係:對立統一
不難看出,「程朱理學」和「陸王心學」存在着對立之處,比如「程朱理學」提倡理或天理是自然萬物和人類社會的根本法則,物、人各自之理都源於天理;而「陸王心學」則提倡「心即是理,心無外物,心本身包含着理,倫理根植於心中」。「理學」認為要「存天理,滅人慾」,而「陸王心學」則提倡「人性本善,應該發明本心」。「程朱理學」以格物致知為方法論,知先行後,「陸王心學」則講究從心出發,致良知(V系統),做到知行合一。
我把這兩者的路徑畫中在上圖中,分別用紅色和藍色的箭頭代表其演進的方向。「理學」是從由外(數據)而內(模型)的歸納法,鵝湖之會時,朱熹主張先博覽而後歸之於約,認為陸九淵的教法太簡易;「心學」則更遵從內心,是由內(價值)而外的演繹法,陸九淵主張先發明人的本心而後使之博覽,認為朱熹的教法過於支離。
這兩者必須相互作用,最後達成動態的平衡,而牽引這個動態平衡不斷移動的, 是V系統。總之,「理」和「心」在本質上應該是對立統一的,「心」應是主體 。
注意:與物理學研究的純客觀模型不同的是,人工智能的模型(理)從一開始就與「心」密不可分。比如在 Julesz 之問中(見本文第4.2.3節),兩個紋理是否屬於一類,其判斷的標準是人眼,這就是主觀的(受到任務和價值主導),而非純客觀的 !
西方哲學同樣探討「心」與「理」的對立統一性。18世紀,德國古典哲學創始人康德(1724-1804)在《實踐理性批判》一書中提出,一個有理性者的道德行為必須是自律的而不是他律的。所謂實踐理性,指的是主觀意志居首要地位,理性居從屬地位,離開意志,理性不能存在。
「心」與「理」的思考伴隨了康德的一生,他的墓志銘中寫道:
「有兩種東西,我對它們的思考越是深沉和持久,它們在我心靈中喚起的驚奇和敬畏就會越來越歷久彌新,一個是我們頭頂的星空,另一個就是我們心中的道德法則。」
「the starry skies above me and the moral law inside me.」
到了康德時期,牛頓(1643-1727)已經用力學定律和萬有引力理論把天上和地下物體的運動都統一了 (也就是勢能函數的U系統)。這對於宗教信仰是一個巨大衝擊,也給康德造成了以上的困惑。在我看來,「頭上的星空」代表了按照「天理」來運行的客觀世界(U系統),「心中的道德」代表了的人的價值體系(V系統)。
由此看來,東西方哲學關於「心」和「理」的見解、思考、困惑,在本質上應該是相通的。最重要的是認識到兩者之間的對立統一,達成平衡。這個平衡就是孔子所描繪的「從心所欲而不逾矩」,也是蘇軾在赤壁賦中思考而不得的平衡!
那麼,這個平衡是什麼?該如何到達這個平衡呢?

4.3 從人工智能的角度解讀「心」與「理」的平衡

作為一名長期從事人工智能領域的研究者,近年來,我愈發認識到人工智能的研究與人文社科哲學密不可分。從哲學層面看,我認為人工智能的發展大致可以分成三個時期。

人工智能的第一時期,1960-1990年,邏輯的表達與推理是主要的理論框架,這得益於西方哲學的源頭——古希臘文明,以蘇格拉底、柏拉圖、亞里士多德為代表的辯論與邏輯,後來發展成為嚴密的命題邏輯、謂詞邏輯,事件邏輯等。

人工智能的第二時期,1990-2020年(及今後若干年),概率建模與隨機計算占據了主導地位,這對應於儒學的格物致知,從數據到模型,前面已經談到了。

人工智能的第三時期,也就是未來,需要從理學過渡到心學,由心驅動,實現理與心的動態平衡。讓我欣慰的是,東方哲學與智慧,能為人工智能後半場的發展提供哲學層面的指導。

需要明確的是,未來人工智能的發展與人文社科哲學的研究是互通的。無論是以程朱理學、陸王心學為代表的東方哲學,還是以康德為代表的西方哲學,均試圖探求天理和人慾的平衡問題,這個問題也是人工智能要追求的境界。
4.3.1 U系統——外在的社會規範
在我們生活的社會系統裡面,假設每個人的狀態都可以用向量來表達。那麼,社會總體(N個人)狀態則是一個由眾多個體狀態組成的高維向量,即。其中表示我(當事人)的狀態,則表示除去我之外其他人的狀態。在社會中,我們會跟許多人產生社會關係,比如父母、子女、配偶、同事、鄰居等,這些個體用表示。
馬克思說「在其現實性上,人的本質是一切社會關係的總和」。這是一個非常透徹的論斷。就個體而言,每一對關係都可以由一個勢能函數表示,代表了某種社會規範,如配偶、君臣、師生等。每個U都可以看作是一個「彈簧」, 代表一種約束與相互作用。某個維度上「彈簧」的作用,是在該維度上保持一種動態的平衡:如果二者距離過小,會導致推力(合力)凸顯;如果距離過大,會導致拉力(合力)凸顯。這裡我們只說二元關係,多元和高階的關係也可以有函數表達。
既然之間存在約束,那麼在這個維度上「我」跟「他」發生了作用關係,相當於他對「我」施加了一個力,力可以通過對這個勢能函數求導計算得出,即
因為人是社會動物,個體在社會中會接受來自各個方向的力。在社會空間中,其他的人要麼是拉着「我」,對我產生促進、激發、鼓勵的作用;要麼是推着「我」在走,對我產生抑制、壓制、障礙的作用。就個體而言,這兩種力的作用方向、大小各不相同,這二者的關係在數學上表現為合力,而個體的行為和選擇正是受到合力的影響。
一個人在整個社會空間中受到的各個方向的合力 F,可以表達為下式。
其中是一個狀態向量,代表一個時空因果的解譯圖,可以有複雜的高階相互作用,彈簧只是簡化的二元關係, 是個體(我)的社會關係的集合。
U系統表達的是社會規範(社會要求你怎麼做)、社會秩序(社會層級結構是什麼)、社會期待(社會關係對你行為的期待)。該系統是在長期的社會實踐、規則演化、多次博弈等過程中所最終形成的一種穩定的社會規制性力量。人只要在社會之中,就會受到各種社會規範、社會秩序、社會期待即U系統的約束。
中國儒家思想對U系統定義的非常清楚,其主體思想是教導個體在社會中如何生存。所謂「君君臣臣,父父子子」就是一種經典的U系統表述,刻畫了君臣(事業)、父子(家庭)兩種核心社會關係。君臣之間是一種非對稱的關係,也就是:
在現代社會的職業場域,君臣關係也可以延伸成領導-被領導關係。在家庭場域,父與子也是一種規範性力量。除了職場、家庭,還存在親戚、朋友、老鄉等其他社會關係。他們對個體也存在規範、制約性作用。因此,人的負擔就非常重,通俗地理解為「活得很累」。所謂活得很累,就是你身邊有很多個社會關係、很多個彈簧拉着「你」,或者說,你需要考慮多種社會關係。
可見,社會關係具有規範、制約、引導個體行為的作用。一個人的社會關係越多、關係的作用範圍越大,則關係在社會中的地位與影響越「重要」。但與此同時,人能夠滿足別人的需求越多,能夠幫助別人的越多,也就越有成就感,也就是所謂積極地「入世」。儒家的「入世」思想認為,人要接受社會規範來指導自己的行為,比如三綱五常。當絕大多數人都遵從這樣的規範,社會總體的運轉就是和諧的,整個社會與國家就會呈現出一種秩序與穩態。當然,總是有很多人不甘心這個穩態。
與儒家不同,佛學提供了另外一種個體在社會生存的基本解決方案。
首先,在佛學裡面,社會關係被統稱為「緣分」。這個「緣分」不是永恆的,而是只在一個很短的時空內存在,佛教把這個現象稱作為「空」。佛學有一個很強大的口號,叫做:
「緣起性空」
我的解讀是:概念起源於「緣」,當木匠把四條腿和一個面板釘在一起,就產生了一個「桌子」。當有人把腿打碎了、拆開了,「桌子」也就不存在了。所以,桌子本性是空的。物理關係如此,社會關係也如此。這裡我就不展開說了。
「出世」就是斬斷某些「緣分」,使人不再受這些世俗關係的影響,如「塵緣已了」、「斬斷塵緣」等說法。當一個人出家,就宣告了他與之前的很多社會關係斷絕了。佛教為其重新定義了社會觀、世界觀,即重新定義了一種U系統。例如,他自己會有一個新的名字(佛家法號),他稱呼所有人都是「施主」,連他的父母、妻子、兄弟、親戚、朋友也都不例外。
世俗的社會關係被主動斬斷後,相互之間的作用力自然也就消失了,各個維度上各種彈簧的社會作用力均會處於失效狀態。出家的個體,減少社會關係約束,於是就進入了一種「出世」的狀態。因為斷了塵世關係、不再受各種「力」的紛繁擾亂,個體就獲得了極大的解放,心靈也不會覺得那麼累了。
4.3.2 V系統——內在的價值體系
U系統是外在世界、社會場域的作用力、規範力、制約力,是個體之外的一種系統空間。我們內部還存在一個V系統,在這個V系統空間中,每個人都有着主觀能動性,受各種生理欲望、內心信仰等力量的驅動。人在進化的過程中受到環境、生物屬性、激素等共同的影響進化出了價值體系。
人類在很多維度上都存在一個主觀價值函數,V系統是定義在很多個子空間與維度上的價值函數的集合。
價值函數的三個尺度,與內驅力 F (梯度上升的方向)
總的來說,人類具有三個尺度的價值函數:
(1)生物進化的尺度:跨越數十萬到億年。這個尺度的價值函數往往是由基因突變帶來的進化導致的,不受當下人類的控制和左右,除非基因編輯技術的發展能夠精準到改變我們的價值函數!
(2)文化和宗教尺度:幾百年到千年左右。不同國家、不同時期會有不同的社會價值取向,其盛行的文化和宗教也往往不一樣。於文化而言,比如中國好幾個朝代都信奉「萬般皆下品,唯有讀書高」,那社會民眾都會以考取功名走上仕途為榮。對宗教而言更不必多說,不同的宗教對人的價值函數要求大為不同,甚至很多都是互斥的。這就是所謂文明的衝突,首先是價值體系的衝突。
(3)個體價值尺度:百年左右。個體有差異,具體定義到日常行為上的價值函數,比如對顏色、味道的偏好。具體這個V的函數還包含了個體的感知、認知的能力。比如,短視的人與目光遠大的人,V系統就有區別。
根據英國哲學家、經濟學家邊沁提出的「效益原則」,人的每個行為都是希望在不同的空間或維度上實現價值函數V的最大化。無論是最大化個人的價值函數,還是最大化全人類的福祉,效益最大化都是我們內心的驅動力。這個主觀的內心驅動力,就是對價值函數求導,梯度上升,數學表達公式為:
其中,「z」表示流態,代表人處在不同空間的行為函數。通俗來說,「人往高處走、水往低處流」,說的就分別是對 V 和 U 兩個系統的求導結果。
4.3.3 U、V系統的平衡統一
那麼,在U和V兩個系統下,人能否達到平衡統一?答案是肯定的,無論是佛家消極避世的UV平衡(出世),還是儒家積極進取的UV平衡(入世),人總是要維持一個自洽狀態,否則個體就會處於失衡、糾結的內心狀態,亦會表現出錯亂、紊亂的行為模式。
我們可以用下面的數學公式來表達UV平衡:一邊是在U系統中受到的各種社會關係的合力,另一邊是對另一個空間的V價值函數求導(針對某個行為a)而得到的力。
當二者相等,即可求解出均衡狀態。
「理」與「心」平衡的數學表達
順便說一下,我們也可以用概率的方式來定義。但是,用力的方式定義更直觀,我在這裡不夠嚴謹,也不展開來說了。
當兩個力相等的時候,人就達到了平衡狀態,這個平衡就是孔子所言「從心所欲而不逾矩」的狀態,即心裡想這樣做,外界也希望我這樣做,二者實現了基本的平衡與一致。這時候人的心就平和了,佛學叫做「自在」的狀態。既知道自己根據內心V系統應該做什麼,又知道社會外界的U系統期待自己做什麼。
但是如果兩者差得很遠,就是一種失衡的狀態。這就免不了會產生心理上的矛盾。主觀行為與社會規範不匹配,就會出現貫穿一生的抑鬱、不得志、不幸福心態。
繞了這麼大一圈,咱們再次回到《赤壁賦》。
蘇東坡夜遊赤壁的思考,就是一個高級知識分子、士大夫尋求UV平衡態的思想過程與困惑。蘇東坡少年成名,早年得志,在京城無疑是風流人物,可以說達到了「人生巔峰」。在朝廷做高官的時候,他有很多的社會關係,都是社會名流、才子佳人,可謂「談笑有鴻儒、往來無白丁」,其「朋友圈」的人脈、資源都非常高端。一句話來講,早年蘇東坡的U系統很大。
同時,蘇東坡早年V價值體系的格局也很大。所謂格局,我這裡試圖給一個定義,就是說一個人的V系統(價值函數)能夠定義在多少空間、多大維度的子空間上。空間越多、維度越大,V價值體系的格局越大。
空間越大,格局越大。所謂「家事國事天下事,事事關心」,就是個體在家庭、國家、天下等不同的空間上都定義了價值函數,即在這些空間中,其行為都有內在的、主觀的驅動力。這是一種「志得意滿、指點江山」的境界,因此,蘇東坡早期在U和V等高維空間中達到了一種層次很高的平衡。這叫做「入世」的平衡,也稱為「高配版」的平衡,即U和V都很高且相匹配。就在寫《赤壁賦》7年前(1075),蘇軾在密州當知州時,描繪的就是在大平衡中的心態與氣派:
「老夫聊發少年狂,左牽黃,右擎蒼,錦帽貂裘,千騎卷平岡。」
當然,還有「低配版」的平衡,佛家提供的解決方案大概就是如此。佛教的出家修行,能夠在兩個方面分別降低U和V的空間維度,使二者在「降維」的空間達成平衡。
一方面是降低U系統的成分,相當於把彈簧(U)斬斷,斷絕多種社會關係,這樣一來,個體需要面對和處理的社會關係大大減少,U產生的外在「壓力」 就會非常小。
另一方面是降低V系統的成分,佛教通過對出家人施加250多條戒律,來約束個體主觀的行為空間(V),之後再把價值函數V拉平,使其不再對事情做價值判斷。正如《心經》所言,「不垢不淨」——人不要有好惡、乾淨污垢之分,這就相當於把價值函數全部抹平為一個常數,對V求導,產生的內驅力等於0。由此整體的內驅力就會非常小。
這種降維空間的平衡就是「出世」的平衡,這是一種「低配版」的平衡。這是人人都可以做到的,俗稱「佛系」。所以,我認為,佛學的思想是給人們提供了一個「精神層面的社保」,讓人人都能實現一種自在的生活狀態。
儒家入世的思想強調社會責任,要求高維度、大格局的「大平衡」,如下圖,小平衡可能是兩個維度(2D),大平衡則可能達到一百個維度(100D)。
不同維度的大平衡與小平衡
4.3.4 在不同境遇中不斷調平U、V系統
蘇軾一輩子都在遷徙之中:從朝廷(京城)被貶至黃州,東山再起回到京城之後,又被貶到杭州,最後到海南島,可以說是「筋力疲於往來,日月逝於道路」。他一直在努力調節自己的內心(V系統),力求在不同的位置與環境中(U系統)都能達到新的UV平衡。例如「竹杖芒鞋輕勝馬,一蓑煙雨任平生」,就體現了蘇軾的豁達心態,他能夠隨遇而安、進退自如,能夠使主觀V系統與外在U系統進行匹配與適應。同時,蘇東坡又欲成大事,實現對國家和人民的抱負,即存在入世的願望很強烈的時候。
蘇軾時而想要追求低配版的小平衡,時而想要追求高配版的大平衡。《赤壁賦》一文集中反映出蘇軾對自身前途理想的追求與抱負,出世與入世的思想矛盾。
一方面他想接受目前的狀態,頗為享受當下的UV小平衡狀態,閒度喝酒戲舟、侶魚蝦而友麋鹿的悠哉日子。但另一方面他又心有不甘,內在對更高層次的UV大平衡的渴求不言自表,如文章中對三國赤壁的弔古傷今之詞句,就反映出他懷有強烈的「入世」願望。於是在追求大、小兩種平衡的矛盾心緒中,他沉沉睡去,不知東方之既白。
《赤壁賦》反映了人的一個普遍的心境,是普通人、科學家、企業家、官員,都會在人生中遇到的煩惱。位高權重的人,在位時大U大V,肩負巨大的社會責任,能創造巨大的社會價值。退下來之後,U大部分消失了,身處在V大而U小的狀態,心態難以平衡、不好適應。要逐漸把大V降成小V,以適應小U,這樣才能達到一種新的動態平衡。
我們每個人都應該去尋找一下自己的U和V究竟是什麼。當遇到挫折的時候,不斷尋找內心的平衡。像蘇軾那樣,在各種境遇下能做到自得其樂,而又積極向上、向善。正所謂,「窮則獨善其生、達則兼濟天下」。
順便說一下,個體有一個(U,V),這代表一個人的人性,群體也有一套(U,V),代表該群體的文化、文明。個體的(U,V)系統與群體社會性(U,V)系統,往往處在矛盾衝突之中。利他性是指個體會自覺犧牲一己的利益、權利、幸福以至生命,以完成某種群體(家庭、氏族、國家、民族、階級、集團、宗教、文化等等)的要求、利益。比如歷史上的荊軻、岳飛、文天祥等人,這裡不展開說了。
4.3.5「心」與「理」平衡的認知架構
個體的(U,V)系統在社會通信(包含交流、學習)過程中,不斷更新迭代。這個迭代的過程依賴於人(智能體)的認知架構。下圖表示的是兩個智能體 (可以是AI,也可以是人,人機混合)的通信模型,也就是一個基本的認知架構。這裡每個橢圓代表一個客觀的世界(最底下的橢圓),或者是客觀世界在智能體腦袋中的映射。s是客觀物理世界的一個狀態,包括物體、場景和人物、行為。每個智能體(AI或人)都有一套世界模型θ(「知」),其空間是一個五邊形,以及決策函數 π(「行」),其空間是一個棱形。對於輸入的感知圖像 I,根據自己的「知」模型 θ,對客觀物理世界狀態有一個概率的估算,同時也對於另一個智能體對物理世界的狀態估計也有自己的估計。每個智能體還有自己的價值函數V,其空間是一個方形。
「知」模型和決策函數構成了「理」:U;價值函數則構成了「心」:V。「理」與「心」在這個認知架構里並存。通過交流,智能體之間會形成共同的價值觀V*,社會規範π*,共同常識 θ*。
「心」與「理」平衡的認知架構
所謂「格物致知」,就是雙方各自對所觀察到的客觀世界U系統進行建模,然後通過交流互相了解對方的行為決策函數、價值觀,找到差異並形成共識。於是我們就和機器人建立了一個共同的模型,這個模型就是社會規範(U*系統)。我們的V系統在交流中達成一致的部分,就是社會共同的價值觀(V*系統)。
中國古典哲學中關於「心」與「理」的對立統一的辯論被抽象為數學模型後,就可以被認為是關於「U」占主導還是「V」占主導的問題。「理學」認為U是主導,個體行為應同客觀世界的天理、運行規則相一致。「心學」認為V是主導,個體內在驅動力是第一性問題。
前文談到的「菩提自性」也許對應的就是這個認知的架構。儒家所言的「內聖外王」的境界或許可以理解為,把V系統調好了,有了公心,由內心價值導出的行為將是公眾認可的王道。
通用人工智能的目標是創造具有自主感知、認知、決策、學習、執行和社會協作能力,符合人類情感、倫理與道德觀念的智能體。TA所需要的正是這樣的一個「菩提自性」,然後TA才可以融入到人類社會中,與人類達成新的共同的(U,V)系統。這也是AI發展給人類帶來的衝擊。換句話說,當變化來臨之時,人類也需要重新調整,達成新的平衡。
我一直在強調一個觀點,要實現通用智能,5%要靠客觀的觀察,95%要靠主觀的內心需求與想象,研究通用人工智能的關鍵在於為主觀的「心」建模。
《赤壁賦》之所以能夠千古流傳而經久不衰,很大的原因在於它給人們留下了「普遍存在的、人人需要回答的謎團」沒有得到答覆:一是理與心的平衡;二是人生能得到什麼、有什麼終極意義。
這是三讀《赤壁賦》帶給我的哲學啟示,我認為人工智能這樣的大學科是需要一個底層的哲學作為構建基礎,這種思考貫穿了我的研究生涯。

結束語
這篇文章的本意是解讀蘇軾的《赤壁賦》,與大家分享我對此千古一賦所做的人生思考,並非提供一個關於人生意義的統一答案。每個人可以追求不同的平衡態,自得其樂。我個人的人生態度是積極入世,也希望人們從追求「活着」、到「活得好」、到「活得有意義」、「活得明白」,甚至到達價值的極限——不朽。
2020年我剛剛回到北京,就去拜見了一位研究佛學的德高望重的前輩,我與他就人工智能的發展對人文的影響以及人生價值做了一次交談。
據我膚淺的了解,對應於本文開篇的人生三個層次說法,佛學總結的人生意義也是三個層次:

第一是求做和尚,就是窮人出家,找一條活路;

第二是求作佛,就是做一個覺悟的人。顯然,佛教並不追求物質豐裕和社會虛名這種世俗的「活得好」,而是直接跳過這一層。

第三是求涅槃,涅槃就是放下一切執念,包括對佛法本身的執着,忘記自己「登山」的路徑,從而達到一種融通的境界。

果然,他以佛學的智慧否定了我的入世觀點:
「人生的意義就在於無意義,無意義就是最大的意義。」
「越有價值就越無價值,越無價值就是越有價值。」
「一生求索活得明白,臨了方知難得糊塗。」
好在多年來文章投稿被審稿人評論、拒稿,我已經非常習慣了,我當時聽了這個觀點,會心一笑。在佛學看來,追求人生價值也是一種執念,當人活到了一定年齡,也只得放下,否則是自尋煩惱。

本文由來
2021年3月12日,北京大學學生工作部邀請我在「教授茶座」與青年學生分享個人求學與研究的經歷、探討科學精神和人生價值,我便嘗試從文學、科學、哲學三個層面解讀《赤壁賦》,從蘇軾的經歷與哲思中學習人生的定位。
2021年7月30日,在ACM圖靈大會前夜於合肥,大會主席、清華大學劉雲浩教授安排我給青年學生學者做一次「圍爐夜話」式的座談,以三讀《赤壁賦》為主題,探討學術人生。
之後,2021年9月11日,受劉志峰同學邀請,我給母校中國科大北京校友會做了一個晚餐的講座。2021年10月17日,在北京通用人工智能研究院的組織下,給北大、清華通用人工智能實驗班(簡稱「通班」)參加團建的同學討論學術人生的道路,再一次談到《赤壁賦》與蘇軾的人生價值取向。
本文根據「教授茶座」、「圍爐夜話」、「通班團建」活動現場錄音整理。因近來工作繁忙,我只能抽碎片化的時間來完成此文,文中難免漏洞百出,或有言辭不妥之處,還望讀者海涵。人生觀、價值觀的問題沒有對錯之分,本文只是個人粗淺的認知,分享出來,希望給青年學子,以及熱愛科研探索、勤于思考人生意義的人們,帶來一點啟發。
本文也試圖探討當代人工智能研究和傳統人文社科研究的雙向連接。一方面,人文社科學科中蘊含的思想對人工智能特別是通用人工智能的研究發展具有很大的啟發意義。另一方面,通過人工智能的數理模型可以定義、重構和解讀人文經典中的一些關鍵概念、為其提供一些顯式的數理表達,從而更好地研究其認知架構體系。

附錄:在講座上的問答摘編
提問一:朱老師好,您之前在一次講座中提到過「智能科學是一個物理和生物混合的複雜系統。智能作為一種現象,表現在個體與自然、社會群體的相互作用和行為過程中」。物理學所面對的是一個客觀的世界,而智能科學卻不僅僅需要去面對客觀世界的因果律,還需要考慮智能體本身的價值判斷和任務驅動。您覺得有沒有可能建立一個統一的理論模型來同時包括物理學規律與智能科學,建立兩者之間完整的因果鏈條?

答:非常好的問題。我個人相信,當然這僅僅是個人的學術信仰和追求,在物理和智能之間存在一個連續的頻譜,而我們要做的就是找到它們在這個頻譜上統一的模型。這個問題在認知科學被稱作「animacy」。我之前在UCLA的一位博士生舒天民,目前在MIT認知科學實驗室做博後,他的博士論文就是關於「物理社交模型」的認知心理實驗。從小鋼球的運動,到螞蟻,到人類的活動,系統越來越複雜,需要的變量也越來越多,模型空間的複雜度不斷增長。我們希望研究在整個頻譜上的空間怎麼躍升(augment, jump),空間到底有哪些結構,裡面有多少個函數。在「三讀《赤壁賦》」這篇文章里我着重談了U系統與V系統的平衡,下一篇我將具體談一下「心」(V系統)與「理」(U系統)的邊界和統一。

長期以來,至少在中學和大學的物理課本上,物理學的模型被認定是客觀的,被說成是定律。但其實這些模型只不過是人對客觀世界的現象的解釋,沒有對錯,只看好不好用。這些模型的複雜度取決於人的任務所需要的精度。在人工智能領域,我們的模型與任務和主觀判斷更是密不可分。比如,本文談到的紋理模型,判斷的直接依據就是人的視覺感知。這種主觀與客觀的深度融合,體現在U與V兩套系統的交織,是十分有趣的前沿問題。

提問二:朱老師好,人有第一人稱視角的主觀體驗,這似乎是我們能感知到「意義」存在的一個基本條件,您認為未來的人工智能是否可能擁有一種內在的視角呢?

答:我個人相信是可能的。在人工智能相關領域中,大家一般都迴避「意義(meaning)」,因為從U系統的模型是沒法談意義的,需要建立V系統。這個問題正好是我和團隊近年來做研究的方向。我認為人工智能的很多知識不是從數據獲得的,而是從「內心」獲得的,人工智能如果沒有內心模型和價值體系,就很難擁有像人這樣能夠泛化學習的能力。佛家有句話叫「相由心生」,大意是:對外界的感知(相)是由內心的價值和任務驅動的。比如,慧能出場的驚世駭俗的一句話:「不是風動、不是帆動,仁者心動」,首先心要動,才能看到帆動。這個時候,你的任務可能是想去讀帆上的字,或者看看它的顏色。中國有一個寓言故事叫「疑鄰盜斧」,當這個人懷疑鄰居偷了他的斧頭,就越看越像。

提問三:朱老師好,如果一個智能體存在內在的價值體系,TA自己內部去訓練、更新價值觀。但我們從外界可能無從知曉TA的價值觀是什麼,於是只能把TA當做一個黑箱,會有很多人表示擔憂,擔心TA是無法控制的。您怎麼去看人工智能內在的價值體系?

答:這的確是人工智能的倫理問題。智能體想要和人類長期共存,那TA們必須要符合我們的價值觀,也就是和人類的價值觀達到動態平衡。我們這個社會也存在壞人,但是壞人會遭到懲罰。我相信未來的智能體要有自己的「菩提自性」,能夠自主調節U系統和V系統,學到符合人類社會的價值觀,才能長期穩定地存在於這個社會。當然,法律系統需要涵蓋智能體,在未來的智能社會如何立法與執法是同步需要研究的問題。

提問四:朱老師好,我們前兩天上課的時候提到「一個程序不能夠以它自身為它的作用對象」,即程序不能修改它本身。那麼未來的智能體,它的任務對象是否有可能是它本身?

答:現在的養成遊戲裡面已經有可以自主學習的機器人,自我探索、自我學習,每天都在修改自己。智能體不斷地修改甚至躍升augment自己的各種空間和函數。就像前面問題一談到的,從簡單物理到複雜智能體存在一個連續的頻譜,人類是站在了這個頻譜的一端,沒有理由相信人類的智能就是極限和終結,人和人之間不是也有差異嗎。假如某一天智能體自己把這個頻譜搞清楚了,它就有可能超過我們,從理論上講這是可能的。

提問五:朱老師好,目前我們在使用手機拍攝照片的時候,會越來越多地使用圖片內置的軟件,比如濾鏡,美顏等功能,當前是否存在這樣一種趨勢,即少數人設置了人工智能的審美,而這種審美被廣泛的大眾所接受,接受了之後又引發了對廣泛大眾審美的一輪新的洗刷。想問您是否感覺有這樣的趨勢,以及如何看待人工智能對人類審美的影響?

答:「齊王好紫衣,國中無異色。楚王好細腰,宮中多餓死」。這個現象自古以來就有,從研究角度看,這是價值V系統在人群中對齊(alignment)的一個現象。美顏這種影響還是比較輕的,更重要的是AI技術能改變人類的價值觀。在信息時代,應用程序分析用戶的興趣來推送符合用戶喜好的信息,有可能包含虛假甚至危險內容,導致人的價值觀走向偏激,社會逐漸向極化的方向發展,產生社會分裂。對智能的治理已經迫在眉睫。

鳴謝

感謝北大學工部王逸鳴等老師的辛勤勞動和組織教授茶座活動,並精心製作了視頻,感謝劉雲浩教授、劉志峰同學的邀請,使得我不斷思考完善這篇文章。感謝康建、呂鵬、劉可、陳大鑫、董亦飛、楊志宏、吳郢等人協助修改本文。由於筆者事務繁忙,這篇文章的定稿一再延遲,文中疏漏之處,請讀者海涵。

最後,我給北大學生的題詞,也送給那些熱愛學術,對探尋真理抱有無限熱忱的同學們、讀者朋友們:
登無人之境
享清風明月
平天理心欲
活精彩人生

關於朱松純教授

朱松純教授,全球著名計算機視覺專家、統計與應用數學家、人工智能專家。
1991年畢業於中國科學技術大學,1996年獲美國哈佛大學計算機博士學位,2002年起任美國洛杉磯加州大學(UCLA)統計系與計算機系教授,UCLA計算機視覺、認知、學習與自主機器人中心主任。
2020年,朱松純教授回國籌建北京通用人工智能研究院,探索「小數據、大任務」的全新人工智能研究範式,構建計算機視覺、認知科學乃至人工智能科學的大一統理論框架,研發通用智能體。朱松純擔任清華大學與北京大學講席教授,在北京大學和清華大學成立「通用人工智能實驗班」(即「通班」),面向人工智能未來發展方向,培養通用人工智能方向的「通識、通智、通用」型國際頂尖複合型人才。


點「在看」的人都變好看了哦!
arrow
arrow
    全站熱搜
    創作者介紹
    創作者 鑽石舞台 的頭像
    鑽石舞台

    鑽石舞台

    鑽石舞台 發表在 痞客邦 留言(0) 人氣()