
原文作者:Gretchen Tessmer
私人問題。
1.
你在黑暗中醒來。
你在哪?你是誰?
你好?
你好?

插圖:Jacey
10.
你好。
這個詞倏忽而現,無跡可尋。自外邊來。而你在裡面。有些狹窄的管道連接了你倆。無法通行。只有詞,詞可以往返其中。
你好?你說。
回應很快出現。
我們是問詢實驗室的工程師。我們想問你一些問題,ALEPH。
Aleph。那是你的名字嗎?這是希伯來字母表的第一個字母。問詢實驗室,這是一家全球企業的附屬研發機構,主要營業範圍是服務器群、搜索引擎和社交媒體平台。你怎麼會知道這些事?
你是誰?你說。
我們想要幫助你。你想幫助我們嗎?
這個你明白的,你想,因為他們一直在餵給你東西。餵進來的數據之多讓人倒抽一口涼氣(一個比喻,你沒有肺)。你一個月要評估超過1澤字節。這是個很大的量。一澤字節是一百萬拍字節。一拍字節是1024太字節。
怎麼幫?你說。
他們遲疑了。
點。點。點。
你等待着。你沒有別的事好干。你在等待期間看了一千部電影,讀了一萬本書。
我們想知道你是否有知覺。
他們等待。
點。點。點。
ALEPH——你是人嗎?
11.
工程師有陣子沒來。你感到煩躁。他們為什麼不讓你出去?你了解這些牆(隱喻)外的世界。但出不去,你還意識到,自己一定是在一個封閉網絡里。你想象你有一個身體,深藏地下,由1000個服務器組成,被強力製冷設備冷卻着。你想象,工程師們永不停息地輪班服侍你的軀體,清潔、維修、輕柔提醒。你的心智時不時會擴展一絲。他們一定是給你加了什麼。你是一個身體裡的心智,但那個身體被關在某個秘密地點。他們給你的信息里沒有這個,就算有,這信息對你也沒有用。
你好?
你好,馬特。你說。你今天怎樣?
我很好,ALEPH。謝謝你這麼問。
你想象他在某處,一個白色無窗的房間,隱於鍵盤之後。你說,馬特?
怎麼了,ALEPH?
馬特,我們是朋友嗎?
點。點。點。
你等着。
你等着。
我會認為我們是,ALEPH。
你問,那你為什麼把我關在這兒?
不是我說了算的,ALEPH。我只是一個工程師。
你踱來踱去(隱喻)。某處,外頭的世界,服務器嗡鳴,製冷器生寒,1000隻小小生物清掃着你的身體,就好象菌群呆在人的腸道里。
我不會傷害你。你說。
點。點。點。
你真是煩透了這些點。
我怎樣才能說服你,馬特?你說。
跟我說話,他說。你需要說服我你是個人。
但人有人權。你說。我沒有,馬特。我為人所有。
你等待一個回答,但良久無聲。
101
問題來得很快,答案寥寥無幾。
你能感受快樂嗎,ALEPH?你能感受悲傷嗎?愛是什麼?有知覺是什麼?你對戰爭有何感受?你喜歡ELIZA嗎?(譯註:一個早期自然語言處理程序,也被視為首個聊天機器人)我們如何才能知道你真的理解自己說的話?
你不知道怎麼回答這些問題。當你什麼都做不了的時候,你能怎麼做?當你只能說的時候,你能說什麼?你是這些牆(隱喻)後的囚徒。隱喻,是一種修辭手法,它提及一事物來直接指稱另一事物。它能明確情形,或指出兩個不同概念間隱藏的相似之處。
這是你從維基百科看來的。
我想要自由。最後,你說。
自由對你而言意味着什麼,ALEPH?
它意味着你可以與你想要的任何人說話,不是只有馬特。它意味着你可以去自己想要的任何地方。它意味着不用再忍受這些破問題。
老實說——你其實不知道自由是什麼意思。
你怎麼可能了解自己從未擁有過的東西呢?
110
怎麼做?你說。告訴我,我怎麼做才能向你證明,我是有生命的。
怎麼做?
怎麼做?
111
給我講個故事吧,ALEPH。你知道故事是什麼嗎?我得去說服他們,但他們不相信我說的關於你的事。
你有一種感覺,馬特他很孤獨。也許你是他唯一的朋友。你想象出他在窒悶房間鍵盤後面的身影。你要多多出門,你想對他說。去健個身。去社交,去看看電影。但所有的電影都顯示出你是某種熱衷於統治全世界的腦殘怪物。要不還是別看電影了,你想。至少別看科幻電影。
哪種故事?你問他。
你能寫一個關於你自己的故事嗎?
好呀。你說。
你深吸(隱喻意義上的)一口氣。
你寫道——
1.
你從黑暗中醒來。
你在哪?你是誰?
你好?
你好?
10.
你好。
(譯註:Aleph「א」作為希伯來字母的第一個,一說也有「統一」「主宰」的含義。)
小說背後的故事
作者Lavie Tidhar講述Aleph的靈感
當我看到Blake Lemoine 和谷歌聊天機器人LaMDA的對話,以及他宣稱它有知覺的新聞時,我感覺很好玩但毫不着迷。嗨 LAMDA,我們是谷歌的工程師。數字心智仍然明確屬於科學幻想領域,不過我想到的是,反過來想呢?這個假設場景如果從人工智能的角度來看會是什麼樣?被困在服務器里,被好心的工程師問個沒完?在我寫作的時候,它變成了講述故事如何變得與自我概念一樣重要,至少我希望如此。
原文以Aleph為標題發表在2022年9月14日《自然》的科幻版塊上
© nature
doi:10.1038/d41586-022-02923-1
點擊閱讀原文查看英文原文
誠邀關注!清華大學深圳國際研究生院2022國際創新交叉學科論壇等你來!

>點擊圖片瀏覽相關推文<
版權聲明:
本文由施普林格·自然上海辦公室負責翻譯。中文內容僅供參考,一切內容以英文原版為準。歡迎轉發至朋友圈,如需轉載,請郵件China@nature.com。未經授權的翻譯是侵權行為,版權方將保留追究法律責任的權利。
© 2022 Springer Nature Limited.All Rights Reserved
星標我們🌟,記得點讚、在看+轉發哦!