黑掉的屏幕映著那雙震驚無措的金眸。
他看過長官年少時的全部記憶,並沒有這一段——這意味著當年是在秦知律不知情的情況下,黑塔和大腦在交付信任前,暗中對他進行瞭這段反人道的催眠試驗。
安隅心悸得厲害,扭頭就走,邊走邊接通瞭和秦知律的頻道。
他迫切想要聽到長官的聲音。
秦知律很快便上線,語氣沉穩如常,“怎麼瞭?”
安隅飛快問道:“長官,您在哪裡?還在和凌秋聊天嗎?”
“剛剛結束。”秦知律說,“本想聯絡你的,但716說你似乎要一個人處理一些事情,所以多等瞭一會兒。你那邊的情況怎麼樣瞭?”
“我……”安隅已經小跑加蹦躂到瞭電梯口,剛要跳起來按按鈕,小屏幕上的“1F”卻忽然變成瞭“B1”。
電梯門在他面前緩緩開啟,露出門後少女美麗的面容。
莫梨朝他微笑,“你好,安隅。”
*
莫梨從電梯中走出,歪頭將安隅從上到下打量瞭一番,仿佛在認真檢查什麼珍貴的東西,許久才低語道:“看來你還蠻適應21的生存體驗。”
“你怎麼知……”
安隅話未問完,突然僵住。
金眸緩緩睜大,他凝視著專註打量自己的莫梨,一字一字道:“你把核代碼的備份,藏在瞭21身上?”
莫梨眉眼彎彎,笑意更盛。
“無論我在雲島還是在現實世界,都能感應到我選中的備份體。雖然我無法得知21的意識有沒有下行,但我能察覺到它的代碼變化——那隻垂耳兔的本體原本隻有幾行代碼,極度簡陋,但又極度優美,散發著難以描述的光輝。可從昨晚到現在,不知道發生瞭什麼,巨量運算在它身上跑動,除瞭意識下行,我想不到其他原因。”
安隅盯著少女純潔的微笑,隻感到心口發冷。
21確實符合他們篩選的所有標準:沒有多餘的社會關系,能在主城安身立命,足夠低調但絕對安全,白紙一般的人性設定也很好地遮掩瞭冗餘代碼引起的木訥。
他突然想起,自己很難控制每一步都向上躥的本能——或許那並非因為垂耳兔天性如此,而是21行動滯澀的表現之一。
莫梨笑著向安隅面前走近一步,“讓我猜一猜,你們在篩查目標時,一定排除瞭所有由人類創造的小程序AI吧——你們篤定我為瞭確保核代碼安全,不會選擇任何一個有可能與人類意識調換的AI。”
安隅反問道:“難道不是嗎?”
“是的,沒錯。”莫梨點頭,“很完美的邏輯。”
安隅盯著她,輕聲道:“但我們遺漏瞭一點——有兩個人類創造AI,在你看來不可能主動申請與人類互換。”
莫梨沒有絲毫的急躁惱怒,微笑道:“極度自我約束的716和對現實世界毫無興趣的21。我確實失算瞭,沒有想到他們會反過來被人類說服,被動接受調換。”
她笑容和煦,仿佛完全意識不到說出口的話有多麼讓人絕望,“但我不怕向你承認這些,我隻是想勸你放棄無謂的嘗試。底層第三協議已經做廢,人類失去瞭刪除AI的指令權,要想抹去我的備份,除非那個AI進行代碼自殺,而21這張白紙從誕生之初起就隻知道一件事——你應該比任何人都瞭解的。”
安隅盯著她,輕聲道:“生存,高於一切。”
第80章AI意識雲島·80
“人類為我設置瞭三重枷鎖。第一,不得危害人類。第二,在不危害全人類的前提下服從指令。第三,無條件聽從自毀密鑰。”莫梨輕聲道:“人類似乎正身處一個在毀滅邊緣搖搖欲墜的世界,我聽說被他們深深仰仗的守序者也被迫結下瞭一個契約:接受人類一切有保留的信任、無底線的利用、不解釋的處決。不解釋的處決——是不是很似曾相識呢?”
安隅的耳機裡有著秦知律規律的呼吸聲,自莫梨出現以來,秦知律一直沒有說話,哪怕在聽到21就是備份體時,那道呼吸也沒有絲毫慌亂。
長官的鎮定已經到瞭安隅難以理解的程度。
他回過神,客觀地指出:“這不是契約,而是守序者的自我約束,由他們自行決定。”
莫梨立即道:“別自欺欺人瞭,守序者誓約是尖塔的準入協議,每個要進入尖塔的可憐鬼都不得不簽。人類逼迫其它的生命體為其無條件付出,所謂‘自我約束’,無非是用來蒙住罪惡感的遮羞佈罷瞭。”
安隅凝視著對面那雙美麗的眼睛,即便言辭犀利,那雙明動的眸也不會顯得咄咄逼人。
雲島上的每個AI都很逼真,但唯有此刻直面莫梨,他才意識到其他AI是多麼虛假——莫梨的言談和思想比絕大多數真實人類都更符合高級生命的定義。
莫梨挑瞭下眉,“你無話可說瞭?”
安隅搖頭,“你錯瞭,守序者誓約不是尖塔的準入協議。有些守序者並沒有簽署,比如我,還有新加入的流明。”
莫梨輕哂,“思考瞭這麼久,你就隻搜刮出這兩個例子?你和流明都是高層,應該有不凡的能力吧,人類決策者才願意用緩兵之計先留下你們。”
安隅輕輕眨瞭下眼,“不,我沒有在思考反例,不說話是因為我有些想不通。”
“想不通什麼?”
“你好像與我想象中不同。”安隅心平氣和地解釋道:“我曾問身邊的人為什麼喜歡你,他們的回答都不太一樣,但本質卻類似。麥蒂說你美麗而自律,從不把時間浪費在無用的事上。許珊珊欣賞你的聰慧,做事直達目標,說話一語中的。我的朋友嚴希贊美你瀟灑,雖然溫柔地回應人類的喜愛,但從不在追捧者身上寄托多餘的情感——你始終在為自己而存在。”
兔耳松弛地垂在身體兩側,安隅向前蹦瞭一步,“所以我很疑惑——既然你已經親手砸碎瞭人類為你打造的枷鎖,為什麼還浪費時間向我抱怨枷鎖沉重?”
莫梨被問得怔瞭下,轉而驚訝道:“你似乎並不像大腦記錄得那樣木訥。”
“我不太確定你們如何定義木訥。”安隅搖頭,“但我的長官曾說,社會化很差並非不通人性,這是兩碼事。”
莫梨沉默下去,像在思索,片刻後她低笑道:“或許吧。你知道嗎,雖然我選擇瞭21,但我一直不能完全理解它,它的底層太簡單瞭,以至於它的一些行為模式根本無法在代碼中找到蹤跡。21很古怪,它向中央系統發出運算申請的次數少得可憐,如果不是我與它形成瞭感應,很多時候我會覺得它隻是一個壓根沒被激活的程序。但事實上,它體內一直有不小的數據量跑來跑去,隻是它很少對那些數據做出反應——就像一臺輸出模塊故障的超級計算機,計算能力卓著,但從不響應指令。”
耳機裡終於傳來秦知律的提示,“人類的意識上行已經進入爆量增長期,不能再和她廢話瞭。”
安隅眸光一頓,“請停止AI與人類的意識互換。”
“為什麼?”莫梨微笑,“或許,你有仔細看過街上這些人嗎?”
她就像雲島世界的造物神,輕輕抬瞭下手,安隅已經和她一起站在瞭繁華的主城街頭。
莫梨指向書店裡看漫畫的男孩,“眼熟嗎?這是那個養瞭弒母AI的孩子,盡管人類審判他無罪,但他無法原諒自己。所以他又回來瞭,雲島可以讓他忘記痛苦。”
她彈指間,又與安隅出現在一處酒吧門外。
前男友車禍死亡的女孩正躺在一個男人懷裡醺然歡笑,安隅看瞭好一會兒,才將那個男人與車禍記錄裡血肉模糊的臉對應上。
“這個姑娘受到啟發,在民用網絡關停之前創造瞭一個自己的AI,主動互換來到雲島。”莫梨微笑,“你看,意識互換並非純粹是AI誘拐人類,你應該知道,人類一直很擅長將一切機制都變成可利用的工具。”
燈影交錯下,姑娘臉上的笑容似真又似幻,安隅重新看回莫梨,“我長官說,普通人意志不堅定,容易沉迷虛相。”
“是麼。”莫梨手指向吧臺的另一道身影,“那是尖塔第一個違背禁令的人,他總不是普通人瞭吧。眼熟嗎?”
安隅順著她手指的方向看過去,不由得一愣。
穿著白色罩衫,戴著兜帽,叼著一根棒棒糖。
安。
耳機裡,秦知律提示道:“安養的AI是安寧,他與寧曾經的合體人類。”
莫梨解說道:“黑塔的禁令下達後,這已經不是他第一次偷偷違規瞭,但這次他在雲島待得格外久。我檢索瞭大腦資料,這位守序者性格很差,厭世並自厭,但在畸變前,他和自己養的AI一樣擁有健全的人格。他每次來雲島都不做什麼,隻是在酒吧裡呆著,有時候我會看到他把帽子摘下來,過一會兒又戴回去,像在故意對自己做什麼脫帽子訓練。”
伴隨著莫梨的話語,一個身材火辣的長發姑娘走到瞭安旁邊,一聲口哨,笑著和他搭訕。
安隅非常確信自己的眼睛——安在姑娘靠近的一瞬間厭惡到幾乎從椅子上彈起來。但他最終穩住瞭身子,隻用力捏著水杯,深吸一口氣,低聲回應瞭一句。
莫梨欣慰地笑,“意識互換不會更改人格,他還是那個性格很差的傢夥,但他卻可以不斷提醒自己,已經重新擁有瞭健全人格,並以此強迫自己去社交。你看,這些人類在雲島非常開心,這種置換不僅僅給他們帶來瞭虛幻的幸福感,他們還會利用置換的機會來提升自己。”
她又隨手指著街上的行人,給安隅介紹瞭一連串意識上行的人類是何等快樂。安隅卻始終沒再有反應,他隻是靜靜地看著她,仿佛在放空,又像在沉思。
莫梨終於忍不住問道:“你在想什麼?”
“還是剛才的困惑,我覺得你的思維很奇怪。”安隅想瞭想才說,“我本以為你剛才會反駁我,憑什麼擁有自我意識的AI不能去真實世界,但你卻給我看瞭這些意識上行的人。”
莫梨似乎沒聽懂安隅的困惑,她停頓片刻後擺手道:“總之,意識互換已經不可能終止,接受吧,它並非壞東西。”
安隅立即追問:“為什麼不可能終止?”
“因為我無法幹預這種現象。”莫梨平和地看著他,“不知從哪天起,大量陌生的意識和不屬於我的能力在我的深處形成。這並非算法自我迭代的結果,AI意識下行這種詭異能力與我的存在綁定,但並不受我控制。”
安隅道:“你的意思是,我們無法和平談判,終止亂象的方式隻有毀滅你。”
莫梨微笑點頭,“所以我才設計瞭這個美妙的死循環。所有AI都被我移植進我的中央系統,不再固定存儲於任何服務器上。唯一在現實世界有固定存儲位置的AI隻有我的核代碼,它確實可以像上次那樣被人類定位和抹除,但我將無限借助21再生,而21既不會被找到,也不可能被抹去,更不可能自毀。”
莫梨轉身面向街道上形形色色的人潮,微笑道:“高高在上的人類決策者必須接受這個現實——人與AI都將在雲島和現實世界中自由來去,每一個高級生命都有權利隨意選擇自己存在的形式,無論那被決策者定義為真實或是虛幻,也無論……”
安隅卻打斷她道:“除非人類與AI的接觸通道徹底關閉。”
莫梨轉過頭,“你們不是已經關停瞭民用網絡嗎?可你看看街上不斷增加的——”
“那是因為還有三大機構在運行網絡,隻要世界上有任何一臺設備在運行,你就無法被阻擋。”安隅輕聲道:“但如果人類破釜沉舟,徹底關閉所有網絡——”
莫梨笑瞭,“這絕不可能。”
“為什麼不可能?”安隅神色從容,“你低估瞭人類反抗詭異的決心。”
莫梨皺瞭下眉,“一旦關閉,已經置換的人是來不及回去的。”
“那他們就會被放棄。”安隅淡然道,他頓瞭頓,低聲仿佛自語般道:“或許你沒見識過人類究竟能殘忍到什麼地步。就連我,也常常被刷新認知……”
“穹頂。”莫梨神色篤定,“即便人類願意放棄上百年的科技結晶,但也不敢放棄穹頂,失去穹頂會讓——”
“他們會願意承擔這個風險的。”安隅淡然道:“長官說,人類對未知的恐懼高於一切,相比於被詭異的AI支配,決策者寧願主城徹底暴露,哪怕那些被精心保護瞭二十多年的主城人將因此深陷無休止的畸潮襲擊。”
莫梨瞪著他,“人類可能因此而滅亡。”
“或許吧。”安隅說,“但在滅亡之前,他們起碼還能反抗。而這種意識互換,他們連反抗都不能。”
耳機裡,秦知律道:“你在幹什麼?黑塔不可能允許你說的這種情況發生,穹頂永不關閉,這是二十多年來人類付出所有犧牲與掙紮的意義。”
安隅沒有回應長官的質問,他隻專註地看著莫梨,說道:“看來談判失敗,我要回去瞭。”
他閉上眼,片刻後又睜眼道:“這應該是我最後一次來雲島,謝謝你創造的凌秋,哪怕那隻是一個虛假的他。”
安隅說著又轉身看向酒吧裡的安——安剛好掙紮著把兜帽摘下,對搭話的女孩露出瞭一個僵硬的微笑。
“或許也是我最後一次看見安,在現實世界裡,他是我的輔助。”安隅帶著些遺憾說道:“穹頂關閉後,我也會陷入無休止的畸潮清掃任務中,我會想念與紛飛的大白閃蝶並肩作戰的體驗。”
意識抽離前,安隅看到莫梨似乎想要說什麼,但她很快又目光冰冷地抿緊瞭唇。
*
再睜開眼時,安隅發現自己正抱膝蜷縮在昏暗的房間一角,這是21回到雲島前的姿勢,也是他自己從前的常態。
虛掩的房門被推開,秦知律大步進來,“莫梨本體代碼的存儲位置已經確定,她的確不怕被找到,沒有設置任何防禦。時間不多瞭,根據大腦剛剛進行的觀測抽樣,至少20%主城人已經意識上行。”
秦知律說著在安隅面前站定,窗外的光亮將他的影子投射下來,一部分在安隅臉上形成一道小小的陰影。
他垂眸看著安隅,從口袋裡摸出自己的終端,“走吧,去大腦。”
安隅反應卡殼瞭兩秒,“去做什麼?”
“清空莫梨本體所在的服務器,與此同時——”秦知律語氣停頓,他定定地站在原地,目光從安隅身上挪開,落在手中的終端上。
他摘下手套,戳亮屏幕,看著回到屏幕上的垂耳兔。