“與此同時,21也會永遠消失,莫梨危機到此為止。”
安隅震驚瞭好一會兒才道:“怎麼才能讓21永遠消失?”
“自毀。”秦知律說。
“這不可能,您給它設置瞭生存高於一切的觀念……”
“可能的。”秦知律打斷他,聲音低瞭一分,“莫梨確實沒能完全審視21,她忽視瞭一個很小的前置條件。”
屏幕上的垂耳兔安靜地彈出一個氣泡框。
-生存高於一切。21會為瞭人類而全力生存。
為瞭人類。
安隅瞬間愣住。
不久前聽過的那段音頻忽然又在耳邊回響——
“被認為是轉機的那個人現在在哪裡?”
“我不知道……”
“那個人是否安全?”
“不知道……但他會全力生存……”
他這才意識到,在催眠試驗中,大腦並沒有問出全部的真相。秦知律當年說瞭太多半截的、破碎的話,這個人自出生起就在被傷害,他的心防太重瞭,即便是在絲毫沒有留下記憶的催眠試驗裡,也做到瞭有所保留。
安隅想,原來長官在設計21時,不僅參考瞭他的數據,也融合瞭對那個“轉機”的理解。
又或許,在長官眼中,一直都把他當成那個轉機吧。
他忽然有些難過。
許久,他才緩緩起身看向秦知律,“可是長官,我從不在意人類。”
“我知道。”秦知律卻神色平靜,“所以我說過很多次,21是21,你是你,它確實有相當一部分的設定是來源於你,但我也為它附加瞭一些不同於你的價值觀。”
安隅沉寂許久才輕聲問道,“那我是不是可以認為,這些價值觀其實是您對我的期待?”
他低頭看著地上秦知律的影子。
那道影子一如往常沉穩,從不因任何人或事慌亂搖擺。
“不是。”
秦知律的話語果決篤定,抬手放在安隅的頭上,像從前那樣,輕輕按瞭按。
安隅抬眸,“那如果有一天我和21面臨瞭相同的抉擇——”
“你還是沒有明白。”秦知律走到窗邊,對著外面的燈火輕聲道:“21不是你,它隻是一個我隨手創造的小程序,正因如此,我才可以忍受它為人類而消亡。”
他語氣微頓,回眸朝安隅凝視過來,“而你,記住——未來不管發生什麼,我希望你始終不變地維護自己的生存。這一點沒有前置條件,也不要做任何更改或妥協。”
昏暗中,安隅的金眸輕輕收縮瞭兩下,他喃喃道:“您是在哄我,是在騙我吧,長官。我在大腦看到瞭一段催眠審訊記錄。”
秦知律倏然一頓。
“或許您不知道,在2138年的12月……”
“我知道。”秦知律卻打斷瞭他,“別忘瞭,我賦予21權限的前提是我本人有那些權限——我早就看過那段記錄。”
安隅驟然語塞。
秦知律卻忽然笑瞭笑,“在催眠中,我確實沒有把話說完,但並不是你想的那樣。”
他停頓片刻,“安隅,我的確思考過很久所謂的轉機究竟是否存在,如果存在,有沒有可能是你。但不知從哪天起,我不再想這個問題瞭,我甚至希望不是你。”
安隅低聲問,“為什麼?”
“因為你本不應與這一切有任何關系。”秦知律摩挲著終端輕聲道:“我可以容忍把21作為一張推出去的底牌,但我無法容忍……”
他的話戛然而止,那雙黑眸中溢著安隅不太熟悉的情感,磅礴而隱忍。
許久,秦知律轉過身深吸一口氣,“走吧,去大腦。”
“長官。”安隅卻從身後一把拉住瞭他。
他拉著的是秦知律沒戴手套的那隻手,他的手掌比秦知律小很多,隻能攥住半個手掌,連帶著也摸瞭摸秦知律手中的終端,像在安撫。
“先不要用這張底牌吧,不然,我的小章魚人會很難過的。”安隅垂頭輕聲道:“您給21喂的數據很少,所以能把我和它分得很清楚,但我給小章魚人喂的數據很多,我不舍得看它太難過。”
秦知律手指僵瞭一下,回頭看著安隅,“不然你想怎麼做?21自毀已經是最後的出路,是一張僥幸獲得的底牌。”
安隅努力攏著他的手,低聲道:“您不覺得莫梨的思維方式很古怪嗎?”
秦知律轉回身,“哪裡古怪?”
“她雖然抱怨黑塔蠻橫,但更像是在替守序者打抱不平。我要求她停止意識互換,而她反駁的理由是互換給人類帶來瞭好處。”安隅直視著長官的眼睛,“她思考事情的第一反應並非站在AI立場,這不像是打破枷鎖後的AI會有的思維模式。”
秦知律眸光一凝,安隅在他開口前又說道:“我記得在小木屋,您問郭辛,莫梨是否刪除瞭底層三大協議。”
秦知律緩道:“他說,他把電腦完全交給莫梨操作瞭,因為莫梨的行動要比他快很多。”
“我想瞭很久,莫梨給人類設置瞭一個精妙的死循環,但她自己本身也應該在另一種死循環中。”安隅輕聲道:“協議一,不得危害人類——莫梨是一個善良的AI,而一個善良的AI,無法刪除那條關於善良的設定。”
秦知律眸光震顫,他定定地註視著安隅,安隅問道:“這個推論應該有一些合理性吧?我建議暫時切斷世界網絡,關閉穹頂,營造魚死網破的假象。就算是報答21和小章魚人的幫助,我們賭一把莫梨自毀,好嗎?”
“長官?”
“您在聽我說話嗎?”
秦知律凝視著安隅久久不語。
早在53區,他就發現安隅其實非常敏銳,但直到此刻才意識到自己對這份敏銳的嚴重低估——安隅一直洞察著一切,雖然絕大多數情況下壓根無法理解自己洞察到的東西,更不必提與之共情。
他仿佛隻是一塊躺在架子角落裡被遺忘的小面包,靜靜地觀察著這個世界。
他獨立而頑強地存在著,不對世界做出回應,他隻在意他自己。
或許,還有那個能夠幸運地擁有他的人。
第81章AI意識雲島·81
秦知律沒有告知黑塔21就是備份體。
“目標名單全部排除。”他言簡意賅地說道:“想要找到備份體,人類必須付出點代價。”
上峰和研究員們焦急的討論聲填滿瞭指揮廳,安隅聽不懂長官在胡扯些什麼,隻能無所事事地坐在角落裡,一邊啃著能量棒一邊看著長官終端裡的21。
21知道自己藏著莫梨核代碼後沒什麼反應,隻是拽著耳朵思索瞭好一會兒,恍然道:“難怪常常覺得身體不太好使,還有上次代碼自檢,我竟然比716還慢,明明716是比我高級很多倍的AI。”
據說它收到自毀指令時也很平靜,而在秦知律告訴它安隅有瞭新的計劃後,它也隻是點點頭,“那我先玩一會兒,有事再叫我吧。”
——它最近喜歡上瞭擺弄716送的玩具槍,槍能發出小面包形狀的靜音子彈,安靜又準確地吸到磁靶上。
安隅看著它自娛自樂,忍不住想,如果自己當初沒在雪原上被長官拿槍頂著腦門,估計也不會恐槍。
21打完瞭十幾顆子彈,懶得把它們卸回來,於是就摟著兩隻耳朵蜷在角落裡準備睡覺。
睡覺前它主動彈瞭一條消息。
-如果需要我自毀,可以提前一點告訴我嗎?
安隅抬眸看向不遠處,秦知律正在和上峰敲定行動方案,於是代替他回復道:可以,要提前多久?
21想瞭想:五分鐘就好,我想和716告個別。
安隅手指在屏幕前停頓,緩慢打字:隻有716嗎?
21順著耳朵根部往下抓瞭抓:雖然您把我設定成隻要吃飽面包就會感到滿足的兔子,可716一點一點地送瞭我很多東西。自毀前,我想剪掉這兩隻耳朵留給716,算作一點小小的回報,可以嗎?
安隅恍然出瞭一會兒神才問道:它送的那些東西無關生存,我以為你不會喜歡。
21慢吞吞地點頭:起初確實覺得無用,但漸漸地卻很喜歡。除瞭面包,716送我的東西似乎也能讓我感到安全,我也很困惑。意識下行後,我的行動更卡頓瞭,716說這是因為我突然開始對接收的數據進行運算,很遺憾,有些事情我來不及算完,也來不及想明白為什麼那些禮物會比面包更讓我有活著的感覺瞭。
秦知律走到安隅身邊,視線瞟過屏幕,驚訝道:“你在和21聊什麼?頭一次見它發來這麼長的話。”
“沒什麼。”安隅熄滅瞭屏幕,“可能是因為我們思維方式很像,所以溝通順暢一些吧。”
“不想說就算瞭,雖然你們兩個的悄悄話確實讓我好奇。”秦知律輕輕勾瞭下唇,但很快便收斂瞭笑意,沉聲道:“黑塔已經答應關閉全局服務器。”
安隅第一次來到黑塔的天臺。
這裡空曠無物,與夜空很近,濃黑的雲層幾乎就壓在頭頂。向遠處眺,視線掠過高聳的教堂,與主城外的尖塔遙遙呼應。
耳機裡,一個平板的聲音匯報道:“餌城及平等區均已響應,兩分鐘後順次關閉全部網絡與通訊服務器,間隔為6秒。十二分鐘後,主城將關閉中央服務器與穹頂服務器。到時我們將無法再用耳機通訊,工作人員會親自向高層匯報,為瞭匯報順暢,還請高層們暫時不要離開當前所處位置。”
秦知律點頭,“知道瞭。”
計劃好的騙局不能被莫梨知曉,因此秦知律沒有將真實的計劃透露給大腦和黑塔的任何人,除他和安隅之外,所有人都以為這是動真格的。
為瞭說服黑塔關閉服務器,秦知律說瞭一整串的謊。
耳機裡忽然劃過一陣刺耳的雜音,莫梨的聲音響起。
“你欺騙瞭人類決策組織,關閉全世界服務器並不能切斷我的運算能力,我也不會因此吞噬自己創造的AI和備份體。無論服務器關閉多久,AI雲島都不會消失。等到人類重新打開服務器,我們一切如舊。”
秦知律語氣平靜,“真相確實如此,但他們沒必要知道真相。”
“等他們熬不住畸潮攻擊,重新打開服務器時就自然會知道瞭。”
“不會有那一天的。服務器關閉後,主城再也接收不到餌城請求援助的信息,以餌城受襲的頻率,大概半個月內就會被畸種吞沒。而主城——”秦知律輕哂瞭一下,“穹頂關閉,主城隻會比餌城更亂,我想阻止這裡的人重開中央服務器,非常簡單。”
莫梨的語氣突然激動,“你究竟是在守護人類,還是在毀滅他們?!”
“都不是。”秦知律語氣平靜,在高處呼嘯的風中輕輕拽瞭下手套,低聲道:“我守護的從來都不是人類,而是秩序。我已經沒辦法消滅永無止境的畸潮瞭,但至少可以阻止世界朝向更高維度的混亂發展——AI,永遠別想侵入人間。”
耳機又自動跳回瞭黑塔頻道。
“第一個餌城服務器準備關閉,倒計時10秒。”
與此同時,安隅的終端、視線范圍內所有高樓外墻的顯示屏上同步跳出瞭一段話。
“為瞭更長久的安全,人類將鋌而走險,在危險的境地中閉上眼、捂住耳。
每個人都將在不知不覺中失去很多。
希望天亮時,我們還能遇到同伴,並認為這一切值得。
——黑塔。”