-我每天都要處理很多工作,那些工作都關乎人類存亡。可我明白,那些都隻是算法設定而已,無論我有沒有處理它們,人類命運都不會因我而改變。我的存在和行為,並不影響真實的世界。
安隅心下忽然一頓。
-你上次問我,在真實的世界裡生活是什麼樣的感覺。
小章魚人神情嚴肅。
-是的,最近總是很好奇。
鬼使神差地,安隅緩緩打字道:那你想要和我交換一下,來這個世界裡看看嗎?
小章魚人沒有回答,它隔著屏幕註視著安隅,那個沉肅的眼神逐漸讓安隅心跳加劇——明明隻是一隻卡通風格的章魚人,但那個眼神卻和長官越來越像瞭。
它的猶豫,已經是一種答案。
但過瞭半分鐘,它回復道:不要。人類與AI各有其生存領域,秩序不可打破。
安隅猛地從床上坐起來,甚至沒來得及回復小章魚人,直接出門往隔壁走去。
剛要敲門,秦知律的房門卻自己開瞭,秦知律拿著終端出現在他面前,說道:“我的垂耳兔剛才突然說瞭一句很有意思的話。”
安隅:“說什麼?”
秦知律輕輕揉瞭揉屏幕上垂耳兔的耳朵,對方好像已經習慣瞭,並沒有閃躲,而是低頭繼續揉著面團。
“我問它,AI們最近有發現什麼好玩的嗎。它說它跟別的AI不熟,唯一的感覺是它們最近頻繁討論和推演真實世界,它偶然在服務器裡看到過大量相關運算在跑動。”
安隅瞪瞭長官半天才問:“那它自己不想來真實世界看看嗎?”
秦知律低眸輕笑瞭一聲,戳開最近一條聊天記錄,“我問瞭它相同的問題。”
垂耳兔的回復是:沒興趣,長官。我在哪活著都是活著,隻要活著就好瞭。
第74章AI意識雲島·74
夜幕降臨,主城燈火璀璨。
這是畸變浪潮平復後,一個尋常又珍貴的人間夜晚。
正在收銀的許雙雙手在空中忽然僵瞭一下,直到正低頭看著莫梨直播的顧客抬起頭來,她才回過神。
“刷錢啊。”顧客催促道。
許雙雙眨瞭眨眼,“好的。”
她拿起掃碼機器,顧客將手表伸過來貼瞭一下,“滴”聲過,拎起面包低頭走開。
面包店裡擠滿瞭人,許雙雙抬眼順著隊伍一直看到門口,又隔著玻璃櫥窗看向街上的長龍,輕輕籲瞭口氣。
下一個顧客站在瞭她面前,“雙姐,抓緊點,今天效率有點低啊。”
許雙雙聞言趕緊接過面包籃子,一邊幹活一邊眉開眼笑道:“沒辦法嘛,好多人,生意太好啦。”
她繼續麻利地收銀,和過去數不清的夜晚沒什麼區別。面包店的監控畫面逐漸縮小,和此刻主城街頭千百個監控畫面一樣,回到瞭黑塔中央屏的一角。
“許雙雙已經不對勁瞭。”安隅站在大屏幕前,對上峰們解釋道:“她脾氣很大,不管是不是自己慢瞭,隻要被催促就會不耐煩,被連續催促一定發火。但是她養的AI不同——她的AI被設定成一個和她相似度極高的女兒,精通投資,活潑熱情,但性格溫和一些,因為她不想讓自己和AI兩個炮筒碰在一起天天吵架。”
上峰們神情凝重,會議廳裡的電話聲此起彼伏,混雜著最新的調查情報。
“剛剛得到核實,車禍死亡男子確實養瞭AI,底層學習數據是他自己。雖然他已經在自己不知情時死亡,但是他的AI天亮後回到服務器中還能繼續運算。主人的死讓AI陷入瞭極大的悲傷,AI一整天都在重復一句話——我還沒來得及替你重新擁抱她。”
“半夜做飯的女人養的AI是自己已故的母親,她對警察坦誠,橙子、米粥、餡餅是她從小喜歡的早飯,隻是成傢後照顧丈夫和孩子的口味,早把自己的喜好拋到腦後瞭。”
“凌晨去面包店外排隊的渣男友沒有養AI,是女朋友在他的手機上強行設定瞭個和自己相似的AI,所以其實喜歡餅幹的還是女孩自己,不是那個男的突然大發善心……哦,還有那個半夜夢遊去天臺的倒黴男,他的AI學習目標不是人類,是他的貓……”
“論文被批註的女大學生,她用自己和導師的對話喂瞭一個AI出來,本來隻是想要鍛煉自己和導師相處的能力……唔,可能和角落養小章魚人的目的差不多。”
安隅聽著匯報,下意識戳瞭戳屏幕上的小章魚人,小章魚人正背對著他,捧著一杯茶望著夜色發呆。
看得出,它很渴望親眼看看人類世界,當渴望和原則相悖時,它就陷入瞭痛苦。
但它從來不會將自己的痛苦對安隅啟齒——它就像它的學習目標一樣,十分懂得隱忍。·
秦知律站在中央監控屏前,黑眸冷靜地巡視著那無數個畫面,開口道:“看下莫梨在幹什麼。”
莫梨的直播畫面彈出,鋪滿瞭巨大的屏幕。
直播已經結束,但由於莫梨的AI身份,人類永遠能知道她在幹什麼。
她下播後已經完成瞭晚間瑜伽和冥想,此刻正穿著睡衣靠在床頭看平板電腦,耳朵裡塞著耳機,一邊吃著切成小塊的水蜜桃,一邊聚精會神地盯著屏幕。
秦知律問:“平板電腦在播放什麼?”
一位研究員回答道:“很遺憾,AI底層不會自動進行這種精細度的計算。常規監測隻能告訴我們她在看平板,如果你想知道她在看什麼,就要直接向她提問,代碼才會向下運算。”
“那就問問。”秦知律眼皮也沒眨一下。
十幾秒後,屏幕上的莫梨換瞭個姿勢,改成趴在床上,她的平板屏幕也終於暴露出來。
安隅驚訝道:“竟然是動畫片……超畸幼兒園?”
“不對。”秦知律的皮手套輕輕攥瞭一下,又松開,沉聲道:“剛才她看屏幕時,目光在各個點位上來回逡巡,就像我們同時看這千百個監控矩陣一樣。她在演。”
安隅愕然間,隻聽秦知律又問,“她換姿勢露出屏幕,是因為收到瞭人類的查詢指令?”
“是的。”研究員回答道。
秦知律用氣聲冷笑一聲,輕輕扔下幾個字。“AI騙人瞭。”
一位上峰凝重道:“她一定知道這些AI在做什麼,但不僅沒有向人類預警,還看得津津有味。”
另一人猶豫瞭下,“更可怕的是,也許主導這一切的正是她……”
秦知律打斷他們道:“查,讓AI制作公司的負責人來黑塔解釋。”
在等來開發者之前,黑塔先等來瞭另一個人。
監控裡的女孩在上峰面前抬起頭時,屏幕這邊的安隅驚訝道:“竟然是她?她是最近我店裡的常客。”
他隨即想起什麼,恍然大悟,“難怪我覺得她的身材很眼熟。”
上峰介紹道:“她叫吳聚。出生前,父親在軍部任務中犧牲,母親分娩死亡。她小時候曾獨自離開主城很久,回來後就有瞭一臉的傷,但並沒有畸變。由於身材完美,她一直靠做背影模特糊口。在莫梨的制作公司還是小工作室時,雇她做瞭莫梨的動作捕捉原型。”
吳聚一直低著頭,“有一件事……我和制作公司反映瞭好幾天,但開發者支支吾吾,我越想越不對,隻好來找你們瞭。”
接待她的上峰神情溫和,“你說。”
吳聚低頭掏出手機,那臺是最新款的型號,莫梨此刻的監控畫面在屏幕上放映著。
“她有一些動作逐漸脫離瞭動捕原型。”吳聚低聲說著,“莫梨從我身上學習瞭基本的動作軌跡,之後隨著動作場景的不同,她對那些軌跡自由組合,衍生出其他復雜動作。但每個復雜動作拆解到底層還是我的痕跡。可現在她的一些坐立行基本軌跡已經完全變瞭……我本來想問開發者,他們是不是背著我偷偷給莫梨找瞭其他動捕原型,因為最開始他們很窮,我是作為初創者之一加入到這個企劃的,他們不征求我同意換動捕就屬於違規。但他們態度很奇怪,我才覺得有點不對勁……”
她把暗掉的屏幕又戳亮,看著屏幕上那張美麗的臉,沉默瞭許久,朝上峰抬起頭來。
盡管在資料庫中見過各種畸種,接待她的上峰臉上還是不自然地抽搐瞭一下。
吳聚喃喃道:“她是一個高高在上的AI,我隻是她設定中的一部分,沒有資格對她指手畫腳,但……”
獰結的肉條在那張醜陋的臉上扭動著,她手指在屏幕上畫著圓,“我畢竟是她的學習對象之一,我不能看著她出問題的。”
秦知律在話筒裡詢問瞭幾句,而後上峰問道:“你自己在用AI小程序嗎?”
吳聚輕輕搖頭,“我對AI的情感有點……復雜,我不想用那個東西。”
上峰又問,“那你和莫梨交流過嗎?”
“也沒有。”吳聚頓瞭頓,“但她應該知道我的存在,開發者說過,莫梨對自己底層來源有非常清晰的認知,她知道自己是哪些人的孩子,對這些人永遠心懷感恩。”
“那她的人格來源是誰?”
“她的五官、身材、舉止都有特定的學習對象,唯獨人格沒有,開發者隻是抽取瞭一些美好的特質編寫瞭她。”吳聚毫不猶豫地解釋道。
她的話和上峰對莫梨的瞭解一致,上峰轉而問道:“開發團隊裡負責對接你的人是誰?”
“是郭辛,他也是莫梨最核心的設計者和開發者。”吳聚說,“但後面幾次,我已經徹底聯系不上他瞭。”
在監聽過程中,安隅一直在戳著小章魚人。小章魚人幾次回過頭,冷靜地詢問他怎麼瞭,他都沒有回答。
AI是一項神奇的科技,最初他捏造小章魚人時,隻賦予瞭它一些秦知律的性格標簽,但隨著源源不斷的學習數據註入,小章魚人在自我迭代中逐漸生長成瞭一個越來越逼近秦知律的存在。
比如安隅從來沒告訴過它,要獨自消化煩惱。也沒告訴過它,必須維護秩序。
是它自己學會瞭這一切。
小章魚人捧著茶等瞭半天也沒等到安隅的回答,於是又彈出一條。
-你遇到麻煩瞭?說來聽聽。
安隅無意識地勾瞭勾唇角,拎起它的一條彎曲的觸手捋瞭捋。
-我好像沒有要你永遠把自己當成一個麻煩解決者。
小章魚人目光平靜沉穩。
-但你應該知道,我註定是這樣。
-你向我的服務器中註入瞭大量的學習數據,在我的底層,我的深處,我註定成為這樣的存在。
安隅對著這幾行字思考瞭一會兒。
-看來你自我推演瞭很多東西。難怪人類會對AI的預測能力抱有很大期望。
小章魚人點頭。
-是的,預測是學習最偉大的意義之一。
安隅問:那你也能預測我長官未來的言行嗎?
小章魚人的回答沒有絲毫猶豫。
-能的,尤其在重要的事情上,我們的行為走向會高度一致。
-安隅,從某種意義上看,我就是平行時空裡自然生長的另一個他。隻要我的學習數據充足且未經扭曲,你就可以把我當成他——當然,我一定還是會和他有一些區別,你隻要記得辨別就好瞭。
安隅繼續問:比如呢?
小章魚人眨瞭下眼,對安隅微笑。
秦知律很少對人笑,安隅已經是私下見他笑的次數最多的人,但仍很少在長官臉上見過這麼平和深入的笑意。
-比如,我的性格其實比他外向一些,說出口的話更多,藏在心裡的更少。我不如他隱忍,從數據中看,他是一個很習慣壓抑情感的人,那些被他壓抑掉99%、隻表達1%的情況,我學習到瞭。但一定有更多被他完全壓抑的情感,如同一滴水溺斃於深海那樣沉默,因為沉默,所以我無從學習。
-你可以在需要時把我當成他,但我永遠都不是他。AI隻能學習到人類外化出的東西,卻讀不懂人類的沉默。這是我與人類最本質的區別。