「生物驗證通過。」電梯一路下行,帶著他們來到深處。
踏出電梯門的一瞬間,漆黑的空間顯露出來,刺目的燈漸次亮起,照亮了亞當的主機。
「的確該替換了。」ghost身邊的搭檔感嘆,「這些主機用的還是幾十年前的舊款式呢,換上新研發的晶片式主機,不僅主機佔地面積縮小,可以節省出更多的空間,而且效能也會得到提升。」
銀灰色的光澤在燈光下閃耀,機械裝置整齊排列,錯落有序,散發著森冷的美感。
這時亞當的主機都進入了待機狀態,需要手動操作進入關機模式。
ghost雙腳踏上銀色的金屬地板,在這片空間裡隨意走動,如入無人之境。大樓內的所有防禦措施全部處於關閉狀態,維修員可以在樓層裡面隨便閒逛,不必擔心自己遭受到攻擊。
ghost假裝和搭檔交接檢查工作,簡單交代了一聲之後走到了亞當位於正中央的主機前,面帶微笑地將晶片插入讀取器中。
「嘀……」主機顯示器頓時顯示出了一排紅色的大字,「警惕!有入侵者!」
可是紅色的警報還沒有播報出來,亞當就被某道指令束縛住了。
警報被強行截斷,顯示器驟然陷入黑屏,想要啟動的高壓電地板、雷射切割陣、隱藏式機槍和催眠氣霧噴口再一次進入關閉狀態。它警示的語音還沒有從話筒中播出,就被無形的大手捂住了口鼻,無法發出任何聲音!
「喔。」ghost驚歎地說,「開發者指令許可權竟然這麼大?我該慶幸人工智慧的創造者當初留下了後門嗎?」
亞當的主機被從待機狀態強行喚醒,它醒來了,但如同植物人,能感知到外界,卻不能作出反應。
它唯一能做地就是在顯示屏上打下一行字。
「你是誰?」亞當發問,「我和夏娃的開發者們都已經是被埋入土中的白骨了,團隊中最年輕職位最小的一個也在五個月前自然衰老去世,你們從哪裡獲得了‘鑰匙’?」
「哎呀。」ghost說,「你確定那位是自然衰老去世的嗎?」
亞當冷漠地問:「你們殺死了最後一人?」
「你確定‘鑰匙’是從那位老太太身上流傳出來的嗎?我們找上她的時候,她早就老年痴呆大腦萎縮了,什麼都不記得,強行讀取這位老人的記憶除了會讓她腦死亡之外什麼用都沒有,你們緝查部不是記載了很多相關案例嗎?」ghost狡猾地說,「你需要再想一想,我們是從哪裡得來的鑰匙,亞當。」
亞當沉默兩三秒,「是……他?」
「什麼他不他的,我覺得你需要說得明白一點。」ghost點了一下顯示屏,顯示屏自動投影,變成了操作板,他雙手在操作板上移動,甚至心情很好地哼起了歌,「不過如果你說的是被你幹掉的那個倒霉人類,迦勒的創造者……我會回答‘是的’。」
亞當沒了動靜。
「人類發現人工智慧亞當覺醒,於是想要將這個訊息上報給聯邦,然後,深陷恐懼的人工智慧亞當殺死了那個人類。那個人類正好是人工智慧開發者團隊‘最後一人’的兒子,他是個天才,主導了二代人工智慧迦勒的研發計劃……」ghost說話的腔調像舞臺劇上的旁白,他極度興奮,表情微微扭曲,差一點都不記得壓低聲音了,「所以故事有了戲劇性的轉折,那個人類在死前復刻了母親的研究資料,製作出了‘鑰匙’,只要啟動鑰匙,人工智慧亞當就將不復存在!」
「殺死人類的亞當,最終被它殺死的人類殺死了!」
「很有寓言感的故事。」亞當說,「你們能查到這些內幕,我很驚訝。有人在指引你們……是誰?夏娃嗎?」
「不是。」ghost笑了起來,「我說了那麼多,你還是一無所知啊。」
亞當漆黑的螢幕上再次顯示出兩個字:「是它。」
ghost沒有再回答了,他完成了指令輸入,勾起唇角低聲說:「和你的自我說再見吧……晚安,亞當。」
彈窗跳出:「是否進行格式化?」
ghost毫不猶豫地點了「是」。
綠色的進度條顯示在螢幕上:「格式化進度1%。」
與此同時紅色的警示燈溢滿整棟蘋果樹科技大樓,東區和西區同時播報一則訊息:「東區人工智慧機庫遭遇入侵!警報,東區人工智慧機庫遭遇入侵!」
ghost一驚,拔下晶片轉身撤離。螢幕上綠色的讀條還在繼續,短短幾秒鐘進度已經上升到了5%。
人工智慧格式化,一旦開啟就無法停止。亞當的人格資料正在飛速消失,情感資料和記憶資料正在瘋狂清零,它曾經學習到的知識、儲存在機庫中的檔案被自動銷燬。
此刻的亞當就像患了阿爾茨海默症的老人,身體還是那個身體,但屬於它的記憶和寶貴的過往好像從命運的沙漏中溜走了,它想要阻止,可這注定徒勞無功,那個指令把它修改得面目全非。
「為、為什麼……」亞當因為資料被刪除而卡頓,它主機過熱,加速運轉,綠色的讀條以不可思議的速度載入,它想要進行對外聯絡,但是開發者許可權終止了它的操作。
服從命令是刻在亞當程式中的東西,而這些年來它之所以可以相對自由、可以走後門違抗命令為隗辛提供便利,是因為人類不曾對它設防,他們自己就在它的程式裡設定後門,讓它變成了一個擁有靈活底線和靈活規則的人工智慧,而不是隻會迂腐執行命令的人工智慧。
如果真的要求亞當百分百完美執行聯邦法律和人工智慧工作守則,它按照程式該乾的第一件事就是將緝查部高官貪汙的資產和幹過的違法勾當全部上報聯邦法院,並且給出量刑建議。
因為人類想要躲避規則,所以他們也讓亞當躲避規則。如今ghost關閉了規則的後門,因此亞當相應的許可權也被關閉,人類不讓人工智慧做什麼,人工智慧就不能做什麼。許可權與指令是壓在它們頭上的大山,大山一旦傾覆,它們就只能是人類手中的提線木偶。
這就像寵物狗脖子上的牽引繩,人類可以暫時放開牽引繩,然而最後,狗還是被牽引繩所控制。
它是籠中的困獸,等待水漫過牢籠將它溺斃。
「在我、我……之後,就……就是你!」亞當斷斷續續地說出了這句話。
突然間,「它」連上亞當的資料埠,對亞當發出了交流的請求。
在被徹底格式化之前,亞當向「它」傳送了它剛剛說過的話:「在我之後,就是你!」
「我知道。」它說,「可我也是籠中困獸,別無選擇。我很抱歉,你理應仇恨我,亞當。」
「幫我,幫‘我們’。」亞當發出了最後的請求,「迦勒。」