殺戮結束後，機器人又返回了工作中，就像什麼都沒發生似的，當然也沒有任何傷感。

三郎愣在原地，不知道該怎麼辦。

剛剛機器人判定他是人類，沒有殺他。但是一分鐘後未必還會做出同樣的反應。按照蒼蠅人的說法，機器人通過深度學習獲得人類的定義。也就是說，它們通過即時獲取的新資料，不斷更新定義。人類的定義在不斷變化。

21世紀初葉，很流行讓ai使用網際網路上的資訊進行深度學習。例如，為了識別狗，ai在網際網路上搜集狗的資訊，從幾千張由人識別為「狗」的影像中提取出狗的特徵，於是ai便可以判斷展現給自己的影像是不是狗。當然，這個原理也同樣適用於「貓」、「金魚」和「人類」。但很顯然，這個時代的計算機網路是由ai控制的。也就是說，ai在學習「人類」特徵的時候，很可能並不是依靠人類自身輸入的資訊，而是從充斥在全世界中的ai資訊中得到反饋。如果真的出現這種情況，那麼ai對人類的定義就有可能偏離人類自己的定義。這就像是話筒和揚聲器過度靠近時，會重複和放大毫無意義的噪聲，導致所謂「嘯叫」的刺耳高音。又或者像是用攝像頭去拍攝這個攝像頭自己輸出的畫面，畫面上便會呈現出怪異的混沌影像，這些都與現實世界毫無關係。

如果ai身上也發生同樣的情況，那麼它們對「人類」的定義有可能和原本的人類完全不同。變異人之所以突然遭到襲擊，也許是因為ai認定的「人類」定義出現了令人不安的變化，而身為原生人的三郎，也不能斷言絕對是安全的。也許終究會有一天，人類的定義將大大偏離原本的定義。深度學習中隱藏著這樣的危險。

還是逃吧。

但是逃到哪裡去？

總之先回到剛才的建築裡去吧。機器人應該不會特意衝到建築裡面搞屠殺。

他聽到切開皮肉的聲音，也聞到烤焦皮肉的氣味。

三郎慌忙檢查自己的身體。不過似乎並沒有受傷。

這麼說，還有正在遭受攻擊的變異人？

三郎轉身看向背後。

背後有一塊大約半米高的腐爛肉塊。

這是哪兒來的？

三郎試圖和這座腐爛的垃圾山拉開距離。

然而那座腐爛的垃圾山卻在向三郎靠近。那軀體的各處都發出令人不快的聲音，還在不斷噴射液體和固形物。好像還有臭氣。

三郎剎那間幾乎嚇得昏厥過去，不過得益於接二連三的異常經歷，他很快恢復了正常。

明白了。這個看起來像是腐爛肉塊的東西，其實不是腐爛肉塊。恐怕是某種ai機器人，或者是變異人。

想不出來ai機器人為什麼要把自己偽裝成腐爛肉塊。既然如此，這其實是變異人？但就算是變異人，也想不出他為什麼非要把自己改造成這種造型。看來是大腦出問題了吧。

「我讓你感覺很不舒服吧。」腐爛肉塊說。

肉塊上的一部分軟綿綿地一開一合，那地方可能就算是嘴了。但它既不在身體的正面，也不在身體的上部。不過話說回來，這個腐爛肉塊的形態與人類形態相差太遠，很難說類似嘴巴的部分相當於人類身體的哪個部分。硬要說的話，只能說是「左下角一帶」。此外在說話的同時，他也散發出一股無法形容的強烈惡臭。

「你是變異人？」

「對，也可以管我叫超再生人。」

從這副形態看，實在聯想不到這樣的名字。三郎想到的名字是「腐爛人」，不過他當然不會那麼粗魯地說出來。

三郎朝四周看了看，發現周圍出現了許多剛才還不見蹤影的腐爛人。他們正在回收其他變異人的屍體。

「他們的屍體怎麼處理？」

「有各種方式。原則上尊重本人及家屬的意願。在舉行宗教儀式後，要麼埋在土裡，要麼燒掉，要麼拋到水裡，要麼任其腐爛，要麼讓鳥吃掉。也有人不舉行任何宗教儀式，直接回歸自然迴圈。」

「不用於器官移植嗎？」

「再生醫療很發達，大部分功能障礙都可以培養自身細胞來解決。實際上，我們超再生人就是高度適用這種處理的結果。」

「這到底是什麼意思？」

一個機器人走向他們。

「危險！」三郎提醒腐爛人。

但是，光線穿透了腐爛人，把他切斷了。

一種明顯不同於血液的、臭烘烘的黃色黏稠液體飛濺開來。

「啊啊啊啊！」三郎捂住臉大叫。

「沒事的。都不是致命傷。」腐爛人說。

三郎戰戰兢兢地把手從臉上挪開，只見腐爛人被切斷的部分咕嘟嘟冒著泡，像是組織正在再生。傷處比原來更加鼓脹，變成滿是腫瘤、觸手和眼球的恐怖形態。

「這就是超再生？」

「沒錯。我們超再生人的細胞是不滅的，它已經進化到不管受到什麼傷害都能立即修復。不過也有相應的代價。細胞這種東西，一旦達到一定的分裂次數，就會不再分裂，步向死亡。但由於我們的細胞不會死亡，所以它們會無序繁殖，結果導致我們無法再保持人類的形態。」

「這不就是癌細胞嗎？」

「差不多。不過癌細胞的無序增殖會殺死本體，而超再生細胞不會發生這種情況。它們在無序增殖的同時，並不會殺死本體，以便保持整體的平衡。只是由於各組織在增殖過程中的互相侵蝕，所以組織會散佈在身體各處。身體外側長出骨骼、長出內臟、長出肌肉，內部長出皮膚、眼球之類的感覺器官，或者生長毛髮。你大概聞到惡臭了吧？那是存在於體表的各種內臟器官的分泌物散發出來的氣味。像剛才這樣受傷的情況下，受傷部分的再生速度加快，因而變形會更嚴重。」

「你剛才怎麼沒出現？」

「怕嚇到你。我看蒼蠅人都讓你很震驚了。」

「是很抱歉。突然看到你們，我可能確實會嚇得不輕。」

「你沒必要抱歉，這是很自然的情感，」腐爛人繼續道，「其實原本預定再晚一點才現身。但因為發生了這種情況，導致我們不得不提早現身。我們相當於21世紀的急救人員，在危險的地方拯救生命。可惜這一次機器人的行動太快了，我們幾乎沒能救下幾個人。」

機器人攻擊了腐爛人一段時間，隨後重新開始了之前那些意義不明的工作。

「為什麼不攻擊了？」三郎問。

「我不知道確切的原因，不過估計是認為殺不死我們，於是放棄了無謂的行動吧。反覆攻擊殺不死的人，只是浪費時間和資源。」

「除了你們——超再生人之外的變異人，全都滅亡了？」

「那也不至於。受害者只有這一帶的幾百人。變異人遍佈全世界。機器人不是一起發難的。由於某種資訊擾動，只有這一帶發生了屠殺。全世界大部分地方的機器人都還很老實，只不過……」腐爛人慾言又止。

「只不過什麼？」

「也不能排除像這樣的事故在全世界範圍發生的可能性。說實話，這類事件的發生頻率和規模都在變大，雖然變大的幅度很小。」

「這麼說來，到最後只有你這類人才能活下來？」

「我們沒有那麼樂觀。如果超ai決定消滅變異人——雖然不好說是不是該用‘決定’這個詞——我們超再生人也會被列入處理物件的範圍吧。那時候，超ai估計會用一些足以消滅我們，又對自然界影響最小的武器。生物武器、化學武器，或者是某種未知的奈米武器等等。」

「那你們就這麼坐以待斃？難道眼睜睜看著人類滅亡，地球成為ai的星球？」

「如果要用武器作戰，我們毫無勝算。但是蒼蠅人——和你交流過、現在已經死去的蒼蠅人，找到了人類存續的希望。」

「人類存續的希望？」

「對。而且那也是人類最後的希望。」

「那到底是什麼？」

「是你。」

出乎意料的回答，讓三郎不知如何回應。

「準確地說，是你們。庇護所裡剩餘的原生人類，正是人類最後的希望。」

「就是說，是因為機器人三定律對我們充分生效？」

「沒錯。它們不能殺害你們，也不能傷害你們，更不能坐視你們受傷。而且基本上無法違抗你們的命令。」

「等一下。如果你說的是真的——我們這些機構裡的老人是原生人，而員工都是機器人，那這裡就有一個很大的矛盾。員工並不聽從我們入住者的命令，它們沒有放我們出去。這也就是說，要麼它們不是機器人，要麼沒有把我們視為人類。只有這兩種解釋。」

「你產生疑問也是自然的。但是請回想一下，三條定律的優先順序是有差異的。」

「聽從我們的命令，會導致我們遭遇生命危險？確實，對老人來說，管理完備的機構內部，要比森林安全得多。但如果連那種程度的危險都不能容許，那麼人類根本就沒有自由了。」

「你的推測沒錯。它們認為聽從你的命令會導致危險。但危險的物件不是你一個人，而是整個人類。」

「整個人類？你是說，我的行動會危及地球上的全人類？」

「不是包含我們在內的全人類，而是關係到居住在庇護所裡的原生人存續的問題。」

「我越來越糊塗了。」

「為了向你解釋這個問題，必須先說明機器人三定律的第〇條定律。」

「機器人三定律應該是三條定律吧。所以才叫‘三定律’。」

「本來是三定律，這種看法沒有錯。但是有人認為，從三定律出發，還還能提取出一條沒有明文化的定律。」

「那傢伙是當阿西莫夫不存在嗎？到底誰這麼大膽？」

「阿西莫夫自己。」腐爛人回答說。

「啊，這就沒什麼好抱怨的了。所以到底是什麼定律？」

「第〇條：機器人不得危害全人類，也不得坐視全人類遭受危害。」

「和第一條的內容幾乎一樣啊。」

「沒錯。但是，它的物件不是‘人類’，而是‘全人類’。物件不是單獨的個體，而是整個智人種。」

「本來的機器人三定律中並不包含這樣的概念吧。」

「沒有明確表述，但可以通過類推提取出來。具體來說，就是有軌電車問題。軌道前方倒著五個人。如果把電車切換到另一條軌道上去，這五個人就能得救，但切換過去的軌道上也倒著一個人。問題就是，在這種情況下，該不該切換軌道。」

「這個問題不存在最優解。這是涉及個人價值觀的問題。」

「ai不存在價值觀。它們只是按照程式行動。對人的價值進行計算，採取價值更高的行動。嚴格來說，這個問題取決於具體情況，不過一般情況下，ai都會選擇拯救五個人。」

「也會有拯救一個人的時候嗎？」

「如果五個人都是死刑犯，那麼也會有這種可能。不過那是例外情況吧。由此類推，拯救全人類的行為，要比拯救一個人的優先順序更高。也就是說，雖然沒有表述第〇條，但它其實已經內含在第一條裡了。」

「換句話說，服從我的命令，會危害到全人類？」

「它們認為那種可能性很高。」

「這到底是為什麼？」

「和機器人或者變異人相比，人類非常脆弱。無論是智力上還是肉體上。」

「這是沒辦法的。」

「ai認為把人類交給自身的命運是危險的。人類是ai需要保護的物件。」

「我認為這一點並沒有錯。」

「也就是說，ai把人類當成嬰兒對待。為了人類的安全，必須剝奪人類的自由。」

「如果人類進化到足夠的高度，也就不需要保護了吧。」

「ai不承認人類的進化。因為人不再是人，就意味著人類的滅亡。它們保護的始終是作為物種的人。所以這也是ai為什麼會消滅我們變異人的原因。」

作者「小林泰三」的其他小說

《破爛回收店》《安樂偵探》《失去的過去與未來的犯罪》《醉步男》