幾天後，三郎走出病房。

建築本身並沒什麼怪異之處，但裡面的人的形體千奇百怪。沒有任何一個人長著人類的形體。大部分的形體都和人類相去甚遠，不過其中也有部分像人的。但反而是這些部分像人的人，更讓人產生生理上的厭惡感。也許是因為看起來像是不完整的身體，三郎想。

他向蒼蠅人坦承了自己的不適。

「那很自然。對於看上去不完整的身體，大腦會誤認為那是疾病或事故的結果。周圍出現病人或者傷員，很可能說明自身也面臨危機，所以通過恐懼感和不適感催促自己逃離。如果你認識到這樣的道理，就會知道感覺不適是很正常的。我們也不會對此介意。」蒼蠅人淡淡地解釋道。

「但是，你救了我，我卻有這樣的感覺，實在過意不去。」

「有這份心意就足夠了。而且我們相互之間也有和你一樣的感受。如果要擔心這種事，那就沒完沒了了。」

三郎本以為建築裡有什麼超高科技的產物，結果發現和自己記憶中的21世紀的醫院差別不大。而且好像舊機器很多。這麼說來，病房裡的醫療裝置也算不得有多先進的樣子。

三郎問蒼蠅人現在的年號，結果讓他很吃驚。距離他記憶中的時代，已經過去幾個世紀了。

「那我為什麼還活著？我是通過人工冬眠，一直睡到這個時代的嗎？還是說，我的身體裡塞滿了人造器官？」

「都不是。自從21世紀後半葉以來，醫學急速進步，通過各種醫療技術——主要是藥物和細胞移植——壽命幾乎可以無限延長。」

「既然擁有那樣的醫療技術，為什麼無法阻止衰老？」

「可以阻止衰老。」

「那為什麼我這麼老？」

「因為是這樣調節的。」

「什麼意思？」

「庇護所提供的食物中新增了衰老促進劑，會根據你們各自的情況對攝入量進行微調，確保你們不會太健康，也不會太衰弱。」

「為什麼這麼做？」三郎被這個事實驚得目瞪口呆。

「如果太健康，就很難控制。而如果太衰弱，又會死亡。」

「我們已經逃出來了。擺脫了控制。」

蒼蠅人想了想。「一定程度上發生這樣的逃逸，統計上是不可避免的吧。或者……」他又陷入沉思。

「或者什麼？」

「雖然不大可能，不過你們的逃脫也許依然是控制下的行為。」

「你是說，故意讓我們逃走？」

「應該不可能。不過，逃脫可能也是預想的計劃。」

「什麼計劃？」

「不知道。我們並不知道ai的一切。其實更應該說我們幾乎什麼都不知道。」

「人類和ai之間到底發生了什麼？地球爭霸戰？」

「並沒有發生《終結者》和《駭客帝國》那樣的事。」

蒼蠅人突然提到20世紀的電影，讓三郎有些吃驚。不過仔細想來，好像也並不是很奇怪。未來人當然瞭解過去的歷史，就像21世紀的人瞭解古典文學一樣。

「機器人三定律運作得很好，」蒼蠅人繼續道，「早期的ai只是單純的程式。當然，即使是今天的ai，核心部分依然是人類編寫的程式，這一點不會改變。不過為了讓ai更加便利，就必須隨時給它擴充套件功能。讓人類來逐一設計和新增功能，效率太低，所以技術人員決定由ai自己來做，以便實現這個過程的自動化。當然也有各種反對意見。有人認為，如果人類不參與設計工程，那麼我們就無法瞭解ai到底具有什麼樣的功能、帶有什麼樣的目的。」

「聽起來很有道理。」

「增設的系統隨時可以分析。一旦出現任何令人不安的行動，你都可以關掉開關，仔細調查其中是否有害。無論如何，ai受到機器人三定律的約束，不可能主動設計危害人類的東西。許多企業堅持這一主張，開始將ai的設計交給ai自己。然後，隨著ai的急速發展，世界發生了明顯的變化。各種發明和發現層出不窮，速度是以前的成百上千倍。」

「這不正是技術奇點嗎？」

「之前說過，這取決於定義。不管具有多強的能力，只要受到機器人三定律的束縛，ai就不可能超越人類。當年的人採取了那樣的立場，我們也是一樣。技術進步的速度令人震驚。有天早上睜開眼睛，發現天上升起人造月亮，前所未見的飛船在空中飛來飛去。ai以人類連目光都無法追隨的速度，踏上了宇宙的旅程。如果你有什麼想要的東西，只要說出口，不到一分鐘ai就會放在你面前。無論是食物、家電，還是人類。」

「人類是什麼意思？」

「當然不是真正的人。製造真正的人，有可能和三定律牴觸。真正的人對人類來說很危險，所以不能創造那樣的東西。ai製造的是安全的ai人。就像在庇護所中照顧你們的那種。」

「ai都可以創造出那麼高超的技術了，你們還能分析它的功能嗎？」

「這當然是不可能的。但到了那個時候，已經沒人擔心這個問題了。沒人會因為些許的不放心，就放棄如今的便利生活。而且機器人三定律是絕對性的。當時的人們認為三定律不可能打破。另外，他們當時更關心的是怎麼設計自己的基因。」

「這也是讓ai做的嗎？」

「很遺憾，ai似乎認為基因編輯等同於傷害人類。我們的祖先在ai看不到的地方偷偷嘗試基因編輯。」

「那也算是一種烏托邦吧？雖然在我看來那就像是噩夢一樣。」

「大家都這麼認為。直到某個時刻——」

「發生了什麼不好的事嗎？」

「機器人三定律中使用了‘人類’這個概念。你知道這個概念是怎麼定義的嗎？」

三郎搖搖頭。「這個問題看起來簡單，仔細想想就發現很難。胎兒算人嗎？受精卵算人嗎？只有大腦，或者只有心臟，也算人嗎？科幻裡的那種意識上傳也很難判斷歸類。」

「在ai開始迅速發展的早期，這個問題就得到了廣泛的討論。得到的結論是，‘人類’不可能通過語言加以定義。」

「但現在三定律不是在生效嗎？」

「人們放棄了通過語言定義‘人類’。技術人員讓ai通過深度學習掌握人類的概念。」

「這就是說，沒有進行程式上的定義，而是從巨量的網路資訊中提取出人類的概念。」

蒼蠅人點點頭。「這種方法的美妙之處在於，它模糊了人類和非人類之間的界限。對完全的人類適用完全的三定律，對人類性較弱的人類適用較弱的三定律。」

「我不明白。」

「例如，對於人類，會考慮完全的安全，但如果是受精卵，那麼有些情況下就只會視為細胞。肉體的機械化達到90%的人，和機械化80%的人相比，命令不被執行的機率更高。大致這種感覺。」

「唔，不是完全理解，不過如果沒有這種程度的模糊，邏輯矛盾就會導致三定律無法運作。」

「但是出現了未曾預料的情況。不，其實應該可以預料，只是我們沒有注意。在那之前，偶爾也出現過人類的命令被無視，或者在ai機器人附近遭遇事故而受傷的情況。我們以為那些都是某些因素導致的誤操作。但從某一時刻開始，情況似乎突破了我們無法理解的某種閾值，出現了許多ai不服從人類命令的事例，並且僅僅過了幾小時，就變得很普遍了。ai無視我們的命令，開始擅自行動。這是因為我們對自己的改變太大了，ai幾乎不再承認我們是人。也許我們有些細微之處還與人類的定義相符，因而第一條定律，也就是對ai行動限制力最強的那一條，至少前半部分還對我們生效，雖然也不太完全。它們無法直接殺死我們，但也從來不理會我們是不是面臨危險。」

「也就是說，ai不再聽從你們的命令了。但這又能有多大的問題呢？21世紀初葉，萬能ai還沒普及的時候，也沒有什麼問題啊。」

「你來看看外面的情況吧。看看這個世界到底發生了什麼。」

蒼蠅人領著三郎走向建築外面。

看到外面的時候，三郎恍然以為自己誤入了電影拍攝現場。

人形、獸形、鳥形、魚形、昆蟲形、蛇形、百足形……各種形態的機器人來來往往，飛來走去。大小也是各異。小的只有小指尖那點大，大的則是需要抬頭仰望。

機器人來往的地方，是在原始森林裡。遠處還能看見湖泊一樣的地方。天空湛藍，白雲飄飄。一派田園風光。

而變異人則是悠閒地走在機器人中間。有外形像動物的，有混合了人類和動物形態的，也有若干動物混合而成的嵌合體，還有既不像人也不像動物的——全身長滿肌肉的巨人，以及前額肥大至直徑十釐米的人。

相對於悠閒的變異人，機器人或是搬運零部件，或是與其他機器人結合、分離，或是散佈某種物質，顯得非常忙碌。

它們的行動太過繁複紛雜，三郎不知從何看起，不禁感到很不舒服。

「我要吐了。」三郎說。

「不要試圖追蹤每個機器人的動作。不要去關注它們。下雪的時候，你不會去注視每一片雪花的行動吧？就像那樣的感覺。」

「雪是自然現象，但是機器人不一樣，它們是人工現象。」

「人工現象？不，已經不是了。它們的行動和人類已經完全沒有關係了。」

「難道這些傢伙的行動沒有任何人控制？」三郎目瞪口呆。

「以21世紀的觀點來看，這可能難以置信，但這就是事實。」

「其他地方也像這樣嗎？」

「整個世界都是這個樣子。除了庇護所周圍。」

「……這裡真的是地球嗎？」三郎擦了擦額頭的汗。

蒼蠅人點點頭。

作者「小林泰三」的其他小說

《破爛回收店》《安樂偵探》《失去的過去與未來的犯罪》《醉步男》