「那個我知道。」

機器人三定律是21世紀美國科幻作家艾薩克·阿西莫夫提出的概念。

第一條：機器人不得傷害人類，或坐視人類受到傷害而袖手旁觀。

第二條：機器人必須服從人類的命令，除非該命令與第一條相悖。

第三條：機器人必須保護自己，除非這種保護與以上兩條相悖。

措辭比較晦澀，總之這只是描述了一種工具應當滿足的條件而已。工具必須是安全的，必須按照使用者的意願發揮作用，並且不能輕易損壞。

為什麼非要用「三定律」這樣的名字來總結這些理所當然的概念呢？這是因為，機器人很像人，因而人很容易忘記它們是工具。如果迫使一個人遵守這樣的三定律，那麼就等於把這個人當作奴隸。所以，認為外觀像人的機器人有自己的人格，不想把它們當作奴隸對待，這也是人之常情。但阿西莫夫認為這很危險。如果機器人在一切方面都超越了人類，那麼就沒有任何事情能夠阻止它們。人類將會跌下「主宰」的神壇。

許多人誤以為機器人會自發遵守這樣的三定律，但這當然只是一廂情願。當ai的進步加速、出現有可能超越人類的技術奇點時，各國政府通過法律迫使ai必須嵌入機器人三定律。許多科學家認為，三定律會阻礙ai的進化，但通過很多科幻作品瞭解到ai叛亂的社會大眾，都贊成機器人三定律的匯入。反對派的科學家紛紛被投進了監獄。在那以後，一切ai的核心部分都嵌入了機器人三定律。一旦形成潮流，以機器人三定律為基礎的技術開發不斷發展，十年之後便無法回頭了。開發不用機器人三原則的ai，意味著落後世界十年。誰也承擔不起這樣的風險。

所以從那以來，再也沒有未嵌入機器人三定律的ai了。

「既然知道機器人三定律，還有什麼疑問？」蒼蠅人問。

「我不明白為什麼會提到機器人三定律，」三郎說，「機構裡又沒有機器人。」

蒼蠅人沒有回答，而是從某處掏出便攜終端。

在三郎看來，那像是從腹部側面開的一個洞裡拿出來的，不過他決定不深究這一點。

蒼蠅人操作終端。

房間牆壁上開啟了一塊。

那裡是個小房間，有位酷似機構員工的女性站在裡面，穿著機構員工通常穿的制服。閉著眼睛，像是站在那裡睡覺似的。

三郎拉開架勢，瞪著蒼蠅人。「你們果然和機構是一夥的？！」

「不是的。這個和庇護所裡用的是同一系列。這是為了讓你看到真相。」蒼蠅人繼續操作終端。

女性睜開眼睛。但她全身都沒有動作，面無表情地望著虛空。

「你對她說，‘給我看看你的裡面’。」

「什麼意思？」

「別擔心，跟著說就行了。那樣你會發現一個事實。」

「給我看看你的裡面。」三郎把蒼蠅人的話重複了一遍。

「您想看哪一部分？」女性對三郎說。

三郎不知道怎麼回答，看了看蒼蠅人。

「你說，‘隨便哪部分’。」蒼蠅人說。

「隨便哪部分。」三郎又重複道。

女性把自己的臉剝了下來。下面是由人造物組成的肌肉和眼球。

三郎感到一陣噁心。機器部件看起來有點像活生生的血肉。

「這是機器人？」

「準確來說是仿生機器人。」

「太精緻了，看起來和人一模一樣。」

「製造它的目的就是為了讓人類誤認。」

「抵達技術奇點了？」

「那要看技術奇點的定義是什麼。我們把它定義為‘人類能做的一切事情ai都能做，而且人類不能做的事情ai也能做的狀態’。在這層意義上，這個機器人還沒有抵達技術奇點。」

「在不久的將來，有可能抵達嗎？」

「只要機器人三定律還有效，那就不可能。人類可以殺人和自殺，但機器人不行。」

「我並不認為能做到這一點有多幸福。」

「我只是在討論可能性。」

「為什麼給我看機器人員工？」

「在庇護所照顧你們的也是同樣的機器人。」

「難以置信。」

「但這是真的。」

「證據呢？」

「就是這個機器人。」

「我明白這是機器人，但它並不能證明機構的員工也是機器人。」

「再次返回庇護所去確認，也沒有多困難，只是……」蒼蠅人猶豫了一下。

「只是什麼？」

「只是確認之後，那些記憶又會被封印吧。」

道理確實是這個道理。但是……

「我可以湊近看看那個機器人嗎？」三郎問。

「當然。」

「把臉湊過來，讓我能看清楚。」三郎試著命令道。

機器人走到三郎的床邊，半蹲下來。

仔細觀察人工肌肉，發現那是細微的電線集合。人工眼球看起來酷似真正的眼球，但摸上去發現完全沒有溼氣，是由樹脂之類的東西構成的。

「能把頭拆下來嗎？」三郎問。

「短時間內可以。」機器人回答。

「拆下來看看。」

機器人把手放到自己的耳邊，直接拔出了頭部。頭部下面是一個巨大的插座狀結構，像是直接插入身體的構造。

他去看拔掉頭部之後的洞裡，看到幾個不知道有什麼功能的部件。

身體裡看來沒有足夠容納一個人的空間。她大概確實是個機器人。

「你去過我所在的機構嗎？」

「我自己沒有去過庇護所。不過和我同一系列的機器人在庇護所工作。」在拔掉頭部的情況下，機器人還是很流暢地回答。

「好吧，我相信你的話，」三郎想了一會兒說，「行吧，如果發現是在騙我，到那時候再說。」

「這是一個明智的決定。」蒼蠅人說。

「剛才睡著的時候，我夢到了世界。」三郎說出心中的疑問。

「那是早期記憶。第一次接受記憶封印處理之前的記憶。」

「這樣的話，道理就說不通了。」

「什麼意思？」

「我的記憶是22世紀中葉。」

「這有什麼不對？」

「那麼我就遠遠超過了百歲。」

「這有什麼問題？」

「人不可能活那麼久吧。」

「關於你自身的記憶，應該分成兩個階段封印了。還沒有完全回想起來吧。」

被蒼蠅人這麼一說，三郎發現自己對於社會變化的記憶比較清晰，但對於自身的情況並不清楚，當然也包括進入那個機構的經過。

「我身上到底發生了什麼？」

「你是最後一代原生人。」

「你的意思是說，現在出生的全都是變異人？」

「正是這樣。」

「新出生的孩子全都像你這樣？」

「不是所有人都像我這樣，但也不是原生人的樣子。」

「變異人也有很多種嗎？這麼說來，我也有這樣的記憶。但原生人應該也延續下來了。畢竟我自己就在這裡。」

蒼蠅人點點頭。

「他們在哪兒？」

「庇護所。」

「從剛才開始，這個詞就聽你說了好幾次。它到底是什麼意思？」

「對不起，我沒有充分說明。庇護所就是你所說的‘機構’。現存的所有原生人，都集中在那裡。」

作者「小林泰三」的其他小說

《破爛回收店》《安樂偵探》《失去的過去與未來的犯罪》《醉步男》