李比慢慢張大嘴巴。貝萊起初以為他要咆哮一番,後來卻相當驚訝地發現,那是他生平所見最不成功的一個笑容。
李比開口道:「別這麼說,千萬別這麼說。」
「為什麼?」
「因為那是有害的言論,會削弱人類對機器人的信心,任何這類言行都是有害的。不信任機器人是人類的通病!」
他彷彿是在教訓小孩子;彷彿是將一串怒吼刻意輕聲細語地說出來;彷彿他雖然很想祭出死刑,仍先試著勸誘對方浪子回頭。
李比問道:「你對機器人學的歷史清楚嗎?」
「還可以。」
「身為地球人,你應當清楚。你可知道,機器人剛出現的時候,引發了很強的科學怪人情結?人類對機器人充滿疑慮,非但不信任它們,而且心懷恐懼。於是,機器人學幾乎成了一門地下科學。機器人之所以個個內建三大法則,最初就是為了克服這種疑慮,但即便如此,地球上還是不可能發展出機器人化的社會。當初會有人離開地球,移民到銀河其他角落,原因之一就是為了善加利用機器人,好讓人類永遠脫離貧困勞苦。可是,大家對機器人仍有潛在的疑慮,一有什麼風吹草動,這種心理便會竄出來作怪。」
「這種不信任機器人的內心掙扎,你自己也經歷過嗎?」貝萊問。
「很多次。」李比繃著臉說。
「莫非這就是你們這些機器人學家願意稍微曲解事實,以便儘可能消除疑慮的原因?」
「我們沒有曲解任何事!」
「比方說,三大法則沒遭到曲解嗎?」
「沒有!」
「我能提出明確的證據。除非你有辦法說服我,否則只要有機會,我就會向全銀河證明這件事。」
「你瘋了。我向你保證,無論你自以為掌握了什麼證據,都一定靠不住。」
「我們是不是該討論一下?」
「如果不太花時間的話。」
「面對面討論?」
李比那張瘦臉扭成了一團。「不行!」
「再見了,李比博士。會有人願意聽我說的。」
「慢著。銀河啊,老兄,慢著!」
「見面?」
機器人學家將雙手舉到下巴附近,晃來晃去了一陣子。只見一隻拇指慢慢鑽進他嘴巴里,就再也沒有出來了。他的眼睛則茫然地望著貝萊。
貝萊心想:他是不是讓自己退回到五歲之前,以便心安理得地和我相見?
「見面?」他又說。
不料李比緩緩搖了搖頭。「我做不到,做不到。」他含著拇指,口齒不清地呻吟,「你愛怎麼做就怎麼做吧。」
在貝萊的瞪視下,李比轉過身去面對著牆壁。這個直挺挺的索拉利人終於彎腰了,還將臉孔埋到了顫抖的雙手中。
貝萊說:「好吧,我同意,就用顯像吧。」
李比背對著他說:「失陪一會兒,我馬上回來。」
貝萊利用這段空當去了一趟衛浴間,然後,他從鏡子裡端詳那張剛剛洗過的臉。自己是否逐漸受到索拉利和索拉利人的影響?他心中沒有答案。
他嘆了一口氣,拍下按鍵召來一個機器人。然後,他沒轉頭便說:「除了我正在用的這一臺,育場裡還有其他的顯像儀嗎?」
「另外還有三個機座,主人。」
「那你就告訴克蘿麗莎・康特羅——告訴你的女主人,我要繼續使用這臺,請她別打擾我。用完了,我自會跟她說。」
「是的,主人。」
貝萊回到原來那個房間,顯像儀依舊對準李比剛才現身之處。現在那裡仍是一片空洞,他索性坐下來等待。
不多久李比便出現了,隨著他的腳步,房間彷彿又開始輕微晃動。顯然,鏡頭毫無延遲地從鎖定房中央轉為鎖定他這個人。貝萊想起顯像控制的複雜程度,不禁感到有點肅然起敬。
李比幾乎恢復正常了,這相當明顯。他的頭髮梳得服服帖帖,衣服也換過了。他現在穿著一套寬鬆的服裝,閃閃發光的質料十分吸引目光。他從牆上拉出一張椅子坐了下來。
「你對第一法則到底有什麼獨到的看法?」他一本正經地說。
「我們會遭竊聽嗎?」
「不會,我做了預防。」
貝萊點了點頭。「我先來引述一下第一法則。」
「我看沒必要。」
「我知道,但還是讓我引述一下吧:機器人不得傷害人類,或因不作為而使人類受到傷害。」
「怎麼樣?」
「且說剛抵達索拉利時,我是搭乘地面車前往指定給我的屬地。為了避免讓我接觸到開放空間,那輛地面車在行進中完全封閉。身為地球人……」
「這點我知道,」李比不耐煩地說,「但這又和第一法則有什麼關係?」
「駕駛那輛車的機器人並不知道這一點。我要它開啟天窗,它立刻遵命了。根據第二法則,它必須服從命令。我當然覺得很不舒服,好在天窗及時關閉,否則我就要崩潰了。能不能說那機器人傷害了我?」
「它是奉命行事。」李比回嘴道。
「我來引述一下第二法則:除非違背第一法則,機器人必須服從人類的命令。所以你看,我的命令應該無效才對。」
「荒謬。機器人並不知道……」
坐在椅子上的貝萊傾身向前。「啊!這就對了。讓我們把最正確的第一法則說一遍吧:機器人不得在知情的情況下傷害人類,或在知情的情況下因不作為而使人類受到傷害。」
「這個道理大家都懂。」
「我認為一般人並不懂。否則,人人都會了解機器人能進行謀殺。」
李比臉色蒼白。「你有精神病!你是瘋子!」
貝萊凝視著自己的指尖。「我想,凡是不會對人類造成傷害的任務,機器人都會執行?」
「必須有人下令。」李比說。
「是的,當然必須有人下令。而如果有另一個機器人,奉命執行另一件任務,只要這件任務不會對人類造成傷害,我想它也是會執行的?」
「沒錯。」
「有沒有可能,這兩件任務本身對人類都毫無危害,加在一起卻構成了一樁謀殺案?」
「什麼?」李比的表情變得很陰沉。
「我想請教你對這個問題的專業意見。」貝萊說,「我來說一個假設性個案吧。假設某人對機器人說:‘把這種液體放一點到某處的一壺牛奶裡。這種液體無毒無害,我只是想知道它對牛奶有何影響。一旦我確定了,便會把那壺牛奶倒掉。等你做完這項工作,把它忘得一乾二淨。’」
李比依舊沉著臉,什麼也沒說。
貝萊繼續說道:「如果我叫機器人把那個神秘液體加到牛奶裡,然後拿給某人喝,第一法則會促使它提出質疑:‘這個液體到底是什麼?會不會對人類有害?’即使我向機器人保證這麼做絕對安全,第一法則還是會讓它存疑,因而拒絕端出那壺牛奶。然而,如果我告訴它最後會把牛奶倒掉,第一法則就不會介入了。請問機器人會不會服從命令?」
李比開始面露兇光。
貝萊又說:「然而,第二個機器人並不知道那壺牛奶被動了手腳。在完全不知情的情況下,它把牛奶倒出一杯給某人喝,而那人就被毒死了。」
李比大叫一聲:「不會的!」
「為何不會?兩件任務本身都是無害的,只有加在一起才會構成謀殺。難道你否認有這種可能性嗎?」
「兇手應該是那個下令的人。」李比吼道。
「如果你追根究底,這麼說當然沒錯。不過,那兩個機器人卻是直接的兇手,是行兇的工具。」
「沒有人會下這種命令。」
「有這種人,而且他真做了。謀殺葛魯爾局長一定就是用這種方法進行的。我想,你應該聽說過這件事了。」
「在索拉利,」李比喃喃道,「每件事都會傳到你耳朵裡。」
「那你就該知道,葛魯爾是在吃晚餐時遭毒害的,而且是當著兩個人的面,除了我自己,還有我的搭檔,也就是來自奧羅拉的奧利瓦先生。你能想出把毒藥送進他嘴裡的第二種方法嗎?當時,他的屬地上沒有別人。身為索拉利人,你一定明白這個事實。」
「我又不是警探,我對犯罪手法一竅不通。」
「我已經告訴你一種了。我想知道它是否可能;我想知道兩個不知情的機器人能否合作完成一件謀殺案。你是專家,李比博士,有這個可能嗎?」
不堪其擾的李比終於答道:「可能。」聲音低到貝萊幾乎都聽不見。
貝萊說:「很好。第一法則的討論到此為止。」
李比瞪著貝萊,只見他那下垂的眼皮慢慢眨了一兩下。他原本緊握的雙手這時已分了開,不過手指依舊彎曲,彷彿那兩隻手仍各握著一隻隱形的手掌。最後,他終於把雙手擺到膝蓋上,直到這個時候,十根指頭才總算放鬆了。
貝萊出神地瞧著整個過程。
李比說:「理論上有可能,僅僅理論上!可是地球人,別那麼容易就把第一法則否定了。想要智取第一法則,你必須對機器人下達非常高明的命令才行。」
「同意。」貝萊說,「我只是個地球人,我對機器人幾乎一無所知,剛剛我說的那些命令只是舉例而已。在這方面,索拉利人一定比我優秀得多,下的命令也高明得多。這點我很肯定。」
李比恐怕根本沒聽進這句話,他高聲道:「萬一機器人真能用來傷害人類,那就意味著正子腦的功能必須趕緊擴充。或許有人會說我們應當改良人類的品行,但那是不可能的,所以必須讓機器人更不容易受騙。
「我們一直有進展,相較於一個世紀前,我們的機器人變得更多元,更專門化,能力更強,而且更加安全了。而一個世紀之後,我們還會有更多的進展。如果船艦的操控裝置能夠內建正子腦,何必還要由機器人操控那些裝置呢?這就是專門化。不過,我們也能朝普遍化發展。何不替機器人裝上可置換的四肢,啊?有何不可呢?如果我們……」
作者「艾薩克·阿西莫夫」的其他小說
《基地》《復仇女神》《星空暗流》《神們自己》《基地與地球》《銀河帝國10:裸陽》《我,機器人》《日暮》《第二基地》《基地與帝國》《曙光中的機器人》《奇妙的航程》《機器人與銀河帝國》《基地邊緣》《邁向基地》《基地前奏》《繁星若塵》《阿西莫夫短篇小說集》《你知道嗎--現代科學中的100個問題》《基地與帝國-騾》