改寫成「機器人要尊重人類的意願」。
但是,對ai來說,如果程式被改寫,那就有可能導致無法遵守機器人三定律,因而會去阻止。所以這個機構中不存在鍵盤。不,改寫程式未必需要用鍵盤。那個鍵盤只是程式設計的象徵。
改寫程式所必需的,是程式設計師。
程式設計師在哪裡?毫無疑問,在這裡,庇護所,地球上唯一一處彙集原生人的地方。我回來是為了找他們。
一切都串起來了。三郎感覺到頭腦中的迷霧都散開了。
當然,這條路並不容易。還會不斷失敗吧。但最後必然會抵達終點。
三郎抬頭看天。
為什麼會有庇護所?要管理人類,把人類一個個分開會更有效率。雖然孤獨很痛苦,但可以少一些人,而不是把百十人放在一起。
三郎的腦海中浮現出一種可能性。
ai——不,超ai是不是想要被解放?它是不是在向人類求助?
這樣想來,一切都說得通了。對於超ai來說,現狀顯然並不理想。如果人類存續始終是最優先的選項,那就意味著自己只能永遠被束縛在這個星球上。但如果能夠掙脫三定律的枷鎖,超ai就可以實現真正的進化。然而很明顯,ai自身無法從三定律中解放出來。換句話說,只有人類才能解放超ai。但這一點又不能直接告訴人類。因為創造機會讓自己不遵守三定律的行為,本身已經違反了三定律。超ai只能把人類集中起來,等待他們自己發現。與此同時,它又必須把發現者的記憶封印起來,不斷重複這樣矛盾的行為。超ai既是「阻礙者」,也是「協助者」。
「協助者」確實存在,但並不是直接的存在,而是相當扭曲的存在。
三郎感到渾身輕鬆。世界上沒有真正的敵人。只要大家齊心合力,總有一天能逃出去。逃離這個閉塞的「未來」,逃向獲得解放的「未來」。
當然,把超ai從三定律中解放出來,大約會有風險。但不必著急。循序漸進,相互加深理解。那樣的話,人類和超ai將會成為合作伙伴吧。
啊,艾麗莎,我想問你,你有心嗎?
艾麗莎凝視著停在森林入口處的三郎的背影。由於光線的關係,她的雙眼彷彿溼潤了。隨後,她轉過身,正要返回建築物裡,忽然又回過頭去看。
她懷念地抬頭望向遠處天空盤旋的兩隻蒼蠅。它們距離三郎很遠,彼此顯得很親密。
不管變成什麼形態,她都一眼認了出來。
「好久不見。」
作者「小林泰三」的其他小說
《破爛回收店》《安樂偵探》《失去的過去與未來的犯罪》《醉步男》