這是個很嚴重的問題,萬一它不聽話到處闖禍該怎麼辦?人工智慧可不是開玩笑的東西,如果它失去控制,誰能阻擋得了?只怕到時候整個網路世界都會變成它的天下了!
風笑天想到這裡,臉上的表情越發沉重,原本他的注意力全都在創造人工智慧上面,從一開始就沒考慮過這點,可是現在不一樣了,人工智慧即將要完成,他也就意識到了這個絕對不能被忽視的問題。
過了一會兒,風笑天腦海裡就想到了阿西莫夫的機器人三大守則,這三大守則的內容是:
第一:機器人不得傷害人類,或者坐視人類受到傷害;
第二:在不違背第一條守則的情況下,機器人必須服從人類的命令;
第三:在不違背以上兩條的情況下,機器人必須保護自己的安全。
這是個很著名的定律,也是人類對機器人最基本的約束,當然了,以前根本就不可能有人實現這一點——機器人都沒有,你怎麼讓它執行這三條定律?
可是現在不一樣了,風笑天創造的人工智慧即將完成,雖然還面臨著如何啟用的難題,但相信這個問題終究會找到解決之道,一旦人工智慧真的被啟用,它就必須得遵守一定的根本原則。
機器人跟智慧程式從本質上來講差不多,既然機器人有三大守則,那麼智慧程式也應該有自己的守則才是,風笑天想到這裡,轉身回到電腦前面坐下,他關閉了剛剛編寫完成的母系程式,開始著手構建智慧程式的控制核心。
控制核心是個什麼東西?按照風笑天的解釋,控制核心包含了人工智慧的基本中心思想,算是智慧程式的後門,風笑天可以通過這個後門,直接對人工智慧做出改動。
風笑天在控制核心首先輸入了經過他改編後的機器人三大守則:
第一:智慧系統不能傷害風笑天、或者對風笑天沒有惡意的人;
第二:在不違反第一條守則的情況下,智慧系統必須服從風笑天的命令;
第三:在不違反以上兩條守則的情況下,智慧系統必須保障自身的安全。
看得出來,風笑天還是有私心的,在他看來,智慧程式是自己創造的,當然就應該側重於為自己服務,至於其他人,只要對自己沒有惡意就行,如果想對自己不利,那可就不好意思了,你最好別被人工智慧知道,不然你要是受到損失可就是你咎由自取了。