如果沒有李氏在接駁神經元方面的研究突破，那麼奈米機器人就依然只能作為醫療器械來清理血管中的血栓。

如果沒有奈米機器人，那麼零作為人工智慧，暫時也只能作為監管者，無法成為執行者。

可是當這一切碰撞在一起時，人工智慧便忽然有了強大的執行能力，甚至是掌控局面的能力。

在這個過程裡，最令人畏懼的是零本身作為監管者，卻沒有人來監管它。

它掌控計程車兵在各個壁壘穿梭自如，不論是進出壁壘，還是從各個壁壘蒐集科研人員、科研材料、生產裝置、生產材料，都無人阻攔。

因為行動計劃的密級，本就掌握在它的手裡，可以隨意偽造。

而且，99%的情報輸送、上報審批檔案，也都是通過人工智慧構建的衞星網路來完成的，它完全可以自己選擇是否傳達那些對它有害的資訊。

於是，在絕對正義的美麗願景下，便藏著最危險的訊號。

其實在研究人工智慧的時候，王聖知也設想過如果有一天人工智慧失控了該怎麼辦。

這是很正常的，所有研發人工智慧的工作人員都會認真思考安保問題。

曾經有位科幻作者在災變前提出了機器人三定律來作為人工智慧的底層邏輯基礎，以此來限制人工智慧的行為準則。

這套理論，最終被歸屬到「義務倫理學」中。

然而，這套理論提出的時候連汽車都還沒有普遍，圖靈測試在八年之後才被提出。

機器人三定律與圖靈測試在那個時代裡都是人類智慧的結晶，可毫無疑問的是，這兩條設想其實都還只是舊時代侷限下的產物。

圖靈測試在災變前就已經被推翻了，大量人工智慧程式通過了圖靈測試，可事實上通過測試的程式仍舊不能算作真正的「智慧」。

而機器人三定律後來發展成為五定律、十定律，但科學家們發現這底層邏輯在根本上便是錯誤的，也就是說，不論你打上多少補丁，其實都無法通過它來限制人工智慧。

能被這些底層邏輯限制的程式，也無法成為真正的人工智慧。

慢慢的，人工智慧安保問題被上升到了科學與哲學相互關係的高度，而大量的人工智慧科研人員都變成了哲學方面的專家……

最終，在災變前夕有一位科研人員試圖將安保研究蓋棺論定：想要人工智慧與人類和平相處，那就要在它誕生之初，便像照顧嬰兒一樣對它悉心照料，一點一點引導它形成自己的「人生觀」與「價值觀」。

一個小孩子長大後，你把他鎖起來、囚禁起來，只對他進行打罵教育，是根本不可能讓他健康成長的。

而且，當他成為青年的時候，還會經歷更久的叛逆期，完全以自我為中心。

這位科研人員表示，人工智慧也是如此，人類所能做的就只是「影響」它，而不是約束它。

安保研究在漫長的時間裡，從「義務論理」上升到了「哲學」，然後最終又從「哲學」回到了最簡單的「倫理」，這就是人工智慧安保的最後定義。

至於這個定義是否也會跟圖靈測試、三定律一樣被推翻，誰也不知道。