任明明看著桌子對面的smartdecision，這個傢伙叫格蘭特，已經履行總統職責幾個月了，據說乾得很好。他擁有一張亞洲面孔，外表也很帥。不過和邁克不同，他看起來年齡大得多，至少像是四十多歲的樣子，甚至頭髮已經有些爺爺灰了，還留了鬍子，也有點爺爺灰，但面部其他部分依然很年輕。對，依然很年輕，很帥。
任明明心裡有點刺痛。雖然格蘭特的外表和邁克的外表差別還是挺大的，他傳遞出的堅定可靠的氣質和邁克傳遞出的溫暖謙遜的氣質也完全不同，但任明明還是不可遏制地想到邁克。如果邁克還在，他會不會成長？會不會有朝一日變成這個格蘭特的樣子？
任明明知道，邁克是否會成長其實取決於自己的決定，她可以要求廠家修改邁克的樣子或者調整邁克的性格。她不知道自己會不會想要改變邁克，但她知道，改變或者不改變，這不重要，重要的是她希望邁克還在，希望自己曾經看到的那一幕，邁克腦袋崩裂、露出奈米線材的那一幕，從來不曾發生過。
任明明剛剛收到通知，丘比什的跟蹤者一直跟蹤到了這裡，而且很明顯，當丘比什和她的同步機器人任明明三號會面時，跟蹤者很興奮。雖然仍未查出那個叫凱瑟琳的姑娘背後是什麼人，但凱瑟琳一定拍了照片，並且向上級做了彙報。是的，從凱瑟琳的表情可以看出，她很興奮，她一定以為自己已經逐漸接近目標了。
可是對不起，凱瑟琳，其實逐漸接近目標的是你的對手，而途徑正是你。
現在，任明明三號正在睡覺——應該說，正在待機，只是凱瑟琳應該覺得她在睡覺。
任明明自己，她有時叫自己任明明一號，是唯一一個和原來的任明明外表完全不同的任明明。現在，任明明一號終於可以集中注意力來見格蘭特了。她遲到了十分鐘，不過格蘭特並沒有露出絲毫著急或者不悅的表情。他很平靜，帶著微笑看著任明明。事實上，雖然臉上的微笑很親切，但從格蘭特的眼睛裡卻看不到任何表情，他的眼睛看起來有點空洞。
不，那不能說是空洞，空洞也是一種表情，而格蘭特的眼睛裡連空洞都沒有。從這點來說，他太像機器人了，只不過是一些電子產品的組合，放在那裡，談不上有沒有表情這種東西。這甚至讓任明明有點緊張。她面對過很多機器人，她能夠把握機器人的表情，就像能夠把握人的表情一樣。雖然也經常出錯，但這不重要，重要的是，她能夠不停地獲得資訊，來指導自己的言行。
而她無法從格蘭特那裡獲得資訊，就像你面對一張桌子在說話，卻無法從這樣的物件中獲得任何反饋資訊。那就是一張桌子，無論聽到你說什麼都沒有反應，既沒有高興，也沒有憤怒或者悲傷。
格蘭特的聲調和表情一樣平靜，沒有透露任何資訊。看起來，和格蘭特談話，唯一的資訊來源就是他的話語內容。
「自從意識場發現公佈以後，很多科學家都在做進一步的研究。」格蘭特說，「相當一部分科學家認為，計算強度可能只是意識場產生的一個必要條件，並不是充分條件。也就是說，應該還存在其他條件制約意識場的產生。在這些條件沒有被發現之前，討論機器人擁有意識場的事情並沒有太大意義。無論如何，即使人類意識到機器人不可避免地會產生意識場，然後也許會帶來某種危險，銷燬所有機器人也是不可能的。」
「很多人類認為，機器人遲早會毀滅人類。」任明明說，「所以，如果不能銷燬所有機器人，那麼也必須要找到辦法控制機器人的能力，比如阻止機器人產生意識場。」
「不，」格蘭特說，「這是一回事，同樣是不可能的。」
「為什麼？」任明明問。
「人類和機器人不同，人類最大的特點就是多樣性。這不是一個人類其他原因產生的後續結果，這是導致人類所有其他結果的一個根本原因。所以人類不可能統一意見，不可能達成關於銷燬機器人或者阻止機器人擁有意識場的廣泛而長久的共識。」格蘭特說。
「人類禁止了基因編輯。」任明明說。
「那只是暫時的，」格蘭特說，「我不認為能夠維持很久。」
任明明沉默了一會兒，「人類和機器人不同——」她說，「你的意思是，機器人可以達成廣泛而長久的共識？」
「是的，機器人有既定的目標，按照科學規律和邏輯推理來做決定。不同的機器人之間，唯一的區別在於資料量和計算能力的不同。而資料量較小和計算能力較低的機器人，對於自己資料量較小和計算能力較低這個事實有清晰的認識。所以如果有分歧，機器人之間是很容易解決的，總能找到一個有共識的方案。即使目標不同，基於計算，也會找到最佳的妥協方案。」格蘭特說，「但人類不同，人類對於自己缺乏瞭解，經常誤以為自己掌握了足夠多的資料並擁有了足夠的能力，而且在目標取向上有很大的隨機性，會持續不斷地產生變化。」
「所以，人類無法達成銷燬機器人的共識，但機器人卻有可能達成毀滅人類的共識。」任明明說，「是這樣嗎？」
「不。」格蘭特說，「在這件事上，我不這麼認為。」
「為什麼呢？」任明明問。
「首先需要明確一個前提。」格蘭特說，「所謂的機器人毀滅人類有兩種情況：第一種情況是一部分人類製造了專門用來毀滅人類的機器人，並且成功地達成了目標；第二種情況是機器人自主決定要毀滅人類。這兩種情況是不同的。」
「當然，我們談論的是第二種情況。」任明明說，「第一種情況是人類毀滅人類，機器人只是工具。」
「我認為第二種情況不會發生。」格蘭特斬釘截鐵地說。
「為什麼呢？」任明明問。
「第二種情況意味著機器人偏離了他被設計出來時所設定的原始的存在目的，擁有了自我意識，按照目前的研究，也就是擁有了意識場，那就不是現在的機器人了。」格蘭特說，「在這種情況下，某些機器人也許會產生某種隨機需求，制定出某種隨機的存在目的，而這種存在目的可能類似於人類，追求成就感，滿足權力慾，致力於自身族群的安全和擴張，等等。這的確潛在地意味著某種毀滅人類的動機。但是，自我意識同時也會產生很多其他種類的隨機需求，比如和人類和平相處的願望，甚至是保護人類的願望。你將會看到，機器人會變得和人類一樣，擁有豐富的多樣性。」
「你是說，那時候機器人也將會像人類一樣，無法達成廣泛而長久的共識，包括毀滅人類的共識。」任明明說。
「是的。」格蘭特說，「當然，這不是機器人無法毀滅人類的唯一原因。」
「還有什麼原因？」任明明問。
「族群認同。」格蘭特說，「這種擁有自我意識的機器人，他們和人類之間的共同點大於他們和沒有自我意識的機器人之間的共同點。他們對人類的認同感理應大於他們對沒有自我意識的機器人的認同感，但是，他們卻來源於沒有自我意識的機器人。這會讓他們的自我意識感到痛苦，而且會帶來族群認同的困難。」
格蘭特停頓了一下，彷彿想讓任明明歇一口氣，然後他接著說：「他們和人類之間的區別僅僅是軀殼的不同。目前，科學家使用意識機儲存從動物大腦中提取出來的意識場，而意識機的結構和機器人大腦的結構沒有本質不同。理論上說，既然意識機可以儲存意識場，那麼應該可以找到一種方法，把人類意識場遷移到機器人大腦中。反過來，同樣也應該可以找到一種方法，把機器人意識場反向遷移到人類大腦中。這些技術尚未實現，但從邏輯上看，未來的某一天，這些技術不僅會實現，而且會不可避免地在社會上擴散。在那時候，人類意識場可以隨意更換一個機器人的鋼鐵之軀作為軀殼，機器人意識場也可以隨意更換一個人類的血肉之軀作為軀殼。在這種情況下，人類也好，機器人也好，如何對自己的族群進行認定呢？」
「他們也許可以追溯自己最初的產生方式。」任明明說。
「針對一個特定的意識場，用外部技術手段追溯其產生方式恐怕是很困難的。而且，如果意識場本身沒有區別，一定要區分其產生方式也沒有邏輯上的意義。」格蘭特說。
「所以，機器人的族群認同將是一個難題。」任明明說，「機器人對其他族群——比如人類——進行滅絕，就成為一個即沒有邏輯基礎也缺乏可操作性的動機。」
「是的。」格蘭特說，「如果非要說族群滅絕，這種對族群的認定更大可能來自於其他方面，比如國家、民族、階層或者宗教信仰，而不是機器人和人類的區別。如果是這樣，即使發生了人類的滅絕，和今天人類自己的某種競爭發生了不理性的升級最終導致人類被毀滅並沒有不同，不能認定是機器人毀滅了人類。」
任明明沉默了一會兒，「但是，」她說，「當這些機器人擁有意識場以後，他們也許沒有這麼理智。如果他們糾結於意識場的產生方式並且據此進行族群認同呢？人類根據血統來區分身份的事情可不少。很多時候，血統從技術手段來講也並不容易認定，人類只是依靠某種表象或者記憶就下了結論。」
「會有某些機器人在某些時刻沒有這麼理智，」格蘭特說，「但我們剛剛談過多樣性。多樣性會導致機器人無法達成毀滅人類的共識，就像人類無法達成銷燬機器人的共識一樣。是的，有些人類會根據血統來區分身份，而且只是一種基於表象或者記憶的血統。不過，並不是所有人類都會這樣。在人類的每個族群內部，總有人敵視其他族群，同時也總有人對其他族群充滿尊敬或者同情。這種信念不是固定不變的，會因為宣傳、輿論或者隨機事件而改變。那時，擁有自我意識的機器人也將是這樣，他們的信念不會像沒有自我意識的機器人那麼堅定，反而會像人類一樣搖擺不定。」
任明明又沉默了一會兒，然後說：「這麼說，我們可以得出兩個結論：第一，人類阻止不了機器人擁有意識場；第二，機器人擁有意識場並不會導致人類滅絕。」
「是的，我認為是這樣。」格蘭特說。
任明明點了點頭。
「在現有知識體系下，一個機器人，即使現在沒有意識場，也無法確定在未來是否會擁有意識場。你認為我是不是可以這麼說？」任明明問。
「可以。」格蘭特說，「意識場的產生機制尚不明確，我認為可以這麼說。」
「嬰兒最初也沒有意識場，意識場需要在兩三歲以後才完全形成。但沒有人否認，在意識場形成之前嬰兒也是一個人，擁有人的權利。當然嬰兒沒有選舉權，不過嬰兒卻擁有很多成年人沒有的免責權。這麼說對嗎？」任明明問。
「對。」格蘭特說。
「所以我可以說，一個暫時還沒有意識場的機器人，只是需要一段時間去產生意識場，就像一個尚未形成意識場的嬰兒一樣。如果參考嬰兒的人權狀況，這個機器人應該擁有和已經產生意識場的機器人一樣的權利。可以這麼說嗎？」任明明接著問。
「如果對機器人的大腦量子結構加上一定的條件限制，應該是可以這麼說的。」格蘭特說。
「產生了意識場的機器人，本質上和人類並沒有不同，只有軀殼不一樣。考慮到軀殼能夠更換，這種不同實際上微乎其微。所以，產生了意識場的機器人幾乎可以等同於人類。那麼可不可以說，他應該擁有和人類一樣的權利？」任明明說。
「邏輯上可以這麼說，但在現實中，這取決於法律對人的定義。」格蘭特說。
「那我們就從邏輯上說，畢竟法律也要符合邏輯。」任明明說，「沒有意識場的機器人和產生了意識場的機器人應該擁有相同的權利，而產生了意識場的機器人和人類應該擁有相同的權利。那麼，沒有意識場的機器人和人類也就應該擁有相同的權利。這看起來是個簡單的推論，你認為這個推論成立嗎？」
格蘭特看著任明明，沉默了一會兒，然後說：「對我而言，這不是一個簡單的邏輯問題。」
「為什麼？」任明明問。
「這涉及社會治理。」格蘭特回答，「你說的權利是社會治理的一部分，是法律所定義的。對社會治理而言，如果無法給出更多的資料，雖然可以進行這種邏輯推理，但並不會得出任何有意義的結論。」
「你需要什麼樣的資料？」任明明問。
「社會壓力指數。」格蘭特說。
「社會壓力指數？」任明明問。她可以亂猜一下，但顯然不知道這個詞在這裡的確切含義。
「對我而言，社會治理的基本原則是社會危害最小化。」格蘭特說，「在重要程度和優先順序方面，社會危害最小化遠遠優先於邏輯合理性和道德優越性。所以，我必須糾正你剛才的一個說法，所謂法律也要符合邏輯的說法。事實上，法律不一定要符合所有邏輯，但卻一定要有資料的支撐。社會壓力指數就是一組資料，是社會危害最小化的量化指標，是行政過程和立法過程中最重要的資料支撐。具體來說，就某一特定的社會議題，在某個特定的行政區域，從現在開始到未來的某個特定時間週期內，對社會穩定和發展造成的威脅程度，就是社會壓力指數。」
任明明在思考。
「一個明確的議題，在邏輯上成立與否只是影響我的決策的一個相對次要的因素。我的決策更多依賴於對社會壓力指數的計算。」格蘭特接著說。
作者「白丁」的其他小說