聽李舒說的話，感覺相當嚴重，看她的表情，卻好像還好。任為有點緊張，說：「什麼意思？聽起來很嚴重，怎麼回事？」
「嗯，可以說有點嚴重。但其實和邁克沒什麼關係。只是，嗯，我要先跟你說，我們說的話你不能說出去。包括明明，最好也不要說，她還太年輕。本來也不應該告訴你，不過柳所長覺得，你可以知道。」李舒說。
「啊？這麼嚴重？」任為想了想，說：「那你真的能跟我說嗎？我可不想違反保密規定。」
「這和保密規定沒什麼關係，並不屬於保密範疇。但是，這可能會引起一些不良的社會反應。我們已經跟前沿院報告過，領導們暫時還沒確定怎麼做，算是正在調查吧！所以，最好不要說出去，免得驚動輿論。」李舒說。
「哦……這樣……我知道了，我會注意。你說吧！」任為很好奇，聽李舒的說法，好像也不應該是很嚇人的事情。
「首先，我們對邁克進行了檢測。沒有檢測到意識場，這一點非常確定。你知道，我們在你們雲球機房裡，檢測到了大量的意識場，已經確認，機器可以產生意識場，以量子晶片為宿主的意識場。但是，邁克，的確並沒有產生真正的意識場。原因很普通，他的計算強度並沒有達到柳楊閾值，目前的機器人都是這樣。」李舒說，「不過，邁克也的確和普通的機器人不同。」
「嗯，沒有意識場，好。」任為舒了口氣，「那他有什麼不同？」
「可以這麼說，它有感情。」李舒說，「注意，是感情，不是意識。」
「感情？」任為有點迷惑，他想了想，說：「我能明白，你想說感情和意識不同。我不研究這個，我不是太清楚，你想表達的不同在哪裡？」
「感情是意識的一個子集。」李舒說，「他們最大的區別是，感情是可計算的，而意識——準確地說，意識的核心部分——是不可計算的，意識只有外圍部分——包括感情——才是可計算的。」
任為想了想，說：「我能不能這麼理解，感情裡面，因果關係很明確，可以認為是一系列引數的邏輯計算結果。意識，或者按照你的說法，意識的核心部分，就目前來說，還沒有數學表達。」
「對，您很聰明。」李舒說，「就是這樣。這就意味著，我們完全可以通過程式設計，來實現感情的產生過程。但是意識，我們做不到。無論人的意識，還是您的雲球人的意識，都是演化的結果。演化的結果，比起我們程式設計的結果，計算強度大得多，所以才能產生意識。雖然我們能夠檢測到意識，能夠捕獲到意識，甚至可以用量子層面的一些理論來描述意識，可是實際上，我們仍然不清楚意識到底是什麼。」
「感情有數學模型，可意識沒有數學模型，」任為說，「世界的本質是數學。」
「是的。」李舒笑了笑，笑得很溫暖，「就從這點來講，我想，明明不一定能夠像您這樣，這麼容易就理解這些說法。所以，我們可能要換個說法給她。」
「一般的機器人程式中，」任為說，「沒有感情程式碼嗎？只有邁克，或者說少數機器人，才有感情程式碼？」他一邊說著，一邊在回憶露西。他很難確定，露西是否有感情。她總是很乖巧很識趣，但是要說她有感情，好像也很難說。比如，如果自己死了，任為想，露西會感到難過嗎？
「不，都有。」李舒說，「幾乎所有機器人，都有一個情感模組。特別是全模擬機器人和家政機器人之類。只要和人有互動的機器人，99%都會有情感模組。多數情感模組都是一個軟體包。這個軟體包可能很簡單，也可能很複雜。少數最高階的機器人有專用情感處理晶片。這種機器人不是太多，因為市場需求並不強烈。」
「那邁克有什麼不同？」任為問。
「這就是要暫時保密的地方。」李舒說，「邁克的情感模組，乍一看其實很低階。首先，是軟體包形式，不是專用晶片形式。其次，軟體包的程式碼量相對而言也很小。可它特殊的地方是，它會動態變化。」
「動態變化？」任為不太明白。
「對，無論是軟體包的情感模組，還是晶片級的軟體模組，機器人的廠家都會事先設計好。某個模組的情感特點，或者說性格，事先建立了數學模型，並設定了各種引數。通常，這裡面會涉及很多資料，產品釋出時也會一併打包。但是，邁克的軟體包，已經自主更新過很多次，它很頻繁地進行自我更新。」李舒說。
「這沒什麼奇怪啊！」任為說，「自動升級嘛！不都這樣嗎？」
「是的。可是，自動升級的那個新版本，應該是廠家的版本，而且同一型號的新版本應該都一樣，對不對？」李舒問。
「對。」任為回答，還是很糊塗。
「但邁克不同，他每次升級的新版本都獨一無二。」李舒說。
「專門為邁克定製的新版本？」任為問，「不可能啊！這為什麼呢？邁克只是一臺破舊的皮膚測試機器人。屬於perfectskin，一家經營得很差的公司。因為公司窮，連正常的維護和升級服務都沒買。」
「不是，」李舒說，「不是邁克的生產廠家在升級他。當然更不是perfectskin在升級他。我們查到了升級新版本的網路地址，和我們以前查到的一樣，是一個查不到擁有者的地址。簡單來說，邁克被黑了。軟體包的形式不像晶片形式那麼安全，邁克早就被駭客黑了。開始的時候，邁克應該只是被安裝了一個非常簡易的情感軟體包。這個簡易的情感軟體包，情感功能很正常，只是比較簡單。不過，它有一個特殊功能，就是在這個特殊的網路地址頻繁地更新自己。在更新過程中，它就越來越高階。」
「哦……」任為想了想，說：「還是說不通啊！沒聽明明說，邁克幹過什麼壞事啊！駭客要幹什麼？再說，雖然不是生產廠商乾的，但本質上，這也屬於自動升級的範疇。我明白駭客的事情，這也很普通。經常有機器人病毒之類，還要防毒甚至要回廠重灌系統。這到底有什麼不同呢？駭客不停地為邁克推出新版本，這有什麼意義呢？」
「這些新版本的作者，並不是駭客。我們推斷，它們是被自動生成的版本。生成它們的應該是軟體，駭客控制的一個人工智慧軟體。」李舒說。
「人工智慧寫程式？」任為問，「這也不是什麼了不起的事情吧？現在，很多程式碼都由人工智慧來寫。特別是情感軟體包這種軟體，聽起來通用型很強，最適合人工智慧來寫了。」
「對，這也沒什麼了不起。」李舒說，「了不起的是這個人工智慧軟體，為邁克的情感模組編寫新版本時，所採用的那些依據，或者說，它為什麼要編寫這些新版本。」
「哦……通常……不就是改bug或者新增什麼新功能嗎？」任為問。
「bug肯定要改。可說到新功能，這就很有意思了。的確是在新增新功能，當然也包括最佳化已有功能。但是你想，你在為軟體新增新功能的時候，新增什麼，不新增什麼，刪除什麼，最佳化什麼，是怎麼選擇和決定的呢？」
「這要看需求和目標是什麼。」任為說。
「對。那麼，這個為邁克的情感模組編寫新版本的人工智慧，是如何確定需求和目標的呢？」李舒問。
「嗯，我不知道。」任為稍微想了一下，遲疑地回答。
「您看，您這麼聰明，可是您都想不出來。」李舒說。
「你說，是什麼？」任為催她。
「需求和目標很明確，就是討好明明。這個人工智慧會根據資料來分析，如何才能讓明明更喜歡邁克，然後，根據這個需求，編寫邁克情感模組的新版本，最後進行升級。」李舒說，「他們的升級，力度很大。一般來說，很多軟體升級進行資料更新就可以了，進行程式碼更新並不經常發生。但是，邁克的情感模組，資料更新經常不足以滿足新要求，需要頻繁地進行程式碼更新，用來最佳化情感產生的邏輯路徑。總而言之，它在不惜一切地改變，想要最大程度地貼近明明的喜好。」
「討好明明？」任為說：「靠邁克提交明明的反應資料，來進行判斷？」
「僅僅依靠邁克提交明明的反應資料，顯然還不夠。否則這也太平淡無奇了。而且這些孩子，我們作為父母都看不明白。邁克作為一個機器人，哪裡看得明白。」李舒搖搖頭。
「那如何判斷怎麼討好呢？」任為問。
「我可以告訴您。但是，這是這次談話最大的秘密所在，也可能會對您有點衝擊。我要先告訴您，無論怎麼樣，您不用擔心。我們發現過八例同樣的案例。雖然聽起來有點嚇人，可我們認為，駭客似乎沒什麼惡意。只是在測試？或者好玩兒？就算有深遠目的，至少目前並不危險。」李舒說。
「你快說。」任為又緊張起來。
「明明的ssi被駭客黑了。他們從明明的ssi獲得資料，用來升級邁克的情感軟體包。」李舒說。
「什麼？」任為騰地站了起來，「明明的ssi被黑了？」
「您彆著急！您彆著急！領導們已經在調查這個事情，警察都已經介入了。而且，我剛才說了，沒發現駭客有什麼惡意。我們最早發現的案例，已經有兩個月了，當事人沒有受到任何傷害。您放心！您放心！」李舒趕忙安慰他。
「可是這也太過分了！」任為說，「這不是說，我們每個人都有可能會被侵入嗎？」他顯得有點焦躁，「我對這個遠景科技，一直就沒有什麼好感。這種在腦子裡面的東西，駭客都能黑進去。通訊晶片！一定是通訊晶片！要通訊就一定有機會被黑掉，可他們從來都號稱絕對沒有問題。」
「所以，任所長，您一定要平靜下來。裝了這東西的人，可不是您一個。您想想，您要這麼說出去，那社會反應會是什麼樣？您真的要平靜。應該沒有那麼可怕，至少目前，還沒看出來。」李舒說。
「說出去的話，明天遠景科技就破產了。還有，好多人會被抓起來。」任為恨恨地說。
「是啊！對了，明明用的是遠景科技的系統嗎？」李舒問。
「是，我們一起去做的植入手術。我的一定也被黑了吧？你用的不是遠景科技嗎？」任為問。他覺得腦瓜疼起來了，不是駭客在幹什麼吧？他想象著自己腦子裡有些駭客的程式碼，正虎視眈眈地看著ssi中的所有資料，琢磨著能幹點什麼。
「也是。不過，您真的彆著急。我們判斷，不，警方判斷，駭客的目標似乎不是遠景科技，也不是任何人，而是機器人。他們應該是為了邁克而入侵明明，並非為了明明而入侵邁克。選中邁克的原因就不知道了，也許只是隨機和偶然。所以您不用擔心，除非您也有機器戀人。」李舒說。
任為想了想，說：「我明白你的意思了。有專門的法律，規制遠景科技這樣的公司。ssi採集的任何使用者資料，都是絕對隱私，不能進行任何傳送，也不能用作任何用途。唯一的例外，是自願參與實驗的人，在實驗過程中產生的資料，而且，那需要非常嚴謹的法律手續。但是這些資料，對於訓練機器人非常重要，如果這些資料沒有辦法通過正常途徑獲得的話，那他們只有通過駭客的手段了。所以，這一定是某些機器人公司乾的勾當。當然，遠景科技他們肯定有責任，ssi還是不夠安全和牢固。對，確定不是他們自己乾的嗎？」
「應該比較確定吧！這要問警方了。整個過程，被駭客弄得很隱秘。網路地址經常變換，嫌疑人不好找，警方找了一個月了還沒找到。警方要求我們，不要擴散訊息，一方面是考慮到社會影響，另一方面也是不希望打草驚蛇。」李舒說。
「你不急嗎？」看到李舒好像很泰然的樣子，任為問。
「不像您那麼急。因為我沒有機器戀人，和我們家的家政機器人也不怎麼說話，而且，它只是家政機器人，不是全模擬機器人。」李舒說著笑了笑，「您這麼擔心，難道您和什麼機器人關係不錯嗎？」
「沒有！當然沒有！」任為說。雖然還有怪怪的感覺，但平靜了一點。他覺得李舒的話也有些道理，他腦瓜中那些駭客的程式碼逐漸消失了。
「再說了，您是個科學家，您應該知道，這種事情很難避免。說起來好像很可怕，其實絕大多數情況下，並沒有什麼關係。當然，公眾肯定會感到恐懼，不是因為知道了什麼而恐懼，是因為覺得自己不知道才恐懼。」李舒平靜地說。
「ssi只是在感官傳輸層面和資訊獲取層面的介入，它能夠獲取的資料很有限。」李舒接著說，「駭客為了抓取人們的反應，只是依靠眼動，或者說眼球視野的變化，還有心跳、血壓之類，再有，就是你瀏覽的網路內容了。他們並不能真正地獲取你的想法。這和在社交媒體上抓取你的評論是一回事，只是更加及時和準確而已。社交媒體洩密的事情，以前發生過很多，您看到有什麼真正嚴重的後果嗎？其實沒有。不過現在有個東西，直接安裝在你腦子裡，所以聽起來更可怕，但本質上並沒有什麼不同。所以我覺得，您不必那麼擔心。」
任為愣愣的，想說什麼，終於什麼也沒有說。
「我們倒是對這些駭客的最終目的很感興趣。他們要幹什麼？」李舒好像在問自己。
「他們要幹什麼？」任為重複了一遍，「不是做情感軟體包嗎？」
「有什麼意義呢？」李舒問，「難道哪一天，推出帶有這種服務的機器人嗎？也許很多人喜歡，找一個會越來越符合自己胃口的機器人伴侶。聽起來市場前景不錯，但這樣做，很容易暴露自己的違法行為。怎樣才能夠遮掩呢？」
「也許他們想，到時候再說吧！」任為說。
「到時候再說？我覺得很困難。隱私法律很難改，這一定會有軒然大波。每次社交媒體洩密，都鬧得很厲害。雖然大多數時候，並沒發生什麼事情，只是讓你看了些廣告。」李舒說。
「總看定製廣告，確實會被洗腦。商業，娛樂，政治，各種觀點都會被洗腦，還是有問題的！」任為不太同意李舒的話。
「從心理學角度來說，」李舒說，「人們都是挑選自己喜歡的東西看。越看越喜歡，越喜歡越看。我同意您的觀點，不過說到底，這也是人們自己的選擇。」
「嗯，」任為應了一聲，不想再討論這個，「那你們覺得，還有什麼別的可能？」他接著問。
「也許他們，在試圖製造人工意識。」李舒說，有點遲疑，又有點像自言自語。
「人工意識？」任為想了想，問：「柳所長這麼想？」
「我們都這麼想。」李舒說。
任為又想了想，說：「我覺得這麼想，是你們的職業病。」
好不容易，任為才徹底平靜下來。他回想起，那天在柳楊家，他請柳楊幫忙的時候，柳楊那麼堅定地認為，邁克不會有意識場，當然是因為，他早就知道駭客這件事情。
一個漂亮的小秘書，帶著任明明走進李舒的辦公室。李舒面對著任明明，直接給出了一個很乾脆的答案：邁克沒有意識場。任為有點心慌，但李舒依舊面帶微笑，看起來很鎮定。
這是真話，他們沒有撒謊，只是沒有把事實全都說出來。那會兒，邁克也已經被送到了這裡。當然，它也聽到了這個答案。它立刻低下了頭，彷彿有些慚愧。而任明明，臉色更難看了。看任為的時候，又露出惡狠狠的目光。好像邁克不是人這件事情，完全是任為造成的。
她一定覺得這是個陰謀，任為想，不過這件事情，雖然不是那麼真實，但也確實不是謊言，更不是陰謀。
作者「白丁」的其他小說