「這……比我預期的時間要長很多。我是說,發電腦科學論文通常只需要幾個月。」
他說的都是顯而易見的事情,但他是對的。我沒有太多可以補充的。
「李教授,我還有最後一個問題。」他雙手抱臂,開始提問,「我知道你花了多長時間構建imagenet,也清楚它對計算機視覺的重要性。對於這個,呃,環境智慧的想法,我們會有類似的資料集作為支撐嗎?」
我嘆了口氣,可能聲音有點兒太大了。
答案是否定的。又一個「沒有」。沒有資料集。沒有已知文獻作為我們觀點的基礎。沒有研究類似問題的實驗室可以合作。最後,這位候選人的回覆雖然禮貌,但也是否定的。
幾個月過去了,我們連一個合作者都沒找到,我夜不能寐。我正站在職業生涯最有意義的一個篇章邊緣,有機會接受母親的啟示,真正利用人工智慧為社會做些貢獻。但如果沒有幫助,我們將一無所獲。我想起了imagenet早期的孤獨歲月。與現在相比,連那樣的日子都顯得雲淡風輕了許多。
然而,今天我有了分心的奢侈機會。也許是覺察到我需要一些外力來保持頭腦清醒,阿尼派我去參加一項實地考察。
「你確定這樣沒問題嗎?」我一邊調整口罩,一邊問道。我一生中大部分時間都被穿著手術服的人包圍著,今天是第一次自己穿上了手術服。
「當然沒問題,我們經常這麼幹。護士、醫學院的學生、實習畢業生,什麼人都有。別擔心,你很快就會融入。」
阿尼安排我跟隨露西爾·帕卡德兒童醫院的兒科醫生特里·普拉切克(terryplatchek),這樣我就能觀察到醫生在醫院輪班期間保持手部衛生的實際情況。但我想看到一切:病人、護士,所有的一切,他們的全部經歷。我知道他們的世界是混亂的,我想以他們的視角來看待這一切。
我不知道自己即將面對什麼。
普通病房充滿了聖誕節的氣氛,我簡直不敢相信這裡有這麼多孩子。每個孩子都有自己的經歷,每個都令人心碎。有些獲得好訊息,有些則碰上壞訊息,而大多數都只是漫長而又讓人麻木的治療旅程中的又一步。有些家長問我是誰,為什麼會在那裡。但大多數人似乎都沒有多想,因為他們只想知道自己所愛的人正在經歷什麼,他們已經習慣了不同的醫護人員像走馬燈一樣地變換。
我本該記錄一些機械且容易量化的東西,但我無法將視線從醫護人員身上挪開;我很快就意識到,這些人才真實地展示了什麼是人性化護理行為。一個好醫生是資訊的總彙、力量的源泉,有時甚至是病人及其家屬在痛苦時刻的精神支柱。多年照顧母親的經歷讓我自信對醫療領域瞭如指掌,但與普拉切克醫生的相處徹底顛覆了這種觀點。我開始確信,無論多麼先進的技術,都無法取代我那天所看到的一切。
儘管如此,我認識到在某些決定性時刻,我們也非常需要新的輔助工具。我遇到了一位資深護士,她的一個病人最近摔倒了。這是她職業生涯中第一次出現這種情況,她驚訝地發現,這件事對她的影響極大。從統計學層面看,對她來說,在自己的監護下有病人受傷是不可避免的,畢竟她已經做了幾十年護士。但當這一時刻終於到來時,她整個職業生涯的傑出表現並沒有能幫助她緩解情緒。她的情緒非常崩潰,就像第一天上班的護士一樣。無論是她,還是那位病人,都受到了嚴重的傷害。如果人工智慧能幫助避免這種情況,那麼一切努力都是值得的。
這一天對體力要求很高,輪班結束時,我已經筋疲力盡,但更疲憊的是我的精神。彷彿我重溫了和母親共同面對的每一刻,只是這一次以小時為單位不斷迴圈播放。我茫然地與普拉切克醫生握手寒暄,準備離開。但在往外走的時候,我突然想到了什麼。
「特里,我很好奇,是什麼讓你如此願意讓我進入你的世界?老實說,我算是個局外人。」
他沉思片刻才給出答案:「你知道,最近有很多關於人工智慧的新聞,老實說,大部分我都不喜歡。」
我笑了,也許帶著一絲嘲諷。我知道他接下來要說什麼。
「當然,如果我每天有更多工作可以被自動化,那就太好了。我明白。」他繼續說,「但我有點兒厭倦科技高管們成天說的都是讓我這樣的人失業。只有你和阿尼似乎真正想幫助我,而不是取代我。」
我稍作思考,然後回答道:「我知道我們聊過我的母親,還有這麼多年照顧她的健康問題對我產生的影響,但這個故事還有另一面。在醫院度過了那麼多時間,對我而言是有好處的。」
「有什麼好處呢?」
「有一種特別的東西……我不知道,也許可以叫作‘關懷之舉’,無論是護士幫助我母親坐起來,還是專家制定治療策略,都感覺很特別,充滿了人文關懷。這也許是我們所能做的最人性化的事情。我無法想象人工智慧來取代它,我甚至不希望人工智慧取代這一點。今天,科技在維持我們的生命方面發揮著重要的作用,我很感激,但毫不誇張地說,我和母親能熬過這一切,真正的原因是人,是像你們這樣的人。」
輪班還沒結束,太陽已經落山。從醫院出來,傍晚時分清新的空氣迎面而來。相對寧靜的環境讓我的思緒得以舒展,全天的記憶帶著沉悶的刺痛感重現。雖然我目睹了病人和家屬的悲慘境遇,感到心緒不佳,但阿尼是對的,這正是我所需要的。這是電腦科學學位無法提供的教育場景:病房裡的喧囂、不確定的懇求眼神、對任何形式安慰的迫切渴望,痠痛的腳和破舊的網球鞋,休息室裡冷冰冰的比薩,一小時又一小時的煎熬。
阿尼知道,雖然我在母親身邊照顧了多年,但我仍然無法真正理解臨床醫生的感受,所以他邀請我親自去體驗一下。
在回家的路上,我突然有了一個奇怪的想法:我很慶幸我們還沒有招收任何學生助手,否則,我早已用電腦科學家的閱讀清單把他們淹沒,使他們習慣於從資料、神經網路和最新架構進展的角度來思考。這當然很重要——在這樣的專案中,科學問題是無法迴避的。但我現在明白,科學並不是正確的起點。如果想讓人工智慧幫助人類,那麼我們必須從人類自身開始思考。
我隨即做出決定。從那天起,任何要加入我們團隊的學生,都必須先擁有我剛剛擁有的體驗,否則一行程式碼都不可以寫。跟班學習將成為每位新成員的入門儀式,沒有商量的餘地。
幸運之神的眷顧加上我在醫院的經歷所產生的激勵作用,使得工作進展迅速,我們的願景得以延續。我和阿尼花了近兩年時間,付出了比以往更多的耐心,終於組建了一支規模適宜的團隊,開始了我們的工作。很明顯,環境智慧在一段時間內仍將是一個小眾的研究領域,因為對人工智慧專業知識的需求太旺盛了,競爭機會也非常誘人。但我們招募的人員素質表明,我們正在從事一項有意義的事業。毫無疑問,這是我參加過的專業能力最多元化的團隊。
在我們的第一批新成員中,有電腦科學的一年級研究生、電子工程的博士生,還有研究機器人對人類活動和社交導航感知的博士後。隨後,針對我招募的團隊,阿尼也挑選了一批年輕醫生,有醫院的兒科醫生、老年病醫學專家,還有重症監護專家。最重要的是,我們從一開始就達成了共識,主導權不屬於團隊中的任何一方;阿尼和他的同事需要我們的經驗來構建技術,而我們也需要他們的經驗來確保技術的正確性,以確保技術不僅有效,而且尊重使用者、體現人道主義精神。
阿尼將他最令人歎服的壯舉留到了最後:說服醫療機構讓我們在他們的場所進行實際的技術演示。我們首先選擇了兩家不同的醫院,一家位於帕洛阿爾託,另一家位於猶他州。我們的目標是發現手部衛生方面的疏忽,確保不會因為手部衛生而造成患者感染。接下來,我們選擇了灣區的一家養老院,目標是通過跟蹤老人們全天的身體活動來協助護理人員。最後,我們在斯坦福醫院的重症監護室部署了一套系統,當康復患者長時間不動時,系統就會向護理人員發出警報。
然而挑戰依然存在,就連阿尼的錦囊裡也沒有妙計了,那就是資料問題。我在這個專案之前的幾年深刻認識到,若要有效地訓練像我們這樣的模型,資料絕對是必需品,這是毫無疑問的。我們需要大量真實、有機且儘可能多樣化的資料。
但在醫療領域,我們所需的資料在本質上就是稀缺的。出於法律責任和基本隱私等顯而易見的原因,患者和臨床醫生的行為很少被影像記錄下來,而對於我們希望檢測的事件(其中許多事件從一開始就是異常情況,比如跌倒),相關的清晰影像更是少之又少。這使得我們的工作比我最初想象的還要複雜。在訓練模型之前,我們必須親自收集必要的資料。
儘管如此,我們的研究勢頭依然如日方升。新的實驗,新的假設。我們擼起袖子,使用新硬體和新軟體。正如我所料,這是我的實驗室嘗試過的對科學技術要求最高的專案。但真正讓我們豪情滿懷的,卻是任務本身。我們所做的一切都充滿了意義,它讓我成年後一直從事的職業變得如同一個全新的世界。我一直努力將私人生活與科學家的職業生涯區分開來,但現在的一切衝破了堤壩,沖刷著沿途的一切。早該如此了。
「快叫護士,」母親懇求道,她發出微弱的呻吟聲,聲音小得幾乎聽不到,「點滴……又癢了。他們扎針的那個地方。」我們又回到了醫院,這次是做心臟成像。這麼多年來,母親已經做了很多次心臟成像,每次就醫的緊張感都比上一次更加強烈。我趕緊按鈴求助。
今晚的護理人員是來自加利福尼亞中部的旅行護士曼迪。她年輕、樂觀,還在努力考資格證書,爭取更加穩定的職位。從她進入房間的那一刻起,我就知道我會喜歡她。
「不好意思,」我說,「我知道還沒幾個小時,我們都叫你三次了。」
「沒關係的。」她堅持說,雖然眼神疲憊,但依然笑容滿面。她有一種難以偽裝的溫暖。「哎喲,真是可憐!」她說著,把注意力轉向母親,全身散發著善意,「看來我們又得衝管了。我知道今晚不好過。」
這一幕我已經見過無數次了,但今天,我有了一種特別的感觸。也許是因為我從曼迪的舉止中看到了一絲純真,也許是因為最近的研究讓我們都成了日常護理專家。我感到喉嚨有些發緊,這是我在病房裡待了這麼多年從未感受過的。同情、敬畏、感激,還有其他一些難以形容的複雜情緒。曼迪的出現,她這種改變他人生活的簡單而真摯的關懷之舉,讓我感到格外溫暖。我的淚水在眼眶裡打轉。
在以往的這種時刻,我的注意力通常都集中在母親身上,但我們在做的研究徹底改變了我的想法。護士平均每班要走6000~8000米,需要完成180多項不同的任務,雖然疲勞的隱患有據可查,但輪班時長卻在不斷增加,目前平均長達12小時。我知道曼迪在來我們病房之前去過哪裡,也知道她見過多少其他面孔,我知道她可能已經疲憊不堪,但她還是毫不吝嗇地傳遞善意,微笑著完成了所有任務。
如果我的研究確實能幫到別人,那麼像曼迪這樣的護士就是我的首選。我無法想象還有什麼人比她們更值得幫助。
第二天,上早班的是一位新護士蘇珊。「你在這裡工作嗎?」她問道。
我低頭看了看自己佩戴的斯坦福醫學院徽章。我跟阿尼一起工作時,經常佩戴著它,這會兒忘了摘下來。
「哦,這個?」我笑著說,「不是,實際上我正在參與一個研究專案。」
「什麼樣的研究?」她問。
「我是電腦科學系的,我和我的學生正在合作開展利用人工智慧追蹤手部衛生的專案。」
她的笑容淡了一些,看起來禮貌多於友好。「那麼,是有攝像頭在監視我們嗎?」
「不,不,不!當然不是!」這已經不是我第一次被問到這個問題了,但我每次還是會感到一陣尷尬,「更像是一個感測器,不是攝像頭。沒有錄影。它為我們的演算法分析提供了影像。演算法正在學習觀察不同的洗手模式。我們還在起步階段,就是想搞清楚演算法是不是能夠勝任這項任務。但我保證,沒人在監視你!」
我盡力保持輕鬆的口吻。我說的一切當然都是真的,但我也不能怪她把事情往最壞的方向想。
「好吧,那聽起來還可以。」她鬆了口氣。「你知道,」她壓低聲音繼續說,「你們這些不叫攝像頭的東西應該盯緊醫生。」蘇珊和曼迪一樣善良,但她身上有一種犀利的感覺,她的臉上掠過一絲苦笑,「他們的衛生習慣是最糟糕的。但管理層不管他們,只會對我們護士大吼大叫。」
「老闆監視器」。
更委婉的說法是「員工監控系統」。這種新型軟體如雨後春筍般湧現,被廣泛用於倉庫和辦公室等場所。許多人認為這種審查會侵犯人的隱私,甚至是不人道的。雖然軟體的市場定位是提高工作效率和保護職業行為,但幾乎立即遭到了勞動者的反感,也很快成為科技媒體反覆報道的話題。現在,我們甚至還沒有機會證明自己,研究工作就有可能被反烏托邦的聯想所吞噬。我們的技術是為了病人的安全,而不是為了績效考核,把我們的軟體與監視器混為一談起初讓人覺得不公平。然而,這種擔憂是可以理解的,而且事後看來,審查和監視之間的關聯確實顯而易見。這是我第一次接觸到人工智慧會在公眾想象中引發恐慌的一種能力:監控能力。
回想往事,我們很容易忘記變化有多麼突然。那是2015年,人工智慧對隱私的影響仍是大多數人關注的焦點,畢竟就在短短幾年前,影像分類的準確性才開始接近實用的閾值。現在,像我們這樣的研究人員眨眼間就掌握瞭如此強大的能力,技術挑戰已經讓位於倫理挑戰。我們在醫療領域的探索則將這一切帶回了我們的實驗室。
「沒有人想安裝老闆監視器。」一位學生抱怨道。
團隊剛從露西爾·帕卡德兒童醫院悻悻而歸,他們本想在那裡完成推進試點研究的最後工作,卻出乎意料地遭遇了失敗。
我們的計劃是安裝一批感測器原型,但我們請來參與實驗的各科室護士都無一例外地拒絕配合。專案嚴重受挫,但在與蘇珊交談之後,我早已有了心理準備。
這件事提醒我們,即使是一個明確的多學科團隊,也可能存在盲點。雖然我們的臨床醫生知識淵博,但他們更像研究人員,而不是一線的護理人員,這種區別產生了決定性影響。簡而言之,我們積累了深厚的醫療專業知識,但我們都不是護士。我和阿尼召開緊急會議,討論我們的選擇。
「我認為只有一條路可走,」一位醫生建議道,「護士需要跟你們的研究人員見面。她們需要真正的溝通。」
「是的,當然。要讓儘可能多的人參與進來。」另一位醫生說,「需要傾聽。瞭解他們的想法。」
第三個人附和道:「開個公開會怎麼樣?我可以幫忙組織。」
我心中感慨萬分,感謝上帝,感謝你們每一個人。我無法想象如果沒有阿尼和他的同事們,我們的研究該如何繼續下去。
「我們在irb相關的陳述上必須嚴謹。」阿尼嚴厲地說,「我們的合作伙伴需要得到保證,任何人的隱私都不會被洩露。一次也不行。大家都清楚了嗎?」
irb即機構審查委員會(institutionalreviewboard),是對類似我們的臨床研究進行監管的機構。要達到他們的期望,確保研究獲得批准,需要技巧和外交智慧,更不用說豐富的臨床經驗了。從我和克里斯托夫在加州理工學院進行的心理物理學研究開始,我對合規要求就已經習以為常,但對我大多數電腦科學的學生來說,這是一個全新的概念。這是真正的醫學研究,涉及真實的個體,需要遵循一套全新的專業規範。
然而,我們都沒預料到的是,我們的研究可能會超出irb的範圍。在聽取學生們關於他們在醫院訪問的更多情況後,我們欣慰地得知,護士們並沒有特別擔心我們的研究本身;他們中的許多人已經瞭解我們,並且相信我們的動機,對我們的工作並沒有異議。他們擔心的是這項工作可能會導致的後果:這項技術將如何發展、供誰使用,以及它的影響範圍將會如何擴大。他們的疑慮是敏銳的,同時也強調了一個事實:我們面臨的挑戰是如何評估人工智慧的未來,而不僅僅是它的現在——即使是irb也沒有考慮到這一點。
為了確保裝置無可非議,我們規定,任何採集到的資料都不得傳輸到遠端資料中心,或者上傳到「雲端」(這個術語剛剛開始被主流接受)。「雲」已經成為熱門詞彙,幾乎在任何情況下都能吸引媒體關注和風投資金,但對我們來說,它卻是一種詛咒。相反,我們不得不追求另一種新興趨勢:邊緣計算(edgecomputing),即把所有必要的計算資源都整合到裝置中。這是我們的研究所需要的範式,但邊緣計算本身就是獨立的領域,我們對它的理解和把握還不夠深入。
儘管面臨巨大的工作挑戰,但我們知道複雜性是不可避免的。相比之下,從網際網路上批次下載圖片像是一段無憂無慮的時光。我們現在需要蒐集的可能是能想象到的最敏感的資料:以影片的形式捕捉人類群體真正的脆弱時刻。影片的保真度足以訓練機器進行可靠的識別。而且,我們必須確保——必須絕對確保——從第一步開始就保護研究物件的安全和匿名,同時遵守irb準則的高標準(這是我們從事相關研究工作所必備的常識和道德)以及《健康保險攜帶和責任法案》等法律框架。
我們的團隊不斷壯大。團隊建立之初就很多元化,包括工程師、研究人員和醫療政策專家,很快又加入了臨床醫生、生物倫理學家和斯坦福大學法學院的法學博士。我們的技術合作夥伴也越來越多樣化,包括感測器專家、網路安全專家等等,當然還有邊緣計算專家。我們雄心勃勃,願景宏大,尤其可喜的是,在我自己的實驗室與阿尼的臨床卓越研究中心(中心總部位於斯坦福大學,旨在提高醫療質量和可負擔性)的通力合作和資助下,我們的專案落地了。
研究的前沿依然廣闊無垠。雖然我們只回答了研究中的一小部分問題,但我們正在取得進展。最重要的是,我第一次認識到,如果將人工智慧視為一門獨立的學科,就會錯失其最大的潛力。我們的研究表明,如果人工智慧與其他領域相結合,並藉助其他形式的專業知識進行推動,可能性就是無限的。
「媽媽,求你了。」
母親最近又做了一次手術,手術結果雖好,但康復之路格外漫長。康復的關鍵是進行肺部鍛鍊,需要每天多次使用一種叫作誘導性肺量計的手持裝置進行呼吸訓練。她剛剛做完手術,很容易出現肺部感染,而且可能是致命的,而使用肺量計是簡單有效的預防手段。
對經歷過多次心臟衰竭和腦出血,又剛接受了開胸手術的人來說,這本該是一項簡單的任務。然而,她拒絕了。當醫生向她展示肺量計時,她假裝按要求呼吸,但醫生離開後,她就把肺量計放在一邊。當護士來檢查時,她又重複著這個戲碼。當然,這一切我都看在眼裡,但無論我怎麼懇求,她都不願意配合。
這根本就說不通。一連幾天,我的焦慮與日俱增。我曉之以理,動之以情,但就是勸不動她。護士警告她時,她就點點頭;醫生責備她時,她就假裝服從。但她的表演並沒有改變現實:液體正在她的左肺中積聚,她必須再接受痛苦的肺積水引流手術。
最後,在重症監護室又住了幾周後,她從第二次完全不必要的手術中恢復過來,這場折磨終於結束了,我們把她接回了家。疲憊不堪的我們回到後院,享受了很久以來第一個安靜的下午。她不在的時候,我父親一直忽略了花園的打理;她回來後,他如釋重負,重新開始了自己的日常生活。
「媽媽,我想問你點兒事。」我不想破壞這份寧靜,但內心的困惑讓我無法釋懷,「還記得醫生們想讓你用的那個小工具嗎?那個肺量計?」
母親紋絲不動,默不作聲,但她的身體語言告訴我,她顯然不想談這件事——人在靜止狀態下卻能傳達這麼多資訊,真是讓人驚訝。
「媽媽,我就是想知道為什麼。求你了,跟我說吧。」
過了一會兒,她終於開口說話了,但依然沒有看我:「我不記得了,當時藥勁很大,一切都很模糊。」
我知道這不是真的,但我沒辦法強迫她解釋。我沒有繼續追問,只是享受和她在一起的時光。天氣晴朗,梔子花盛開。
最後,她打破了沉默。
「你知道嗎,飛飛,」她輕聲說,終於看向了我,「當病人……太可怕了……太可怕了。不光是疼痛,還有失控。在那個房間裡,我的身體,甚至我的思想都不屬於我。房間裡有那麼多陌生人,我知道他們是醫生和護士,但他們對我來說都是陌生人,而我卻要聽從他們的每一個命令……我受不了。」
我繼續聽著。
「就連你也命令我!」
我倆都笑了起來,氣氛一下子輕鬆了許多。
「我知道你是想幫忙,」她補充道,「我知道你們都想幫我,我知道這些東西對我的健康很重要,但到了某一個臨界點,我就沒有辦法再滿足這些要求了。」
然後,她又想了一會兒,找到了背後的原因。「我一點兒尊嚴都沒有了。徹底喪失了。在那樣的時刻……」她似乎有些語無倫次。我正想鼓勵她繼續說下去,她就接著說完了:「甚至健康都不重要了。」
自從這個專案開展以來,我學到了很多東西。這些經驗和教訓緩慢地展開,常常伴隨著痛苦。我開始從另一個角度看待母親在健康方面的抗爭,並對我們多年來依賴的護理人員產生了新的同理心。我對醫院中人類脆弱的程度感到震驚,也為有機會為此做出一些貢獻而備受鼓舞。但我學到的最深刻的一課是,個體的尊嚴是至高無上的——這是任何資料集都無法解釋、任何演算法都無法最佳化的變數。面前這個人是我最熟悉、最在乎的人;在她臉上飽經風霜的紋路和疲憊的眼神之後,那種我長期以來熟悉的掙扎和脆弱,向我伸出手來。
兩年多前,母親只問了一句「人工智慧還能做哪些事來幫助別人」,便讓我的職業生涯走上了全新的道路。通過她的眼睛來看待我的領域,我的動力一下就增加了。這麼多年來,推動我前進的一直是強烈的好奇心,而現在,我第一次將人工智慧視為行善的工具,可以紓解像我這樣的家庭每天所面臨的困難。我第一次接觸到了人工智慧的倫理問題:對我們中的許多人來說,「人工智慧倫理」是全新的議題,也會很快成為不可避免的現實。在熟悉的領域中度過職業生涯的一部分之後,我發現自己又進入了全新的世界,這個世界如此陌生,如果沒有合作伙伴,我將束手無策、無所適從。與阿尼的合作給了我兩個重要的啟示:人工智慧最偉大的勝利不僅是科學上的,也是人文上的;偉大的勝利,沒有他人的幫助是不可能實現的。