因為「黑箱」難題,我和莫妮卡關於機器翻譯的研究一個學期不到就碰了壁。
起初一切還很順利。我們分析了上世紀的幾種商業翻譯軟體。這些軟體的原理大多很簡單,連我也能理解。無非是先將一個句子拆解成一個個片語,再根據辭典把這些片語翻成目標語言,然後根據目標語言的句法規則將片語重新組合,就得到了翻譯的結果。這種方法對於簡單的句子尚能勝任,當使用它翻譯一些習語時,總是免不了要鬧笑話,因為目標語言中可能並沒有類似的表述。
對此,一些翻譯軟體開發者想了一些對策,比如說為專有名詞、習語和固定的表達方式建立語料庫,軟體進行翻譯時會先檢索語料庫中是否有匹配的內容。這樣的做法的確讓翻譯的準度和流暢性都有所提高,但是,詞義消歧仍是一個難題。特別是當一個詞在源語言和目標語言中並不等價的時候,就會引出很多麻煩來。
一個最常被舉到的例子是英語的「sheep」和法語的「mouton」。在英語裡,「sheep」指的是綿羊,而法語的「mouton」不僅可以指「綿羊」,也可以指「羊肉」(英語中的mutton),兩個詞並不等價。為了檢驗一個翻譯軟體是否能有效地消除歧義,我會設計一個包含類似「mouton」這樣的單詞的法語句子,讓軟體生成英語的譯文。那些採用最傳統原理的軟體幾乎只會把「mouton」翻成「sheep」,而並不會考慮語義是否恰當。所以,有開發者設計了一套統計學方法來消除歧義。比較常見的方法是:先製作兩種語言的平行語料庫,然後進行統計,從而發現「mouton」和草地、牧羊犬或羊毛等詞一起出現時,一般要翻譯成「sheep」;而與表示吃或烹飪的動詞出現在一起時,則要翻譯成「mutton」。
之後莫妮卡又分析了一些本世紀初的機器翻譯軟體。有些軟體使用了大量的統計學方法,通過隱變數和對數線性模型來實現翻譯(這些術語都是莫妮卡告訴我的,我也不確定自己的表述是否準確)。這部分的工作我幾乎沒有參與。她試圖教會我線性代數的基本知識,我也努力了一番,不過最後還是放棄了。有一天,她把倫敦大學的一位講師請到了會議室,向她請教了一些高維空間中的線性不可分問題。而我能做的,只是站在一邊泡紅茶罷了。
我們在一個學期之內測試了2013年以前所有重要的翻譯軟體。因為莫妮卡也懂一點法語,所以著重測試的是英法互譯的部分。她總能很清晰地解釋為什麼這些軟體在面對一些句子時,能或不能派上用場。然而,真正棘手的是在那以後被開發的軟體,它們幾乎都採用了深度學習的技術。和以往一樣,我們做了一些英法互譯的測試,記錄並分析翻譯的結果。然而,莫妮卡卻發現我們唯一能做的就是分析結果,所有的過程都是在隱藏層完成的。解釋具體的翻譯機制,顯然已經超出了她的知識範圍。
「我現在能確定,某類神經網路結構比另外一些更有效,能提高翻譯的精準度。引入了注意力機制之後能降低梯度消失的風險。但是,我無法解釋翻譯工作是怎樣在隱藏層裡完成的。這些翻譯軟體對於我們來說,只是一個個‘黑箱’。」
「抱歉,我不太明白。」
「沒關係,我也不明白。」坐在我對面的莫妮卡搖了搖頭,「而且這還只是二三十年前流行的深度學習。後來蘇黎世聯邦理工的一個團隊,設計了一套馬里亞納學習的演算法,能讓人工智慧根據需要即時修改自己的神經網路,以往能實現視覺化的神經網路模型,現在也都變成了隱藏層,而很多具體的運算更是在隱藏層中的隱藏層裡完成的。最新的機器翻譯軟體都採用了這套機制。據說能極大地提高精準度,還能徹底解決梯度消失的難題,而代價也不過是完全犧牲了可解釋性。我沒有辦法分析它,任何人都沒有辦法。」
「這也就意味著……」
「我們可能要換個課題了。」她說,「對不起,朱迪,都怪我低估了這個課題的難度,害得你和我一起浪費了這麼多時間。」
「我也學到了很多東西。」比如說簡單的句法理論和語義學的初級知識,當然,還知道了這個世界上有種名叫線性代數的學科,而matrix一詞在子宮之外還有別的意思。「這些知識就算換一個課題應該也能派上用場。」
之後,我們用了一個小時左右的時間討論未來該研究些什麼。結論大概是,她的強項在計算機技術,而我的強項在歷史語言學,我們應該在這兩者之間找個連線點。於是我提議說,或許我們可以運用電腦科學來構擬古代語言。對於這個提議,莫妮卡不置可否,說出口之後我也感到有些欠妥。這的確是個很有挑戰性的課題,也能發揮我們各自的長處,但它似乎沒有什麼應用價值。但是,或許會有哪個電影或遊戲需要讓角色講幾句盧維語或瑟羅尼亞語,誰知道呢……
就在這個時候,小會議室的門被粗暴地推開了,走進來了一個看起來和我們同齡的女生。
她有一頭略顯黯淡的金色短髮和一張輪廓鮮明的臉。她穿著一件灰色的帽衫和一條緊身牛仔褲,帽衫正中間有個紅色的字母「a」,看來她和設計這件衣服的人都沒有讀過霍桑。那個女生又向前走了幾步,我才看清楚她眼睛的顏色——灰色之中有一點點藍,就像英格蘭隨處可見的天空一樣。
「這裡是語言學小組嗎?」她問,又回過頭去,像是想要確認一下貼在門上的那張紙,然而門已經自動關上了。「我應該沒找錯地方吧?」
「你沒找錯。」莫妮卡站了起來,「找我們有什麼事情嗎?」
作者「《銀河邊緣》編輯部」的其他小說