文|智東西
編譯|ZeR0
智東西3月10日消息,今日,DeepMind的“AI+科學(xué)”研究,再登國際學(xué)術(shù)頂刊Nature的封面!
DeepMind的深度神經(jīng)網(wǎng)絡(luò)Ithaca,能從受損文物中破譯古希臘文字,準(zhǔn)確率達(dá)到62%,在識別其原始位置方面的準(zhǔn)確率達(dá)到71%,還能將古文字年代鎖定在其真實日期范圍的30年內(nèi)。
據(jù)悉,這是第一個能夠恢復(fù)受損銘文的缺失文字、識別其原始位置并幫助確定其書寫日期的深度神經(jīng)網(wǎng)絡(luò)。
研究結(jié)果表明,AI能幫助歷史學(xué)家更好地解讀銘文,以助力對古代歷史的論證與理解。當(dāng)前,歷史學(xué)家已經(jīng)使用這個工具,來重新評估希臘歷史上的重要時期。
為了讓研究人員、教育工作者、博物館工作人員和其他人能夠廣泛使用其研究,DeepMind與谷歌云和谷歌Arts &Culture合作,推出了Ithaca的免費互動版本,并開放了其代碼、預(yù)訓(xùn)練的模型和一個交互式的協(xié)作實驗室筆記本。
01.古文字遭破壞?AI能修復(fù)這個bug
文字的誕生標(biāo)志著歷史的開端,對人類理解過去的文明和今天生活的世界至關(guān)重要。
例如,2500多年前,希臘人開始在石頭、陶器和金屬上書寫,記錄從租約、法律到日歷和預(yù)言的一切,讓人們對地中海地區(qū)有了詳細(xì)的了解。不幸的是,這是一個不完整的記錄。
許多幸存下來的銘文在幾個世紀(jì)的時間里遭到了破壞,或者從原來的位置被移走了。此外,現(xiàn)代年代測定技術(shù),如放射性碳年代測定法,無法在這些材料上使用,這使得解讀銘文既困難又費時。
為此,DeepMind與威尼斯Ca’Foscari大學(xué)人文系、牛津大學(xué)古典系、雅典經(jīng)濟(jì)與商業(yè)大學(xué)信息學(xué)系合作,一起探索如何用AI幫助歷史學(xué)家更好地解讀這些銘文。
深度神經(jīng)網(wǎng)絡(luò)Ithaca即是他們的最新成果,它以荷馬史詩《奧德賽》中的希臘島嶼命名,在DeepMind此前專注于文本修復(fù)的系統(tǒng)Pythia基礎(chǔ)上擴(kuò)展而成。
從實驗結(jié)果來看,這個新算法展示了AI方法能克服現(xiàn)有恢復(fù)銘文方法的約束,輔助古語言研究,并幫助對古代歷史有更豐富的理解。
02.大幅提升修復(fù)受損古文字的準(zhǔn)確率
Ithaca采用了古希臘語言和整個古代地中海世界的銘文進(jìn)行訓(xùn)練,訓(xùn)練數(shù)據(jù)來自帕卡德人文學(xué)院提供的最大的希臘銘文數(shù)字?jǐn)?shù)據(jù)集。
這一選擇有兩個主要原因。首先,希臘銘文記錄的內(nèi)容和背景的變異性使其成為語言處理的巨大挑戰(zhàn);其次是因為古希臘語數(shù)字化語料庫的可用性,這是訓(xùn)練機(jī)器學(xué)習(xí)模型的基本資源。
自然語言處理(NLP)模型通常用單詞(word)進(jìn)行訓(xùn)練,因為它們在句子中出現(xiàn)的順序和它們之間的關(guān)系提供了額外的上下文和含義。然而,許多歷史學(xué)家有興趣讓Ithaca進(jìn)行分析的銘文都已損壞,而且經(jīng)常缺失文本塊。
DeepMind使用單詞和單個字符作為輸入來訓(xùn)練模型,以確保Ithaca用這類文本時能正常工作。模型核心的稀疏自我注意機(jī)制并行地評估這兩個輸入,允許Ithaca根據(jù)需要評估銘文。
▲Ithaca的架構(gòu)(文本的損壞部分用“-”表示)
實驗結(jié)果表明,Ithaca的設(shè)計決策和可視化輔助使研究人員更容易解釋結(jié)果。
單獨工作時,Ithaca在修復(fù)受損文字方面達(dá)到了62%的準(zhǔn)確率;與DeepMind合作的歷史學(xué)家在單獨修復(fù)古代文獻(xiàn)時,準(zhǔn)確率為25%;而當(dāng)歷史學(xué)家與Ithaca合作時,修復(fù)受損文字的準(zhǔn)確率提高至72%。
▲Ithaca的實驗結(jié)果(CER和年份,數(shù)值越低↓越好)
Ithaca還可以確定銘文書寫的原始地理位置,準(zhǔn)確率達(dá)到71%,并能將銘文的書寫年代縮小至與歷史學(xué)家提出的日期相差30年以內(nèi)。
研究人員認(rèn)為,AI和歷史學(xué)家之間的這種合作,可能有助于改變對古代世界的研究,比如幫助推進(jìn)歷史解釋,建立歷史事件的相對日期,乃至為當(dāng)前的方法論爭鳴做貢獻(xiàn)。
例如,目前歷史學(xué)家對雅典頒布的一系列重要法令的日期存在分歧,這些法令是在蘇格拉底和伯里克利等著名人物在世的時期頒布的。
這些法令一直被認(rèn)為是在公元前446/445年之前寫的,盡管有新的證據(jù)表明日期是公元前420年。雖然看起來差別不大,但這些法令對于理解古典雅典的政治史至關(guān)重要。
DeepMind采用的訓(xùn)練數(shù)據(jù)集包含公元前446/445年的早期圖像。為了測試Ithaca的預(yù)測,研究人員在一個不包含日期銘文的數(shù)據(jù)集上對它進(jìn)行了重新訓(xùn)練,然后提交這些沒被包含在數(shù)據(jù)集中的文字進(jìn)行分析。結(jié)果,Ithaca對這些法令的平均預(yù)測日期是公元前421年,這與新證據(jù)推測的日期一致。
由此可見,機(jī)器學(xué)習(xí)能幫助圍繞希臘歷史上最重要時刻之一的辯論提供支撐。
03.提供可視化輔助工具直觀呈現(xiàn)AI分析的結(jié)果
為了將Ithaca作為研究工具的價值最大化,研究團(tuán)隊還創(chuàng)造了一些可視化輔助工具,來確保歷史學(xué)家能夠輕松地解釋Ithaca輸出的結(jié)果。
▲Ithaca的輸出
(1)修復(fù)假設(shè):Ithaca為文本修復(fù)任務(wù)生成了幾個預(yù)測假設(shè),供歷史學(xué)家利用專業(yè)知識進(jìn)行選擇。
(2)地理屬性:Ithaca向歷史學(xué)家展示了它的不確定性,它給出了所有可能預(yù)測的概率分布,而不是單一的輸出。它提供了84個不同古代地區(qū)的概率,代表其確定性水平,并將這些結(jié)果可視化顯示在地圖上,以闡明古代世界潛在的地理聯(lián)系。
(3)時間歸屬:當(dāng)確定文本的創(chuàng)作日期時,Ithaca會產(chǎn)生一個從公元前800年到公元800年所有幾十年的預(yù)測日期分布。歷史學(xué)家能看到模型對特定日期范圍的可信度,這可能提供有價值的歷史見解。
(4)顯著性圖:為了將結(jié)果傳達(dá)給歷史學(xué)家,Ithaca使用了計算機(jī)視覺中常用的一種技術(shù),它可以識別哪些輸入序列對預(yù)測的貢獻(xiàn)最大。該輸出對影響Ithaca關(guān)于缺失文本、位置和日期預(yù)測的單詞用不同的顏色加以突出。
▲由顏色標(biāo)注突出顯示了Ithaca聚焦的詞
04.結(jié)語:AI與人文學(xué)科的合作正釋放出更大潛力
DeepMind研究團(tuán)隊相信,這只是像Ithaca這樣的AI工具的開始。
古希臘只是全球文明圖景的一部分,DeepMind還在研究由其他古代語言訓(xùn)練的Ithaca版本,歷史學(xué)家已經(jīng)可以在當(dāng)前的建筑中使用他們的數(shù)據(jù)集來研究阿卡德語、希伯來語、瑪雅語等古代文字體系。
我國的研究團(tuán)隊也早已開展了用AI識別古文字的研究。在2021年世界人工智能大會上,國內(nèi)智能文字識別領(lǐng)域頭部企業(yè)合合信息就曾展示一種將古代象形文字甲骨文識別并翻譯成現(xiàn)代漢字的AI技術(shù),這不僅有助于實現(xiàn)甲骨文研究資料電子化、數(shù)據(jù)化,也為破解甲骨文謎題提供了新的數(shù)字化手段。
我們期待看到更多諸如此類的研究,可以釋放AI和人文學(xué)科之間的合作潛力,改變歷史學(xué)家研究和確定人類歷史重要時期的方式,幫助我們獲得對古代文明更豐富的認(rèn)知。
來源:DeepMind,Nature