機器之心專欄
機器之心編輯部
復旦大學自然語言處理實驗室發布模型魯棒性評測平臺 TextFlint。該平臺涵蓋 12 項 NLP 任務，囊括 80 余種數據變形方法，花費超 2 萬 GPU 小時，進行了 6.7 萬余次實驗，驗證約 100 種模型，選取約 10 萬條變形后數據進行了語言合理性和語法正確性人工評測，為模型魯棒性評測及提升提供了一站式解決方案。
項目地址：https://github.com/textflint
官方網站：http://textflint.io
論文鏈接：https://arxiv.org/pdf/2103.11441.pdf
引言
近年來，隨著自然語言處理技術的不斷突破，深度學習模型在各項 NLP 任務中的表現正在穩步攀升。2018 年 1 月，在斯坦福大學發起的 SQuAD 閱讀理解評測任務中，來自微軟亞洲研究院的自然語言計算組所提出的算法率先趕超了人類。短短三年后，微軟的 DeBERTa 和谷歌的 T5+Meena 模型在包含了多種自然語言處理任務的綜合評測集合 SuperGLUE 上再次超越了人類。近日 IBM 號稱 “首個能在復雜話題上與人類辯論的 AI 系統” 的 Project Debater 登上了 Nature 雜志的封面，該系統在 78 類辯題中獲得了接近人類專業辯手的平均評分。我們不禁要問，人類真的被打敗了嗎？
事實上，縱使這些 NLP 模型在實驗數據集上的表現十分驚人，在實際應用中我們卻很難感知到自然語言處理系統 “超越人類” 的語言理解水平。難倒這些看似 “聰明” 的模型，只需要一個簡單的“逗號”，即便是基于赫赫有名的預訓練語言模型 BERT 的算法也不例外。
例如，“漢堡很好吃薯條一般”對漢堡的評價是正面的，但當我們插入 “，” 時，一些模型就會將 “漢堡很好吃，薯條一般” 判別為對漢堡的負面評價。一個微小且無關緊要的改動就能使自然語言處理系統失效，諸如此類的例子屢見不鮮。
魯棒性何為
為何大殺四方的優秀模型在紛繁復雜的現實場景中紛紛折戟沉沙？其中一個很重要的原因是此前缺乏對模型魯棒性的重視和深入探討，導致模型只能在特定語料中圈地為王，在模型的效果評測中也僅僅關心在特定測試語料上的性能。如何幫助模型走出這樣的困局，給自然語言處理領域帶來質的飛躍，是實現下一步技術發展的緊要任務。
魯棒性是機器學習模型的一項重要評價指標，主要用于檢驗模型在面對輸入數據的微小變動時，是否依然能保持判斷的準確性，也即模型面對一定變化時的表現是否穩定。魯棒性的高低直接決定了機器學習模型的泛化能力。在研究領域中，許多模型只能在某一特定的數據集上呈現準確的結果，卻不能在其他數據集上復刻同樣優異的表現，這就是由于模型對新數據中的不同過于敏感，缺乏魯棒性。
在現實世界的應用場景中，模型要面對的是更加紛繁復雜的語言應用方式，待處理的數據里包含著更加龐雜的變化。一旦缺乏魯棒性，模型在現實應用中的性能就會大打折扣。在測試數據集上獲得高分是遠遠不夠的，機器學習模型的設計目標是讓模型在面對新的外部數據時依然維持精準的判斷。因此，為了確保模型的實際應用價值，對模型進行魯棒性評測是不可或缺的。
方法 & 實驗
目前已有一些正在關注模型魯棒性的工作，但大多只針對單個的 NLP 任務，或是只使用了少量的數據變形方法，缺乏系統性的工具集合。針對這一問題，復旦大學自然語言處理實驗室展開了大規模的魯棒性測評工作，在桂韜博士、王梟博士、張奇教授、黃萱菁教授的主導下，20 余位博士生和碩士生共同參與，歷時 9 個月，開發了面向自然語言處理的多語言魯棒性測評一站式平臺TextFlint
