你懂幾國語言？據相關資料顯示，世界上一共有7000多種語言。但是，我們懂的可能就只有幾種或者幾十種。而目前的計算機語音識別技術所能覆蓋的則有100多種。這對于很多人來說，已經是天文級的數字了。但Meta新開源的語言模型卻有著更大的突破。

自從和OpenAI、Google分道揚鑣之后，Meta便在開源大模型方向上越走越深。日前，Meta在GitHub上新開源的AI語言模型——Massively Multilingual Speech ( MMS，大規模多語種語音)可以識別4000多種口頭語言，是目前已知技術的40倍之多；還擴展了文本與語音之間的轉化技術的涵蓋范圍，從大約100種語言到1100多種。不僅如此，Meta開源的MMS最突出的特點是不僅支持ASR，還支持TTS，也就是說不僅可以語音轉文字，還可以文字轉語音。

Meta的官網blog上特別提到的Tatuyo語，一種只有幾百人在使用的小語種。雖然對于日常來說沒什么用，但是對于研究來說卻是一個很好的助手。那么，對于這種只有幾百人使用的小語種，如何才能找到并有效的提煉數據集呢？

Meta介紹說，他們在數千種語言的音頻數據收集過程中，使用了一種非常規的方法——宗教文本錄音。“我們轉向已被翻譯成許多不同語言的宗教文本（例如《圣經》），并且其翻譯已被廣泛研究用于基于文本的語言翻譯研究。而且，這些譯本都有公開錄音，記錄了人們采用不同語言進行閱讀的情景。”

同時，Meta 在 MMS 模型的訓練中結合使用了公司的 “自監督語音表示學習”模型 wav2vec 2.0，使機器能夠在不依賴標記訓練數據的情況下進行學習；有了它，就可以在更少的數據上訓練語音識別模型。

而對于此種方式可能導致的模型偏向性，Meta聲稱，“雖然這些數據來自特定領域，并且通常由男性閱讀；但我們的分析表明，我們的模型在男性和女性聲音方面表現同樣出色。雖然錄音的內容是宗教的，但我們的分析表明，這并不會使模型偏向于產生更多的宗教語言。”

在使用1B參數的wav2vec 2.0模型對1100多種語言進行多語言語音識別模型的訓練的時候，研發人員發現，隨著語言數量的增加，性能會有所下降，但非常輕微：從61種語言到1107種語言，字符錯誤率只增加約0.4%，但語言覆蓋率卻增加了17倍以上。”

就此問題，Meta還與OpenAI的Whisper做了詳細的對比，在數據上訓練的模型實現了一半的單詞錯誤率，并且訓練數據更少：Meta的訓練數據只有45k小時的標注數據，要比Whisper少10倍，而語言支持卻多了10倍，這是一個大的提高。不過，Meta亦表示它的新模型并不完美，“例如，語音轉文本模型可能會錯誤轉錄選定的單詞或短語，這存在一定風險。但是，我們仍然相信，整個 AI 社區的協作對于負責任地開發 AI 技術至關重要。”而目前，Meta 已經開源了相關的模型和代碼，以便研究社區中的其他人可以在此工作基礎上進行構建。

對于語音大模型的未來，Meta并沒有完全做好設想，但他們希望可以通過稱也做了設想，希望可以通過一個模型解決所有語言的多個語音任務。“我們為語音識別、語音合成和語言識別訓練了不同的模型，但我們有理由相信在未來，一個模型將能夠完成所有這些任務以及更多任務，從而帶來更好的整體性能”，Meta 說道。

放眼未來，Meta希望擴大MMS的覆蓋范圍以支持更多語言，并改進其對方言的處理。進一步打破世界各地人群之間的語言障礙，讓來自全球每個角落的人們都可以通過聲音正常交流。這是一個美好的愿景，但我們相信這一天的遲早是要到來的。