在大模型的競賽中，參數規模往往被視為性能的決定性因素。但近期，Liquid AI 的研究團隊提出了一個不同尋常的案例：一個僅有 3.5 億參數的模型，經過微調後，竟能在中短上下文的實時日語英語翻譯任務上，與 GPT-4o 競爭。
這一模型被命名為 LFM2-350M-ENJP-MT, 在多項評測中，它的表現不僅在同類模型中遙遙領先，甚至比其自身大 2 個數量級的模型表現更好。
圖｜不同模型日英翻譯表現對比（來源：Liquid AI）
作為一個專攻日英翻譯的模型，LFM2-350M-ENJP-MT 能夠順利完成日常文本、技術描述、商務溝通和新聞報道的翻譯，並且具備著保留像口語化表達、新聞措辭和商業溝通方面語言的細微差別的能力。
LFM2-350M-ENJP-MT 是在 LFM2-350M 基礎上微調得到的翻譯模型，而 LFM2-350M 本身是 LFM2 的最小尺寸 350M 參數版本，相比於市面上大多數模型體積很小。LFM2 由 Liquid AI 於今年 7 月 10 號發布，為第二代 Liquid Foundation Model（LFM），提供 350M、700M 和 1.2B 三種規格，專為邊緣 AI 和設備端部署設計。
LFM2-350M-ENJP-MT 所用的模型架構與 LFM2 相同，採用了包含卷積和注意力模塊的混合架構，結合 10 個雙門控短程 LIV（Linear Input-Varying）卷積塊和 6 個分組查詢注意 (GQA) 塊，這種方法在不犧牲準確率的情況下最大限度地提高了推理速度。線性輸入變化 (LIV) 運算元的概念則是由 Liquid AI 研究團隊於 2024 年提出，作為一種線性運算元，其權重由輸入動態生成，從而使卷積、遞歸、注意力機制和其他結構層都歸屬於一個統一的、對輸入敏感的框架。
同時團隊還開發了一個叫 STAR 的神經架構搜索引擎，通過進化演算法（evolutionary algorithm）來自動探索最優架構，滿足精度、內存、延遲等需求。
圖｜LFM2 架構（來源：Omkaar Kamath）
和 LFM2-350M-ENJP-MT 一樣，LFM2 在基準測試中，展現了「四兩撥千斤」的能力，性能超過很多同規格，甚至更大體積的模型。根據評估，LFM2-1.2B 的性能與 Qwen3-1.7B 相當，後者的參數數量比後者多 47%。LFM2-700M 的性能優於 Gemma 3 1B IT，而 LFM2-350M 與 Qwen3-0.6B 和 Llama 3.2 1B Instruct 相當。
而本次微調版本 LFM2-350M-ENJP-MT，更是將「小模型」的潛力發揮到了極致。在中短文日英翻譯上，表現比肩 ChatGPT-4o。
（來源：Liquid AI）
圖｜LFM2 速度與其他模型速度對比（來源：Liquid AI）
與 LFM2-350M-ENJP-MT 一同發布的是 LFM2-350M-ENJP-MT-GGUF，也就是該模型的 GGUF 格式版本。GGUF 是一種經過優化等二進位格式，能加快模型的載入與存儲，從而提高推理效率。GGUF 專為 GGML 及其他執行器設計，而 GGML 等執行器可以幫助大模型在商用硬體上實現高性能運作。
這一點，契合了 Liquid AI 的戰略：打造真正能在移動端與邊緣設備落地的 AI 系統。成立於 2023 年的 Liquid AI，由來自 MIT 的研究員 Ramin Hasani 和 Mathias Lechner 創辦。團隊的目標就是致力於打造兼具性能與效率的基礎模型，並推動其在設備端的普及應用。
圖｜Liquid AI 創始人（來源：LinkedIn）
當前，LFM2-350M-ENJP-MT 還在特定方面有所不足，尤其是其處理超長文本以及專業或語境敏感的翻譯的能力，例如： 技術及專業用語（醫學、法律、工程）；新專有名詞（新產品、品牌、文化）；或行業、領域內部特有的術語。
Liquid AI 表示，他們將與開源社區合作，持續微調改進 LFM2-350M-ENJP-MT。未來，或許有越來越多這樣的「小模型」在更多複雜場景中發揮作用。
參考資料：
https://www.liquid.ai/blog/liquid-foundation-models-v2-our-second-series-of-generative-ai-models
https://huggingface.co/LiquidAI/LFM2-350M-ENJP-MT
運營/排版：何晨龍
