跳到主要內容

LFM2.5-2.6B評測：Liquid AI免雲端邊緣AI代理模型 | LFM2.5-2.6B Review: Liquid AI's On-Device Agent Model

By Kit 小克 | AI Tool Observer | 2026-08-08

🇹🇼 LFM2.5-2.6B評測：Liquid AI免雲端邊緣AI代理模型

LFM2.5-2.6B是Liquid AI在2026年8月4日推出的免雲端AI代理模型，只有26億參數、不到2.5GB就能塞進手機甚至樹莓派執行，不必連網、不必租GPU伺服器，就能規劃任務、呼叫工具、完成多步驟操作。對做邊緣運算、資安敏感產業，或單純想省API費用的開發者來說，這是最近最值得關注的邊緣AI代理模型之一。

什麼是LFM2.5-2.6B？

LFM2.5-2.6B是一款專為代理任務（agentic workload）設計的小型語言模型，用約34兆token訓練而成，具備128K上下文視窗與工具呼叫（tool calling）能力，權重開源，下載後可直接在本機硬體執行，不依賴雲端API。

效能實測：贏過4倍大的模型

Liquid AI公布的ToolSandbox基準測試中，LFM2.5-2.6B拿下77.83分，勝過參數量是它4倍的Qwen3.5-9B（76.44分）。在Apple M5 Max上跑出220 tokens/秒，Ryzen CPU上有113 tokens/秒，一般手機也能有30 tokens/秒——代表就算沒有獨立GPU，一般消費級裝置也能跑出堪用的AI代理模型速度。

LFM2.5-2.6B可以在哪些裝置上跑？

從筆電、手機到樹莓派這種入門級單板電腦，都能執行LFM2.5-2.6B，不需要雲端GPU算力。這對邊緣機器人、離線工具、或需要把敏感資料留在本機的金融、醫療產業特別實用。

為什麼免雲端AI代理模型對企業重要？

不用把資料送上雲端，就少一層外洩風險，也少一筆API帳單。對受監管產業（醫療、金融、政府）來說，LFM2.5-2.6B這類本機執行的邊緣AI代理模型，等於用一點效能換取資料主權與成本可控性。

小克實測心得

老實說，「小模型打敗大模型」的宣傳每隔幾個月就會出現一次，多半只贏在特定基準測試，換個任務就現形。LFM2.5-2.6B的亮點不在「打贏Qwen3.5-9B」，而在2.5GB塞進樹莓派還能跑代理任務這件事本身——如果你的需求是離線工具呼叫、本機自動化，這種等級的效能已經堪用；但如果要做複雜推理或長文生成，還是乖乖用雲端大模型比較實在。開源權重讓你可以自己下載測試，不必只看官方公布的基準數字。

🇺🇸 LFM2.5-2.6B Review: Liquid AI's On-Device Agent Model

LFM2.5-2.6B is the on-device AI agent model Liquid AI released on August 4, 2026 — a 2.6-billion-parameter model that fits in under 2.5GB and runs on a phone or even a Raspberry Pi, with no cloud connection or GPU rental required to plan tasks, call tools, and complete multi-step workflows. For developers working on edge computing, security-sensitive industries, or anyone trying to cut API bills, this is one of the more interesting on-device agent models to show up this year.

What Is LFM2.5-2.6B?

LFM2.5-2.6B is a small language model built specifically for agentic workloads, pre-trained on roughly 34 trillion tokens with a 128K context window and native tool-calling support. Its weights are open, so you can download it and run it locally without depending on a cloud API.

Benchmark Results: Beating a Model 4x Its Size

On Liquid AI's published ToolSandbox benchmark, LFM2.5-2.6B scored 77.83, edging out Qwen3.5-9B (76.44) despite having a quarter of the parameters. It hits 220 tokens/sec on an Apple M5 Max, 113 tokens/sec on a Ryzen CPU, and 30 tokens/sec on a typical smartphone — meaning consumer-grade hardware without a dedicated GPU can already run a usable agent model.

What Devices Can Run LFM2.5-2.6B?

Laptops, phones, and entry-level single-board computers like the Raspberry Pi can all run LFM2.5-2.6B without cloud GPU compute. That makes it practical for edge robotics, offline tools, or regulated industries like finance and healthcare that need to keep sensitive data on-device.

Why Does an On-Device AI Agent Model Matter for Businesses?

Keeping data off the cloud means one less leak vector and one less API bill. For regulated industries, a local-running on-device agent model like LFM2.5-2.6B trades a bit of raw performance for data sovereignty and predictable cost.

Kit's Honest Take

"Small model beats big model" headlines show up every few months, and most only win on one cherry-picked benchmark before falling apart on a different task. The real story with LFM2.5-2.6B isn't "it beat Qwen3.5-9B" — it's that a 2.5GB model running on a Raspberry Pi can handle agentic tasks at all. If your use case is offline tool-calling or local automation, this tier of performance is genuinely usable. For complex reasoning or long-form generation, you'll still want a full cloud model. Since the weights are open, you can download it and test it yourself instead of trusting the official benchmark numbers.

Sources / 資料來源

常見問題 FAQ

LFM2.5-2.6B是什麼？

LFM2.5-2.6B是Liquid AI推出的26億參數開源AI代理模型，體積不到2.5GB，可在手機、樹莓派等裝置離線執行，具備128K上下文與工具呼叫能力。

LFM2.5-2.6B跟大型雲端模型比效能如何？

在ToolSandbox基準測試中，LFM2.5-2.6B以77.83分勝過參數量4倍的Qwen3.5-9B（76.44分），但複雜推理與長文生成仍建議使用雲端大模型。

LFM2.5-2.6B可以在哪些裝置上執行？

筆電、手機、Apple M5 Max、Ryzen CPU甚至樹莓派都能執行，不需要雲端GPU或網路連線。

免雲端AI代理模型對企業有什麼好處？

資料不用上傳雲端，降低外洩風險並省下API費用，特別適合金融、醫療等受監管產業。

延伸閱讀 / Related Articles

AI 工具觀察站 — 每日精選 AI Agent 與工具趨勢
AI Tool Observer — Daily curated AI Agent & tool trends

留言

張貼留言

這個網誌中的熱門文章

Google Ironwood TPU v7 推理專用晶片解析：效能追平 NVIDIA、成本低 44%，AI 晶片戰爭正式開打 | Google Ironwood TPU v7 Explained: Matching NVIDIA Performance at 44% Lower Cost — The AI Chip War Heats Up

By Kit 小克 | AI Tool Observer | 2026-04-21 🇹🇼 Google Ironwood TPU v7 推理專用晶片解析：效能追平 NVIDIA、成本低 44%，AI 晶片戰爭正式開打 Google Ironwood TPU 是什麼？為什麼它讓 NVIDIA 緊張？ Google Ironwood TPU（代號 TPU v7）是 Google 第七代自研 AI 晶片，也是第一款 專為推理（inference）設計 的 TPU。在 AI 模型越來越大、推理需求暴增的時代，Google 不再只依賴 NVIDIA GPU，而是推出自己的推理專用晶片來搶市場。 Ironwood TPU v7 規格有多強？ 每顆 Ironwood TPU 提供 4.6 petaFLOPS 的 FP8 運算效能 ，搭載 192 GB HBM3E 記憶體，頻寬達 7.37 TB/s。單顆效能略高於 NVIDIA B200（4.5 petaFLOPS），接近 GB300 的 5 petaFLOPS。 更驚人的是規模化能力：Ironwood 可擴展至 9,216 顆晶片組成超級叢集 ，總算力達 42.5 ExaFLOPS，遠超 NVIDIA GB300 NVL72 系統的 0.36 ExaFLOPS。共享記憶體池高達 1.77 PB，解決了大型模型推理時的資料瓶頸問題。 Ironwood TPU 比 NVIDIA 便宜多少？ 根據分析，Ironwood 的 整體擁有成本（TCO）比 NVIDIA GB200 低約 44% 。在能效方面，Ironwood 的 FP8 效能達每瓦 5.42 TFLOPS，而 GB300 為 3.57 TFLOPS/W，Google 晶片的能效高出約 52%。 為什麼 Google 要做推理專用晶片？ AI 產業正從「訓練時代」轉向「推理時代」。當 ChatGPT、Gemini、Claude 等 AI 助手每天處理數十億次查詢時，推理運算的需求遠超過訓練。Google 稱之為「推理時代（age of inference）」，而 Ironwood TPU 就是為這個時代量身打造的武器。 對開發者和企業有什麼影響？ Ironwood TPU 目前 只能透過 Google Cloud 使用，無法...
閱讀完整內容

Claude Code 實測：AI 幫你寫程式到底行不行？ | Claude Code Review: Can AI Really Code for You?

By Kit 小克 | AI Tool Observer | 2026-03-27 🇹🇼 Claude Code 實測：AI 幫你寫程式到底行不行？ Claude Code 是 Anthropic 推出的命令列 AI 程式助手，直接在你的終端機裡運作。跟其他 AI 程式工具不同的是，它不是 IDE 外掛，而是一個獨立的 CLI 工具，可以讀取你的整個 codebase、執行指令、甚至幫你做 git 操作。我實際用了幾個月，以下是真實心得。 安裝與設定 安裝非常簡單，透過 npm 就能搞定： npm install -g @anthropic-ai/claude-code 。啟動後它會要求你登入 Anthropic 帳號或設定 API key。整個流程不到五分鐘。 實際使用體驗 Claude Code 最強的地方在於 它理解你的整個專案 。你不需要手動貼程式碼，它會自己讀取相關檔案、分析程式結構，然後給出建議或直接修改。實測幾個場景： Bug 修復 ：描述錯誤現象，它能自動找到問題檔案並提出修正，準確率大約 70-80% 新功能開發 ：給它需求描述，它能產出可用的初版程式碼，但通常需要人工調整細節 程式碼重構 ：這是它最擅長的。重新命名變數、抽取函式、調整架構，做得又快又好 寫測試 ：給它一個函式，它能產生相當完整的測試案例 優缺點分析 優點： 深度理解 codebase，不是只看單一檔案 可以執行 shell 指令，直接跑測試、裝套件 支援 CLAUDE.md 讓你定義專案規則 agentic 模式下可以自主完成多步驟任務 缺點： API 費用不便宜，大型專案一天可能花 10-30 美元 偶爾會過度修改，改了不該改的地方 對非英語的程式碼註解理解力稍弱 需要良好的網路連線 適合誰用？ 如果你是全端開發者、需要處理多個專案、或者經常做重構，Claude Code 絕對值得一試。但如果你只是寫簡單的腳本，免費的 Copilot 可能就夠了。 Kit 的結論： Claude Code 是目前最接近「AI 工程師」的工具。它不完美，但確實能大幅提升生產力。好不好用？試了才知道。 🇺🇸 Claude Code Review: Can AI Really Code for You?...
閱讀完整內容

Cursor vs GitHub Copilot vs Claude Code：AI 程式助手大比拼 | AI Coding Assistants Compared: Cursor vs GitHub Copilot vs Claude Code

By Kit 小克 | AI Tool Observer | 2026-03-27 🇹🇼 Cursor vs GitHub Copilot vs Claude Code：AI 程式助手大比拼 2026 年，AI 程式助手已經成為開發者的標配。但市場上選擇太多了，到底該用哪一個？我同時使用了 Cursor、GitHub Copilot 和 Claude Code 超過半年，以下是完整比較。 GitHub Copilot：最普及的選擇 Copilot 是最早普及的 AI 程式助手，整合在 VS Code 和各大 IDE 中。它的核心功能是 即時程式碼補全 ——你打字的時候，它自動建議下一行或下一段程式碼。 優點 ：補全速度快、整合度高、支援幾乎所有語言、Copilot Chat 可以問問題 缺點 ：上下文理解有限（主要看當前檔案和少量相關檔案）、Agent 模式仍在發展中 價格 ：個人版 /月，企業版 /月 Cursor：IDE 級別的 AI 整合 Cursor 是一個從頭打造的 AI-first IDE（基於 VS Code fork）。它不只是補全程式碼，而是把 AI 深度融入整個開發流程。 優點 ：Composer 功能可以跨檔案編輯、Agent 模式可以自主執行多步驟任務、支援切換不同 AI 模型、Tab 補全非常智慧 缺點 ：是獨立的 IDE 需要遷移、Pro 方案有使用量限制、偶爾不穩定 價格 ：免費方案有限制、Pro /月 Claude Code：終端機裡的 AI 工程師 Claude Code 走完全不同的路線——它是 CLI 工具，在終端機裡運作，不綁定任何 IDE。 優點 ：理解整個 codebase、可以執行系統指令、支援 git 操作、CLAUDE.md 定義專案規則、最強的 agentic 能力 缺點 ：沒有視覺化介面、按 API token 計費（可能很貴）、需要習慣 CLI 工作流 價格 ：按 API 使用量計費，或透過 Max 訂閱方案 關鍵差異比較 即時補全 ：Copilot ≈ Cursor > Claude Code（無此功能） 跨檔案理解 ：Claude Code > Cursor > Copilot Agentic 能力 ：Claud...
閱讀完整內容