發表文章

目前顯示的是有「local AI agent」標籤的文章

Muse Glimmer評測:Meta開源30B代理模型單張GPU可跑 | Muse Glimmer Review: Meta's Open 30B AI Runs on One GPU

By Kit 小克 | AI Tool Observer | 2026-08-13 🇹🇼 Muse Glimmer評測:Meta開源30B代理模型單張GPU可跑 Meta旗下Superintelligence Labs在8月10日發布 Muse Glimmer ,一款300億參數的開源代理模型,主打「單張消費級GPU就能跑」——只要24GB顯存(例如RTX 4090或3090),不必租雲端GPU、不用按token付費,就能在本機跑代理型任務。這是繼先前的程式碼代理Muse Code之後,Meta另一款瞄準「本機Agent」場景的開源模型。 Muse Glimmer是什麼? Muse Glimmer是從Meta內部更大的閉源模型Spark 1.2蒸餾而來的300億參數密集模型,採用 Apache 2.0 授權,支援128K token上下文(可再延伸)。權重已上架Hugging Face,可透過Ollama、LM Studio、Unsloth直接下載本機跑,也能用llama.cpp、ExecuTorch、MLX部署到邊緣裝置,或用vLLM、SGLang大規模服務;Together AI、Fireworks AI、OpenRouter也已提供雲端API選項,不想自己架環境也能用。 跑分表現如何? Meta官方公布的數據把Muse Glimmer拿去跟Gemma4-31B、Qwen3.6-27B比較,在DeepSearch QA、MCP-Atlas、τ3-Bench、SWE-Bench等「完整任務型」測試中表現不錯。這些測試主要衡量模型在多輪對話中呼叫工具、寫程式除錯、完成多步驟任務的能力,比單純問答評測更貼近真實Agent工作場景。不過跑分是廠商自己公布的,實際上手落差多大,還是得自己測。 對開發者的實際意義 省成本 :本機跑代理任務不用按token計費,適合長時間掛機的排程、檔案整理類工作 隱私 :敏感資料不必經過雲端API,適合企業內部或個人資料處理場景 門檻不是零 :24GB顯存仍是入門門檻,一般筆電、舊顯卡跑不動;社群量化版(GGUF)能降低需求,但速度與品質會打折 官方定價未定 :截至發稿,Meta尚未公布Muse Glimmer專屬的按token計費,第三方平台各自訂價,速度與費用要自己比較 小克實測心...