AI小貼士

By Kit 小克 | AI Tool Observer | 2026-11-03 🇹🇼 權重空間編程評測：GPT-6 Astra免訓練改AI大腦 權重空間編程（Weight-Space Programming） 是這幾天在 r/MachineLearning、r/LocalLLaMA 和 r/singularity 同時炸鍋的新研究關鍵字。MIT CSAIL 的團隊證實，像 GPT-6 Astra 這種通用推理模型，可以直接「讀懂」並「改寫」另一個神經網路的權重，完全不用梯度下降、不用訓練迴圈，單純靠推理一次到位修好一個壞掉的模型。 權重空間編程到底做了什麼實驗？ 研究團隊讓 GPT-6 Astra 去「動手術」修改 Qwen3.5-0.8B 的權重。它只改動了整個模型 0.016% 的參數，卻讓這個小模型： MATH-500 數學測試成績從 7.9% 衝到 48.1% 指令遵循能力（IFEval）提升約 3 倍 原本會卡在無限重複推理迴圈的毛病被直接修掉 整套流程沒有反向傳播、沒有梯度訊號，GPT-6 Astra 是靠解析權重的「幾何結構」去推論每一層、每一組參數大概在算什麼，再直接寫下修正值——有點像外科醫生看著 X 光片直接下刀，而不是靠反覆復健訓練。團隊一共做了八組實驗，包括只看權重就猜出一個小網路當初是用什麼資料訓練的，以及修好壞掉的遊戲策略網路。 對一般開發者來說，現在能用嗎？ 老實說，還不行。這篇論文的標題直接致敬當年「Sparks of AGI」，性質上是一篇展示技術可能性的研究論文，不是一個你明天就能裝進 pipeline 的工具。幾個現實問題： 目前只在 0.8B 這種小模型上驗證過，能不能套用到幾百億參數的正式生產模型完全未知。 執行這個「手術」本身需要一個像 GPT-6 Astra 等級的前沿模型當醫生，推理成本不一定比傳統微調便宜。 權重被直接改寫，等於繞過了原本訓練流程裡的安全與對齊檢查，對模型稽核是個新難題。 如果這個方向真的成熟，意義會很大：未來修一個模型的毛病，可能不需要重新訓練，只要讓另一個更強的 AI 診斷完直接「手動」改幾個參數。但現階段，權重空間編程比較像是一個令人興奮的概念驗證，離能自己在本機跑的工具還有距離。好不好用，試了才知道。 🇺🇸 Wei...