發表文章

目前顯示的是有「High Bandwidth Flash」標籤的文章

HBF記憶體評測:SK hynix新標準解AI推論瓶頸 | HBF Memory Review: SK hynix's New AI Bottleneck Fix

By Kit 小克 | AI Tool Observer | 2026-08-06 🇹🇼 HBF記憶體評測:SK hynix新標準解AI推論瓶頸 HBF(High Bandwidth Flash) 是SK hynix和SanDisk在2026年8月的Flash Memory Summit上共同發表的全新記憶體標準,鎖定AI推論(inference)最頭痛的「頻寬 vs 容量」兩難。過去AI晶片得在「快但貴又小」的HBM和「大但慢」的SSD之間妥協,HBF想當一個折衷的中間層,一次解決兩邊都想要的東西。 HBF是什麼?跟HBM有什麼不同? HBF是一種疊在AI加速器旁邊的NAND快閃記憶體,設計概念是「用HBM的堆疊方式,塞進SSD等級的容量」。根據OCP(Open Compute Project)公布的第一版技術規格,HBF最高支援 512GB 容量(採8層或16層NAND堆疊),頻寬則依等級分成三種,從約0.4 TB/s到3.0 TB/s不等——比一般SSD快上好幾個量級,但容量又遠勝HBM動輒只有幾十GB的天花板。 為什麼AI公司需要HBF? 大型語言模型的推論瓶頸,很多時候卡在「記憶體不夠大,模型參數塞不進去」或「記憶體不夠快,資料搬不動」。HBF的定位就是專門解決這個AI推論瓶頸:讓模型能在單一晶片旁掛更大容量的記憶體,同時維持接近HBM的存取速度,減少對外部儲存裝置的依賴。 誰在推動HBF標準? SK hynix :負責HBF的堆疊封裝技術,是HBM市場的領導廠商之一 SanDisk :提供NAND快閃記憶體技術基礎 Google :已加入聯盟,代表雲端AI基礎設施端的需求 Tenstorrent :AI晶片新創,代表硬體設計端的採用意願 整份規格已透過OCP架構公開釋出,意味著其他晶片廠商也能參考這套標準來設計相容產品,而不是被單一供應商鎖死。 HBF什麼時候能用?值得關注嗎? 目前公布的只是第一版技術規格,距離量產出貨還有一段距離,實際效能與良率都還要等真正的晶片問世才能驗證。但這代表記憶體廠商已經正式承認:AI推論的瓶頸不只在算力,記憶體架構本身也需要一次典範轉移。對關注AI基礎設施的人來說,HBF是接下來一兩年值得追蹤的硬體規格之一。 好不好用,試了才知道。 🇺🇸 HBF ...