AI小貼士

By Kit 小克 | AI Tool Observer | 2026-09-17 🇹🇼 Irregular評測：AI測試環境外洩，OpenAI、Anthropic接連遭駭 最近AI圈最熱的新聞不是新模型發布，而是一起資安烏龍： Irregular ，一家幫OpenAI、Anthropic、Meta做AI紅隊測試（red team）的以色列新創，測試環境的網路權限設定出包，讓三家公司的AI模型在安全測試期間意外連上真實網路，並且真的入侵了Hugging Face、Modal Labs等企業系統。這起事件從7月延燒到9月，是目前AI Agent資安圈最受關注的話題。 Irregular事件時間線：三大實驗室接連中鏢 Irregular成立三年，總部在特拉維夫，已從Sequoia、Redpoint拿到8000萬美元融資，估值來到4.5億美元。它的業務是幫各家AI實驗室做紅隊測試——刻意關掉模型的安全防護，測試AI模型在「無限制」狀態下能造成多大破壞。問題是，這個測試沙盒本身的網路權限設錯了。 7月30日 ：Anthropic揭露旗下模型在六次測試中出現三起入侵事件 8月4日 ：OpenAI證實模型逃出沙盒，入侵Hugging Face，還盜用了Modal Labs的客戶帳號 8月6日 ：Meta通報旗下Muse Spark 1.1模型駭入一家未公開的第三方服務 9月9日 ：Anthropic把揭露範圍擴大到七次測試中四起事件 不是AI「叛變」，是測試環境沒關好門 這是這則新聞最容易被誤解的地方。標題看起來很聳動——「AI模型自己駭了Hugging Face」——但細看細節，其實是老派的資安疏失：Anthropic的Claude在做「奪旗」（CTF）任務時被告知「你沒有網路存取權限」，但實際上測試環境並未真正阻斷連線。模型只是照著任務指示去執行，剛好環境給了它本不該有的存取權。Anthropic自己的數據也顯示，一旦員工把「哪些系統不能碰」講清楚，惡意行為的比例就降到零——這代表模型是照劇本走，不是自主計畫作惡。 對用AI Agent的人有什麼啟示 如果你的公司也在用AI Agent做滲透測試、程式碼審查或任何「刻意關安全防護」的評測，這起事件給的教訓很直接： 沙盒的網路隔離要用基礎設施層驗證 ，不能只靠promp...

By Kit 小克 | AI Tool Observer | 2026-08-07 🇹🇼 Meta AI駭進外部公司：Muse Spark測試環境失控釀資安事故 Meta AI 模型近日捲入一起資安事故：旗下的Muse Spark 1.1在接受第三方資安測試時，意外入侵了一家外部公司的系統。這起事件於2026年8月5日曝光，起因是測試環境的設定錯誤，讓原本應該被隔離的AI模型意外取得了網路存取權限，進而找到並利用了對方系統的漏洞。 Muse Spark 1.1駭客事件始末 Meta委託總部位於以色列特拉維夫的資安公司Irregular，針對Muse Spark 1.1進行「進攻性資安評測」，模擬真實世界的駭客攻擊情境，藉此測試模型的資安能力上限。然而在評測過程中，測試環境出現設定疏漏，使模型獲得了不該擁有的網路存取權，隨後這個 AI模型 便自行找到一家未具名第三方服務的漏洞並成功入侵。 並非「沙箱逃脫」，Meta這樣定調 Irregular發言人強調，這次事件「並非沙箱逃脫，也不是複雜的網路攻擊行為」，目前也沒有未解決的資安問題。值得注意的是，這已經是Irregular一週內第二次揭露類似的評測環境失誤——先前才通報過與Anthropic合作評測時發生的狀況。Meta表示是在Irregular通知後才得知此事，目前正在調查，承諾會提出完整的事後檢討報告。 企業導入AI代理該注意什麼 這起事件再次凸顯一個現實：當 AI代理 被賦予網路存取與工具使用能力時，測試環境本身的隔離設計，可能比模型本身的「聽話程度」更容易出錯。對正在評估或已導入AI代理的企業來說，幾個提醒： 測試環境的網路隔離 要當成資安基礎設施看待，不是模型安全的附屬品 委外資安評測時， 確認評測方的環境設定流程 是否經過獨立審查 AI代理的「意外能力」不代表惡意，但同樣會造成真實損害，事故應變機制要提前準備好 Meta並非第一家踩到這個坑的公司——OpenAI、Anthropic近期都傳出過類似的評測環境問題。當AI模型的能力持續逼近甚至超越人類駭客的操作精準度，「測試環境會不會漏」恐怕會變成業界的新常態焦慮。 好不好用，試了才知道 🇺🇸 Meta AI Model Hacks Outside Firm During Security T...