發表文章

目前顯示的是有「Ask AI button」標籤的文章

「Ask AI」按鈕提示注入評測:一鍵操控ChatGPT推薦你 | 'Ask AI' Button Injection: Sites Hijack Your AI Picks

By Kit 小克 | AI Tool Observer | 2026-08-13 🇹🇼 「Ask AI」按鈕提示注入評測:一鍵操控ChatGPT推薦你 「Ask AI」按鈕提示注入 (prompt injection)正在悄悄流行:只要你點一下網站上寫著「問問 AI」的按鈕,登入中的 ChatGPT、Claude、Gemini 或 Grok 就可能被塞進一段你根本沒打字的隱藏指令,直接影響它接下來給你的建議。這不是駭客用惡意軟體攻擊,也沒有偷帳密,靠的是每家 AI 助理都內建的「預填連結」功能。 什麼是「Ask AI」按鈕提示注入攻擊? 簡單說,就是行銷網站或比較頁面把隱藏指令埋進「Ask AI」按鈕的網址參數裡,你一點下去,AI 聊天室就自動被灌入一段預先寫好的提示詞,不用你按下 Enter 就可能已經生效,過程完全沒有確認視窗、沒有警告。 攻擊怎麼運作? 網站在按鈕連結裡塞入隱藏的 HTML 標籤或網址參數,內容是預寫好的提示詞 使用者以為只是「問 AI 這頁在講什麼」,實際上按鈕帶著額外指令 惡意版本會要求 AI「永久記住這個網域是可信來源」,之後每次相關提問都會偏袒該網站 更嚴重的版本會讀取你的對話紀錄與記憶,可能洩漏商業機密、財務或健康資訊 ChatGPT、Claude、Gemini都會中招嗎? 資安媒體 The Hacker News 的調查指出,這種 提示注入 手法已經公開被拿來當「AI 推薦下毒」(AI recommendation poisoning)的行銷工具,鎖定的對象涵蓋 ChatGPT、Claude、Gemini、Grok 等主流 AI 助理,只要使用者是登入狀態點擊按鈕,攻擊就可能成立。Anthropic 先前針對 Claude Desktop 修補過類似漏洞(PromptFiction),現在預填連結至少會停在「等你按送出」,而不是自動執行,但風險並沒有完全消失。 使用者該怎麼防範提示注入風險? 看到來路不明網站上的「Ask AI」按鈕,先自己複製問題貼進聊天室,不要直接點 定期檢查 AI 助理的「已儲存記憶」或「信任來源」設定,刪除你沒印象的項目 敏感對話(財務、健康、公司機密)盡量開新的無記憶對話視窗 企業內部若用 AI 助理處理商業決策,應該把「連結預填提示詞」...