發表文章

目前顯示的是有「AI濫用」標籤的文章

Anthropic威脅報告評測:一人成軍,詐騙駭客全靠AI | Anthropic Threat Report: One Hacker, State-Level Power

By Kit 小克 | AI Tool Observer | 2026-09-22 🇹🇼 Anthropic威脅報告評測:一人成軍,詐騙駭客全靠AI Anthropic威脅報告 在9月10日公布最新一份「AI濫用偵測與反制報告」,這是Anthropic史上最詳細的一份威脅情報報告,揭露2025年12月到2026年8月間,駭客、詐騙集團、甚至國家級組織如何拿Claude當武器,而Anthropic又是怎麼抓到並封鎖他們的。如果你以為AI安全問題只是「聊天機器人講錯話」,這份報告會讓你重新評估風險等級。 Anthropic威脅報告涵蓋哪七大濫用類別 這份報告把濫用案例分成七大類: 網路攻擊 (cyber operations) 資訊操作 (influence operations) 監控 (surveillance) 詐騙與詐欺 (scams and fraud) 生物濫用 (biological misuse) 傳統武器開發 (conventional weapons) 模型蒸餾竊取 (distillation) 真實案例比想像中誇張 報告點名的具體案例包括:一個疑似伊朗背景的行動用Claude協助蒐集鎖定美軍海軍部隊的相關情資;俄羅斯間諜活動也被揪出使用Claude;有詐騙集團靠AI大量生成假交友App腳本,鎖定受害者進行感情詐騙;甚至有人直接用Claude掃描182萬個Android App找漏洞。生化研究與傳統武器(例如自殺式無人機)相關的濫用嘗試,則被Anthropic在早期就攔截下來。 一人成軍,是這份報告最大的重點 Anthropic在報告裡直接點出核心觀察:AI已經「消除了國家級行動與單槍匹馬的個人之間,原本存在的人力與工具落差」。過去要發動一場像樣的網路攻擊或資訊戰,需要一整個團隊、預算和專業分工;現在一個人配上Claude的多代理框架(multi-agent),就能做到接近國家級行動的規模與複雜度。這也解釋了為什麼報告特別強調,絕大多數案例是AI「直接執行或協調」完成,而不只是提供建議。 老實說:這份報告該怎麼看 先講優點:Anthropic願意公開自家模型被拿去做壞事的細節,而不是遮遮掩掩,這在整個產業裡算是相對誠實的做法,也給資安團隊具體的攻擊模式可以參考防範。但也要看清楚:這份報...