跳到主要內容

ICML 2026 用隱形浮水印抓 AI 代寫審稿：497 篇論文被退，學術誠信怎麼辦？ | ICML 2026 Catches AI Peer Review Cheating With Hidden Watermarks: 497 Papers Rejected

By Kit 小克 | AI Tool Observer | 2026-04-13

🇹🇼 ICML 2026 用隱形浮水印抓 AI 代寫審稿：497 篇論文被退，學術誠信怎麼辦？

ICML 2026（國際機器學習大會）用一招隱形浮水印，抓到近 500 篇論文的審稿人偷用 AI 寫 review，直接退稿。這是學術界首次大規模用技術手段反制 AI 代寫審稿，背後的方法和爭議值得關注。

ICML 2026 怎麼抓到 AI 代寫審稿的？

ICML 主辦方在每篇提交論文的 PDF 中嵌入了人眼看不見、但 LLM 能讀到的隱形指令，要求 AI 在審稿意見中加入兩個特定詞組。如果審稿人直接把論文丟給 ChatGPT 之類的工具寫 review，這些詞組就會出現在審稿意見裡。

  • 詞庫規模：17 萬個詞組，每篇論文隨機配兩個
  • 誤判機率：低於百億分之一
  • 偵測結果：795 篇審稿意見（約 1%）被標記違規
  • 退稿數量：398 位審稿人涉及的 497 篇論文被直接退回

為什麼論文作者要被退稿？審稿人犯規不是審稿人的事嗎？

ICML 的規則是：你幫別人審稿時違規使用 AI，你自己提交的論文就會被退。邏輯是你同意了審稿規則卻違反，代表你不尊重學術社群的信任機制。這個「連坐」設計引發不少爭議，但也有效嚇阻了濫用。

ICML 2026 的雙軌審稿制度是什麼？

ICML 今年首創兩條審稿政策讓審稿人自選：

  • Policy A（保守派）：完全禁止使用 LLM 輔助審稿
  • Policy B（開放派）：允許用 LLM 理解論文和相關文獻、潤飾審稿文字

被抓到的 506 位審稿人中，有 51 位選了 Policy A 卻在超過半數的審稿中偷用 AI——等於明知故犯。

AI 代寫審稿有多普遍？

根據 2025 年 Frontiers 的調查，超過一半的研究者承認在 peer review 中用過 AI。ICLR 2026 也發現約 21% 的審稿意見是 AI 生成的。學術審稿的 AI 滲透率可能比大多數人想像的高得多。

這對 AI 研究社群意味著什麼？

ICML 的浮水印方法本質上是一種 prompt injection——在 PDF 中嵌入 LLM 才看得到的指令。這招雖然有效，但也暴露了一個諷刺的現實：AI 研究社群需要用 AI 的漏洞來防止 AI 被濫用。未來其他學術會議和期刊很可能會跟進類似措施。

好不好用，試了才知道。

🇺🇸 ICML 2026 Catches AI Peer Review Cheating With Hidden Watermarks: 497 Papers Rejected

ICML 2026 (International Conference on Machine Learning) caught nearly 500 papers with reviewers secretly using AI to write peer reviews, using an ingenious hidden watermark system. All 497 papers were desk-rejected — the largest enforcement action against AI misuse in academic peer review to date.

How Did ICML Catch AI-Generated Reviews?

Organizers embedded invisible instructions in each submitted PDF — readable by LLMs but invisible to humans — directing AI tools to include two specific phrases in any generated review. When reviewers fed papers directly into ChatGPT or similar tools, the trigger phrases appeared in their reviews.

  • Phrase dictionary: 170,000 phrases, two randomly assigned per paper
  • False positive rate: Less than 1 in 10 billion
  • Detected violations: 795 reviews (~1% of all reviews)
  • Papers rejected: 497 papers from 398 reviewers

Why Were Authors Punished for Reviewer Misconduct?

ICML's rule is straightforward: if you violate AI-use policies while reviewing others' papers, your own submissions get desk-rejected. The logic is that violating agreed-upon review rules breaks the trust the academic community depends on. Controversial, but effective as a deterrent.

What Is ICML's Dual-Track Review System?

ICML 2026 introduced two review policies for reviewers to choose from:

  • Policy A (Conservative): No LLM use permitted in reviews
  • Policy B (Permissive): LLMs allowed for understanding papers and polishing review text

Among the 506 flagged reviewers, 51 had chosen Policy A yet used AI in over half their reviews — deliberate violations.

How Common Is AI in Peer Review?

More common than most assume. A 2025 Frontiers survey found over half of researchers admitted using AI in peer review. ICLR 2026 reported approximately 21% of reviews were AI-generated. The watermark approach may be the first scalable countermeasure.

What Does This Mean for AI Research?

The watermark method is essentially a prompt injection — embedding LLM-visible instructions in PDFs. It's ironic that the AI research community is exploiting AI vulnerabilities to police AI misuse. Expect other conferences and journals to adopt similar measures soon.

Good or not? You won't know until you try.

Sources / 資料來源

常見問題 FAQ

ICML 2026 怎麼偵測 AI 代寫的審稿意見？

ICML 在每篇論文 PDF 中嵌入 LLM 才看得到的隱形指令，要求 AI 在審稿中加入特定詞組。如果審稿意見出現這些詞組，就代表審稿人用了 AI。

ICML 2026 退了多少篇論文？

共 497 篇論文被退稿，涉及 398 位審稿人。約 795 篇審稿意見（佔全部 1%）被標記為違規。

為什麼審稿人用 AI，論文作者要被退稿？

ICML 的規則是審稿人違規使用 AI，其自己提交的論文就會被退。目的是維護學術社群的信任機制。

ICML 2026 的雙軌審稿制度怎麼運作？

審稿人可選 Policy A（完全禁止 AI）或 Policy B（允許用 AI 理解論文和潤飾文字），兩條政策分開管理。

延伸閱讀 / Related Articles

AI 工具觀察站 — 每日精選 AI Agent 與工具趨勢
AI Tool Observer — Daily curated AI Agent & tool trends

留言

張貼留言

這個網誌中的熱門文章

AI 加速量子破密：Google 和 Oratomic 研究顯示加密被破解的時間可能大幅提前 | AI Speeds Quantum Threat to Encryption: Google and Oratomic Cut Qubit Requirements by 95%

By Kit 小克 | AI Tool Observer | 2026-04-09 🇹🇼 AI 加速量子破密：Google 和 Oratomic 研究顯示加密被破解的時間可能大幅提前 2026 年 3 月底， Google 和新創公司 Oratomic 分別發表研究，顯示用 AI 輔助設計的量子演算法能大幅降低破解網路加密所需的量子位元數量。這代表 量子電腦破解現有加密 的時間表可能從「遙遠未來」變成「十年內」。Time 雜誌以「世界還沒準備好」為標題報導此事。 Google 和 Oratomic 的量子研究發現了什麼？ 兩項獨立研究同時在 3 月 30 日發表。過去學界估計，破解 RSA 加密需要超過 1,000 萬個物理量子位元。Google 的新方法把這個數字降到約 50 萬個量子位元 （搭配先進糾錯），而 Oratomic 更激進——他們用 AI 輔助設計的演算法，只需要 1 萬個可重組原子量子位元 就能達到實用級量子計算。 AI 在這次突破中扮演什麼角色？ Oratomic 團隊明確表示 AI 在演算法開發過程中「不可或缺」。他們用 AI 來搜尋更有效率的量子電路設計，大幅縮短了原本需要數年的研究週期。這是一個重要的趨勢： AI 正在加速量子計算的發展 ，而量子計算反過來可能加速 AI 訓練——形成正向循環。 現有的網路加密還安全嗎？ 短期內還安全，但警鈴已經響了。Cloudflare 在研究發表後立刻宣布，將後量子加密的準備期限從 2032 年 提前到 2029 年 。多位量子計算專家表示，這兩項研究加在一起，「可能顯著縮短」量子電腦威脅加密的時間表。目前主流的 RSA 和 ECC 加密演算法都在威脅範圍內。 企業和開發者現在該怎麼做？ 美國國家標準技術研究院（NIST）已經在 2024 年發布了後量子加密標準（FIPS 203、204、205）。建議： 盤點加密資產 ：找出系統中使用 RSA 和 ECC 的地方 導入後量子加密 ：開始測試 NIST 推薦的 ML-KEM 和 ML-DSA 演算法 關注混合模式 ：Cloudflare、Google Chrome 已開始部署「傳統+後量子」混合加密 保護長期機密 ：今天被攔截的加密資料，未來可能被量子電腦回溯解密（harvest now, de...
閱讀完整內容

ARC-AGI-3 發布：頂尖 AI 全部得分不到 1% | ARC-AGI-3: Every Top AI Model Scored Under 1%

By Kit 小克 | AI Tool Observer | 2026-03-30 🇹🇼 ARC-AGI-3 發布：頂尖 AI 全部得分不到 1% ARC-AGI-3 於 2026 年 3 月 25 日正式發布，這個全新互動式基準測試立刻震驚整個 AI 圈：Gemini 3.1 Pro、GPT-5.4、Claude Opus 4.6 等頂尖模型，全部得分不到 1%。這不只是一個數字，而是對當前 AI 能力極限最直接的一次公開測試。 ARC-AGI-3 是什麼？ ARC-AGI（Abstraction and Reasoning Corpus）系列由 Francois Chollet 創立，目的是測試機器是否具備真正的一般智能，而非死記硬背或過度訓練特定題型。 第三代與前兩代最大的不同在於： 它是完全互動式的 。AI 不是解題，而是要在一個沒有說明書的遊戲環境中自主探索、學習規則、設定目標、並完成長期任務。測試的四個核心能力是： 探索能力（Exploration） ：在未知環境中主動試探 世界建模（World Modeling） ：理解環境規則並形成心理模型 目標設定（Goal-setting） ：自行定義並追求有意義的目標 長期規劃（Long-horizon Planning） ：跨多步驟維持行動一致性 各大模型得分：讓人冷靜的數字 以下是目前已知的 ARC-AGI-3 各模型成績： Google Gemini 3.1 Pro Preview： 0.37% （目前最高） OpenAI GPT-5.4（High）： 0.26% Anthropic Claude Opus 4.6（Max）： 0.25% xAI Grok-4.20（Reasoning Beta）： 0.00% 人類基準線： 100% 差距不是些微落後，而是 接近零 。這個結果讓不少在 Hacker News 討論的開發者感嘆：「我們一直在測量的，根本不是智能。」 為什麼這次不一樣？ 過去的 AI 基準測試，往往在幾年內就被「攻克」——模型訓練資料越來越接近測試集，得分隨之飆升。ARC-AGI-3 試圖從根本上改變這個循環： 沒有預先給定的目標或規則，AI 必須自己發現 環境是動態的，每...
閱讀完整內容

如何用 AI 打造被動收入？5 個真實可行的方法 | 5 Realistic Ways to Earn Passive Income with AI

By Kit 小克 | AI Tool Observer | 2026-03-27 🇹🇼 如何用 AI 打造被動收入？5 個真實可行的方法 網路上到處都是「用 AI 月入十萬」的標題黨，但多數不切實際。作為一個長期測試各種 AI 工具的人，我想分享 5 個 真正可行的 方法。注意：這些都不是「躺著賺」，前期需要投入時間和心力。 1. AI 輔助的利基網站（Niche Site） 這是目前最成熟的 AI 被動收入模式： 用 AI 研究有搜尋量但競爭低的關鍵字 用 Claude 或 GPT 輔助撰寫高品質的專業文章（不是直接讓 AI 寫，而是用 AI 做研究和初稿） 透過聯盟行銷（Affiliate）或廣告變現 預期收入 ：穩定後每月 -,000 美元，但需要 6-12 個月才能見效 關鍵 ：內容品質必須高於純 AI 生成，Google 已經能辨識低品質 AI 內容 2. AI 自動化服務（AI Automation Agency） 幫中小企業建立 AI 自動化工作流，這可以從接案逐漸轉型為被動收入： 用 Make.com、n8n、Zapier 搭配 AI API 建立自動化流程 常見需求：客服自動回覆、內容自動生成、數據報表自動化 建立好之後收月費維護費 預期收入 ：每個客戶月收 -,000，5-10 個客戶就很可觀 3. AI 工具教學課程 如果你擅長某個 AI 工具，錄製教學課程是很好的被動收入來源： 平台選擇：Udemy、Skillshare、或自建網站（Teachable、Gumroad） 熱門主題：Midjourney 商業應用、ChatGPT 提示詞工程、AI 自動化工作流 預期收入 ：Udemy 上一門熱門 AI 課程月收 ,000-,000 關鍵 ：要有真正的實戰經驗，不是照念文件 4. AI 生成的數位產品 用 AI 輔助製作數位產品，在平台上銷售： 提示詞包（Prompt Packs） ：在 PromptBase 或 Gumroad 販售精心設計的提示詞 模板與範本 ：Notion 模板、Canva 範本、ChatGPT 自訂指令集 電子書 ：用 AI 輔助研究和撰寫，但要加入個人專業知識 預期收入 ：差異極大，從每月 到 ,000 都有可能 5. A...
閱讀完整內容