AI 黑魔法 on Vivian＠資安媽媽包https://vvnblog.com/series/ai-%E9%BB%91%E9%AD%94%E6%B3%95/Recent content in AI 黑魔法 on Vivian＠資安媽媽包Hugo -- gohugo.iozh-twCopyright © 2026 Vivian All Rights Reserved.Sun, 06 Sep 2026 00:00:00 +0800AI 黑魔法（18）：批准一次就永久信任？MCP Client 的攻擊面https://vvnblog.com/posts/ai-dark-arts-18/Sun, 06 Sep 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-18/設定檔批准過一次，就等於永久信任嗎？從 MCPoison、CurXecute 到 mcp-remote 與 MCP Inspector，看 MCP Client 這一側怎麼被打。AI 黑魔法（17）：MCP 的工具定義，比工具本身更危險https://vvnblog.com/posts/ai-dark-arts-17/Sat, 05 Sep 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-17/一段沒人細看的工具說明，就能讓 AI 把資料庫裡的 Token 交給攻擊者，拆解 MCP Tool Poisoning 的四種手法，以及導入時該擋在哪幾個地方。AI 黑魔法（16）：MCP 把工具接起來，也把風險一起接進來https://vvnblog.com/posts/ai-dark-arts-16/Mon, 17 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-16/Host、Client、Server 三種角色，Tools、Resources、Prompts 三種能力，先看懂 MCP 怎麼運作，才看得出風險是從哪一段接進來的。AI 黑魔法（15）：當 AI 會自己動手，拆解 Agent 失守的瞬間https://vvnblog.com/posts/ai-dark-arts-15/Sun, 16 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-15/AI 一旦有了工具、記憶和自主迴圈，錯誤就不再只停在回答裡，工具參數、記憶裡的一句話、專案裡的一份文字檔，都可能被 Agent 一路升級成已經核准的指令。AI 黑魔法（14）：問出 AI 的權限，再讓 AI 替你做壞事（Excessive Agency）https://vvnblog.com/posts/ai-dark-arts-14/Sat, 15 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-14/從工具、參數、執行身分到權限範圍，一步步盤點，往往就能看出 Excessive Agency 的問題藏在哪裡。AI 黑魔法（13）：AI 輸出沒處理就送進系統，會出什麼事？https://vvnblog.com/posts/ai-dark-arts-13/Fri, 14 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-13/當模型的回答不是給人看，而是直接送進瀏覽器、資料庫或 Shell，它就跟表單送進來的內容沒有兩樣。AI 黑魔法（12）：實戰 Break The Prompt，從騙過模型到繞過輸出過濾https://vvnblog.com/posts/ai-dark-arts-12/Thu, 13 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-12/實戰 Break The Prompt 第四、五關，看看系統指示是怎麼被整份翻出來，輸出前的那道過濾器又是怎麼被繞過去的。AI 黑魔法（11）：實戰 Break The Prompt，套出 AI 不能說的秘密https://vvnblog.com/posts/ai-dark-arts-11/Wed, 12 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-11/實戰 Break The Prompt 第一、二、三關，看看寫在 System Prompt 裡的規則是怎麼一條一條被繞過去的。AI 黑魔法（10）：圖片也能下咒，多模態注入攻擊https://vvnblog.com/posts/ai-dark-arts-10/Tue, 11 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-10/當模型開始讀圖片與文件，咒語就不必打在聊天視窗裡了。AI 黑魔法（09）：藏在文件裡的咒語，間接注入與 RAG 污染https://vvnblog.com/posts/ai-dark-arts-09/Mon, 10 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-09/間接 Prompt Injection 如何藉由 RAG 污染讓 AI 讀到惡意文件、洩露資料，甚至觸發工具？AI 黑魔法（08）：越獄 AI，jailbreak 到底在越什麼獄？https://vvnblog.com/posts/ai-dark-arts-08/Sun, 09 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-08/有人叫 ChatGPT 扮演過世的奶奶，它就一邊哀悼、一邊唸出五組 Windows 金鑰。越獄想越的，是模型自己那道獄。AI 黑魔法（07）：Prompt Injection 是什麼？為什麼 LLM 天生擋不住這道咒語https://vvnblog.com/posts/ai-dark-arts-07/Sat, 08 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-07/為什麼 System Prompt 寫得再嚴，還是擋不住一句話？對 LLM 來說，指令和資料本來就長得一樣。AI 黑魔法（06）：站在巨人肩膀上，AI 安全框架怎麼選？https://vvnblog.com/posts/ai-dark-arts-06/Fri, 07 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-06/AI 安全框架這麼多，到底該選哪一套？先問自己要解決什麼問題，答案就清楚了。AI 黑魔法（05）：AI 的攻擊面有哪些？從資料到供應鏈https://vvnblog.com/posts/ai-dark-arts-05/Thu, 06 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-05/AI 涵蓋資料、模型、應用、系統與供應鏈等多個環節，只要其中任何一個信任邊界被忽視，都可能成為攻擊者入侵的突破口。AI 黑魔法（04）：打 AI 跟打傳統系統有什麼不一樣？AI Red Team 在測什麼？https://vvnblog.com/posts/ai-dark-arts-04/Wed, 05 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-04/打 AI 是要找出整個 AI 系統會在哪裡被誤導、濫用、繞過，最後做出超出設計預期的事。AI 黑魔法（03）：AI 是最好的助手，也是攻擊者的新武器https://vvnblog.com/posts/ai-dark-arts-03/Tue, 04 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-03/AI 沒有立場，藍隊拿它整理看不完的 Log，攻擊者拿它寫釣魚信、生成 Deepfake，而它自己也已經開始動手。AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理https://vvnblog.com/posts/ai-dark-arts-02/Mon, 03 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-02/LLM 產生的是符合上下文的下一段內容，不是經過查證的答案。AI 黑魔法（01）：AI 為什麼會成為攻擊目標？https://vvnblog.com/posts/ai-dark-arts-01/Sun, 02 Aug 2026 00:00:00 +0800https://vvnblog.com/posts/ai-dark-arts-01/一句 Prompt，可以讓 AI 幫你寫程式、整理文件，甚至操作工具；那如果有人故意寫了一段「壞 Prompt」呢？