標籤

prompt injection

提示注入是指把惡意指令藏進文件、網頁、日誌或工具回傳內容，誘使 LLM 或代理偏離原本任務。它和 MCP、桌面操控、外掛與 agent traces 都相關，重點在權限邊界、資料隔離與可觀測性。

10 篇文章

Prompt injection 已是 AI 資安問題

Prompt injection 會用隱藏文字操控 LLM。近期測試顯示，像 DeepSeek-R1 這類模型，仍可能在注入攻擊下失手。

拆 Gemini 3.5 Flash 的 computer use、prompt injection 防護，最後給你可直接套用的工作流模板。

拆解 OpenClaw 怎麼被釣到執行程式與外洩資料，並整理我會直接上線的防線與模板。

OpenClaw 以 24.7 萬 GitHub stars、4.77 萬 forks 竄紅，從訊息機器人變成熱門 AI agent，也把權限、安全與治理問題推上檯面。

我把 prompt engineering 拆成可直接抄的幾個寫法：怎麼寫約束、塞例子、控上下文，還有一份可貼進工作流的模板。

我把 IBM 的 prompt guide 拆成可直接上手的寫法，重點是怎麼把模糊提問改成可控輸出。

這篇研究指出，LLM 搜尋摘要的選源是相對比較，不是看單一來源好壞；一旦上下文被污染，結果就可能偏掉，甚至變得有害。

Cloudflare 測試 7 個 AI 模型後發現，隱藏註解可讓程式碼審查誤判，大片檔案的偵測率甚至掉到 12%。

Supabase MCP 讓 AI 透過標準協定連到專案、資料庫、日誌與 Edge Functions，還能用 read-only 與專案範圍控管權限。

Claude Code 進入 Mac 桌面操控模式。它能點擊、捲動、開啟 App，先給 Claude Pro 與 Max 用戶測試，但 Anthropic 也坦白說，這功能慢、也更容易出錯。