AI Agent 交付前的資安審查，實際上在審什麼？
審的是「實際要交付的那一版」，不是開發過程中的某一版：程式和設定、對外連線、權限、金鑰、第三方套件與模型，每一項都對照清單檢查並留下紀錄，沒通過就不交付。資安沒有人能打包票，審查的意義是把已知的風險一道一道排除，並讓別人事後查得到「查了什麼、結果如何」。
一、8 個檢查項
下表整理 AI Agent 交付前常見的檢查項，以及對應的國際資安標準（OWASP 大型語言模型應用十大風險 2025 年版）：
| # | 檢查項 | 具體在看什麼 | 對應風險 |
|---|---|---|---|
| 1 | 版本一致 | 審查的檔案和實際要交付的檔案是同一份（例如比對雜湊值），避免「審的是 A、裝的是 B」 | 供應鏈（LLM03） |
| 2 | 對外連線 | 列出系統預期會連到哪些外部服務、送出什麼資料；實際連線不能多出清單以外的 | 敏感資訊洩漏（LLM02） |
| 3 | 權限 | 每個 AI Agent 只拿到工作需要的工具與資料；用「不該做的做不到」的測試題驗證 | 過度代理（LLM06） |
| 4 | 金鑰 | API 金鑰不寫在程式碼、不進版本庫、不出現在系統提示或聊天紀錄，只放在受權限保護的設定檔 | 系統提示洩漏（LLM07） |
| 5 | 第三方套件與模型 | 來源可信、授權清楚、固定版本不自動更新；模型檔用雜湊值確認沒被改過 | 供應鏈（LLM03） |
| 6 | 外部內容的處理 | AI 讀進來的網頁、信件、文件不會被當成指令；輸出格式用程式檢查 | 提示注入（LLM01）、不當輸出處理（LLM05） |
| 7 | 文件與資料權限 | 知識庫依使用者權限檢索，連引用來源都不會露出無權看的內容 | 向量與嵌入弱點（LLM08） |
| 8 | 紀錄與復原 | 這次改了什麼、為什麼改、出問題怎麼退回上一版，都有紀錄 | 治理（NIST AI RMF） |
OWASP 在供應鏈風險裡特別提到：只使用來源可驗證的模型，並用簽章與檔案雜湊值檢查完整性；用軟體物料清單（SBOM）記錄所有元件，並盤點涉及的授權。在系統提示洩漏風險裡則寫明：憑證、連線字串這類敏感資料不應該放在系統提示裡。
二、審查結果怎麼判定
建議用三種結果，而且事先講好：
- 通過：所有檢查項符合，可以交付。
- 附條件通過：有問題但風險可控，列出必須修正的條件和期限，修完再確認。
- 不通過：有會造成資料外洩、越權操作或無法復原的問題，修好重審之前不交付。
審查建議由沒有參與開發的人來做，並留下紀錄：審的是哪一版、每一項怎麼查、查到什麼。美國 NIST 的 AI 風險管理框架（AI RMF 1.0）把 AI 風險管理分成治理、對應、量測、管理四個功能，並在 2024 年 7 月 26 日發布生成式 AI 的補充文件（AI 600-1）；審查紀錄就是「量測」和「管理」留下的證據。
三、交付後還要做什麼
交付當下通過，不代表之後都安全：模型會更新、套件會出漏洞、權限會被調整。所以交付後的每一次變更，都要用同樣的清單重新檢查受影響的項目。對企業來說，可以在合約裡寫明：哪些變更要重新審查、審查紀錄由誰保存。
Think BIG 的交付前資安審查
Think BIG（大想成業有限公司）是總部位於台灣的企業 AI Agent 導入商，從守護企業資安出發，幫企業把 AI Agent 建在公司自己的環境裡（公司設備，或公司名下的雲端主機）。部署分兩種：地端版的模型與文件都在公司設備內處理；雲端輔助版會把員工的問題與系統找出的文件段落送到模型廠商處理。
- 交付前資安審查：每一套系統交付前，程式與設定都先過一道資安審查：比對實際要交付的版本、檢查外部連線與權限、確認金鑰不外露。沒通過不交付。
- 第三方元件與金鑰：使用的第三方套件先審查來源與授權、固定版本、不自動更新；金鑰只放在受權限保護的設定檔，不進版本庫、不在對話裡傳；雲端帳號開在客戶名下。
- 變更有紀錄：變更前確認範圍、原因、負責人與復原方式，依授權範圍核准後執行。
資安沒有人能打包票，我們做的是一道一道的審查。詳見資安與治理。
brand-src：Think BIG 服務的實際範圍，以雙方確認的內容為準。
Think BIG 服務的實際範圍，以雙方確認的內容為準。
常見問題
- Q1：AI Agent 的資安審查和一般軟體的資安檢查有什麼不同？
- 除了一般軟體會查的版本、金鑰、套件與權限，AI Agent 還要查它讀進來的外部內容會不會被當成指令（提示注入）、權限是不是超出工作需要（過度代理），以及知識庫會不會把無權看的內容交給使用者。
- Q2：為什麼要確認「審查的版本」和「交付的版本」一致？
- 如果審的是開發中的版本，交付時又改了幾行，審查就失去意義。比對檔案雜湊值，可以確認審的就是實際交付的那一份。
- Q3：資安審查通過，就代表 AI Agent 沒有漏洞嗎？
- 不代表。資安沒有人能打包票，審查是把已知風險一項一項排除並留下紀錄。交付後的每次變更，也要重新檢查受影響的項目。
- Q4：AI Agent 的資安審查可以參考哪些標準？
- 常用的是 OWASP 大型語言模型應用十大風險 2025 年版、OWASP Agentic Applications 2026 年版，以及美國 NIST 的 AI 風險管理框架（AI RMF 1.0）與生成式 AI 補充文件 AI 600-1。
- OWASP Top 10 for LLM Applications 2025 總覽：genai.owasp.org
- OWASP〈LLM03:2025 Supply Chain〉（可驗證來源、簽章與雜湊值、SBOM、授權盤點）：genai.owasp.org
- OWASP〈LLM07:2025 System Prompt Leakage〉（憑證不放系統提示）：genai.owasp.org
- OWASP〈LLM02:2025 Sensitive Information Disclosure〉：genai.owasp.org
- OWASP Top 10 for Agentic Applications for 2026（2025-12-09 發布）：genai.owasp.org
- NIST AI Risk Management Framework（AI RMF 1.0、AI 600-1）：www.nist.gov
本文整理公開的官方文件、法規與資安標準，供企業評估 AI 導入時參考，不構成法律意見；法規以全國法規資料庫最新條文為準，外部文件、價格與規格以各原始出處最新版本為準。Think BIG 服務的實際範圍，依雙方確認的內容而定。