用 AI 查公司文件，雲端版跟地端版的資料各會送到哪裡？
地端版：員工的問題、公司文件和 AI 的回答，都在公司自己的設備上處理。雲端輔助版：員工的問題，加上系統從文件裡找出的相關段落，會送到模型廠商處理，並依該廠商的規定保存一段時間（例如 OpenAI 與 Anthropic 的 API 預設最多 30 天）。另外要確認一點：如果建索引時的「向量化」也用雲端服務，文件內容在建索引時就會分段送出。
一、先搞懂：用 AI 查公司文件，資料會走哪幾段
「用 AI 查公司文件」的常見做法叫 RAG（檢索增強生成）：AI 回答前，先從公司文件裡找出相關段落，再依據這些段落寫答案。這個做法出自 2020 年 Lewis 等人的論文。資料會經過四段：
| 階段 | 做什麼 | 地端版 | 雲端輔助版 |
|---|---|---|---|
| 1. 建索引 | 把文件切段、轉成向量存進知識庫 | 在公司設備上做 | 看設定：向量化用本地模型就留在公司；用雲端 API，文件段落會送出 |
| 2. 查詢 | 依員工的問題找出相關段落 | 在公司設備上做 | 通常在公司設備或公司名下的主機上做 |
| 3. 回答 | 把「問題＋找到的段落」交給模型寫答案 | 模型在公司設備上 | 問題與段落送到模型廠商 |
| 4. 紀錄 | 對話紀錄、系統日誌、備份 | 存在公司指定位置 | 公司這端的紀錄自己保存；模型廠商依其政策另外保存 |
關鍵在第 3 段：雲端輔助版不會把整個知識庫送出去，但每一次提問，都會把「這次找到的相關段落」一起送出。員工問得越多，送出的文件片段就越多。
二、模型廠商會保存多久
依官方文件（2026-10-19 查證）：
- OpenAI API：2023 年 3 月 1 日起，送到 API 的資料預設不拿去訓練；濫用監控紀錄預設最多保存 30 天，可能包含提示與回答。符合資格的客戶可以申請零資料保存（Zero Data Retention），需要 OpenAI 事先核准。
- Anthropic API：輸入與輸出預設在收到或產生後 30 天內刪除；例外包括客戶自己控制保存的服務（例如 Files API）、另有約定、執行使用政策或法律要求。
所以雲端輔助版要確認的是兩件事：資料會送出去，而且會在別人的伺服器上保存一段時間。如果公司規定某些文件「一個字都不能離開公司」，那份文件就只能放在地端版。
三、導入前要問的 5 個問題
- 向量化在哪裡做？用本地模型還是雲端 API？用雲端的話，文件內容在建索引時就會送出。
- 回答用的模型在哪裡？本地模型，還是雲端廠商？是用哪個帳號申請的？
- 對話紀錄和日誌存在哪裡、存多久？誰看得到？
- 還接了哪些外部服務？例如 LINE、Email、雲端硬碟。只要接上，經過那個通路的訊息就會經過該服務。
- 哪些文件絕對不能送出？把這份清單列出來，確認它們只進地端版的知識庫。
這 5 題答得出來，資料流向才算說清楚；答不出來的，就是要再問的地方。
Think BIG 的兩種部署方式
Think BIG（大想成業有限公司）是總部位於台灣的企業 AI Agent 導入商，從守護企業資安出發，幫企業把 AI Agent 建在公司自己的環境裡（公司設備，或公司名下的雲端主機）。部署分兩種：地端版的模型與文件都在公司設備內處理；雲端輔助版會把員工的問題與系統找出的文件段落送到模型廠商處理。
- 外部通路逐項確認：地端部署不等於所有連線都在本機。若加開 LINE 等外部通路，經過該通路的訊息會經過該服務；導入前逐項列給客戶確認。
- API 帳號開在公司名下：選雲端輔助版時，用公司自己的帳號向模型廠商申請 API，適用該廠商的服務條款；費用與用量紀錄都在公司手上。
- 導入前先列資料流向：應用程式、模型、知識庫索引、原始文件、紀錄與備份各放在哪裡，導入前逐項列出；權限在檢索那一步就落實，不只靠提示詞。
詳見RAG 知識問答說明、地端 AI 與資料主權與資安與治理。
brand-src：Think BIG 服務的實際範圍，以雙方確認的內容為準。
Think BIG 服務的實際範圍，以雙方確認的內容為準。
常見問題
- Q1：用雲端模型查公司文件，會把整個知識庫送出去嗎？
- 不會整個送出，但每次提問都會把員工的問題和這次找到的相關段落送到模型廠商。另外，如果建索引的向量化用雲端 API，文件內容在建索引時也會分段送出。
- Q2：地端部署就代表資料完全不會外流嗎？
- 不一定。地端部署決定的是模型和文件放在哪裡；只要流程接了雲端模型、通訊軟體或其他外部服務，那一段的資料就會送出。要確認本機模型、外連限制、日誌與備份。
- Q3：雲端模型廠商會保存我送出的資料多久？
- 依官方文件，OpenAI API 的濫用監控紀錄預設最多保存 30 天；Anthropic API 的輸入與輸出預設在 30 天內刪除，有例外。實際條件依你的方案與合約為準。
- Q4：導入 AI 查詢公司文件前，要先問哪些問題？
- 向量化在哪裡做、回答用的模型在哪裡、對話紀錄存哪裡多久、接了哪些外部服務，以及哪些文件絕對不能送出。
- Lewis et al.（2020）〈Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks〉：arxiv.org
- OpenAI API〈Your data〉（API 資料預設不訓練、濫用監控紀錄最多 30 天、零資料保存需核准）：platform.openai.com
- Anthropic Privacy Center〈How long do you store my organization's data?〉（API 30 天內刪除與例外）：privacy.claude.com
- OpenAI〈Embeddings〉指南（向量化以 API 處理文字）：platform.openai.com
- Think BIG〈RAG 知識問答〉（資料流向、雲端文字轉換與索引服務要列入資料流向）：thinkbigtw.com
本文整理公開的官方文件、法規與資安標準，供企業評估 AI 導入時參考，不構成法律意見；法規以全國法規資料庫最新條文為準，外部文件、價格與規格以各原始出處最新版本為準。Think BIG 服務的實際範圍，依雙方確認的內容而定。