THINK BIG
地端 vs 雲端 · AI Agent 部署 · 資料安全
為什麼有人把 AI Agent 放在自己的電腦，而不是雲端？——地端與雲端怎麼選，先問資料能不能出門
把 AI Agent 放在自己的電腦，多半是因為資料不能離開公司。地端讓模型與文件在公司設備內處理；雲端上線快、免顧硬體，但問題和文件段落會送到模型廠商。沒有誰比較好，看用途選。
一、現象：「資料能不能出門」成了導入 AI 的第一道題
聊天機器人和 AI Agent 有一個關鍵差別：AI Agent 會自己去拿資料、自己動手做事。它可能要讀公司的報價單、翻客服紀錄、查庫存，再把結果整理成回覆或寫進系統。它碰到的資料，比一般人在聊天視窗裡打的幾句話多得多。
所以企業評估 AI Agent 時，第一個問題常常不是「哪個模型最聰明」，而是「這些資料送出公司，可以嗎？」
這個問題，台灣的公部門已經先回答過一次。國科會研擬、行政院會 2023 年 8 月 31 日聽取報告後函頒各機關參考的〈行政院及所屬機關（構）使用生成式 AI 參考指引〉，第四點規定：承辦人不得向生成式 AI 提供涉及公務應保密、個人及未經機關同意公開的資訊，也不得詢問可能涉及機密業務或個人資料的問題。緊接著有一句但書：封閉式地端部署的生成式 AI 模型，須確認系統環境安全後，方得依機密等級分級使用。（來源：行政院新聞稿與國科會指引附件，2023-08-31）
換句話說，同樣是生成式 AI，「送到外面處理」和「在自己環境裡處理」，在公部門的規則裡是兩種待遇。
民間企業沒有這份指引的約束，但有自己的考量。例如《個人資料保護法》第 21 條規定，非公務機關把個人資料做國際傳輸時，若涉及國家重大利益、接受國的個資保護法規不完善等情形，主管機關可以限制。（來源：全國法規資料庫，個人資料保護法第 21 條）客戶合約裡的保密條款、產業主管機關的規範，也都可能影響「資料能送去哪裡」。
另一方面，在自己電腦上跑模型的門檻確實在降低。開源的本機模型工具已經很普及，其中一套常見工具的官方說明寫得很直接：在本機執行時，開發方看不到你的提示與資料；但如果改用它提供的雲端模型，提示與回覆就會送到它的服務處理。（來源：Ollama 官方 FAQ）同一套工具，選哪種模式，資料流向就完全不同。
一句話整理：地端和雲端的差別，不在技術新不新，而在資料走到哪裡。
二、各方評價：雲端派與地端派，各自說對了什麼
雲端派的理由很實際：上線快，不用買機器、不用管顯卡，最新、能力最大的模型通常先在雲端提供。對資料敏感度不高、想先試試看的團隊，雲端是最省事的起點。
雲端廠商也在回應資料疑慮。以一家大型 AI 模型供應商的企業隱私說明為例：商業用戶的資料預設不會拿去訓練模型；API 的輸入與輸出可能保留最多 30 天，用於提供服務與偵測濫用，之後刪除，符合條件的用途可申請不保留。（來源：OpenAI Enterprise Privacy）條款寫得越來越清楚，這是事實。
地端派看的是另一面：條款再清楚，資料還是離開了公司，要依賴對方遵守承諾、依賴對方的系統沒出事。地端的好處是模型與文件都在公司設備內處理，問答不經過外部模型廠商；費用以設備為主，不會隨使用量每月跳動。
地端的代價也很明確：要有人顧（機器要 24 小時開著，停電、重開機、硬碟滿了，都要有人處理）；模型能力受硬體限制（公司的機器跑得動的模型，通常比雲端最大的模型小）；更新要自己決定（雲端廠商會替你升級，地端要自己評估、測試、換版）。
兩邊其實都對。真正的問題不是「選哪一邊」，而是公司裡每一類資料，各自適合放在哪一邊。
三、我們實際做的時候的心得
Think BIG 幫企業部署 AI Agent，地端與雲端兩種都做。以下是不具名的通用經驗：
1. 先畫資料流向，再談地端或雲端。 我們開工前會把六樣東西各自放在哪裡逐項列出來：應用程式、模型、知識庫索引、原始文件、對話紀錄、備份。很多人以為「裝在本機」就代表全部在本機，但只要接上 LINE 這類外部聊天通路，透過那個通路的訊息就會經過該服務。這些都要在導入前講清楚。
2. 「本機」不等於「完全不連外」。 自動更新、錯誤回報、遠端維護連線，都可能讓機器對外連線。要做到資料不外流，除了模型放本機，還要一起核對日誌、備份與所有外部串接。
3. 同一套工具，要確認走的是哪個模式。 前面提到，有些本機模型工具同時提供雲端模型。我們會確認實際使用的是本機模型，必要時關掉雲端功能，避免「以為在本機，其實送出去了」。
4. 地端最常見的坑，是「裝得起來」不等於「跑得好」。 模型沒用到顯卡、全程用 CPU 算，回答就會慢到沒人想用。這是我們在 Think BIG NEWS 第 2 號專文談過的問題。驗收時要用實測數據確認，不是看展示順不順。
5. 雲端最容易低估的，是 AI Agent 的用量。 聊天是一問一答；AI Agent 完成一件事，常常要來回呼叫模型好幾次，用量會跟著放大。雲端計費多半看用量，導入前要先估算，並設好用量上限與通知。
6. 不管地端或雲端，帳號都要開在公司名下。 雲端 API 用公司自己的帳號申請，條款由公司直接和模型廠商確認；地端的機器、資料、設定也都是公司的。這樣日後要換模型、換廠商，都不會被綁住。
做了這段時間，我們最深的體會是：地端與雲端不是信仰問題，是資料分類問題。 先把資料分清楚，答案通常自己就出來了。
四、我們的建議：用三個問題決定放哪裡
1. 這類資料能不能離開公司？ 看三個地方：客戶合約的保密條款、產業主管機關的規範、是否含個人資料。只要有一項說不行，這類資料就適合放地端。2. 用量大不大、會不會長大？ 每天只有幾個人偶爾問，雲端很划算；全公司天天用、AI Agent 自動跑流程，就要把每月用量算進來比較。3. 有沒有人顧機器？ 地端需要有人（內部或外部）負責開機、監控、更新。沒有人顧，再好的地端系統也會慢慢壞掉。
| 地端 | 雲端 | 混合 | |
|---|---|---|---|
| 資料流向 | 模型與文件在公司設備內處理 | 問題與文件段落送到模型廠商處理 | 敏感資料走地端，一般資料走雲端 |
| 適合 | 合約、個資、內部機密多的公司 | 想快速試用、資料敏感度低的團隊 | 兩種資料都有，且分得清楚的公司 |
| 主要成本 | 設備與維護 | 依用量計費 | 兩者都有，要管兩套 |
| 要注意 | 要有人顧、模型受硬體限制 | 條款與模型版本會變動 | 資料分類一定要先做 |
一句話收尾：先問資料能不能出門，再決定 AI Agent 住哪裡。
地端主權，資安先行。上線前每次都過審查。
（以下是 Think BIG 自己的立場，與上方中立報導區隔。）
我們從守護企業資安出發，把 AI Agent 建在公司自己的機器上。三種方案都可以選兩種部署方式：地端版——模型與文件在你公司的機器上處理，問答不經過外部模型廠商；若加開 LINE 等外部通路，相關訊息會經過該服務，導入前逐項列給你看。雲端輔助版——用公司自己的帳號申請模型 API，問題與檢索到的文件段落會送到模型廠商處理，適合資料政策允許、想快速上線、不想管硬體的公司。
上線前資安審查： 每一次上線，程式與設定都先過一道資安審查，沒通過就不上線；第三方套件固定版本、金鑰不進版本庫、雲端帳號開在你公司名下。30 天內交付： 範圍凍結與資料到位後 30 天內完成，並含第一年維運。
資安沒有人能打包票，我們做的是一道一道的審查。
FAQ
- Q1：為什麼有些公司要把 AI Agent 放在自己的電腦上？
- 最常見的原因是資料不能或不該離開公司，例如客戶合約有保密條款、資料含個人資料，或產業主管機關有規範。地端部署讓模型與文件在公司設備內處理，問答不經過外部模型廠商。
- Q2：AI Agent 放地端和放雲端，差在哪裡？
- 差在資料走到哪裡。地端是在公司自己的設備上處理；雲端是把問題與相關文件段落送到模型廠商處理。雲端上線快、不用管硬體；地端要有人維護，模型能力也受硬體限制。
- Q3：裝在本機，資料就完全不會外流嗎？
- 不一定。自動更新、錯誤回報、遠端維護，或接上 LINE 等外部聊天通路，都可能讓資料經過外部服務。要做到資料不外流，除了模型放本機，還要一起核對日誌、備份與所有外部串接。
- Q4：公部門可以用地端部署的生成式 AI 處理機密資料嗎？
- 依國科會研擬、行政院會 2023 年 8 月 31 日聽取報告的〈行政院及所屬機關（構）使用生成式 AI 參考指引〉第四點，封閉式地端部署的生成式 AI 模型，須確認系統環境安全後，方得依機密等級分級使用。實際做法仍以各機關自訂的規範為準。
- Q5：中小企業該選地端還是雲端？
- 先問三個問題：資料能不能離開公司、用量大不大、有沒有人顧機器。資料敏感就選地端；想快速試用、資料敏感度低就從雲端開始；兩種資料都有，可以混合，但資料分類一定要先做。
本文為 Think BIG 產業觀察與第一手實作整理，引用之法規、官方文件與廠商條款均標註來源，條款內容以各來源最新版本為準。文中提到的公司以描述代稱、連結附於來源，內容不評價任何公司或產品。本文不構成法律意見，涉及個資與合約的判斷請洽專業人士。我們的第一手經驗全不具名。