會不會外洩,取決於三件事:資料在哪裡跑、AI 員工拿到多大的權限、資料流向有沒有寫成白紙黑字,跟「有沒有用 AI」沒有直接關係。正式部署的數位員工有資料流向說明、權限範圍與存取紀錄;同仁把客戶名單貼進免費聊天工具,才是最常見的外流路徑。
數位勞動力有限公司在流程盤點時,資安這題通常是老闆問,而且是用「會不會」這種是非題問的。老實講這題沒有是非題的答案,只有「你打算怎麼部署、給它看什麼、誰在看紀錄」的答案。下面把這三件事拆開講,再把個資法對公司的基本要求放在一起看,最後講一個很多人沒注意到的反差:真正的風險常常不在 AI 員工身上。
資料外洩的風險到底在哪一層?
風險在三層:資料在哪裡處理(傳到外部服務還是留在公司)、AI 員工被授權碰什麼(整個資料庫還是流程需要的幾個欄位)、有沒有人看得到它做了什麼(存取紀錄)。三層都有答案,風險就可控;任何一層答「不知道」,就是漏洞。
很多人直覺把 AI 想成一個會「記住」所有東西的黑盒子,然後擔心它哪天把資料吐給別人。實際上企業用的 AI 員工比較像一個拿著帳號密碼的派遣人員:它能看到什麼、能改什麼,是你在設定權限時決定的。派遣人員會不會把資料帶走,看的是你給了他什麼權限、公司有沒有監控,不是看他是不是派遣。所以第一個要決定的是它用哪個帳號登入:借同仁的、共用的,還是自己的,機器人要用誰的帳號登入那篇把四種給法攤開比。
所以當供應商說「我們的 AI 很安全」,請他換成具體的話:資料傳到哪裡、保留多久、誰能存取、紀錄在哪裡查。資安與採購審查說明那一頁把數位勞動力有限公司自己已公開的做法逐項附了出處,同樣的問題你也可以拿去問任何一家。
去識別化、私有部署、最小權限,該選哪一種?
最小權限加存取紀錄是每一種部署都該做的基本功;去識別化與私有部署則是二選一或併用,依資料敏感度與公司有沒有人維運決定。
| 做法 | 做什麼 | 適合的流程 | 代價 |
|---|---|---|---|
| 去識別化後處理 | 姓名、電話、身分證字號等欄位先遮罩或替換,AI 只看到流程需要的內容 | 客服分類、文件擷取、訂單建檔等不需要辨識個人的流程 | 要多一道前處理,欄位對應表要維護 |
| 私有部署 | 模型與資料都在公司或指定的環境內,不經過外部服務 | 金融、醫療、事務所等資料敏感度高或有法遵要求的流程 | 建置與維運成本高,要有人顧主機與版本 |
| 最小權限+存取紀錄 | AI 員工只拿流程需要的帳號與欄位,每次存取留紀錄 | 所有部署方式都該做,是基本功而不是選項 | 前期要把流程需要碰哪些資料盤清楚 |
我個人的順序是:先問這個流程「真的需要看到個人嗎」。客服分類不需要知道客人叫什麼,訂單建檔不需要身分證字號,發票辨識只要統編與金額。能去識別化的流程先去識別化,資料根本不出去,後面的問題一半就沒了。
私有部署我只推給兩種公司:資料敏感度本來就高、法遵有明文要求的(金融業的合規三原則那篇有講逐流程判斷的方法),還有自己有人能顧主機的。沒有 IT 的中小企業硬做私有部署,我看過的結果多半是主機沒人更新、密碼貼在螢幕旁邊,風險比用正式雲端方案還高。
「去識別化解決的是「資料出不出去」,最小權限解決的是「出去多少」,存取紀錄解決的是「出事了能不能查」。三個一起做才叫資安,只做一個叫安慰。」
個資法對公司用 AI 處理資料有什麼要求?
個資法沒有針對 AI 的專章,但原本的義務一條都沒少:蒐集時要告知、利用要在特定目的內、保有個資檔案就要採取適當的安全維護措施。責任人是公司,不是工具,也不是供應商。
依法務部全國法規資料庫(2023 年修正)的《個人資料保護法》,第 8 條要求向當事人蒐集個資時要告知蒐集目的、利用方式與期間;第 27 條要求非公務機關保有個人資料檔案時,應採行適當的安全措施,防止資料被竊取、竄改、毀損、滅失或洩漏。把客戶資料交給 AI 員工處理,就是新開了一條處理路徑,這條路徑上的安全措施一樣要做。
實務上要做的事不難:資料流向畫出來(從哪來、經過誰、存到哪、保留多久)、告知文字有沒有涵蓋這種利用、合約裡供應商的保密與資料返還條款。本站的本站的個人資料告知文字就是這樣寫的,欄位、目的、期間、對象都列出來,不是法律用語堆砌。你的公司對客戶也該有一份同樣的東西。
有一種情況要特別小心:人資流程。履歷、薪資、考勤這類資料的敏感度比客戶名單高,而且牽涉就業平等。人資自動化指南有講哪些判斷不能交給 AI,資安只是其中一半。
最常見的外流路徑,其實是同仁手上的聊天工具?
對,而且這條路徑通常沒人管。同仁為了省時間,把客戶信件、合約草稿、報價單整段貼進個人帳號的免費聊天工具,資料在那一刻就離開公司,服務條款是工具方訂的,公司連簽都沒簽。
這不是在怪同仁。工具好用、老闆也希望大家效率高,沒人說不能貼,那當然就貼了。問題是這條路徑既沒有去識別化、沒有權限範圍、也沒有存取紀錄,三層全空。比起來,正式建置的 AI 員工反而是三層都有答案的那一個。
所以我會建議公司先訂一條內規,比買任何工具都急:客戶個資、合約、薪資、未公開的財務數字,不貼公開的聊天工具。要用,就用公司談過合約的企業版本,或是把這些流程交給正式部署的數位員工。這跟公司訂了 ChatGPT 還需不需要數位員工那篇講的分工是同一件事:個人用工具處理一次性的事,碰到客戶資料的固定流程走正式路徑。會議記錄、寫信、摘要這類工具哪些用途可以放心用,AI 會議記錄、寫信與摘要工具的實用度評用省多少時間、錯了多嚴重、資料去哪裡三個軸分開看。
免費工具到底能不能正式用,資料條款只是六關裡的一關,免費的自動化與 AI 工具公司拿來正式用夠嗎那篇把商用授權、執行上限、紀錄與權限、有人負責、停服退路一起列出來,內規可以直接對照著寫。
LINE 跟 Email 進來的訊息也是同一個邏輯。客戶在訊息裡會自己附電話、地址、發票資料,這些東西要怎麼處理、存在哪裡,在LINE 與 Email 訊息自動化那篇有講接入時的限制,資安那段可以搭配本頁看。
簽約前要供應商書面回答哪些事?
四件事,全部要書面:資料流向(傳到哪、存在哪、保留多久、是否用於訓練)、權限範圍(AI 員工拿哪個帳號、碰哪些欄位)、存取紀錄(存在哪、誰能查、保留多久)、責任歸屬(外洩時誰通知、誰賠、怎麼終止與返還資料)。
為什麼堅持書面?因為口頭說「很安全」的供應商,出事時也會口頭說「那是你們的設定」。責任的劃分方式與出錯時的處理機制,AI 員工出錯了誰負責那篇講得更細;本頁只講資安這一塊的書面項目。
還有一個常被忽略的:退場。合約結束時資料怎麼返還、供應商那邊怎麼刪除、刪除後怎麼證明。這一條沒寫,等於資料永遠留在對方那裡。報價單的七個必備欄位裡「退場」就是這個意思,不只是技術上能不能換廠商。
資安是導入前最常卡住的問題之一,但不是唯一一個。費用、維運、出錯責任、同仁反彈這幾題常常一起出現,導入實戰系列的問題總整理把十五題放在一起,每題先給短答,可以照順序看。
還不確定你的流程適不適合?
先用三分鐘快篩自評,或直接請顧問做免費流程盤點。
常見問題 FAQ
AI 員工可以用同仁的帳號登入系統嗎?
短期測試可以,正式上線不建議。借來的帳號會跟那位同仁的請假、調職、離職綁在一起,流程跟著停;系統紀錄裡也分不出哪些是他做的、哪些是機器人做的,出事時責任邊界就不成立。機器人要有自己的帳號,權限只開流程用到的功能與欄位,密碼與金鑰由公司保管並寫進合約。
把客戶資料給 AI 員工處理,會不會被拿去訓練模型?
要看合約與部署方式。正式的企業方案通常可以約定資料不用於訓練,私有部署則資料根本不出公司;反而是同仁用個人帳號的免費聊天工具最沒有保障,因為那份服務條款不是你談的。簽約前把「資料是否用於訓練、保留多久、放在哪個地區」三件事寫進書面回覆,答不出來的供應商先不要。
我們沒有資訊部門,資安要求該怎麼提?
用本站的資安與採購問卷照抄就好,不需要自己發明。核心只有四件事:資料流向畫出來、權限只給流程需要的、每一次存取有紀錄、合約寫清楚責任歸屬。這四件事供應商應該要能用書面回答,回答不了的那一項,就是你最該追問的地方。
個資法對用 AI 處理客戶資料有特別規定嗎?
沒有「AI 專章」,但原本的義務一條都沒少:蒐集時要告知、利用要在特定目的內、要採取適當的安全維護措施。AI 員工只是處理資料的工具,法律上的責任人還是公司。所以重點是公司有沒有為這條新的處理路徑做安全措施,而不是 AI 本身合不合法。
私有部署是不是就完全安全?
不是,私有部署解決的是「資料不出公司」這一題,解決不了「公司裡誰都能看」這一題。沒有權限分層、沒有存取紀錄的私有部署,風險只是從外面搬到裡面。而且私有部署要有人維運,沒有 IT 的公司反而常常做不到,去識別化後走正式的雲端方案是比較務實的路。
