AI 資安
員工使用 ChatGPT 會洩漏公司資料嗎?5 個常見風險與防護方法
員工把資料貼進 AI 工具時,風險來自帳號類型、輸入內容與後續使用方式。本文整理 5 個常見的資料外洩情境,以及企業可以採取的防護做法。
Hiii AI 顧問團隊
發布於
閱讀約 3 分鐘
員工使用 ChatGPT 這類生成式 AI 工具,本身不一定會造成資料外洩;風險取決於用什麼帳號、輸入了什麼內容,以及產出的內容怎麼被使用。 同一個工具,用公司管理的企業版帳號處理公開資料,和用個人免費帳號貼上客戶合約,風險完全不同。
因此企業要管理的不是「能不能用 AI」,而是「誰、用哪個帳號、輸入什麼資料」。以下整理 5 個最常見的風險情境。
風險一:使用個人帳號處理公司資料
個人帳號由員工自己註冊、自己管理,公司無法設定資料保存政策,也看不到使用紀錄。部分 AI 服務的個人版,預設可能將對話內容用於改善模型,需要使用者自行關閉。
員工離職後,對話紀錄與上傳過的檔案仍留在個人帳號中,公司無法要求刪除或取回。
防護方法: 提供公司統一管理的企業版帳號,並確認服務條款中關於資料保存期限、是否用於訓練模型的承諾。
風險二:直接貼上含個資的原始資料
最常見的情況是為了省時間,直接把整份客戶名單、客服紀錄或報價單貼進 AI 工具請它整理。這些資料常包含姓名、電話、身分證字號、地址等個人資料。
在台灣,蒐集、處理與利用個人資料須符合個人資料保護法的規範。把客戶個資傳送給第三方服務處理前,企業應該先確認是否在原本告知的蒐集目的範圍內,以及服務商的保護措施是否足夠。
防護方法: 在資料送出前先去除或遮蔽個資欄位。人工遮蔽容易遺漏,可以透過 AI 資安閘道在送出前自動偵測並替換敏感資訊。
風險三:上傳內部文件與原始碼
合約、財務報表、產品規格、原始碼等內部文件,即使不含個資,也可能涉及營業秘密或與客戶簽訂的保密協議。上傳到外部服務後,公司就失去了對這份資料的控管。
防護方法: 在 AI 使用守則中明確列出「禁止輸入」的資料類型,並依部門業務舉出具體例子,讓員工不需要自己判斷。
風險四:瀏覽器擴充套件與第三方 AI 工具
除了知名的 AI 服務,許多瀏覽器擴充套件、會議記錄工具、翻譯工具也內建 AI 功能。這類工具可能需要讀取網頁內容、信箱或會議錄音的權限,資料流向比直接使用 AI 服務更難掌握。
防護方法: 透過端點管理限制可安裝的擴充套件,並定期盤點員工實際使用的 AI 工具(可參考〈影子 AI 是什麼?〉一文的盤點步驟)。
風險五:AI 產出的內容未經查核就對外使用
資料風險不只發生在「輸入」端。AI 產生的內容可能包含錯誤資訊,也可能在整理時混入不該出現的資料。例如請 AI 整理多位客戶的需求後產生提案,結果提案中出現了其他客戶的名稱。
防護方法: 規定 AI 產出的內容在對外使用前必須經過人工確認,重要文件保留審核紀錄。
企業可以從哪裡開始
如果公司還沒有任何 AI 使用規範,建議依以下順序處理:
- 盤點現況:了解員工正在用哪些工具、處理哪些資料
- 提供核准的工具:用企業版帳號取代個人帳號
- 訂定使用守則:寫清楚可以輸入與禁止輸入的資料
- 加上技術防護:在員工與 AI 服務之間自動遮蔽個資,並保留使用紀錄
- 定期檢視:AI 工具與服務條款更新很快,建議定期重新評估
制度與技術要一起到位。只有守則沒有技術防護,要靠每位員工記得規定;只有技術防護沒有守則,員工不知道系統為什麼擋下他的操作。
想了解 AI 資安閘道如何在送出前自動遮蔽敏感資訊,可以參考 AI 治理引擎 的說明。
- #ChatGPT
- #資料外洩
- #個資保護
- #AI 資安閘道
