香港《個人資料（私隱）條例》與人工智能系統：業務必須了解的事項

香港《個人資料（私隱）條例》與人工智能系統：業務必須了解的事項

在香港部署人工智能系統，使業務面臨《個人資料（私隱）條例》（第486章）項下的義務。該條例自1995年生效以來一直是香港的基礎性私隱法例。雖然《個資條例》比人工智能時代早數十年，其核心原則——合法收集、目的限制、資料安全及個人查閱權——直接適用於處理個人資料的人工智能系統。本文說明《個資條例》六項資料保護原則如何適用於人工智能資料收集、訓練及自動化決策；審查資訊專專新興的人工智能指引；並為在香港部署人工智能系統的業務提供實務指引。

《個資條例》框架：結構與適用範圍

《個資條例》是香港的主要私隱法律。它不設立具有直接發牌權限的行業專專監管機构（與歐盟或新加坡的資料保護機构不同）；而是建立由資訊專專专員公署（資訊专專）執行的一般私隱義務，資訊专專是一個独立的法定機構，有權調查投訴、進行合規審查及發出強制执行通知。

《個資條例》適用於在香港收集、持有、處理或使用個人資料的任何人（自然人、公司或機構）。它不資該人是否在經營「業務」或為非營利機構或政府實體。《個資條例》涵蓋所有涉及屬於在世個人的個人資料處理，但對法律執行、國家安全及某些內部行政目的有限引用例外。

《個資條例》不要求機構向資訊专專登記或在部署人工智能系統前獲得批准（與歐盟《人工智能法》對某些高風险人工智能系統指定上市前合規性評估不同）。相反，《個資條例》對資料處理活動施加實質義務。不遵守《個資條例》可能導致：(a) 資訊专專正式調查；(b) 合規命令；(c) 對受影響個人的賠償責任；及(d) 在涵蓋非法播漏個人資料（、2021年新增的「人肉搜尋」條款）的惡劣情況下承擔刑事責任。

六項資料保護原則及其對人工智能的適用

資料保護原則一：收集個人資料。資保原則一對個人資料的收集建立三項核心要求：(a) 資料對收集目的而言充分但不過多；(b) 收集必須出於合法目的；及(c) 必須向資料當事人提供「收集個人資料聲明書」（PICS），載明收集目的、擬使用途徑及資料轉移對象。

適用於人工智能系統時，資保原則一创造了多項義務。首先，收集資料以訓練人工智能模型的機構必須能夠闡明收集資料的合法目的。目的不得過於平泛（如「用於未來任何目的」），而应該相當具體（如「用於訓練客戶情緒分析模型」）。其次，收集必須通過合法手段進行。第三，至關重要的是，若個人資料是基於一個目的收集的（如客戶服務互動），該資料不得在沒有另行知情同意的情況下用於訓練商業人工智能模型。

資料保護原則二：準確性與保留。資保原則二要求機構持有的個人資料必須準確，且保留期限不得超過必要範圍。適用於人工智能時，此原則對以下方面创造義務：(a) 用於訓練人工智能模型的資料的準確性；(b) 訓練資料集的保留——訓練完成和模型部署後，应刪除屬於小型資料集內的原始訓練資料；及(c) 日誌和審計蹤跡——許多人工智能系統會生成輸入和輸出資料的日誌。

資料保護原則三：個人資料的使用。資保原則三是「目的限制」原則：基於一個目的收集的個人資料不得用於不同目的，除非新目的與原始目的直接相關或資料當事人同意新用途。在人工智能场景中，這項原則經常遇到違規。

示例：一家機構以「客戶支援和質量保證」為封收集客戶服務電郵和聊天記錄。後來，該機構決定使用這些電郵和記錄來訓練客戶情緒分析模型，并將情緒報告出售給第三方。這一新用途——訓練商業人工智能模型并賽化輸出——與原始的「客戶支援」目的沒有直接關係。在沒有尋求客戶另行同意的情況下，將資料用於此新目的違反了資保原則三。

資料保護原則四：個人資料的安全。資保原則四要求實施適當的安全保障措施，以保護個人資料免遊未經授權或案發的存取、修改或播漏。適用於人工智能系統時，這意味著：(a) 包含個人資料的人工智能訓練資料必須存放在有存取控制的安全伺服器上；(b) 若人工智能系統輸出包含個人資料或可用於推斷個人資料，必須對其進行保護；(c) 機構必須根據資料敏感性和系統風险設定適當的網路安全控制。

資料保護原則五：公開性。資保原則五要求機構在可查閱的隱私政策中播漏其資料處理實踐。適用於人工智能時，機構應發布清晰的隱私政策和資料治理文件，說明其人工智能系統如何使用個人資料。

資料保護原則六：查閱與更正。資保原則六賦予個人查閱機構持有的其個人資料以及要求更正不準確資料的權利。對於機構而言，當涉及人工智能系統時，這將帶來操作上的挺戰：若個人資料已用於訓練人工智能模型，該資料已嵌入模型的參數中，在實際意義上無法輕易「查閱」或「更正」。

自動化決策與明確權利的缺少

歐盟《通用資料保護法規》（GDPR）第22條賦予個人權利，使其不受到完全基於自動處理（包括分析檔案）且具有法律效力或重大影響的決策的約束。香港的《個資條例》沒有相等條文。然而，資訊专專於2021年發布的《自動化決策系統中使用人工智能指引》建議，機構應對重大的自動化決策保持人類監督，並為個人提供有關決策過程的有意義資訊。

缺乏明確的法定權利並不意味著自動化決策不受監管。相反，它受到現有資保原則的限制。使用人工智能系統對决策做出重大決策的機構應：(a) 確保將個人資料用於自動化決策與最初收集目的一致；(b) 为受影響個人提供有關決策方式的有意義查閱資訊；及(c) 對重大決策保持人類審查能力。

生成式人工智能工具與員工資料

在工作場所部署生成式人工智能工具（大型語言模型、圖像生成器、程式碼助手）提出了專門的《個資條例》問題。許多生成式人工智能服務會保留用戶輸入內容，並用於模型改進、再訓練或市場擴展目的，除非用戶選擇退出或簽訂特殊資料處理協議。

最佳實踐是：(a) 實施內部可接受使用政策，明確禁止將個人資料輸入公用人工智能工具；(b) 確保員工了解哪些資料屬於個人資料且不应播漏；(c) 對於需要廣泛使用人工智能工具的機構，與人工智能供應商簽訂資料處理協議；及(d) 對員工進行《個資條例》風险引導訓練。

跨境資料輸送與雲端人工智能服務

大多數生成式人工智能和機器學習服務在香港境外托管的雲端基礎設施上運行。當機構在這些服務上處理個人資料時，就是將該資料轉移到香港境外。資保原則三含有一項條款——有時稱為「轉移限制」——說明除非提供充分的保障措施，否則個人資料不得轉移到香港境外。

在實務中，大多數依賴美國雲端人工智能服務的機構使用雲端提供商的標準資料處理協議（通常包括提供商的安全認證和隱私承諾）作為合同保障措施。雖然這些協議並非專門針對香港法律訂制，但資訊专專和香港法律實務通常將其視為充分的保障措施。

資訊专專的人工智能指引：主要建議

資訊专專於2021年12月發布了《自動化決策系統中使用人工智能指引》。該指引不具指導性，但反映了資訊专專的監管預期。主要建議包括：

• 責任制。機構應指定負責的責任官員或職能（首席資料官、私隱官），負責對人工智能系統中的《個資條例》合規性。
• 可解釋性。機構應保存有關人工智能模型如何做出決策、使用哪些訓練資料以及模型可能具有哪些限制或偏差的文件。
• 人類監督。對於影響個人的重大決策，人工智能系統應結合有意義的人類審查和推習能力。
• 資料最小化。機構應僅收集訓練和操作人工智能系統所需的最少限度個人資料。
• 個人權利。機構應就人工智能處理資料建立个人行使資保原則六權利的程序，在技術上可行的範圍內。

人工智能系統操作者的實務合規清單

在香港部署人工智能系統的機構應實施以下合規措施：

1. 聲明書審查與實施。對於個人資料將用於人工智能系統的每個資料收集點，確保將符合規定的聲明書提供給資料當事人。
2. 目的限制審計。對照人工智能系統中所有個人資料用途與原始聲明的收集目的。
3. 資料目錄與保留期限。維護用於人工智能訓練的個人資料的詳細目錄，說明資料類別、來源和保留期。
4. 供應商盡調審查。若使用第三方人工智能供應商或雲端提供商，審查其資料處理協議、安全認證和隱私政策。
5. 安全評估。對人工智能系統中保存、處理和傳輸個人資料的系統和流程進行安全評估。
6. 人類監督政策。對於對個人做出重大決定的人工智能系統，建立人類監督和推習機制。
7. 資料當事人權利程序。建立回應個人要求的程序。
8. 隱私政策與透明度。發布清晰的隱私政策，具體說明機構對人工智能系統和個人資料的使用。
9. 員工訓練。對處理個人資料的員工提供《個資條例》和人工智能隱私訓練。

Alan Wong律師行如何提供協助

了解我們的資料隱私和人工智能治理業務

本文僅供一般資訊及教育目的。本文不構成法律意見，不應被依賴為此。法律及監管要求可能隨時更改。您應在採取任何行動或依賴本文任何資訊之前，就您的具體情況尋求獨立法律意見。