本文為Michael Veale教授7月2號於台灣人權促進會演講之活動紀錄。

活動側記/李俊毅

人工智慧作為便利且高效率的工具，已逐漸融入日常生活，不僅帶來創新應用，也衍生惡意濫用，成為數位治理的全新挑戰。本次講座邀請倫敦大學學院法學院教授Michael Veale，和大家分享在AI普及化時代裡，如何制止惡意濫用，以及治理措施如何在維護人權與限制基本權之間取得平衡。

還有誰在運用AI

Michael教授表示，ChatGPT問世前，科技公司認為必須預先處置濫用問題，甚至因此延後釋出模型，不過生成式AI快速被大眾接受後，業者發現難以妥善應對，認為完全防堵既困難又不切實際，反而逐漸淡化風險管控的討論。現在我們要做的便是把它拉回聚光燈下，從數位世界的運作機制著手檢視。

目前AI常見的濫用形式包括新型態詐騙、變造私密情色影像，以及協助散播恐怖主義。教授強調，AI生態系涉及模型開發者、模型市場、雲端運算供應商、資料提供者、作業系統、使用者等眾多角色，橫跨雲端、本機、網路、託管方與通訊等不同層次，因此責任不應由單一參與者承擔，而是需要共同建立防線。

隱藏漏洞補不完

演講主要聚焦於雲端與本機兩個層次。談到雲端治理時，教授以微軟Azure平台API金鑰遭竊事件為例，說明使用者或許會先非法取得充足運算資源，以大量生成非法影像，而且只要掌握越獄技術，便能繞過模型原有安全限制。現今模型普遍設有系統提示詞、內容過濾、介面限制及使用監控等多重保護屏障，但每道防線都有可能被繞過，沒有任何方法足以徹底解決AI濫用問題。

根本原因其實在於AI並不理解善惡，也無法真正判斷內容是否合宜，就算開發者盡可能排除有害資料，仍無法完全避免模型學習不當內容。除此之外，使用者也可能透過不同提示詞、資料組合或微調，獲得本來不應生成的結果，例如同時提供成人色情影像與非色情兒童影像，就有可能合成違法內容，這完全凸顯了當前安全機制的侷限。

教授的言下之意是治理不能只依賴單一防線。他以魔鬼氈作比喻，認為彼此配合的結構共同發揮作用，例如添加數位浮水印、保存日誌紀錄等，就能提高追溯性與問責能力。近年來各國政府都在擴充相關法律，希望建立完整治理網絡，不過這些措施也可能提升平台與政府的監控能力，因此如何兼顧隱私與數位權利，仍是重要課題。

跨越層次，全端治理

除了雲端之外，部分AI能於個人裝置獨立運作，控制權完全落入使用者手中，也讓本機治理成為巨大挑戰。教授點明從裝置本身建立治理機制是可行的路徑，譬如限制模型存取特定功能、要求取得使用授權，或透過作業系統監控異常行為等方式降低濫用風險，然而限制要是過於嚴格，則又可能過度影響使用者的權利。

治理始終是試圖於安全與自由當中取得平衡，而非追求絕對控制。演講最後，教授提出「全端AI治理」（Full-stack AI Governance）的概念。他提出思考路徑，討論能否依照使用者不同程度的能力、需求來分散治理？比如區分取得API憑證的普通使用者與不受監督就能掌握高效能運算資源的高階使用者，或者區分消費型帳戶與專業研究型帳戶，就像無人機或業餘無線電的管理模式，「分而治之」便能「對症下藥」，也能避免過度限制。

AI治理沒有十全十美的答案，也不存在可以一次解決所有問題的技術。真正重要的是讓不同層次的參與者共同承擔責任，在降低濫用風險的同時，避免因過度管制而犧牲隱私、自由與其他數位權利。唯有兼顧安全與人權，才能建立更健全且值得信賴的數位治理制度。