作者：楊芝青合夥律師

歐盟執委會（EU Commission）在 2021 年提出「人工智慧規則草案」在今（2024）年 2 月 2 日獲得歐盟理事會（Council of the EU）的一致同意，正式成為歐盟「人工智慧法」（Artificial Intelligence Act）。值得在歐盟地區提供產品或服務的廠商關注的是，該法律對於 AI 的定義相當廣泛，許多市面上常見的產品均會落入，且違反法規的罰則相當嚴峻。

Photo by Public Domain Pictures is licensed under CC0 1.0 Universal（封面）

Dynamic AI Illustration by Easy-Peasy.AI is licensed under CC BY-ND 4.0 DEED（內文）

該法對 AI 的定義為：一種基於機器的系統，旨在以不同程度的自主性運作，並且在部署後可能表現出適應性，該系統根據其接收的輸入，為了明確或隱含的目標，推斷如何生成輸出，如預測、內容、推薦或決策，這些輸出可以影響現實或虛擬環境。此定義非常廣泛，一般常見的餐廳、旅遊推薦系統均可能落入。只有輸入內容可以全然決定輸出內容之系統（例如電子計算機輸入 10×10，輸出一定是 100），可以明確地被排除在管制範圍以外。設定 AI 之定義以後，該法將其依照作用及應用領域，依照風險分為三級：絕對禁止、高風險及一般風險。

絕對禁止的 AI，包含以潛意識技術改變個人意識、顯著削弱個人或群體作出明智決策的能力，從而使人做出他們在正常情況下不會做出的決策；利用某人或特定群體因年齡、殘疾或特定社會或經濟狀況而存在的脆弱性，扭曲該個人或該群體某個人的行為造成個人或他人的重大傷害；基於生物特徵數據對自然人進行個體化分類以推斷或推定他們的種族、政治觀點、工會成員資格、宗教或哲學信仰、性生活或性取向的生物特徵分類系統；類似中國採取之社會評分系統；在工作場所或教育機構，除了出於醫療或安全原因外，推斷其中人們的情緒等。

近年來潛意識技術改變個人意識的一個著名案例是臉書劍橋分析案。數據科學家 Aleksandr Kogan 於 2013 年推出透過一款稱為「This Is Your Digital Life」的應用程式，設計了一連串的問題來創建使用者的心理分析檔案，並透過臉書的 Open Graph 平台獲取了用戶及其好友的個人訊息。該應用程序最終搜集了約 8700 萬用戶的數據。劍橋分析除了使用這批數據來為川普 2016 年競選美國總統提供數據分析服務，亦被普遍認為干涉了英國脫歐公投，此事件更被改編為電視劇《脫歐之戰》（Brexit: The Uncivil War）。

社交平台演算法常有「回音室」的效果，創造出一個虛擬生態系統，參與者本身的想法或偏見通過在一個封閉系統內的溝通和重複來放大或強化他們先前的信念，並隔絕於反駁之外。人工智慧法禁止利用某人或特定群體因年齡、殘疾或特定社會或經濟狀況而存在的脆弱性，扭曲該個人或該群體某個人的行為造成個人或他人的重大傷害，然而有反社會人格特質的個人卻容易透過演算法找到有相同特質的同好，透過互相取暖、鼓勵中提升實際採取危害自身或社會行動之風險。上述作為吾人共同新聞記憶的應用，在人工智慧法施行後可能被禁止或落入灰色地帶。

高風險的 AI，作為產品本身或產品安全組件的人工智能，而此類產品受歐盟關於民用航空、車輛安全、海上設備、玩具、升降機、壓力設備和個人防護裝備等之法律管制。遠程生物特徵識別系統、用作關鍵基礎設施安全元件的人工智能、以及在教育、就業、信用評分、執法、移民和民主程序中使用的人工智能。

提供高風險 AI 系統業者將受到高度管制，它們需進行風險分析、採用品質優良的資訊、紀錄其技術及道德決策、追蹤系統效能的紀錄、向使用者說明系統的本質與目的、保障人類的監控與干預可能性、以及確保系統的精確性、堅固性和網路安全。此外，在將系統上市或開始服務前，他們還需檢驗系統是否遵循了規定標準，並需在一個對大眾開放的歐盟資料庫中進行系統的註冊。

人工智慧法在歐盟官方公報公佈的時間可能將落在今年年中，而於公佈日後之第 20 日生效。在生效日後六個月，歐盟各國將對絕對禁止的 AI 及業者實施管制及罰則，違法者最高可處 3500 萬歐元或公司全球年度總營業額的 7% 之罰款。人工智慧法之後續細緻化及發展，值得在歐盟地區提供產品或服務的廠商持續關注。