數碼新秩序

2023-12-29

AI未來｜歐盟AI法案通過！ChatGPT、人臉辨識全受監管！《人工智能法》是AI發展跳板還是障礙？

#Smart Living #人臉辨識 #人工智能法 #AI Act #OpenAI #數碼轉型 #智慧生活 #歐盟 #ChatGPT #電腦 #GPT-4 #人工智能 #恐怖襲擊 #通訊產業

　　2023年結束前，一項關乎AI技術未來發展的重要法案 ──《人工智能法》（AI Act），經過接近40小時的馬拉松式討論後，歐盟執委會、歐洲議會、歐盟理事會終於就法案達成協議。這是全球首個全面針對AI制定的綜合法律框架，將用於規管歐盟境內AI供應商，以及任何使用AI的公司或組織，更有望成為世界各國立法的參考標準。

旨在減少AI對基本人權侵害

　　位於比利時布魯塞爾的總部內，歐盟立法官員在12月7日經歷接近24小時的激辯後，翌日再磋談了15小時，最終在12月9日宣布就《AI Act》達成臨時協議；12月14日更確認通過新法案細節，按照風險評級來規範AI與數碼產品對人權的可能侵害。

　　《人工智能法》的要旨是，減少AI對基本人權的侵害，包括：嚴禁利用AI進行情緒識別，監控工作或教育場所；嚴禁從互聯網或閉路電視錄像中擷取人類臉部影像，並建立識別數據庫；嚴禁運用AI監控人類的行為和特徵，進而建立社會評分機制；嚴禁利用AI操縱人類行為，以違反其自由意志；嚴禁使用AI蒐集人類的生物特徵，並針對其政治、宗教、種族、性取向等進行分類。

　　倘若警方執法時需利用AI進行生物或情緒辨識，必須先獲法院批准，並只能應用在恐怖襲擊、人口販賣等16類重大罪行。至於軍事和國防用途的AI系統，則不在該法案的管轄之列。

自ChatGPT在2022年底面世、引起全球廣泛關注後，歐盟遂決定必須在2023年內完成《人工智能法》的立法程序。（圖片來源：Freepik圖庫）

制定明確而具法律效力的細則

　　《AI Act》的另一重點是，制定了明確的AI法律制度和規範細則。譬如當用戶使用如ChatGPT般的聊天機械人時，科技公司必須讓對方意識到是跟AI而非真人互動，並需為深偽技術（Deepfake）和生成式AI所產製的內容進行標記，以資識別。

　　該法案又要求好像GPT-4般的通用AI模型，在投放到市場前，AI供應商必須遵守透明度義務，包括起草技術文件、遵守歐盟版權法，並披露有關模型訓練內容的詳細摘要。如屬帶有系統性風險的高影響力AI模型，推出前必須先對模型作出評估，包括估量系統性風險的規模和緩解方案，並執行對抗性測試；一旦發生嚴重事故，必須向歐盟執委會報告。

歐盟執委會主席烏蘇拉馮德萊恩（Ursula von der Leyen）表示，《人工智能法》是全球首創，為開發值得信賴的AI提供了獨特的法律框架。（圖片來源：X.com@vonderleyen）

基於風險評級對AI實施監管

　　再者，《人工智能法》將基於風險評級的高低來實施監管：風險愈高的AI，規管就愈嚴。舉凡涉及水電煤等基建設施、醫療設備、決定教育或聘僱機會、執法與邊境管制的人工智能系統，均屬高風險AI。新法案要求這類AI廠商必須遵守嚴格要求，包括提供風險緩解系統、具有高質數據設定、設有人工監督、附有詳細的文件記錄和使用者資訊、以及擁有高水準而穩定的網絡安全機制。

　　至於內容推薦系統、垃圾郵件過濾器等，則被視為最小風險AI，相關技術供應商將不在法例監管範圍，但有關廠商可在自願基礎上遵守這類AI的額外行為準則。

　　歐盟將會成立一個新的監管機構 ── 歐洲AI辦公室（European AI Office），負責AI的合規審查和執法。一旦發現有AI公司做出違規行為，最高可被判罰款3,500萬歐元（約3.02億港元）或相當於該公司全球營業額的7%，以較高者為準；具體罰款金額取決於違規情況和違法公司規模。

商界：新法窒礙歐洲AI競爭力

　　歐盟內部市場委員蒂埃里布雷頓（Thierry Breton）表示，《AI Act》不止是一本規則手冊，更是歐盟初創企業在全球AI競賽中的跳板。但歐洲商界對此卻不敢苟同，逾150個歐洲風投基金與企業的負責人向歐盟發出聯署公開信，指出研發和使用AI的公司在新法案下面對不成比例的合規成本與責任風險，這可能會迫使AI初創把研發基地轉移到歐盟境外，投資者亦會將投入歐洲AI開發項目的資金撤回，窒礙歐洲的AI競爭力。

來自歐盟執委會、歐洲理事會、歐洲議會的立法者經歷近40小時的激烈辯論後，最終三方就《人工智能法》達成協議。（圖片來源：X.com@vonderleyen）

　　由Apple、Google、Ｍeta等組成的電腦與通訊產業協會（CCIA）認為，歐盟為求盡快立法，倉促通過《AI Act》，當中可能有很多法規細節仍未考慮清楚，以致犧牲了AI未來發展的可能性。美國智庫數據創新中心（CDI）更指出，該法案可能是全球最嚴苛的AI法例，預計未來5年可能會為歐洲帶來310億歐元（約2,670億港元）的經濟損失，更會令歐洲的AI投資減少近20%。

　　面對各方反對聲音，歐盟依然頂著壓力，繼續推動《AI Act》上路，排定2024年將再敲定各規則細節；跟著，只要取得歐盟各成員國的議員和代表批准，便可正式頒布法令，並於兩年後全面生效；換言之，各家AI公司有兩年緩衝期來修改產品，以符合新法例。一直不願披露ChatGPT訓練資料詳情的OpenAI，如不在法案生效前改弦易轍，就可能要被迫撤出歐洲市場了。