加入最愛專欄  收藏文章 

2023-12-29

AI未來|歐盟AI法案通過!ChatGPT、人臉辨識全受監管!《人工智能法》是AI發展跳板還是障礙?

  2023年結束前,一項關乎AI技術未來發展的重要法案 ──《人工智能法》(AI Act),經過接近40小時的馬拉松式討論後,歐盟執委會、歐洲議會、歐盟理事會終於就法案達成協議。這是全球首個全面針對AI制定的綜合法律框架,將用於規管歐盟境內AI供應商,以及任何使用AI的公司或組織,更有望成為世界各國立法的參考標準。

 

旨在減少AI對基本人權侵害

 

  位於比利時布魯塞爾的總部內,歐盟立法官員在12月7日經歷接近24小時的激辯後,翌日再磋談了15小時,最終在12月9日宣布就《AI Act》達成臨時協議;12月14日更確認通過新法案細節,按照風險評級來規範AI與數碼產品對人權的可能侵害。

 

  《人工智能法》的要旨是,減少AI對基本人權的侵害,包括:嚴禁利用AI進行情緒識別,監控工作或教育場所;嚴禁從互聯網或閉路電視錄像中擷取人類臉部影像,並建立識別數據庫;嚴禁運用AI監控人類的行為和特徵,進而建立社會評分機制;嚴禁利用AI操縱人類行為,以違反其自由意志;嚴禁使用AI蒐集人類的生物特徵,並針對其政治、宗教、種族、性取向等進行分類。

 

  倘若警方執法時需利用AI進行生物或情緒辨識,必須先獲法院批准,並只能應用在恐怖襲擊、人口販賣等16類重大罪行。至於軍事和國防用途的AI系統,則不在該法案的管轄之列。

 

自ChatGPT在2022年底面世、引起全球廣泛關注後,歐盟遂決定必須在2023年內完成《人工智能法》的立法程序。(圖片來源:Freepik圖庫)

 

制定明確而具法律效力的細則

 

  《AI Act》的另一重點是,制定了明確的AI法律制度和規範細則。譬如當用戶使用如ChatGPT般的聊天機械人時,科技公司必須讓對方意識到是跟AI而非真人互動,並需為深偽技術(Deepfake)和生成式AI所產製的內容進行標記,以資識別。

 

  該法案又要求好像GPT-4般的通用AI模型,在投放到市場前,AI供應商必須遵守透明度義務,包括起草技術文件、遵守歐盟版權法,並披露有關模型訓練內容的詳細摘要。如屬帶有系統性風險的高影響力AI模型,推出前必須先對模型作出評估,包括估量系統性風險的規模和緩解方案,並執行對抗性測試;一旦發生嚴重事故,必須向歐盟執委會報告。

 

歐盟執委會主席烏蘇拉馮德萊恩(Ursula von der Leyen)表示,《人工智能法》是全球首創,為開發值得信賴的AI提供了獨特的法律框架。(圖片來源:X.com@vonderleyen)

 

基於風險評級對AI實施監管

 

  再者,《人工智能法》將基於風險評級的高低來實施監管:風險愈高的AI,規管就愈嚴。舉凡涉及水電煤等基建設施、醫療設備、決定教育或聘僱機會、執法與邊境管制的人工智能系統,均屬高風險AI。新法案要求這類AI廠商必須遵守嚴格要求,包括提供風險緩解系統、具有高質數據設定、設有人工監督、附有詳細的文件記錄和使用者資訊、以及擁有高水準而穩定的網絡安全機制。

 

  至於內容推薦系統、垃圾郵件過濾器等,則被視為最小風險AI,相關技術供應商將不在法例監管範圍,但有關廠商可在自願基礎上遵守這類AI的額外行為準則。

 

  歐盟將會成立一個新的監管機構 ── 歐洲AI辦公室(European AI Office),負責AI的合規審查和執法。一旦發現有AI公司做出違規行為,最高可被判罰款3,500萬歐元(約3.02億港元)或相當於該公司全球營業額的7%,以較高者為準;具體罰款金額取決於違規情況和違法公司規模。

 

商界:新法窒礙歐洲AI競爭力

 

  歐盟內部市場委員蒂埃里布雷頓(Thierry Breton)表示,《AI Act》不止是一本規則手冊,更是歐盟初創企業在全球AI競賽中的跳板。但歐洲商界對此卻不敢苟同,逾150個歐洲風投基金與企業的負責人向歐盟發出聯署公開信,指出研發和使用AI的公司在新法案下面對不成比例的合規成本與責任風險,這可能會迫使AI初創把研發基地轉移到歐盟境外,投資者亦會將投入歐洲AI開發項目的資金撤回,窒礙歐洲的AI競爭力。

 

來自歐盟執委會、歐洲理事會、歐洲議會的立法者經歷近40小時的激烈辯論後,最終三方就《人工智能法》達成協議。(圖片來源:X.com@vonderleyen)

 

  由Apple、Google、Meta等組成的電腦與通訊產業協會(CCIA)認為,歐盟為求盡快立法,倉促通過《AI Act》,當中可能有很多法規細節仍未考慮清楚,以致犧牲了AI未來發展的可能性。美國智庫數據創新中心(CDI)更指出,該法案可能是全球最嚴苛的AI法例,預計未來5年可能會為歐洲帶來310億歐元(約2,670億港元)的經濟損失,更會令歐洲的AI投資減少近20%。

 

  面對各方反對聲音,歐盟依然頂著壓力,繼續推動《AI Act》上路,排定2024年將再敲定各規則細節;跟著,只要取得歐盟各成員國的議員和代表批准,便可正式頒布法令,並於兩年後全面生效;換言之,各家AI公司有兩年緩衝期來修改產品,以符合新法例。一直不願披露ChatGPT訓練資料詳情的OpenAI,如不在法案生效前改弦易轍,就可能要被迫撤出歐洲市場了。

 

延伸閱讀:

 

全球首部AI法例出爐!歐洲議會通過人工智能法案,為何Google、OpenAI高喊難以承受?

AI發展太快惹恐慌!歐盟、加拿大搶先全球立法規管!OpenAI建議華府成立專責監管機構

AI可能導致人類滅亡?白宮下令AI接受評估,歐盟擬立法監管AI,教AI做人或是最佳解決方法!

 

 

 《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。

全新etnet健康網購,送你【健骨維他命D3(1000IU)】乙樽(價值$108)► 立即行動!

更多智城物語文章
你可能感興趣
#Smart Living #人臉辨識 #人工智能法 #AI Act #OpenAI #數碼轉型 #智慧生活 #歐盟 #ChatGPT #電腦 #GPT-4 #人工智能 #恐怖襲擊 #通訊產業
編輯推介
即時報價
全文搜索
Search
最近搜看
大國博弈
貨幣攻略
More
Share