2025 AI法規實施元年 歐盟AI 法案全球首創立法深化AI 治理

瀏覽數:210


【文/馮震宇 圖片提供/達志影像】

  綜觀各方對2025 年趨勢預測,AI 仍將引領風潮。隨之而來的挑戰,各國正透過立法與司法因應,國際間更積極推動深化AI 治理。就法律層面而言,2025 將成為AI 法規實施元年,相關法案不僅將續領國際治理方針,也將直接影響AI 產業的未來發展。

AI 技術不斷升級 江山代有才人出

  AI 應用的迭代變化,從AI 技術快速變遷可獲得證明。像是紅遍半邊天的輝達(NVIDIA),在2024 年幾乎看不到任何對手,成為AI 算力的壟斷者,獨佔AI GPU 90% 以上市場。但在2024 年12 月,博通(Broadcom) 靠著提供客製化推理功能的「特殊應用晶片」(ASIC) 異軍突起,成為市場寵兒,不但使該公司市值破兆,也讓原本神般存在的輝達,股價從145 美元跌至130 美元。另一方面,原本各方追逐的大型語言模型LLM 呈此消彼長態勢,部分業者面臨資金不足或被併購的命運。

  AI市場變化之大,無怪乎Google 執行長桑德爾.皮蔡(Sundar Pichai) 也感嘆:唾手可得的果實已經被摘下,未來的路會更加崎嶇。要想達到下一階段,必須依賴更深層的突破。

  唾手可得的果實已經被摘下,未來的路會更加崎嶇。要想達到下一階段,必須依賴更深層的突破。

  從語言模型、多模態模型的單獨智慧,到能夠使用「思想鏈」(Chain-of-Thought, CoT)進行推理的OpenAl GPT-4o3,再至使用工具完成複雜任務的AI 代理(AI Agent),AI 基礎能力正快速演進,並迅速融入現今企業運作和民眾生活的各環節,掀起下一波科技和產業革命。可預見在2025 年,隨著AI 手機、AI PC、AI 眼鏡等新產品與新應用持續出現,AI 與人類的關係將更形緊密。

  與此同時,許多國家也正積極推動AI 相關法規,以平衡AI 所帶來的衝擊。這些法規將於2025 年起陸續生效,使2025 年成為AI 法規實施元年,並與AI 逐步進入實用發展的趨勢相互對應。

AI 落地應用 更需法律助力

  生成式AI 在過去2年迅速普及,這個發展彰顯出AI 已完成從0到1的能力突破。進一步的落地應用,將推動AI 從1 到100 的發展,業者需要實際成功的應用才能再次引起關注。

  新的AI 應用,若要能吸引眼球,並為個人或企業所用,勢必要從公共使用轉向個別應用,並需要法律的助力。根據國際研究暨顧問機構Gartner 所提出「2025年十大科技趨勢預測」,許多趨勢與AI 有關,特別是AI代理(AI Agent)、AI 治理平台(AI Governance Platforms)、多功能機器人(Polyfunctional Robots)、虛假資訊安全(Disinformation Security) 等技術,這些技術的發展雖能豐富AI 應用,也須與法律配合。

  特別是AI 代理需要運用更多個人資訊或企業營業祕密等進行訓練,才能提供更周延的服務。這涉及個資與營業祕密等法律議題。此外,生成式AI 呈井噴發展之際,引發了許多IP侵權爭議與訴訟,這些問題將在2025 年逐步顯現,這影響各國對AI 應用的規範與管制,凸顯2025 年AI 法規落地實施的重要性。

  最好的例證,是歐盟在2024 年通過了AI法案(AI Act)。如果說2024 年是AI 立法元年,那麼2025 年就是AI 相關規範落地實施元年。隨著歐盟AI 法案將於2025 年2 月1 日正式實施,並推動AI 責任指令(AILD),各國將在歐盟的引領下,開始思索如何規範AI。

2025 年,AI 法規實施元年

  • 歐盟於2024 年通過全球第一部《人工智慧法案》(Artificial Intelligence Act,簡稱AI 法案),並在2025 年繼續推動《人工智慧責任指令》(AI Liability Directive, AILD),以進一步保護因AI 而受損害者。
  • 我國國科會草擬的「人工智慧基本法」(簡稱AI 基本法)預計在2025 年送立法院審理。
  • 中國在2024 年9 月14 日推出《人工智能生成內容標示辦法(徵求意見稿)》。
  • 美國加州在2024 年9 月通過AI 透明相關法案,提高AI 透明度。


歐盟AI 法案 全球首創立法

  哈佛大學知名法學教授Lawerence Lessig認為,隨著AI 的開源,法律將不足以有效治理AI,國際間勢必得從社會規範、市場或程式碼等層面著手。然而,AI 治理的第一階段,仍需從法律層面切入。

  2025 年國際間值得重視的法律發展趨勢,主要集中在AI 相關立法與執行,以及法院對AI侵權訴訟的判決。其中,歐盟AI 法案在2025 年正式實施最為重要。歷經3 年的鏖戰,歐盟AI法案於2024 年5 月22 日獲得歐盟理事會批准,並自8月1日起生效,成為全球首部全面監管AI的法律。

  該法案的重要性,在於其規範對象涵蓋AI系統與通用AI 模型(GPAI),並採用風險為基礎的分級管理模式。由於高風險AI 清單更新、通用AI 模型分類及行為標準等執行細則尚未制定,且歐盟和會員國的AI 治理架構未確定,業者需要時間調適,該法案將分3 階段實施,前2個階段將於2025 年正式實施。

歐盟AI 法案 3 階段實施模式

  • 第1 階段:

AI 法案通則及不可接受風險的AI 系統禁令,將在2025 年2 月1 日實施。

  • 第2 階段:

通用AI 模型、第三方認證機構、會員國公告合格評估機構,以及違反法案罰則,將於2025 年8 月1 日實施。

  • 第3 階段:

該法案附件III 清單中的高風險AI 系統的相關義務,將於2027 年8 月1 日實施,生效前已上市的通用AI 模型提供者,應在36 個月內符合AI 法案規定。

歐盟AI 法案的全球影響

  歐盟希望複製其在個人隱私(GDPR)、消費者保護、環境保護、管理網路仇恨言論等方面的成功經驗,透過「布魯塞爾效應」(也就是透過結合標準較高的歐盟規範與高額罰金),引領AI 議題採行歐洲模式,將歐洲價值觀輸出到全世界。2025 年標誌著歐盟AI 法案的正式實施與罰則生效,對全球AI 業者將產生實質影響。

  為提供各國AI 業者遵循標準,歐盟AI 辦公室於2024 年11 月14 日發佈「通用人工智慧實踐守則」(General-Purpose AI Code of Practice) 草案,預計也會在2025 年5 月完成最終版本。

通用人工智慧實踐守則

  • 具體責任

通用AI 模型提供者應提供訓練資料、模型架構、測試程序等說明文件,並制定防止通用AI 模型濫用的政策。

  • 高風險模型義務

高風險通用AI 模型提供者應在模型生命周期內持續評估風險並設計緩解措施,以防範系統性風險。

  • 智慧財產權

通用AI 模型提供者應遵守歐盟著作權指令的規定。


AI 治理雙管齊下 提供強大法律監管環境

  歐盟在AI 法案初步成功後,立即推出AI 責任指令草案(AILD),希望進一步規範AI 責任,讓消費者更容易就AI 系統造成的損害獲得賠償。AILD 被定位為歐盟AI 法案和修訂後的歐盟產品責任指令(PLD) 的補充規範。透過雙管齊下的AI 治理方法,歐盟希望提供強大的法律監管環境,並採用類似台灣消保法的產品無過失責任制度,以舉證責任倒置方式,簡化救濟流程。

  由於歐盟已有PLD, 部分歐盟國家質疑AILD 的必要性。為此,歐洲議會研究服務處於2024 年9 月19 日發佈AILD 影響評估報告,認為AILD 仍有其必要性,並建議設立「高影響力」(High-impacted)AI 類型, 涵蓋高風險AI 系統、通用AI 系統與運輸相關AI 應用(如自駕車),以建立更全面的架構,報告還建議將連帶責任制度納入AILD,並以歐盟規則(Regulation) 的方式推動立法, 避免指令 (Directive) 需經各國立法方能生效的問題,建構一致的法律環境,因此在2025 年,或許歐盟將會出現有關AI 的新法規。

我國國家級AI 法案:人工智慧基本法

  在歐盟完成AI 法案後,我國也積極推動「人工智慧基本法」的立法。國科會於2024 年7 月15 日預告草案;10 月22 日送行政院審議,預計2025 年立法院第一個會期審議。若順利完成審議,台灣將成為全球第二個訂定國家級AI法案的國家。

  就該草案觀察,內容多為政策宣示,對AI可能帶來的風險與負面影響未提出任何具體監管機制,也缺乏權利保障條款。司改會批評其「嚴重欠缺基本法應具備之功能與要素」。若草案通過,根據草案第10 條第1 項「數位發展部應參考國際標準或規範發展之人工智慧資訊安全保護、風險分級與管理,推動與國際介接之人工智慧風險分級框架。」未來數位發展部將承擔最主要的責任,訂定AI 風險分級框架,各主管機關依此框架訂定風險分級規範。

國科會AI 基本法草案

  • 全文18 條:

多屬原則性與政策性宣示。

  • 7大共通性原則

永續發展、人類自主、隱私保護、資訊與安全、透明可解釋、公平不歧視及問責。

→要求從AI 研發到最後市場應用都須遵守相同的基本價值。

  • 4大推動重點

創新合作及人才培育、風險管理及應用負責、權益保障及資料利用、法規調適及業務檢視。

→以引導我國各機關發展與促進人工智慧應用的原則。

  • 政府部會責任

各部會應依基本法規定檢討及調整所主管的職掌、業務及法規。

→讓行政機關能夠加速因應AI 帶來的變化,並有共同的價值觀,促進創新並兼顧人權。

 

中國

中國於2024 年9 月公佈《人工智能生成內容標示辦法(徵求意見稿)》,要求創作者使用AI 創作文字、錄音、圖片、影片、虛擬場景等內容時,需添加明顯標識,任何人均不得惡意刪除、篡改、偽造、隱匿標識,也不得通過不正當標識手段損害他人合法權益,違者將加以處罰。

 

美國

雖然聯邦政府並未制定AI 相關聯邦法律,但AI 企業大本營的加州,一馬當先於2024 年9 月通過:

  • AB-2013「生成式AI:訓練數據透明法案」(Generative artificial intelligence: training data transparency)

法案重點在於提昇訓練資料透明度,故要求生成式AI 模型開發者在其網站上公開用於訓練其模型資料必要訊息,以提高生成式AI 開發商或系統/服務供應者的透明度義務。

  • SB-942「加州AI 透明法案」(California AI Transparency Act)

要求生成式AI 開發業者應就影音內容,提供AI 檢測工具和浮水印功能給終端使用者。由於新法案可直接規範加州公司,因此被認為是美國目前最具影響力的AI 法案,將自2026 年1 月1 日起正式生效。

 

AI 侵權問題

  除了立法與執行,AI 侵權仍是困擾各方的重大問題。其中,備受關注且具代表性的案件是,Universal Music 聯合ABKCO、Concord Publishing 等音樂出版商,控告AI 公司 Anthropic 非法使用至少500 首歌曲訓練聊天機器人Claude。

  該案件在2024 年底出現轉折,法院在12月公佈的初步裁定中,認為環球音樂公司指控被告侵權理由過於籠統,特別是對第三人直接侵權的指控和對侵權行為的實際指控。雖然法院尚未做出最終判決,且准許原告得重新修改起訴狀,但也暗示AI 是否侵害著作權的問題可能出現轉折,結果將影響其他AI 侵權案件。

  2024 年AI 技術突飛猛進,產業環境開始變化;2025 年,將是AI 立法實施元年。隨著歐盟AI 法案的正式實施,以及其他國家逐步開展立法,AI 未來發展將受到影響。(本文作者為政治大學法學院暨商學院合聘教授)

【更多精彩內容請見《能力雜誌》2025年1月號,非經同意不得轉載、刊登】

更多資訊請參考...
{{item.title}}
生產力中心提供的活動資訊
{{item.title}}
相關出版品...