【文/馮震宇 圖片提供/達志影像】
綜觀各方對2025 年趨勢預測,AI 仍將引領風潮。隨之而來的挑戰,各國正透過立法與司法因應,國際間更積極推動深化AI 治理。就法律層面而言,2025 將成為AI 法規實施元年,相關法案不僅將續領國際治理方針,也將直接影響AI 產業的未來發展。
AI 技術不斷升級 江山代有才人出
AI 應用的迭代變化,從AI 技術快速變遷可獲得證明。像是紅遍半邊天的輝達(NVIDIA),在2024 年幾乎看不到任何對手,成為AI 算力的壟斷者,獨佔AI GPU 90% 以上市場。但在2024 年12 月,博通(Broadcom) 靠著提供客製化推理功能的「特殊應用晶片」(ASIC) 異軍突起,成為市場寵兒,不但使該公司市值破兆,也讓原本神般存在的輝達,股價從145 美元跌至130 美元。另一方面,原本各方追逐的大型語言模型LLM 呈此消彼長態勢,部分業者面臨資金不足或被併購的命運。
AI市場變化之大,無怪乎Google 執行長桑德爾.皮蔡(Sundar Pichai) 也感嘆:唾手可得的果實已經被摘下,未來的路會更加崎嶇。要想達到下一階段,必須依賴更深層的突破。
唾手可得的果實已經被摘下,未來的路會更加崎嶇。要想達到下一階段,必須依賴更深層的突破。
從語言模型、多模態模型的單獨智慧,到能夠使用「思想鏈」(Chain-of-Thought, CoT)進行推理的OpenAl GPT-4o3,再至使用工具完成複雜任務的AI 代理(AI Agent),AI 基礎能力正快速演進,並迅速融入現今企業運作和民眾生活的各環節,掀起下一波科技和產業革命。可預見在2025 年,隨著AI 手機、AI PC、AI 眼鏡等新產品與新應用持續出現,AI 與人類的關係將更形緊密。
與此同時,許多國家也正積極推動AI 相關法規,以平衡AI 所帶來的衝擊。這些法規將於2025 年起陸續生效,使2025 年成為AI 法規實施元年,並與AI 逐步進入實用發展的趨勢相互對應。
AI 落地應用 更需法律助力
生成式AI 在過去2年迅速普及,這個發展彰顯出AI 已完成從0到1的能力突破。進一步的落地應用,將推動AI 從1 到100 的發展,業者需要實際成功的應用才能再次引起關注。
新的AI 應用,若要能吸引眼球,並為個人或企業所用,勢必要從公共使用轉向個別應用,並需要法律的助力。根據國際研究暨顧問機構Gartner 所提出「2025年十大科技趨勢預測」,許多趨勢與AI 有關,特別是AI代理(AI Agent)、AI 治理平台(AI Governance Platforms)、多功能機器人(Polyfunctional Robots)、虛假資訊安全(Disinformation Security) 等技術,這些技術的發展雖能豐富AI 應用,也須與法律配合。
特別是AI 代理需要運用更多個人資訊或企業營業祕密等進行訓練,才能提供更周延的服務。這涉及個資與營業祕密等法律議題。此外,生成式AI 呈井噴發展之際,引發了許多IP侵權爭議與訴訟,這些問題將在2025 年逐步顯現,這影響各國對AI 應用的規範與管制,凸顯2025 年AI 法規落地實施的重要性。
最好的例證,是歐盟在2024 年通過了AI法案(AI Act)。如果說2024 年是AI 立法元年,那麼2025 年就是AI 相關規範落地實施元年。隨著歐盟AI 法案將於2025 年2 月1 日正式實施,並推動AI 責任指令(AILD),各國將在歐盟的引領下,開始思索如何規範AI。
2025 年,AI 法規實施元年
|
歐盟AI 法案 全球首創立法
哈佛大學知名法學教授Lawerence Lessig認為,隨著AI 的開源,法律將不足以有效治理AI,國際間勢必得從社會規範、市場或程式碼等層面著手。然而,AI 治理的第一階段,仍需從法律層面切入。
2025 年國際間值得重視的法律發展趨勢,主要集中在AI 相關立法與執行,以及法院對AI侵權訴訟的判決。其中,歐盟AI 法案在2025 年正式實施最為重要。歷經3 年的鏖戰,歐盟AI法案於2024 年5 月22 日獲得歐盟理事會批准,並自8月1日起生效,成為全球首部全面監管AI的法律。
該法案的重要性,在於其規範對象涵蓋AI系統與通用AI 模型(GPAI),並採用風險為基礎的分級管理模式。由於高風險AI 清單更新、通用AI 模型分類及行為標準等執行細則尚未制定,且歐盟和會員國的AI 治理架構未確定,業者需要時間調適,該法案將分3 階段實施,前2個階段將於2025 年正式實施。
歐盟AI 法案 3 階段實施模式
- 第1 階段:
AI 法案通則及不可接受風險的AI 系統禁令,將在2025 年2 月1 日實施。
- 第2 階段:
通用AI 模型、第三方認證機構、會員國公告合格評估機構,以及違反法案罰則,將於2025 年8 月1 日實施。
- 第3 階段:
該法案附件III 清單中的高風險AI 系統的相關義務,將於2027 年8 月1 日實施,生效前已上市的通用AI 模型提供者,應在36 個月內符合AI 法案規定。
歐盟AI 法案的全球影響
歐盟希望複製其在個人隱私(GDPR)、消費者保護、環境保護、管理網路仇恨言論等方面的成功經驗,透過「布魯塞爾效應」(也就是透過結合標準較高的歐盟規範與高額罰金),引領AI 議題採行歐洲模式,將歐洲價值觀輸出到全世界。2025 年標誌著歐盟AI 法案的正式實施與罰則生效,對全球AI 業者將產生實質影響。
為提供各國AI 業者遵循標準,歐盟AI 辦公室於2024 年11 月14 日發佈「通用人工智慧實踐守則」(General-Purpose AI Code of Practice) 草案,預計也會在2025 年5 月完成最終版本。
通用人工智慧實踐守則
通用AI 模型提供者應提供訓練資料、模型架構、測試程序等說明文件,並制定防止通用AI 模型濫用的政策。
高風險通用AI 模型提供者應在模型生命周期內持續評估風險並設計緩解措施,以防範系統性風險。
通用AI 模型提供者應遵守歐盟著作權指令的規定。 |
AI 治理雙管齊下 提供強大法律監管環境
歐盟在AI 法案初步成功後,立即推出AI 責任指令草案(AILD),希望進一步規範AI 責任,讓消費者更容易就AI 系統造成的損害獲得賠償。AILD 被定位為歐盟AI 法案和修訂後的歐盟產品責任指令(PLD) 的補充規範。透過雙管齊下的AI 治理方法,歐盟希望提供強大的法律監管環境,並採用類似台灣消保法的產品無過失責任制度,以舉證責任倒置方式,簡化救濟流程。
由於歐盟已有PLD, 部分歐盟國家質疑AILD 的必要性。為此,歐洲議會研究服務處於2024 年9 月19 日發佈AILD 影響評估報告,認為AILD 仍有其必要性,並建議設立「高影響力」(High-impacted)AI 類型, 涵蓋高風險AI 系統、通用AI 系統與運輸相關AI 應用(如自駕車),以建立更全面的架構,報告還建議將連帶責任制度納入AILD,並以歐盟規則(Regulation) 的方式推動立法, 避免指令 (Directive) 需經各國立法方能生效的問題,建構一致的法律環境,因此在2025 年,或許歐盟將會出現有關AI 的新法規。
我國國家級AI 法案:人工智慧基本法
在歐盟完成AI 法案後,我國也積極推動「人工智慧基本法」的立法。國科會於2024 年7 月15 日預告草案;10 月22 日送行政院審議,預計2025 年立法院第一個會期審議。若順利完成審議,台灣將成為全球第二個訂定國家級AI法案的國家。
就該草案觀察,內容多為政策宣示,對AI可能帶來的風險與負面影響未提出任何具體監管機制,也缺乏權利保障條款。司改會批評其「嚴重欠缺基本法應具備之功能與要素」。若草案通過,根據草案第10 條第1 項「數位發展部應參考國際標準或規範發展之人工智慧資訊安全保護、風險分級與管理,推動與國際介接之人工智慧風險分級框架。」未來數位發展部將承擔最主要的責任,訂定AI 風險分級框架,各主管機關依此框架訂定風險分級規範。
國科會AI 基本法草案
多屬原則性與政策性宣示。
永續發展、人類自主、隱私保護、資訊與安全、透明可解釋、公平不歧視及問責。 →要求從AI 研發到最後市場應用都須遵守相同的基本價值。
創新合作及人才培育、風險管理及應用負責、權益保障及資料利用、法規調適及業務檢視。 →以引導我國各機關發展與促進人工智慧應用的原則。
各部會應依基本法規定檢討及調整所主管的職掌、業務及法規。 →讓行政機關能夠加速因應AI 帶來的變化,並有共同的價值觀,促進創新並兼顧人權。 |
中國 中國於2024 年9 月公佈《人工智能生成內容標示辦法(徵求意見稿)》,要求創作者使用AI 創作文字、錄音、圖片、影片、虛擬場景等內容時,需添加明顯標識,任何人均不得惡意刪除、篡改、偽造、隱匿標識,也不得通過不正當標識手段損害他人合法權益,違者將加以處罰。 |
美國 雖然聯邦政府並未制定AI 相關聯邦法律,但AI 企業大本營的加州,一馬當先於2024 年9 月通過:
法案重點在於提昇訓練資料透明度,故要求生成式AI 模型開發者在其網站上公開用於訓練其模型資料必要訊息,以提高生成式AI 開發商或系統/服務供應者的透明度義務。
要求生成式AI 開發業者應就影音內容,提供AI 檢測工具和浮水印功能給終端使用者。由於新法案可直接規範加州公司,因此被認為是美國目前最具影響力的AI 法案,將自2026 年1 月1 日起正式生效。 |
AI 侵權問題
除了立法與執行,AI 侵權仍是困擾各方的重大問題。其中,備受關注且具代表性的案件是,Universal Music 聯合ABKCO、Concord Publishing 等音樂出版商,控告AI 公司 Anthropic 非法使用至少500 首歌曲訓練聊天機器人Claude。
該案件在2024 年底出現轉折,法院在12月公佈的初步裁定中,認為環球音樂公司指控被告侵權理由過於籠統,特別是對第三人直接侵權的指控和對侵權行為的實際指控。雖然法院尚未做出最終判決,且准許原告得重新修改起訴狀,但也暗示AI 是否侵害著作權的問題可能出現轉折,結果將影響其他AI 侵權案件。
2024 年AI 技術突飛猛進,產業環境開始變化;2025 年,將是AI 立法實施元年。隨著歐盟AI 法案的正式實施,以及其他國家逐步開展立法,AI 未來發展將受到影響。(本文作者為政治大學法學院暨商學院合聘教授)
【更多精彩內容請見《能力雜誌》2025年1月號,非經同意不得轉載、刊登】