張雅琳等18人 114/06/20 提案版本
第一條
為促進以人為本之人工智慧研發與應用,維護國民生命、身體、健康、安全及權利,提升國民生活福祉、維護國家文化價值及國家競爭力,增進社會國家之永續發展,特制定本法。
立法說明
一、本法之立法目的。

二、人工智慧為攸關國家發展之戰略性科技,為積極發展與應用人工智慧,強化與深耕以人為本之人工智慧技術,促進技術應用與產業發展,同時維護人民安全、國家安全及保障人民權利,以期人工智慧可回應人文與社會發展所需,邁向社會永續發展。因此,發展與應用人工智慧之同時,有賴於制定具有指標與引導性原則之立法,以作為發展人工智慧之規範與促進應用之法源基礎。
第二條
本法所稱人工智慧,係指以機器為基礎之系統,該系統具自主運行能力,透過輸入或感測,經由機器學習與演算法,可為明確或隱含之目標實現預測、內容、建議或決策等影響實體或虛擬環境之產出。
立法說明
參考美國國家人工智慧創新法案(National AI Initiative Act of 二○二○)美國法典(U.S.Code )第九四○一章、國際標準化組織(ISO)及國際電工委員會(IEC)聯合制定技術規範(ISO/IEC )四二○○一:二○二三人工智慧管理系統、美國國家標準暨技術研究院(National Institute of Standards and Technology,NIST)AI風險管理框架,以及歐盟人工智慧法(Artificial Intelligence Act)對於人工智慧系統之定義,說明人工智慧必須被設計為具備一定程度之自主運行能力,透過輸入(input)或感測(sensing),可為明確(explicit)或隱含(implicit)之特定目的(objectives),經過機器學習(machine-learning)與演算法(algorithms)實現諸如預測、內容、建議或決策(such as predictions, content, recommendations ,or decisions)等影響實體或虛擬環境之產出,與其他軟體系統有別。
第三條
本法主管機關為數位發展部。

本法所定事項,涉及各目的事業主管機關職掌者,由各目的事業主管機關辦理。
立法說明
本法主管機關。
第四條
行政院應每月召開人工智慧發展會報,由行政院院長召集專家學者、民間團體以及中央目的事業主管機關首長組成,負責審議、協調、推動及督導本法相關事務。

前項民間代表其單一性別不得少於三分之一。
立法說明
一、本條明定行政院應設置「人工智慧發展會報」,作為跨部會協調、政策整合與法制督導之常設機制,以確保《人工智慧基本法》推動與執行之整體效能。

二、鑑於人工智慧涉及科技、經濟、教育、勞動、社福、內政、文化等多元領域,故由行政院層級召集,並納入學者專家、民間團體代表及中央各目的事業主管機關首長,可提升政策規劃與治理效能,強化風險控管與應用推動之整合力。

三、制訂民間代表之任一性別不得少於三分之一,落實性別平等與多元參與原則,確保在人工智慧發展與治理過程中,不同性別能平等參與意見形成與決策程序。
第五條
政府推動人工智慧之研發與應用,應在兼顧社會公益與數位平權之前提下,發展良善治理與基礎建設,並遵循下列原則:

一、永續發展與福祉:應兼顧社會公平及環境永續。提供適當之教育及培訓,降低可能之數位落差,使國民適應人工智慧帶來之變革。

二、人類自主:應以支持人類自主權、尊重人格權等人類基本權利與文化價值,並允許人類監督,落實以人為本並尊重法治及民主價值觀。

三、隱私保護與資料治理:應妥善保護個人資料隱私,避免資料外洩風險,並採用資料最小化原則;同時促進非敏感資料之開放及再利用。

四、資安與安全:人工智慧研發與應用過程,應建立資安防護措施,防範安全威脅及攻擊,確保其系統之穩健性與安全性。

五、透明與可解釋:人工智慧之產出應做適當資訊揭露或標記,以利評估可能風險,並瞭解對相關權益之影響,進而提升人工智慧可信任度。

六、公平與不歧視:人工智慧研發與應用過程中,應盡可能避免演算法產生偏差及歧視等風險,不應對特定群體造成歧視之結果。

七、問責:應確保承擔相應之責任,包含內部治理責任及外部社會責任。
立法說明
一、我國發展人工智慧應衡平創新發展與可能風險,以回應國內人文及社會所需。爰參考國際協議及各國相關政策方針、法規或行政命令,訂定具有指標與引導功能之基本原則,以作為政府各機關就其權責推動人工智慧之研發與應用之基礎。

二、人工智慧利益相關者應積極參與可信任人工智慧之負責任管理,以追求對人類和地球有益之結果,從而促進永續發展與福祉(Sustainable Development and Well-being),爰參考G7廣島AI國際行動規範(Hiroshima Process Code of Conduct for Organizations Developing Advanced AI Systems),於第一款定明之。

三、人工智慧參與者應在人工智慧系統之整個生命週期中尊重法治、人權及民主價值觀,為此,參考經濟合作暨發展組織(OECD)二○一九年公布之人工智慧建議書(OECD Recommendation on Artificial Intelligence),於第二款定明應支持人類自主(Human Autonomy),並尊重人類基本權利、人格權(含姓名、肖像、聲音)與文化價值,確保以人為本之基本價值。

四、人工智慧發展仰賴大量的資料,惟資料之蒐集、處理以及利用,能否確保資料安全與個人資訊隱私,是目前人工智慧發展最多討論與疑慮之議題。爰參考美國二○二二年AI權利法案藍圖(Blueprint for an AI Bill of Rights)於第三款定明人工智慧研發與應用應注意隱私與資料治理(Privacy and Data Governance)。

五、人工智慧研發與應用應確保系統穩健性與安全性,爰參考美國二○二二年AI權利法案藍圖(Blueprint for an AI Bill of Rights)及新加坡二○二三年生成式AI治理架構草案(Proposed Model AI Governance Framework for Generative AI),於第四款定明資安與安全(Security and Safety),以防範AI有關安全威脅與攻擊。

六、人工智慧所生成之決策對於利害關係人有重大影響,需保障決策過程之公正性。人工智慧研發與應用階段,應致力權衡決策生成之準確性與可解釋性,兼顧使用者及受影響者權益。爰參考歐盟二○一九年可信賴人工智慧倫理準則(Ethics Guidelines for Trustworthy AI)於第五款定明透明與可解釋(Transparency and Explainability)之原則。

七、人工智慧研發與應用需公平、完善且演算法應避免產生偏差或歧視之結果,爰參考美國二○二二年AI權利法案藍圖(Blueprint for an AI Bill of Rights),於第六款定明公平與不歧視原則(Fairness and Non-discrimination),強調應重視社會多元包容,避免產生偏差與歧視等風險。

八、研發或利用人工智慧之組織或個人應致力於建立人工智慧系統、軟體、演算法等技術之應用負責機制,以維護社會公益與關係人利益。爰參考新加坡二○二三年生成式AI治理架構草案(Proposed Model AI Governance Framework for Generative AI)於第七款訂定問責原則(Accountability)。
第六條
政府應積極推動人工智慧研發、應用及基礎建設,妥善規劃資源整體配置,並辦理人工智慧相關產業之補助、委託、出資、獎勵、輔導,或提供租稅、金融等財政優惠措施。
立法說明
人工智慧發展與應用涉及領域甚廣,其整體資源規劃,應由政府各機關依其業務職掌負責辦理,爰參考產業創新條例第九條及科學技術基本法第六條,定明政府機關應推動人工智慧發展等運用之方式。
第七條
政府應致力完善人工智慧研發與應用之法規調適,相關法規之解釋與適用,在符合第三條基本原則之前提下,以不妨礙新技術與服務之提供為原則。
立法說明
為促成人工智慧技術必要發展與普及,爰參考通訊傳播基本法第六條、韓國國家資訊化架構法第十七條、澳洲二○二三年安全且負責任之AI政策討論書(Safe and Responsible AI in Australia Discussion Paper),定明政府各機關應致力完善人工智慧發展與轉型相關法規之解釋及適用,以有利於該等技術或服務之提供,避免影響技術發展。
第八條
為促進人工智慧技術創新與永續發展,各目的事業主管機關得針對人工智慧創新產品或服務,建立或完備既有人工智慧研發與應用服務之創新實驗環境。
立法說明
參考歐盟人工智慧法,鼓勵其會員國政府建立人工智慧實驗沙盒制度(Regulatory Sandbox),提供一個受控環境,以促進人工智慧之創新,使其於投放市場或投入使用之前,可於有限時間開發、測試和驗證。爰定明各目的事業主管機關應建立或完備有關人工智慧研發與應用之創新實驗環境,進一步使國民受益於人工智慧創新科技。
第九條
政府宜以公私協力方式,與民間合作,推動人工智慧創新運用。

政府應致力推動人工智慧相關之國際合作,促進人才、技術及設施之國際交流與利用,並參與國際共同開發與研究。
立法說明
一、考量人工智慧應用與發展事務涵蓋範圍廣泛,故定明政府各機關除應就其業務權責推動、辦理外,亦應與民間合作推動人工智慧發展。

二、參考科技基本法第二十一條,定明政府各機關應積極發展人工智慧國際合作、接軌國際,並參與國際共同開發與研究。
第十條
為加強國民對人工智慧知識之關心與認識,政府應持續推動各級學校、產業、社會及公務機關(構)之人工智慧教育,以提升國民人工智慧之素養。

針對未成年人,政府應制定適齡之人工智慧使用與學習指引,並推動相關產品或服務之設計與使用認證機制,以強化使用人工智慧產品時之保護措施,確保其身心安全與資訊判讀能力不受損害。
立法說明
一、為落實二○二三年行政院科技顧問會議結論全面推動人工智慧素養教育,爰參考科技基本法第二十二條,定明政府應推動各級學校、產業、社會及公務機關(構)之人工智慧教育,以提升國民人工智慧之素養。

二、第二項則針對未成年人所面臨之特殊風險,明確要求政府應制定適齡使用指引,並可推動人工智慧相關產品或服務之設計與使用認證機制。此舉係基於未成年人在理解演算法推薦、數位互動或語言生成系統上能力相對不足,易受操控、誤導或心理影響,故需透過制度化保護予以因應。此規定與歐盟對高風險應用中涉及兒少使用情境之特別要求、以及美國《AI權利法案藍圖》中強調「保護兒童免受自動化系統傷害」之原則相符,有助於建構兒少友善之人工智慧應用環境,並強化人工智慧產品於設計階段即納入風險評估與保護責任。
第十一條
政府應避免人工智慧之應用,造成國民生命、身體、自由或財產安全、社會秩序、生態環境之損害,或出現利益衝突、偏差、歧視、廣告不實、資訊誤導或造假等問題,而違反相關法規之情事。

為強化對未成年人之保護,人工智慧產品或系統如涉及認知操控、行為操縱或心理誘導,並對其造成重大身心傷害者,應視為無法接受之高風險應用,並應明確禁止或限制其使用。

數位發展部及其他相關機關得提供或建議評估驗證之工具或方法,以利各目的事業主管機關辦理第一項規範之事項,並應針對未成年人研訂禁止或限制高風險應用之規範。
立法說明
一、本條旨在建立人工智慧應用的風險防範原則,強調政府責任在於預防人工智慧技術造成對國民基本權利、社會運作與自然環境的損害,確保人工智慧之發展符合安全、信賴與人權保障的核心價值。

二、參考美國總統二○二三年發布之AI行政命令(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)定明政府應避免人工智慧之應用造成國民生命安全或生態環境損害,或出現利益衝突、偏差、歧視、廣告不實、資訊誤導或造假等問題,違反如《兒童及少年福利與權益保障法》、《公平交易法》、《消費者保護法》及《個人資料保護法》等相關法規之情事。

三、對未成年人所造成之心理操控、資訊誤導與行為操縱,屬無法接受之高風險人工智慧之應用,應納入後續禁止或限制規範。

四、為利各目的事業主管機關辦理本條業務,數位發展部及其他相關機關應提供或建議國內外評估驗證之工具或方法。本條與第十條風險分級與監理應併同納入研商子法之參考依據,以作為建構人工智慧風險治理體系之一。
第十二條
數位發展部應參考國際標準或規範發展之人工智慧資訊安全保護、風險分級與管理,推動與國際介接之人工智慧風險分級框架。

各目的事業主管機關得依前項分級框架,訂定其主管業務之風險分級規範,並得就涉及未成年人之高風險應用,制定預防、限制或禁止措施。
立法說明
一、政府推動人工智慧之研發與應用,應以風險為基礎,確保AI安全與穩定運行。為使人工智慧風險分級規範與配套驗證確保機制與國際接軌,由數位發展部參考國際標準或規範,推動人工智慧風險分級框架,例如歐盟人工智慧法訂定四級風險,包含被禁止AI行為(prohibited AI practices)等。

二、各目的事業主管機關因所涉領域不同,得循前項風險分級框架訂定風險分級,並針對未成年人高風險應用,制定預防、限制或禁止措施,以確保其身心權益不受侵害。
第十三條
政府應識別、評估及降低人工智慧之使用風險,透過標準、規範或指引,於促進人工智慧研發與應用之同時,根據風險分級,評估潛在弱點及濫用情形,提升人工智慧決策之可驗證性及人為可控性。
立法說明
為利各機關落實分級評估及管理,透過標準、規範或指引等方式,協助各界採取因應風險之措施,爰參考美國二○二三年發展與使用安全且可信任的AI行政命令(Executive Order on Safe,Secure,and Trustworthy Artificial Intelligence)定之,以提升人工智慧決策之可驗證性及人為可控性。
第十四條
政府應依人工智慧風險分級,透過標準、驗證、檢測、標記、揭露、溯源或問責等機制,提升人工智慧應用可信任度,建立人工智慧應用條件、責任、救濟、補償或保險等相關規範,明確責任歸屬與歸責條件。

人工智慧技術開發與研究,於應用前之任何活動,除應遵守第三條之基本原則外,不適用前項應用責任相關規範,以利技術創新發展。
立法說明
一、人工智慧應用時,應有明確方式降低可能風險,透過如美國NIST AI風險管理框架所訂定之安全標準與驗證機制、AI產出之標記或資訊揭露機制、透明可解釋之溯源或問責機制等。要求各機關應建立應用負責機制,包含外國AI產品落地規範,以降低人民法遵成本。

二、為避免影響學術研究自由及產業前端研發,歐盟人工智慧法第二條第八項規定,AI投入市場前的任何研究、測試或開發活動僅需根據適用之歐盟法律進行,不適用人工智慧法。爰訂定第二項,人工智慧技術開發與研究,於應用前之任何活動,除應遵守第三條之基本原則外,不適用應用責任相關規範,以利技術創新發展。
第十五條
政府為因應人工智慧發展,應避免技能落差,並確保勞動者之安全衛生、勞資關係、職場友善環境及相關勞動權益。政府應就人工智慧利用所致之失業者,依其工作能力予以輔導就業。
立法說明
一、因應人工智慧發展,為避免勞動者於需使用及應用人工智慧技術從事及執行該職務工作時,欠缺人工智慧相關技能,並須確保勞動者的權益,包含職業安全衛生、勞資關係及職場友善環境等。爰參考美國二○二三年發展與使用安全且可信任的AI行政命令(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)定之。

二、為避免AI造成之失業情事,爰定明政府應提供輔導就業措施。
第十六條
政府推動人工智慧之研發與應用,應嚴格遵守個人資料保護法等相關法規,保障國民之個人資料隱私與資訊自主權,並應促進人工智慧研發及應用過程中之資料安全與倫理治理。

涉及未成年人之個人資料處理,應特別遵守資料最小化原則,並採行風險控管措施,以確保其隱私保護。

個人資料保護主管機關應參考國內外相關指引,協助各目的事業主管機關,推動個人資料保護相關規範。
立法說明
一、為避免資料外洩風險以及蒐集過多不必要之敏感資訊,爰參考美國二○二二年《人工智慧權利法案藍圖》(Blueprint for an AI Bill of Rights)及二○二三年《安全、可信與可靠人工智慧行政命令》(Executive Order on Safe,Secure, and Trustworthy Artificial Intelligence),導入「預設及設計即保障資料保護」(data protection by design and by default)原則。

二、人工智慧應用對個人資料保護所帶來之高度風險,特別針對未成年人之蒐集與處理,強化隱私保護機制。

三、我國個人資料保護法主管機關協助各目的事業主管機關,配合其業管法規,建立資料最小化、透明告知、技術保護與課責機制等具體措施。
第十七條
政府應建立資料開放、共享與再利用機制,提升人工智慧使用資料之可利用性,並定期檢視與調整相關法令及規範。

政府應致力提升我國人工智慧使用資料之品質與數量,確保訓練結果維繫國家多元文化價值與維護智慧財產權。
立法說明
一、資料為人工智慧發展之重要元素,政府有必要確保人工智慧之創新與產業發展得以取得高品質和可追溯的資料。參考歐盟人工智慧法有關支援高品質資料近用之規定,以及美國AI行政命令要求聯邦資料長委員會研擬資料開放相關指引等規定。爰於第一項定明政府需就相關規範定期檢視並為必要調整,俾利人工智慧發展所需。

二、為確保AI訓練結果維繫國家文化價值,避免影響弱勢、多元族群權益及人民之智慧財產權,於第二項定明各機關應致力推動之事項,以完善我國資料治理機制。
第十八條
政府使用人工智慧執行業務或提供服務,應進行風險評估,規劃風險因應措施,以符第三條基本原則。機關(構)應依使用人工智慧之業務性質,訂定使用規範或內控管理機制。
立法說明
考量政府各機關使用人工智慧協助執行業務或提供服務,有助於行政效率之提升,且應參酌第十條風險分級規範進行風險評估與規劃因應措施。爰參考英國二○二四年「生成式人工智慧治理框架」,要求政府機關(構)執行公務應進行風險評估及風險因應措施,以符合第三條之基本原則,促使各機關依一致之認知及原則訂定使用規範或內控管理機制。
第十九條
政府應於本法施行後依本法規定檢討及調整所主管之職掌、業務及法規,以落實本法之目的。

前項法規制(訂)定或修正前,既有法規未有規定者,由中央目的事業主管機關協同中央科技主管機關,依本法規定解釋、適用之。
立法說明
一、為落實本法,確保人工智慧技術之有效推動發展,參酌教育基本法第十六條、通訊傳播基本法第十六條、原住民族基本法第三十四條、海洋基本法第十六條,於第一項定明檢討法規,以利行政院統籌各部會檢討現行法規與相關機制措施。

二、依第一項規定應訂修或廢止之相關法規,於未完成法定程序前,為使相關事務能符合本法規定,爰於第二項定明由中央目的事業主管機關協同中央科技主管機關,依本法規定解釋、適用之。
第二十條
本法施行日期,由行政院定之。
立法說明
本法施行日。