AI safety

美國紐約州於2025年6月13日通過了一項具有里程碑意義的法案，針對AI（人工智慧）系統，特別是來自OpenAI、Google、Anthropic等頂尖AI實驗室所開發的「前沿AI模型」進行嚴格規範。這項名為RAISE Act的法案，旨在避免AI技術引發的災難性事件，包括可能導致100人以上傷亡、或超過10億美元損失的大型意外。這是美國首個針對AI安全與透明度設立法定標準的州級法案，標誌著紐約在AI治理領域的領先地位。 根據法案內容，RAISE Act將強制要求大型AI開發商制定安全計畫，並在模型上線前，進行全面風險評估與危害預防措施。法案明確定義，若AI系統被判定可能引發廣泛危害或災難性後果，開發商必須立即向監管機構報告，並採取補救措施。這項規定大幅提升了AI產業的問責性，並為全球AI治理樹立新標竿。 值得注意的是，RAISE Act並非只針對技術層面，亦強調透明度與社會責任。法案要求AI開發商定期公開系統的運作情況、潛在風險及安全測試結果，以確保公眾利益與知情權。此外，法案特別關注AI在關鍵領域的應用，如醫療、金融、媒體等，避免因系統偏見或失誤，導致民眾權益受損。紐約州政府強調，這套制度將有效降低AI技術帶來的社會風險，同時激勵企業在安全框架下持續創新。 法案通過後，獲得學界與業界廣泛支持。包括諾貝爾獎得主Geoffrey Hinton、AI先驅Yoshua Bengio等知名專家，均對紐約州的立法行動表示讚賞。Hinton表示：「這是一項歷史性突破，顯示政府正視AI技術帶來的潛在風險，並積極回應社會期待。」Bengio則指出，RAISE Act將成為全球AI監管的參考範本，鼓勵其他地區跟進，共同維護公眾安全。 事實上，AI技術近年來快速發展，應用範圍涵蓋自動駕駛、醫療診斷、新聞媒體、金融決策等眾多領域。然而，缺乏監管的AI系統，亦可能因技術漏洞、訓練數據偏差或人為操作失誤，導致嚴重後果。例如，2020年代初期曾發生AI醫療系統誤判病患數據，導致治療方案嚴重偏差；另有金融機構利用AI自動批核貸款，卻因算法偏見，導致部分弱勢族群遭到歧視。 RAISE Act的通過，不僅強化對AI系統的規範，更明確了企業的責任義務。法案規定，若因AI系統導致公眾權益受損，企業需承擔法律責任，並支付相應賠償。這項規定直接提升了AI產業的合規意識，促進企業投入更多資源進行系統測試與風險控管。 對香港與台灣的用戶而言，RAISE Act的立法經驗，可作為本地AI治理的重要參考。兩地在AI應用上同樣蓬勃發展，特別是在金融科技、智慧醫療、社交媒體等領域，AI系統已深度融入日常生活。然而，現行法規多未針對AI技術進行特別規範，導致潛在風險難以管控。紐約的立法經驗，提醒兩地政府與企業，強化AI治理的迫切性。 展望未來，RAISE Act的實施將推動AI產業向更安全、更透明的方向發展。企業將更重視系統的安全性與公平性，民眾權益亦將獲得更多保障。對AI愛好者、開發者與一般用戶而言，這項法案無疑是一劑強心針，為AI時代的來臨奠定穩定的法治基礎。 #RAISEAct #AIGovernance #紐約AI法案 #AI風險管控 #人工智慧安全