美聯社沙加緬度電
越來越多企業將人工智能(AI)技術融入到美國人的生活，加州議員提出多份法案，希望建立公眾信任、打擊算法歧視和涉及選舉或色情的違法深度偽造(deepfake)技術。意見認為，美國的AI立法早已落後於歐盟，加州的立法勢為全國AI法規制定鋪路。
不論州議會或州長紐森，一直重視AI發展和規範。非牟利組織「未來隱私論壇」(Future of Privacy Forum)副主任賴斯(Tatiana Rice)認為，鑑於早有強而有力的隱私法規，加州在AI立法上比其他州更有影響力。
州議會兩院議員已提出多份法案。現在越來越多公司和醫院利用AI為招募員工、住屋和醫療選項做出決定，其中一份法案旨在建立AI監督框架，避免AI產生任何偏見和歧視。法案又要求使用AI決策的公司通知受AI影響的人，AI開發人員必須定期為其AI模型進行內部評估找出偏見，州檢察長將有權力調查模型歧視的檢舉，將依每項違規罰款1萬元。AI公司也必須披露他們訓練AI模型的資料。
第二份法案的靈感來自去年荷李活演藝人員的示威，旨在保護工人免被AI複製人取代，獲加州勞工聯盟(CLF)支持。法案又擬規定用AI複製死人聲線前需獲其家屬的同意，否則將受懲處。
隨著生成式AI可用文字、語音和圖像產生新內容，真實世界面臨風險。有州議員提案，擬為可以製造災難性指令的「超大」AI系統制定防護措施，例如建立化學武器或協助網路攻擊。法案又要求這些AI模型需設有內建「緊急停止開關」(kill switch)。
這項獲大部份著名AI研究員支持的法案，又擬設立新州府部門監督開發人員和提供最佳作業，州檢察長也有權向違規者展開法律訴訟。
根據現有法規，若AI生成的兒童性侵內容不涉及真人，地檢官就無法起訴這些人。兩黨議員現提出案，擬加快起訴這種濫用AI工具的人。另一批民主黨議員也支持法案禁令利用深度偽造介入選舉，包括選舉日前120天和後60天用於選舉傳單、錄音電話和電視廣告。另一份法案又規定社交媒體需標示任何由AI製作的選舉資料。
這些法案尚待兩院通過，並交給紐森簽署。
