州長紐森最新簽署了三項新法案,以打擊在2024年大選前利用AI在政治廣告中製造虛假圖像和視頻的行為。
由州眾議員佩勒林((Gail Pellerin)提出的緊急法案AB 2839立即生效,擴大了禁止明知故發含有AI生成或篡改的欺騙性內容的廣告和選舉材料的時間範圍。法案規定在選舉日前120天和選舉日後60天內製作和發布與選舉有關的深度造假新聞屬於違法行為。法院即可禁止分發這些材料並處以民事罰款。
紐森在聲明中說:「保障選舉的公正性對民主至關重要,我們必須確保AI不會被用來製作虛假信息破壞公眾信任,尤其是在當今充滿危機的政治氣候下。」
州眾議員Marc Berman提出的AB 2655法案將於明年實施。這個全國首個法案,要求大型社交媒體平台也必須在特定時期內刪除或標註與選舉有關的欺騙性和經數字篡改和生成的內容,並要求平台提供報告此類內容的機制。
紐森還簽署了一項由州眾議員Wendy Carrillo提出的AB2355法案,要求政治競選活動公開披露在廣告中使用了經AI修改的材料。
州長出席Salesforce年會活動與該公司執行長貝尼奧夫(Marc Benioff)座談,期間進行法案簽字儀式。
加州在AI監管和打擊選舉造假方面走在全美前列,在2019年率先禁止操縱選舉相關視頻和圖片。業內專家表示,加州提出的技術和AI方面的法案已被全國各地的立法者作為藍本。
隨著AI加劇了選舉虛假信息的威脅,各地的立法者都在爭先恐後地解決這一問題。「距離大選只有不到50天的時間了,我們迫切需要防止可能干擾選舉的誤導性的、數字篡改的內容」,禁止選舉造假法律的起草人州眾議員佩勒林在聲明中說,「加州採取了立場,反對操縱性地使用深度偽造技術欺騙選民」。
紐森曾吹捧加州是AI的早期采用者和監管者,稱該州很快就能部署生成式AI工具來解決高速公路擁堵問題並提供稅收指導,同時在考慮制定新法規,以防在招聘過程中使用AI引起的歧視。美聯社電