新法規範AI深偽 填補現有法案漏洞

州長紐森簽署兩份法案,保護未成年人免受人工智能(AI)被濫用的影響,防止不法分子利用AI生成性圖像傷害兒童。

這兩份獲得兩黨一面倒支持的法案,填補針對AI生成的性虐兒童相關的法律漏洞,明確即使相關圖像是AI生成,仍屬違法行為。

根據目前法規,若地檢官無法證明相中人是真人,就不得起訴藏有或生成這些AI兒童色情照的人。在新法下,這類行為足以依重罪起訴。

AI技術近年迅速發展,逐漸影響民眾生活,但全國可用法規不多。加州因此加強規範AI產業。紐森9月初簽署法案,遏制選舉相關的深偽技術,不過已遭司法挑戰。

提出最新法案之一的州眾議員伯曼(Marc Berman)強調,任何形式的性虐兒童內容都屬違法,利用AI生成的相關圖像會對兒童造成再次傷害。

紐森早前還簽署了另外兩份法案,加強現有法規禁止未經當事人同意由AI生成的報復式色情影片,保護女性、少女和其他受虐人士,社交平台也須容許受害人檢舉刪除內容。

洛杉磯縣地檢官賈斯康(George Gascon)認為,部份法規仍然不足,分享AI生成報復式色情片的懲處應包含18歲或以下人士。州議會9月審議該法案時,僅以些微票數通過只適用於成人。

三藩市日前創全國之先,提告10多個利用AI生成色情圖像的網站。這些網站被指聲稱僅以數秒內「把相中人脫衣」的照片上傳至網站。

深偽技術產生的問題不是新鮮事,專家認為隨著該技術越來越容易得到和使用,情況只會越來越糟。研究員過去兩年早已警告,利用AI以真實受害人或虛擬角色生成性虐兒童的內容愈益增加。今年3月,比華利山(Beverly Hills)五名高中生因製作和分享同學虛假裸照而遭校區開除。美聯社沙加緬度電

加州