紐約州總檢察長詹樂霞（Letitia James）要求10家大型科技公司採取行動，防止選民在大選期間受到假消息影響。
ABC報道，詹樂霞去信Meta、谷歌和OpenAI在內的10家科技公司，直言選舉假消息是積弊，如今生成式人工智能（AI）的發展，更使得不法分子製作虛假內容的難度大減，逼真程度反增，以致2024年總統大選的假消息已然在網上廣泛流傳。
詹樂霞期望與各公司代表會面並探討應對措施，同時要求公司就建議舉措提供書面答覆，保障選民不受假消息影響。但信內未直接提及不合作的後果。
今年至今，網上已有多宗選舉相關的假消息。有被修改的副總統賀錦麗競選影片，原聲被換成AI複製聲線，說出她從未說過的話。影片的創作者在社交平台X表明是「惡搞」，但在馬斯克（Elon Musk）轉發後引發大量關注。另外，1月亦曾有模擬總統拜登聲線的電話錄音，勸說接聽者不要參加新罕布什爾州初選，把選票保留到11月的大選。
歐洲非牟利組織AI Forensics發表的報告顯示，微軟聊天機械人Copilot在回答簡單選舉問題時，30%答案存在事實錯誤。消息指，面對歐盟執行委員會的要求，微軟和谷歌已經就聊天機械人進行修改，以拒絕回答選舉相關問題。
去年2月大多數主要科技公司都曾簽署自願協議，防止AI工具用來干擾全球的民主選舉，惟未承諾禁止或刪除深偽技術（deepfakes），僅提出了檢測和標記AI內容的辦法。本報訊
