研究人員發現，垃圾郵件發送者使用人工智能公司OpenAI生成針對每個收件者量身打造的訊息，從而成功繞過垃圾郵件偵測系統，在四個月期間向超過8萬個網站發送不請自來的垃圾郵件。
科技網站Arstechnica報道，資訊安全公司SentinelOne旗下的SentinelLabs發布紀錄該發現的帖文，凸顯大型語言模型有如一把雙面刃。它能處理龐大資料並大規模產生內容的能力，使其在利益眾人的任務方面非常有用，但也同樣容易被用於惡意活動。
OpenAI在收到SentinelLabs的披露後，已撤銷垃圾郵件發送者的帳號，但這些活動在長達四個月中卻未被察覺，顯示出相關執法往往是被動應對，而非主動預防。
這波垃圾郵件攻擊由AkiraBot發動，這是一個自動發送大量訊息的框架，向中小型網站推廣可疑的搜尋優化服務。AkiraBot使用基於電腦語言python的腳本，來輪換訊息中宣傳的網域名稱。
它還使用與gpt-4o-mini模型綁定的OpenAI聊天介面（API），對每個被攻擊的網站生成專屬訊息。通常會有過濾器查找和封鎖發送到大量網站的相同內容，但這種技術可能有助於它成功繞過。訊息透過嵌入目標網站的聯絡表單和即時聊天小工具傳送。
SentinelLabs研究員德拉莫特（Alex Delamotte）和沃特（Jim Walter）在貼文中表示：「AkiraBot利用大型語言模型生成垃圾訊息內容，展現出人工智能（AI）對網站防禦垃圾訊息攻擊所帶來的新興挑戰。」本報訊
