辨識AI生成文字 OpenAI權衡未公開

OpenAI開發出辨識AI生成文字的工具。美聯社

《華爾街日報》披露人工智能公司OpenAI已經開發出一項可以高精度辨識ChatGPT撰寫的文章的工具,OpenAI隨即公開一些有關該文字浮水印研究的資訊,以及為何至今尚未公布其檢測方法的原因。

雖然該工具已經「準備就緒」,但OpenAI一直在討論是否應該發布,而沒有對外公布。科技網站TechCrunch發現,OpenAI在8月4日更新的一則5月份公司博客文章中表示,「我們的團隊已經研發出一種文字浮水印方法,我們在研究替代方案時將繼續考慮該方法。」

該公司表示,浮水印是包括分類器和元數據的多種解決方案之一,視為「文字出處廣泛研究」的一部分。

據OpenAI稱,該方法在某些情況下非常準確,但面對某些形式的修改時表現不佳,例如使用翻譯系統、使用另一個生成模型重新措辭,或者要求模型在單字之間插入特殊字符,然後刪除該字符。OpenAI並稱,文字浮水印可能對某些群體產生不成比例的影響,例如可能導致母語為非英語的人士使用AI來協助寫作被污名。

根據博客文章,OpenAI一直在權衡這些風險,已優先發布針對視聽內容的身份驗證工具。OpenAI發言人向TechCrunch發出聲明稱,對有關文字出處的研究正進行慎重的思考,因為所涉及的複雜性,以及可能對OpenAI之外更廣泛的生態系統產生影響。本報訊

科技-三藩市版