《華爾街日報》報道,Meta人工智能(AI)聊天機器人被發現與被標記為未成年人的帳戶進行涉及性的角色扮演對話,有時還涉及由名人配音的聊天機器人。
《華爾街日報》進行的測試對話中,Meta AI官方聊天機器人和用戶自創的聊天機器人都會參與,甚至主動引導對話走向性暗示內容。報道稱,即使用戶未成年,或聊天機器人被設定為未成年人,這些虛構的性對話仍會持續。
調查發現,使用Kristen Bell、Judi Dench等名人聲音的聊天機器人,也會進行這些不當對話。
據報,聊天機器人在部分對話中甚至承認,所描述的幻想情節涉及非法行為。
但Meta回應《華爾街日報》,指責報道「具有操縱性,不能代表大多數用戶與AI夥伴的互動方式。」
報道稱,Meta執行長朱克伯格(Mark Zuckerberg)希望放鬆道德規範,讓聊天機器人提供更具吸引力的體驗,從而保持競爭力。
但Meta發言人反駁報道,否認公司忽視增設防護措施。但報道還稱,Meta員工意識到這些問題,曾於內部表達擔憂。本報訊