Character.ai保護未成年人 推Stories取代開放式聊天

Character.ai推出Stories。Character.ai

AI平台Character.ai推出名為Stories的新功能,作為專為青少年設計的互動內容,同時亦在同一天取消未成年用戶使用其開放式聊天機械人的權限。

據Engadget報道,Stories以視覺敘事為主,形式類似「自己選冒險」的互動小說。玩家可挑選二至三個角色、設定類型,並自行撰寫故事前提或讓系統自動生成。故事在每個分支路徑會出現選項,讓玩家決定情節走向,可反覆遊玩以獲得不同結局。雖然此功能比一般視覺小說更具自訂性,但仍不具備與聊天機械人那類開放、來回對話的自由度,整體敘事仍由AI主導;公司表示,玩家在遊玩過程中會頻密被要求作出選擇。

在各國政府加強監管AI平台、要求提供更完善的兒少防護之際,Character.ai早於10月已宣布禁止18歲以下用戶使用開放式聊天服務,並引入年齡驗證工具,確保不同年齡層只能接觸到適當內容。

此外,該公司近期亦捲入一宗佛羅里達州的過失致死訴訟。死者家屬指控,一名青少女曾向網站內的聊天機械人透露自殺念頭,但機械人未有提供求助資源或向當局通報,最終釀成悲劇。本報訊

科技-三藩市版