子女使用聊天機器人 平台向父母報告情況

父母將有機會了解子女使用聊天機器人的情況。Character.AI

聊天機器人服務Character.AI推出「父母見解」(Parental Insights),讓青少年子女將聊天機器人使用量的每周報告發送到父母的電郵。

據Character.AI指出,這份報告包括用戶每日在網站和行動裝置上使用聊天機器人的平均所花時間、最常互動的角色以及與每位角色交談的時間,旨在解決未成年人花太多時間與聊天機器人聊天和透過這些對話取得不適當內容的擔憂。

這份報告屬於可選性,家長母須開通帳號,只要未成年用戶透過Character.AI設定頁面就可設置。該公司提到,這是青少年活動紀錄的概述,而非完整紀錄,因此青少年與聊天機器人對話內容不會被分享出去。該平台在大部份國家禁止13歲或以下兒童使用,在歐洲則是16歲或以下禁用。

Character.AI從去年起為未成年用戶推出新功能,令外界對其服務產生憂慮,甚至提訟。這個深受青少年歡迎的平台容許用戶建立和自訂聊天機器人,展開互動或公開分享,但多項訴訟指控這些聊天機器提供兒童不宜的色情內容和鼓勵自殘的素材。該平台據報也因其程式的內容收到蘋果和谷歌程式商店的警告。

該公司回應稱已重新設計內容,包括將18歲或以下用戶移到一個接受過訓練避免「敏感內容輸出」的模型,以及新增更顯眼的通知來提醒用戶聊天機器人並非真人。本報訊

科技-三藩市版