多家科企聯手 打造AI時代網上安全工具

多家網絡平台成立新組織,關注網絡安全尤其是兒童用戶安全。ROOST

Discord推出新功能「忽略」。Discord

多家網絡平台Roblox、Discord、OpenAI和谷歌聯手,成立一個名為ROOST(Robust Open Online Safety Tools,強健開放網上安全工具)的非營利組織,旨在「建構適合人工智能(AI)時代的可擴展和可互通的安全基礎設施」。

該組織計劃向公共和私人組織提供免費的開源安全工具在其平台上使用,特別關注兒童安全,將推出「偵測、審查和舉報兒童性虐待材料之工具」的計劃,不僅提供資金開發這些工具,還提供建構這些工具的專業技術。

各參與科企指出,生成式AI正在迅速改變網上局勢,使得對「可靠且可及的安全基礎設施」的需求變得更加殷切。ROOST將免費提供AI網上安全工具,讓小公司或小組織毋須從零開始打造工具。

自從《兒童與青少年網上隱私保護法》(COPPA)和《兒童網路安全法》(KOSA)在國會推進以來,兒童網路安全已成外界關注的焦點,但兩項法案都未在眾院通過。至少一些參與ROOST的公司,特別是谷歌和OpenAI,已經承諾禁止使用AI工具來生成兒童性虐待材料。

Discord推新功能「忽略」

同日Discord推出一項名為「忽略」(Ignore)的新功能,讓用戶隱藏來自特定對象的所有新訊息、私訊、伺服器通知、個人檔案和活動,不會通知對方。Discord稱這種較溫和的互動限制方式是社群長期以來的需求。

被忽略的對象所發送的私訊仍會在收件匣中顯示,但發送者名稱會顯示為灰色並附帶一個圖示,用戶選擇是否查看。此外,當使用此功能的用戶加入被「忽略」的對象存在的語音或視訊聊天時,Discord會提前顯示警告提醒。本報綜合報道

科技-三藩市版