虛擬員工或明年面世 業界需確保資訊安全

Anthropic預測AI虛擬員工明年可能出現。Anthropic

人工智能(AI)新創公司Anthropic資安長克林頓(Jason Clinton)接受媒體Axios訪問時透露,該公司預期AI虛擬員工將於明年開始穿梭企業網絡之中,可望成為AI下一個創新熱點。

他稱,管理這些AI身份需要企業重新評估其數碼保安策略,或者網絡暴露於重大資安漏洞的風險。這些AI代理人一般著重具體且可編程式的任務,在保安方面,這意味讓這些自動式代理人自動回應網絡釣魚警報和其他具威脅性的指標。

虛擬員工將使自動化更進一步,這些AI身份會有「回憶」、在公司的角色以及公司帳號和密碼,它們享有的自主程度遠超過今天的代理人所擁有的。克林頓說︰「在那個世界裡,有太多我們還沒可以解決從保安角度認為需要解決的問題。」

克林頓列舉多個問題,包括如何確保AI員工的用戶帳號安全、應該給它們進入哪些網絡以及誰應該負責管理這些AI員工的行動。

克林頓表示,Anthropic相信它有兩個責任來幫助處理AI相關保安挑戰,第一是徹底測試旗下聊天機器人Claude的 AI模型以確保它們能夠抵禦網路攻擊,第二是監察安全問題和減少不法分子濫用Claude的方式。

克林頓表示,虛擬員工安全問題相信會是AI公司未來幾年投資的最大安全領域之一,尤其是AI員工帳號在系統上所做事項的解決方案,以及為虛擬員工建立一個更好的新帳號分類系統的工具。本報訊

科技-三藩市版