具備人工智能(AI)功能的瀏覽器所引發的網路安全反彈情況正在升溫,國際顧問公司「高德納」(Gartner,又譯「顧能」)和英國網路安全部門先後發出警告,將其標記為潛在威脅。
科技新聞網站PCMag報道,高德納日前發表報告警告,「網路安全部門現在務必封鎖AI瀏覽器」,「雖然AI目前尚在起步階段和具創新性,但對大多數組織來說,普遍採用的風險太高」。
當前越來越多科技公司開始推出AI瀏覽器,承諾簡化網路瀏覽體驗。這些程式讓用戶將網路搜尋或撰寫電郵等工作外包並自動化,交給AI代理人處理。唯一問題是這些相同的AI能力也可能誘騙執行隱藏在網站或電郵中的惡意指令,令瀏覽器反過來對付用戶。
網路安全界將這種威脅稱為「提示注入攻擊」(prompt injection attacks),利用AI聊天機器人有時無法區分用戶請求和惡意請求來進行攻擊。高德納表示,AI公司Perplexity的Comet和OpenAI的Atlas瀏覽器,企業應該謹慎使用,因為其能夠自動執行各種功能。
高德納還建議所有首席資訊安全長(CISO),「在可預見的未來阻止所有AI瀏覽器,將風險降至最低」。該公司補充,預設設定「針對最終用戶體驗進行最佳化,而非針對網路安全最佳作業或隱私」。
與此同時,英國國家網路安全中心8日發出警告,「提示注入很可能永遠無法徹底解決,正如從不當電郵程式碼編寫所造成的SQL注入漏洞一樣」,為保安全「希望降低攻擊發生的可能性或影響」。本報訊