新創公司出身柏大 為AI模型增記憶

柏克萊博士生伍德斯(右)和帕克聯合創辦AI初創公司Letta。Letta

共創人帕克展示Letta研發保存記憶的AI模型。Letta

一家名為Letta的新創公司最近悄然崛起,其技術可幫助人工智能(AI)模型記住用戶和對話。它是在柏克萊加州大學(UC Berkeley)著名的實驗室新創工廠創建,已得到AI領域的許多天使投資人的支持。

據科技網站TechCrunch報道,這家AI新創公司由柏克萊博士生伍德斯(Sarah Wooders)和帕克(Charles Packer)聯手創辦,由於是柏克萊天空計算實驗室(Sky Computing Lab)的研究結晶,也是受歡迎的MemGPT開源項目的商業實體,備受科技界矚目。

柏克萊天空計算實驗室由創辦Databricks的著名教授斯托伊卡(Ion Stoica)領導,是RISELab和AMPLab 的後代,這兩家實驗室催生了Anyscale、Databricks和SiFive等公司。而天空計算實驗室則研發出Gorilla LLM、vLLM、LLM結構化語言SGLang等眾多流行的開源大型語言模型(LLM)。

MemGPT的令人興奮原因是,解決了大型語言模型的一個棘手問題:如 ChatGPT以原始形式存在的模型是無狀態的,這意味著不會在長期記憶體中儲存歷史數據。對於依賴隨著時間的推移了解用戶並向用戶學習的AI應用程式來說,無論是客服機器人或醫療症狀追蹤程式,這都是一個問題。而MemGPT會管理數據和記憶,使AI助理和聊天機器人能夠記住之前用戶及對話內容。

MemGPT已經投入使用,但Letta的商業版本Letta Cloud尚未開放給商業使用,從本周開始Letta接受測試版用戶申請,將提供託管代理服務,允許開發人員在雲端中部署和運行有狀態的助理,透過維護狀態的程式介面REST API進行存取。Letta Cloud 將儲存進行這些操作所需的長期數據,並提供幫助構建AI助理的開發工具。本報訊

科技-三藩市版