聊天機器人軟件 要想克隆並不難

/

史丹福大學研究人員模擬GPT開發的Alpaca AI。史大基礎模型研究中心CRFM

據史大網站報道,史丹福大學只花了600元成本就創建了克隆版GPT(生成性預訓練變換模型),還給它取了個搞笑的名字「羊駝」(Alpaca)。這個典型的例子說明,類似OpenAI公司研發的人工智能(AI)軟件可能很容易複製。

史大基礎模型研究中心(CRFM)宣布,其研究人員使用OpenAI的GPT API「微調」了Meta的LLaMA 7B大型語言模型(LLM)。他們用低廉成本創建出的Alpaca AI,表現出「許多類似於OpenAI的text-davinci-003(即GPT-3.5)的行為」。

該公司在互聯網上開創的ChatGPT聊天機器人即是基於該大型語言模型。

史大開出的預算明細簡單到令人震驚,CRFM的科學家們稱在OpenAI的API上花費了「不到500元」,在LLaMA上花費了「不到100元」。這是基於研究人員使用專有模型訓練Alpaca的時間。

史大的研究人員說,將Alpaca與其他模型進行評估時,他們「相當驚訝」地發現,他們的模型和OpenAI的模型「性能非常相似」,Alpaca還略勝一籌,產生的輸出「通常比ChatGPT短」。

同樣,正如史大研究人員指出的,Alpaca確實存在「語言模型的幾個常見缺陷,包括虛假信息、有害語言和刻板印象」,其中虛假信息特別值得注意,尤其是與OpenAI的text-davinci-003相比。

機器學習愛好者們指出,Alpaca的發布日期「可能是AI有史以來最多事的一周」的開始。繼史大的Alpaca之後,OpenAI首先發布了GPT-4,然後是新版的Midjourney圖像生成器的發布以及另外幾個大新聞。

雖然大公司和OpenAI這樣的新興公司正在進行投資行動,但不得不承認,看到像Alpaca這樣廉價和簡單的東西出現很是有趣,盡管它用了史大研究人員的腦力。本報訊

科技-三藩市版