微軟AI硬件短缺

微軟面臨內部AI服務器硬件短缺的窘境,擬對硬件資源採取配額供應的方式。資料圖片

知情人士透露,雖然微軟即將宣布一整套使用GPT-4人工智能(AI)軟件的Office 365工具,但該公司現在卻面臨內部AI服務器硬件短缺的窘境。這迫使微軟不得不對硬件資源採取配額供應的方式,限制其他內部AI工具開發團隊的使用量。

新浪科技報道,微軟需要確保基於GPT-4的新版必應聊天機械人和即將發布的新款Office工具獲得足夠的資源,這種硬件短缺的現狀還對微軟的客戶產生了影響:至少有一個客戶表示,需要等待很長時間,才能使用已經通過微軟Azure雲服務提供的OpenAI軟件。

微軟表示正在加緊添置更多硬件,以便增加AI計算能力,但如果速度不夠快,就有可能限制其Azure OpenAI服務對新客戶的吸引力。這些客戶會借助此項服務將AI功能添加到自己的應用中。微軟原本在這種新的AI工具的商業化方面已經領先谷歌,但如果遲遲不能解決硬件短缺問題,這種優勢也將難以發揮出來。

谷歌搶在微軟前於本周發布了AI輔助寫作工具,包括能夠根據簡短的提示,在谷歌Docs和Sheets中自動編寫文本的軟件。服務器短缺正值OpenAI和微軟試圖快速擴大銷售範圍之際,客戶可以使用自己的數據對這種AI軟件微調,從而開發圖片生成、文檔總結、搜索引擎和聊天機械人等定製化AI工具。

微軟已經向OpenAI投資了數十億美元,有權通過Azure OpenAI服務向創業公司銷售軟件。OpenAI也將軟件直接授權給客戶使用——而作為與微軟合作的一部分,所有OpenAI機器學習模型都必須運行在Azure服務器上。這兩項服務的定價相同,每次請求收費都不到一美仙。

這兩家公司在過去3個月推出的服務吸引了企業用戶的廣泛興趣,他們都希望將OpenAI的ChatGPT聊天機械人的底層技術整合到自家產品中。但是微軟Azure OpenAI服務的新客戶卻要面臨很長的等待時間。

硬件資源短缺的核心問題在於,GPT-4等新的AI大模型需要在GPU上運行,這種服務器芯片可以一次性處理大量數據。為處理這個模型的龐大計算需求,微軟已將數萬個GPU整合成一個個群集,分散到各個數據中心\xf9堙C在明確用戶需求量前,微軟目前不得不將現有的大量GPU資源預留給新的必應GPT-4聊天機械人和即將推出的GPT-4 Office工具。知情人士表示,微軟2月剛剛推出這項必應智能聊天功能,目前還在加緊測算平均每天有多少人願意使用這項服務。

財經