英偉達在AI芯片市場的壟斷地位正面臨前所未有的挑戰，因超微、亞馬遜等科技巨頭及Samba Nova Systems、Groq等新創公司紛紛瞄準大模型推理能力，推出各類客製芯片，在可靠性和成本端不斷進步。
根據市調機構Omdia預估，2024年數據中心在非英偉達芯片陣營上的支出將成長49%，達到1260億美元，芯片領域的競爭正在進入一個更加多元化的競爭新階段。
這些新玩家不僅帶來更具性價比的選擇，更贏得了重要客戶的認可，如Meta已開始使用超微MI300芯片支持其新AI模型Llama 3.1 405B的推理計算，亞馬遜的Trainium 2芯片也得到包括蘋果在內的潛在使用者好評。
「推理」階段正成為競爭對手突破英偉達壟斷AI芯片領域的關鍵。高通執行長Cristiano Amon說，「真正的商業價值來自於推理，而推理正在開始規模化」，並稱高通打算使用亞馬遜的新芯片執行AI任務。
在成本方面，英偉達現有芯片售價高達1.5萬美元，新款Blackwell芯片預計將達到數萬美元。相比之下，英偉達的競爭對手提供了更具性價比的選擇。
亞馬遜在AI芯片領域表現出強烈的進取心，今年投入750億美元用於AI芯片等硬體，新款Trainium 2芯片性能是前代產品的4倍，並已宣布更強大的Trainium 3芯片計劃。
AI新創公司Poolside技術長Eiso Kant估計，相較於英偉達，Trainium 2在每美元計算性能上提升40%。更重要的是，亞馬遜計劃在全球數據中心提供基於Trainium的服務，這對推理任務尤為重要。值得注意的是，亞馬遜還與AI新創公司Anthropic達成合作，將建造一個包含數十萬枚新Trainium芯片的巨型AI工廠，計算能力將是Anthropic此前使用過的任何系統的5倍。
