記憶體生產商Sandisk(閃迪)(SNDK.US) 今年以來股價累升約5.7倍，自去年5月以來的一年內累升逾35倍。Sandisk首席技術官(CTO)兼執行副總裁Alper Ilkbahar接及《日經亞洲》訪問時稱，全球AI競賽正變得越來越「以記憶體為中心」而非算力，這趨勢或加劇全球史無前例的記憶體晶片供應緊張局面。
他表示，單靠圖形處理器(GPU)、中央處理器(CPU)及原始運算能力，不足以應付日益複雜的AI工作負載。
相關內容《大行》大摩：華為「韜定律」支撐AI光收發器產業指數級增長
Ilkbahar表示，有幾個趨勢正在令記憶體變得更為關鍵。首先，隨著大型語言模型變得更大、更智能，它們需要更多記憶體才能有效運作。其次，OpenAI的ChatGPT、Google的Gemini及Anthropic的Claude等系統越來越依賴所謂的KV(key-value)快取。
簡單而言，KV快取就像AI的短期記憶，讓它能夠記住之前的用戶輸入及對話早期部分，而不必從頭開始重複計算每項內容。這種方法顯著提升了速度與效率，但隨著AI對話及上下文窗口變長，KV快取需要越來越龐大的記憶體容量。
其次是混合專家模型，減少運算但增加記憶體，這就是為何他們將AI競賽稱為以記憶體為中心。
相關內容《大行》大和：華為半導體新理論有驚喜 顯示設計與製造環節已取得突破
Ilkbahar表示，現在客戶正主動作出預先承諾，並簽訂長期採購協議以確保未來供應。他表示，相信下一件大事將是高頻寬快閃記憶體(HBF)，目前正在設計晶片，HBF記憶體晶粒將於今年底提供樣品，配備控制器的完整產品預計明年推出。
Sandisk表示，隨著AI推論工作負載需要更大記憶體容量，HBF可發揮更大作用。該公司稱，HBF能提供遠高於高頻寬記憶體(HBM)的容量與記憶體密度，同時保持相近的頻寬，更適合未來的AI推論需求。Sandisk已與SK海力士合作，共同制定HBF技術標準。(da/u)(美股為即時串流報價； OTC市場股票除外，資料延遲最少15分鐘。)
AASTOCKS新聞