隨着生成式人工智能在企業中的普及進入實質性階段,有樂觀預測認爲AI工廠的增長仍處於早期階段。戴爾科技公司首席運營官兼副董事長傑夫·克拉克在近期採訪中強調,令牌需求的激增正在引領整個基礎設施的變革,AI工廠的擴張纔剛剛開始。

克拉克表示:"AI工廠的增長並非簡單的流行語,而是基於真實客戶需求的結構性變化。"據他介紹,戴爾預計2026財年AI系統出貨額將達到250億美元(約合36萬億韓元),這顯示出繼第一年15億美元、第二年100億美元之後的爆發性增長趨勢。他特別說明,不僅是雲企業,主權國家、大型企業等整個客戶羣體的AI需求都在加速增長。

克拉克將AI工廠的增長動力歸結於"令牌"。自然語言處理等各種AI應用以令牌爲單位分解和處理數據。因此,各企業將生成式AI應用到實際業務中時,令牌需求呈指數級增長,能夠承擔此任務的高性能基礎設施需求也隨之上升。他特別解釋道:"以GPU爲中心的令牌處理需求,如今已超越用於雲訓練的大型服務器機房,正擴散至推理環境和邊緣。"

然而,並非可以一味樂觀地看待無限增長。因爲包括內存價格在內的成本變量,可能影響企業的基礎設施投資戰略和項目日程。儘管存在這些困難,克拉克關注到AI工廠正從以雲基礎設施爲中心,向涵蓋本地和邊緣環境的混合架構演進。分析認爲,AI並不侷限於特定框架,而是根據數據敏感性或延遲要求,分散到本地或邊緣。

他強調:"如今AI已不再是簡單的計算問題。計算需求正在爆炸式增長,而這種需求直接導致了基礎設施的重組。"實際上,戴爾提出了一項戰略,即將AI工廠擴展爲並非單一GPU密集型結構,而是根據各類業務類型進行分佈式基礎設施佈局。通過這種方式,AI將構建起在邊緣設備或靠近用戶的位置進行智能響應的結構。

綜上所述,戴爾關注到AI工廠的真正價值在於,此輪增長並非短期流行,而是植根於"基於令牌的需求結構"的變化。戴爾的診斷是,令牌是AI生態系統的新燃料,而響應這種燃料的基礎設施重組,纔剛剛開始加速。