2024年7月25日 - 信報
「誰控制GPU,誰就能夠控制整個宇宙。」據聞這句說話,已經成為美國科技圈中的流行語。得GPU者得天下這種誇張講法,等於把所謂圖形處理器的重要性,提升到前所未有的層次,亦反映核心技術建基於GPU的人工智能(AI)晶片霸主輝達(Nvidia),具有近乎壟斷市場的地位。然而,巨人也會有弱點。
輝達定價高 勝在性能超卓
輝達晶片,被視為發展AI技術的必要工具,甚至被當成一種資產,用作融資的本錢。高級型號,要賣到三四萬美元一顆,定價高昂。輝達行政總裁黃仁勳還大大聲地表示,產品性能超卓,能為顧客節省大量時間,買得愈多,慳得愈多。由於缺乏替代品,為求提高開發效率,用家只好咬實牙根都要買,但如此矜貴,必然有大批想尋找其他選擇的人。貴、供應有限,總有一日,將成為輝達強大護城河的破綻。
看看最大的一群客戶,最明顯不過。微軟、亞馬遜、谷歌等幾個數據中心巨頭都在研發自己的AI晶片,降低對輝達的依賴;假設一顆晶片三四萬美元,數據中心需要以千顆萬顆計,條數相當襟計。輝達一季度銷售額高達260億美元(約2030億港元),這類大客貢獻良多。
讓黃仁勳引以為傲的獨門技術,亦有可能成為輝達的阿基里斯腳踝。輝達王國建基於圖形處理器技術,有別於中央處理器,GPU利用數千個計算核心,同時處理多個任務,分擔繁重計算工作,從而發揮強大功能。
海量數據系統傳輸現瓶頸
電腦專家指出,這種技術模式有它的限制:AI模型,需要大量GPU以及記憶晶片合力工作去進行訓練,海量數據在電腦系統中相互傳遞時,無可避免出現瓶頸。
晶片初創Cerebras Systems行政總裁Andrew Feldman,以感恩節前一天的百貨店作比喻:因為人流多,收銀櫃、停車場及店內處處都要排長龍;處理大量數據時,同樣情況亦在GPU系統內發生。Cerebras為解決這個問題,已發展出不同技術,將數以萬計的計算核心,伴隨大量記憶體,通通放在同一片大晶圓上面,從而避開串連貫通大量晶片的複雜度,據稱運作速度更高、能夠節省能耗。
由Jonathan Ross領導的初創Groq,則全力開發專為生成式AI以及大語言模型而設的所謂語言處理器(LPU)。Ross認為輝達晶片,AI模型訓練方面表現出色,但AI推理方面略有不足,而Groq的晶片,特別在推理速度和成本方面更具優勢,所以希望以此為挑戰輝達的突破口。
此外,還有來自以色列的Hailo、以加拿大多倫多為根據地的Taalas、英國公司Graphcore,以及獲得微軟投資的d-Matrix等不下數十間來自五湖四海的AI晶片新秀,各有各的創意。
縱然在不少人眼中,輝達技術比對手先進得多,甚至有人用光年來形容它的領先距離,但英雄輩出的晶片業界中,其實存在為數不少躍躍欲試的新秀,想挑戰傳說中的無敵巨人,過一過做巨人殺手的癮。
而且在人工智能熱潮牽引下,AI產品需求料帶動更多晶片初創湧現,這批新星背後的一群創辦人,有想法,又精力十足,另闢蹊徑開拓更優越的技術路線,只是時間問題。
新秀冒起 仍暫難挑戰地位
輝達有隱憂,然而賭輝達會輸,還未到時候。他們無處不在的軟件及輝達庫,已經成為行業標準,任誰都別想輕易繞過這道防線;看看AMD與英特爾,以及幾個雲計算巨頭,多番努力都未能做到,就明白箇中難度。靠個別新秀,別說障礙會有多大,何況輝達開發新技術速度驚人,兩道護城河加起來,未來幾年,黃仁勳築起的城堡,應該牢不可破。
原文:
沒有留言:
發佈留言