ChatGPT吃肉，英偉達喝湯

2022年11月上線以來，OpenAI旗下的ChatGPT幾乎成為全球最火爆的軟件應用。一個可以支撐的數據是，ChatGPT用戶量達到1億花了2個月，而上一個全球現象級產品Tik Tok則用了9個月。

基於具有1750億個參數的GPT-3，也是目前公開發布的最大規模語言模型之一，ChatGPT具有廣泛的語言理解能力，自然流暢的語言生成表現，以及更快的推理速度，能夠在回答問題、搜集資料、寫大綱、寫代碼等自然語言處理任務上，超越其他先進的模型和人類表現。

需要注意的是，ChatGPT在全球快速收割用戶的同時，其背後提供算力支持的英偉達也賺得盆滿缽滿。

據花旗集團預估，英偉達ChatGPT相關業務一年內銷售額達到30億~110億美元。英偉達2022四季度及年業績報告显示，其AI收入創下歷史新高，四季度收入36.2億美元，同比增長11%，全年收入增長41%，至歷史新高150.1億美元。

此前OpenAI在2021年的估值約為140億美元，在2023年1月23日微軟追加投資數十億美元后，OpenAI的估值實現了翻倍，目前已經達到了290億美元。

英偉達在2023年初市值約為3600億美元，隨後憑藉ChatGPT的火爆，市值在兩個月內增長超過2100億美元，截止2月底市值已經達到5700億美元，

仍在增長的AI巨浪

從主要的工作流程來看，ChatGPT的分為訓練和推理，二者對於算力有着不同的需求。

相比於回答用戶問題的推理階段，ChatGPT的日常訓練對於GPU算力的要求更高。在訓練階段，ChatGPT需要反覆地進行前向傳播和反向傳播操作，用來優化模型參數。

前向傳播是指從輸入數據開始，按照神經網絡的結構逐層計算，直到得到輸出結果的過程。具體到ChatGPT的訓練中，前向傳播是就根據當前的網絡參數和輸入文本，計算出每個單詞的概率分佈。

反向傳播是指通過計算損失函數關於每個參數的梯度，從輸出結果開始向網絡輸入逐層傳播，更新神經網絡的權重和偏置值，提高網絡的準確率。

在ChatGPT的訓練過程中，前向傳播和反向傳播一般會以百萬次甚至上億次多次迭代執行，因此只有大量的、高算力的GPU集中運算，才能達到要求。公開數據显示，GPT-3單次訓練成本就高達460萬美元。

根據中信證券研究部數據，此前GPT-3在訓練中使用了微軟專門建設的Al計算系統，由1萬枚英偉達GPU組成高性能網絡集群。

目前英偉達主流的AI芯片中，A100芯片單顆市場售價約為8萬元。而A100的升級版，最新的H100芯片單顆售價約為人民幣24萬元。這意味着，僅僅是採購芯片一項，ChatGPT就需要向英偉達支付10億元以上。

網頁設計最專業,超強功能平台可客製,窩窩以「數位行銷」「品牌經營」「網站與應用程式」「印刷品設計」等四大主軸，為每一位客戶客製建立行銷脈絡及洞燭市場先機,請問台中電動車哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店：臺中市潭子區潭秀里雅潭路一段102-1號。電動車補助推薦評價好的iphone維修中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝太陽光電聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計一頭霧水該從何著手呢? 回頭車貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製,產品缺大量曝光嗎?你需要的是一流包裝設計Google地圖已可更新顯示潭子電動車充電站設置地點!!廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益

據Investing.com報道，GPT-3時代1萬枚的英偉達GPU，已經隨着ChatGPT升級到GPT-3.5，增至2.5 萬枚，且增長仍在繼續。隨着谷歌、百度以及更多的類ChatGPT項目入局，以ChatGPT為代表的AI算力和GPU相關需求，將會繼續提高。

壟斷靠生態，綁定靠產品

根據Verified Market Research數據，2022年第二季度全球GPU市場中，AMD和lntel則分別佔比20%和1%，英偉達的市場佔有率為79.6%。相比於2021年第二季度的75%的市場佔有率，英偉達領先優勢還在在不斷擴大。

之所以能成為ChatGPT的獨家供應商，主要因為英偉達在GPU領域完整的生態系統、多年的技術積累和產品表現，這些優勢為其在AI領域提供了支持和應用基礎。

其中CUDA（Compute Unified Device Architecture）架構是由英偉達開發的，這是一種GPU并行計算平台和編程模型，可以幫助開發者更加高效地使用GPU進行并行計算。

研究機構Gartner分析師盛陵海稱“CUDA是通用GPU的開放平台，行業開發者已經用慣了，就好像Office軟件，雖然也有替代產品，但是幾乎很少有人選擇替代。”

在CUDA問世之前，英偉達的GPU僅是用於在屏幕上呈現圖像的圖形處理單元。然而，CUDA技術的推出讓GPU不僅能夠進行圖像處理，還能夠進行高性能計算，從而使GPU具備了解決複雜計算問題的能力。如今除了電腦，智能汽車、機器人、VR頭顯，各種計算平台都在使用GPU。

2006年問世之初，英偉達就開始了對CUDA系統在Al領域進行大力投入和推廣。彼時，CUDA系統年營業額只有30億美元，但英偉達每年需要投入5億美元的研發經費更新維護；另一方面，為迅速實現對市場的佔領，英偉達還為美國大學及科研機構免費提供CUDA系統。

建立了通用GPU的最大開放平台的同時，英偉達也在通過領跑行業的產品綁定超級應用。

例如，NVIDIA H100擁有800億個晶體管，單芯片設計，採用台積電（TSMC）的4nm工藝製造。英偉達 H100 的設計是針對ChatGPT所採用的Transformer類預訓練模型定向優化的設計，提出了 Transformer Engine，集合了新的 Tensor Core、FP8 和 FP16 精度計算，以及 Transformer 神經網絡動態處理能力，可以縮短此類機器學習模型的訓練時間從幾周至幾天。

此外基於H100，英偉達還推出了DGX H100，專用於訓練，推理和分析的通用高性能AI系統，集成了8個H100 GPU，擁有總計6400億個晶體管，總GPU顯存高達640GB。

而英偉達的競爭對手們，AMD和Intel由於缺乏類似CUDA的生態支持，且本身產品性能也比不上NVIDIA H100，因而在AI芯片領域只能與英偉達的距離漸行漸遠。

此前，AMD和Intel也分別建立了ROCm和one APl，試圖建立自己的生態，擺脫英偉達的CUDA，但最終這一努力並沒有成功。此外，AMD和英特爾目前還沒有針對Transformer類預訓練模型定向優化的GPU。這意味着，英偉達將在很長時間內成為ChatGPT的唯一GPU供應商。

（本文首發鈦媒體App，作者/吳泓磊，編輯/饒翔宇）

https://www.tmtpost.com/6431433.html