文｜半導體產業(yè)縱橫
7月30日，英偉達股價下跌7%，這是該公司3個月來最大跌幅，市值一夜蒸發(fā)1934億美元，下滑至2.55萬億美元。
7月10日~30日，英偉達股價崩跌23%，從每股134.91美元跌至103.73美元。此前，該公司不停歇的上漲勢頭，似乎讓投資人忽視了風險。
在過去兩周，投資人從英偉達這類大型科技股撤出資金，因為他們越來越擔心大企業(yè)的AI支出難以獲得回報。
技術分析師指出，這樣的轉變讓英偉達股價還有進一步下跌的空間。
01、蘋果惹的禍？
英偉達股價大幅下跌或許與蘋果公司有關。
7月29日，蘋果在一份技術論文中表示，其人工智能（AI）系統(tǒng)Apple Intelligence的兩個模型是在谷歌設計的云端芯片上進行訓練的，蘋果詳細介紹了用于訓練的張量處理器（TPU）。另外，蘋果還發(fā)布了適用于部分設備的Apple Intelligence預覽版。
蘋果在其47頁的論文中沒有提到谷歌或英偉達，但指出其蘋果基金會模型 （AFM） 和 AFM 服務器是在云端TPU群集上訓練的。該論文表示，該系統(tǒng)使蘋果能夠有效地、可擴展地訓練AFM模型，包括AFM-on-device、AFM-server和更大的模型。
蘋果表示，AFM-on-device是在 2048個TPU v5p芯片的單一切片上進行訓練的，這是最先進的TPU，于2023年12月推出。AFM-server是在8192 TPU v4芯片上進行訓練的，這些芯片被配置為通過數(shù)據(jù)中心網(wǎng)絡作為8個切片一起工作。
谷歌很早就在數(shù)據(jù)中心內大量部署TPU了，用于加速AI模型訓練和推理，而且，不僅自家使用，谷歌還把TPU當作云計算服務提供給第三方使用，將它變成產品銷售。
谷歌最新的TPU每小時的成本不到2美元，芯片需要提前3年預訂才能使用。谷歌于2015年首次推出了用于內部工作負載的TPU，并于2017年向公眾開放?，F(xiàn)在，它們是為人工智能設計的最成熟的定制化芯片。
不過，谷歌仍然是英偉達的頂級客戶之一，并在其云平臺上出售英偉達技術的使用權。
蘋果先前表示，推理，即采用預先訓練的人工智能模型并運行它來產生內容或做出預測，將部分在蘋果自家數(shù)據(jù)中心的芯片上完成。
蘋果在6月WWDC 2024期間發(fā)布相關技術文件顯示，工程師除了在Apple Intelligence采用蘋果自有處理器等硬件，搭配自有軟件框架之外，還用自家GPU結合谷歌 TPU進行人工智能模型加速訓練。
英偉達面臨的競爭壓力越來越大，以谷歌為例，這家科技巨頭通過自研AI芯片不斷壯大其市場份額。來自TechInsights的數(shù)據(jù)顯示，在2023年的數(shù)據(jù)中心加速器市場，谷歌 TPU的出貨量達到200萬臺，雖然略遜于英偉達的380萬臺，但已穩(wěn)居行業(yè)第三，且增長勢頭強勁，對英偉達構成了挑戰(zhàn)。與此同時，微軟等科技巨頭也在逐步減少對英偉達的依賴，轉而采用其他競爭品牌的芯片。
02、GPU太貴了
除了單一依賴風險，英偉達GPU的高昂價格也嚇跑了不少廠家。
有報告顯示，配備英偉達下一代Blackwell GPU的AI服務器，每臺要價高達200-300萬美元。
英偉達推出了兩套基于Blackwell架構的參考設計，其中，NVL36搭載了36塊B200 GPU加速卡，預計要價200萬美元，之前預計180萬美元，現(xiàn)在又漲價了。NVL72規(guī)模翻番，搭載72塊B200加速卡，預計起步價就要300萬美元。
英偉達預計，2025年，B200服務器的出貨量有望達到6-7萬臺，總價達到1200億~2100億美元。
目前，AWS、戴爾、谷歌、Meta、微軟等都有意采購B200服務器，規(guī)模超預期。
AI服務器主要由CPU、GPU、FPGA等處理器組成，用于處理大量的計算任務，相比傳統(tǒng)服務器，AI服務器通常需要更高性能的硬件，以滿足對于大規(guī)模數(shù)據(jù)處理和復雜計算的需求。由于這些硬件的價格較高，它們在AI服務器的成本中占比最大。這其中，GPU是各種處理器中成本占比最大的。
在AI訓練和推理過程中，GPU通常是最昂貴的硬件，這是因為GPU具有較強的計算能力和并行處理能力，可以加速AI模型的訓練和推理過程。大多數(shù)AI服務器都配備了多個GPU，以滿足高性能計算的需求。
由于GPU具有強大的計算能力，其功耗也較高。為了滿足AI模型的計算需求，通常需要配置多個GPU，這將導致服務器的功耗進一步增加。高功耗意味著服務器在運行時需要更大的電力供應，并產生更高的電費支出。
與CPU相比，GPU具有更復雜的體系結構和更多的組件，這意味著GPU的維護工作更為繁瑣和復雜，需要更專業(yè)的技術人員進行維護和管理。而且，由于GPU的高功耗，其散熱需求也更高，需要額外的散熱設備和維護成本。
隨著AI技術的快速發(fā)展，GPU的性能也在不斷提升。為了保持競爭力，許多公司需要頻繁購買新版GPU，這將增加服務器的成本。
隨著AI應用的推廣，越來越多的企業(yè)開始使用AI服務器，這導致了對GPU的需求不斷增加，供不應求的情況下，GPU的價格也會上漲。
03、競爭對手施壓
英偉達的競爭對手們都在摩拳擦掌，其中，最引人關注的AMD近期表現(xiàn)優(yōu)異。
7月30日，AMD發(fā)布了2024年第二季度財報，凈利潤同比激增881%，數(shù)據(jù)中心業(yè)務收入翻番，搶了英偉達不少生意。
AMD本季度總營收達到58.35億美元，不僅超出了此前預期的57.2億美元，還實現(xiàn)了9%的同比增長和7%的環(huán)比增長。凈利潤達到了2.65億美元，同比增長幅度高達881%，環(huán)比增長115%。
數(shù)據(jù)中心用GPU芯片MI300在單季度內的銷售額超過了10億美元，推動數(shù)據(jù)中心部門收入大幅增長。
MI300系列是AMD于2023年底發(fā)布的AI GPU，包括MI300X，以及集成CPU內核和GPU加速器MI300A，其中，MI300X對標英偉達的H100。據(jù)AMD介紹，MI300X用于AI訓練時的性能與英偉達H100持平，推理方面，其性能超出競品。以8個GPU組成的單臺服務器為例，運行1760億參數(shù)的BLOOM模型和700億參數(shù)的Llama2模型時，MI300X平臺性能是H100平臺的1.4~1.6倍。
AMD首席執(zhí)行官蘇姿豐表示，公司AI芯片的銷售額“高于預期”，微軟對MI300芯片的使用量正在增加，以作為GPT-4 Turbo的算力支撐，并支撐微軟的word、teams等多個Copilot服務。Hugging Face則是首批采用新的微軟云Azure的客戶之一，使企業(yè)和AI客戶能通過一次點擊，便在MI300上部署數(shù)十萬個模型。
今年6月，AMD公布了迭代路線圖，計劃今年第四季度推出MI325X，并在明、后兩年陸續(xù)推出MI350系列和MI400系列，其中，M1300X、MI325X將采用CDNA3架構，M1350將采用CDNA4結構，MI400將采用下一代CDNA架構。AMD后續(xù)每年都會推出新的產品系列。在業(yè)內看來，這一速度與英偉達發(fā)布的計劃看齊。
此外，蘇姿豐表示，AI推理的需求將比訓練更大。AI PC是PC類別中很重要的一部分，PC市場對AMD業(yè)務來說是很好的收入增長機會。
今年，AMD在通過投資加速布局AI。7月，該公司出資6.65億美元收購了歐洲最大的人工智能實驗室Silo AI，該公司提供端到端AI驅動的解決方案，此次收購被認為是AMD追趕英偉達的重要一步。
蘇姿豐表示，除了收購Silo AI，AMD在過去12個月中還向十幾家人工智能公司投資超過1.25億美元，以擴大AMD生態(tài)系統(tǒng)并維持AMD計算平臺的領先地位。她表示，AMD將繼續(xù)投資軟件，這是投資Silo AI的原因之一。
基于優(yōu)質的GPU硬件，發(fā)展軟件和生態(tài)系統(tǒng)，AMD正在以英偉達的成功方式與之競爭。
04、英偉達也有弱點
要與英偉達競爭，揚長避短是上策，也就是說，發(fā)揮自己的優(yōu)勢，去攻擊英偉達的短板。
雖然GPU并行處理能力非常強，這也是其擅長AI訓練的根本原因。但是，當數(shù)據(jù)來回移動時，GPU的處理速度就不快了。AI大模型運行時，往往需要大量GPU和大量內存芯片，它們相互連接在一起，數(shù)據(jù)在GPU和內存間移動越快，性能越好。當訓練大型AI模型時，一些GPU內核會閑置，幾乎一半時間都在等待數(shù)據(jù)。
如果能將大量處理器內核和海量內存組合在一起，形成存內計算，則可大大降低多芯片間的連接復雜性，可大幅提升數(shù)據(jù)的傳輸速度。大量處理器內核在芯片內連接在一起，其運行速度比獨立GPU組合快上百倍。目前，有幾家創(chuàng)業(yè)公司正在做這樣的事情，發(fā)展情況值得關注。
另外，必須在軟硬件生態(tài)方面有打持久戰(zhàn)的準備，才能與英偉達周旋，在這方面，需要有強大的資源背景，才能有命去爭。AMD和英特爾正在做這樣的事。
再有，除了芯片本身，可以在芯片與芯片互聯(lián)方面多下功夫，英偉達在這方面并不是老大，博通是。
博通解決的是芯片與芯片之間的互聯(lián)問題，并非與英偉達GPU直接競爭。雖然英偉達也有自家的芯片間互聯(lián)技術，但從整個行業(yè)來看，博通的技術和產品更勝一籌，在全球8大AI服務器系統(tǒng)當中，有7個都部署了由博通技術支持的以太網(wǎng)基礎設施，預計到2025年，所有超大規(guī)模AI服務器系統(tǒng)都將由以太網(wǎng)提供支持。
博通最善于解決通信帶寬問題，在全球50GB/s的SerDes市場中，博通占據(jù)了76%的份額，其SerDes接口通過將低速并行數(shù)據(jù)轉換為高速串行數(shù)據(jù)，然后在接收端轉換回并行數(shù)據(jù)。通過這樣的操作，數(shù)據(jù)可以從一個TPU高速轉移到另一個TPU，大大提升了傳輸效率。
同樣受益于AI增長，博通的網(wǎng)通產品營收正以40%的同比增速增長。該公司財報顯示，截至今年5月的第二財季，AI營收同比增長280%，達到31億美元，預計這一數(shù)字將在本財年結束前突破110億美元。
05、大落之后又大起
一眾競爭對手都在給英偉達施壓，是該公司股價下跌的重要原因，然而，市場變化速度之快，讓人反應不及。
7月31日晚間，英偉達股價突然大漲，漲幅一度超過14%，單日市值增加3269億美元。
英偉達成為了首只單日市值增量超過3000億美元的股票。目前，在美股單日市值增量排行榜上，英偉達占據(jù)了前三位，今年2月22日、5月23日，英偉達單日市值分別增長了2766億美元、2177億美元。
摩根士丹利發(fā)表研究報告指出，考慮到英偉達近期遭到市場拋售，雖然具體原因未明，但相信可為有興趣的投資者帶來良好的入市機會，因此，重新將其列為首選股，盈利預測及目標價未變，評級為“增持”，目標價為144美元。
短短兩天內，英偉達股價大落后又大起，或許與Blackwell供應吃緊，難以全部按時交付有關。
大摩表示，Blackwell產品在市場上引起了強烈的興趣，尤其是其推理性能的顯著提升，進一步驅動了客戶的購買欲望。
不過，業(yè)界傳出消息，Blackwell GPU芯片可能延遲，或者是搭配該芯片的服務器產品可能延遲。
雖然諸多競爭對手的技術和產品表現(xiàn)越來越好，給英偉達帶來了壓力，但在目前和未來中短期內，該公司的GPU產品依然是AI服務器市場主力，總體供不應求。而在眾多客戶期待的Blackwell GPU即將出貨之際，傳出交付會延期的消息，肯定會吊足市場胃口，有利于股價上漲。