文 | 硅兔賽跑 Xuushan
編輯 | 蔓蔓周
特斯拉創(chuàng)始人兼CEO埃隆·馬斯克(Elon Musk)連續(xù)五年都在強調(diào)特斯拉超級計算機Dojo的重要性!
從2019年到2024年,五年時間里,馬斯克曾在公共場合23次提及Dojo對特斯拉自動駕駛的作用。作為特斯拉定制的超級計算機Dojo,主要用于訓練特斯拉的全自動駕駛 (FSD)神經(jīng)網(wǎng)絡(luò)。
特斯拉認為只要有足夠的數(shù)據(jù),足夠的計算能力以及更強的訓練能力,F(xiàn)SD的自動駕駛場景就可以從輔助駕駛轉(zhuǎn)向全自動駕駛。
調(diào)查顯示,特斯拉在2024年第二季度全球市場共交付了44.3萬輛汽車,同比下降4.8%,這是特斯拉首次連續(xù)兩個季度出現(xiàn)銷量同比下滑。
面臨著電動汽車銷量下滑,投資者希望特斯拉接下來能夠帶來一些“驚喜”,比如說能夠?qū)崿F(xiàn)真正的無人駕駛。而在這其中,Dojo或許成為打開技術(shù)大門的關(guān)鍵鑰匙。
外媒Techcrunch整理了五年以來,馬斯克對Dojo發(fā)表的言論。馬斯克為什么覺得憑借Dojo可以從英偉達手里“搶生意”?超級計算機又將會如何加強特斯拉的AI能力?特斯拉的自動駕駛布局是怎樣的?我們可以嘗試從這些言論中找到答案。
01 Dojo的產(chǎn)生:特斯拉自動駕駛技術(shù)的底座支柱
在Dojo橫空出世之際,市場就對其抱有較高期待。摩根士丹利分析師Adam Jonas認為Dojo可能為特斯拉市值增加高達5000億美元,因為它在自動駕駛領(lǐng)域帶來“不對稱優(yōu)勢”。
在他看來,Dojo可以為特斯拉節(jié)省高達65億美元的成本,并加速自動駕駛技術(shù)和人形機器人的研發(fā)進程。那么在5年前,Dojo是因何產(chǎn)生的?
1、2019年4月22日:特斯拉首次提及Dojo
在特斯拉的自動駕駛?cè)丈?,特斯拉AI團隊首次登臺講述自動駕駛設(shè)備以及全自動駕駛背后所支撐的AI技術(shù)。特斯拉分享了自己專為神經(jīng)網(wǎng)絡(luò)和自動駕駛汽車設(shè)計的定制芯片信息。
在活動期間,馬斯克透露Dojo是一臺用于訓練AI的超級計算機。他還指出,未來特斯拉所有汽車都將配有自動駕駛所必備的硬件,用戶只需要軟件更新就可以升級系統(tǒng),擁有自動駕駛功能。
2、2020年2月2日:特斯拉宣傳Dojo功能
在社交媒體X上,馬斯克表示特斯拉將會擁有超過一百萬輛聯(lián)網(wǎng)汽車,這些汽車均配備了實現(xiàn)全自動駕駛所需的傳感器和計算能力,并大力宣傳Dojo的功能。
“我們的訓練超級計算機Dojo能夠處理大量視頻訓練數(shù)據(jù),并高效運行超空間陣列,該陣列擁有大容量、高參數(shù)以及超高寬帶的特性。稍后將詳細介紹?!?/p>
3、2020年8月14日:馬斯克預(yù)告Dojo發(fā)布時間
馬斯克在其社交媒體強調(diào),特斯拉正在開發(fā)一款名為Dojo的神經(jīng)網(wǎng)絡(luò)超級計算機,該設(shè)備可以處理大量真實視頻數(shù)據(jù),甚至比喻這臺超算設(shè)備為“野獸”。他預(yù)測Dojo距離初代產(chǎn)品發(fā)布至少還需要1年時間。
4、2020年12月31日:Dojo不是必需品,但重要
馬斯克表示Dojo不是必需品,但它能夠優(yōu)化自動駕駛功能?!氨热祟愸{駛員更可靠是不夠的,Autopilot 的安全性要高于人類駕駛員10 倍以上?!?/p>
可以看到,在Dojo還尚未正式發(fā)布時,特斯拉對Dojo就持有較高期待,將其視為自動駕駛技術(shù)的重要支柱。
02 正式推出Dojo演示其AI能力
盡管Dojo的發(fā)布時間比預(yù)期更長,但超級計算機Dojo正式發(fā)布時還是受到了馬斯克和市場的高度重視。馬斯克視其為特斯拉AI業(yè)務(wù)體系的算力基礎(chǔ)設(shè)施,以及實現(xiàn)自動駕駛的關(guān)鍵技術(shù)支撐。
5、2021年8月19日:特斯拉首次發(fā)布Dojo
特斯拉團隊在其首個AI Day上宣布正式推出Dojo,并且推出了D1芯片。該芯片將和英偉達的GPU一起為超算Dojo提供計算能力。在活動上,特斯拉還指出Dojo的AI集群可以容納3000個D1芯片。
6、2021年10月12日:公布Dojo技術(shù)白皮書,特斯拉采用深度學習新算法
特斯拉發(fā)布了一份Dojo技術(shù)白皮書,里面涉及算法指南,并且支持可配置浮點格式。白皮書內(nèi)提及了一種新型二進制浮點算法的技術(shù)標準,可以用于深度學習神經(jīng)網(wǎng)絡(luò)。通過該算法,Dojo能夠僅靠軟件、或者僅靠硬件,以及軟硬件結(jié)合的方式實現(xiàn)各類控制組合。
7、2022年8月12日:特斯拉將逐步采用Dojo,減少GPU采購
馬斯克表示特斯拉將“逐步”采用Dojo,并表示明年公司將不需要購買那么多GPU。
8、2022年9月30日:實物演示Dojo能力,特斯拉已安裝首個機柜
在特斯拉的第二個AI Day上,特斯拉透露他們已安裝第一個Dojo機柜,并進行了2.2兆瓦的負載測試。特斯拉表示每一個Dojo將會有25個D1芯片組成。
特斯拉還上臺演示了Dojo的能力,它可以通過穩(wěn)定擴散模型來利用AI生成“火星上的Cybertruck”圖像。
特斯拉立下了將在2023年第一季度完成Dojo Exapod集群搭建的目標,計劃在帕洛阿爾托建造七臺Exapod。
相較于其他的超級計算機,Dojo的上線節(jié)奏較快,并且很快對特斯拉的實際業(yè)務(wù)產(chǎn)生使用價值。但我們也能看到,早期,馬斯克對Dojo的預(yù)期過高,比如說減少GPU采購等方面。
03 高風險、高回報,馬斯克重金押向Dojo
相較于前兩年,從2023年開始,Dojo逐漸向人們展示作為一臺超級計算機能夠切實給企業(yè)帶來哪些效益,以及告知人們投入研發(fā)一臺超級計算機是一件“高風險、高回報”的投資。
9、2023年4月19日:Dojo被視為不可能成功的賭注
馬斯克在特斯拉第一季度財報發(fā)布會上告訴投資者,Dojo“有可能將培訓成本提高至十倍以上”,并且“Dojo有可能成為一種可商業(yè)化的業(yè)務(wù),我們會像亞馬遜提供網(wǎng)絡(luò)服務(wù)一樣向其他公司提供這種服務(wù)”。
馬斯克還指出,他將 Dojo視為一種不太可能成功的賭注,但“值得一試”。
10、2023年6月21日:Dojo上線特斯拉數(shù)據(jù)中心
特斯拉AI官方賬號在社交媒體上表示自己的神經(jīng)網(wǎng)絡(luò)訓練已經(jīng)應(yīng)用于用戶的車輛,貼文中列出了特斯拉當前所需的計算能力和預(yù)計能夠提供計算能力的時間表。圖標上透露出,Dojo將于2023 年7月開始投入運用。馬斯克當天表示,Dojo已經(jīng)上線并在特斯拉數(shù)據(jù)中心運行任務(wù)。
該公司還預(yù)測,到2024年2月左右,特斯拉的計算能力將躋身全球前五。到2024年10月,特斯拉的計算能力將支持100百億億次浮點運算。
11、2023年7月19日:計劃投入10億美元建設(shè)Dojo
特斯拉在第二季度財報中指出,該公司已開始建設(shè)Dojo。馬斯克還表示,2024年特斯拉將會在Dojo上投入超過10億美元。
12、2023年9月6日:聯(lián)手英偉達,解決AI計算難題
馬斯克在X上發(fā)帖稱,由于AI訓練計算比較有限,現(xiàn)有的軟件系統(tǒng)管理特斯拉每天從汽車獲得1600億幀視頻數(shù)據(jù)極其困難,現(xiàn)階段英偉達和Dojo將聯(lián)手解決這個問題。
Dojo的出現(xiàn),正好趕上了AI熱潮。Dojo的超算能力為處理和分析海量自動駕駛數(shù)據(jù)提供了可能,也證明了特斯拉在自動駕駛領(lǐng)域構(gòu)建軟硬一體化的技術(shù)能力。
04 擴大Dojo規(guī)模,將在AI領(lǐng)域投入百億美元
Dojo的推出反映了特斯拉在AI算力競賽中戰(zhàn)略布局的先手能力,為公司在全球自動駕駛技術(shù)競爭中贏得了先機。
13、2024年1月24日:Dojo系列路線圖披露
在特斯拉第四季度和全年財報電話會議上,馬斯克再次承認Dojo是一個高風險、高回報的項目。他還表示,特斯拉正在尋求“英偉達和Dojo雙管齊下”?!癉ojo 正在發(fā)揮作用”,并且“正在開展培訓工作”。他指出,特斯拉正擴大規(guī)模,并制定了“Dojo 1.5、Dojo 2、Dojo 3 等計劃”。
14、2024年1月26日:投資5億美元組建Dojo
兩天后,特斯拉宣布計劃斥資5億美元在布法羅打造一臺Dojo超級計算機。馬斯克在X上發(fā)帖稱,雖然 5 億美元是一筆大數(shù)目,但“僅相當于英偉達10k H100 系統(tǒng)。特斯拉今年將在英偉達硬件上投入更多資金。目前,(特斯拉)在AI領(lǐng)域保持競爭力的底線至少是每年數(shù)十億美元?!?/p>
15、2024年4月30日:訓練模塊D2已投入生產(chǎn)
據(jù)IEEE Spectrum報道,在臺積電的北美技術(shù)研討會上,該公司表示Dojo的下一代訓練模塊 — — D2 已經(jīng)投入生產(chǎn)。D2將所有的Dojo模塊放在一塊硅晶圓上,而不是連接25個芯片連在一起,制作一塊模塊。
16、2024年5月20日:Giga Texas工廠擴建超算集群
馬斯克指出,Giga Texas工廠擴建的后部將包括建設(shè)“超密集超級計算機集群”。Giga Texas,也就是特斯拉位于德克薩斯州奧斯汀的超級工廠,是特斯拉在美國的一個重要制造基地。
17、2024年6月:將在AI方面投入百億美元
馬斯克在X上發(fā)帖稱,由于超級工廠Giga Texas的南部擴建工程尚未完成,所以沒有地方做AI訓練,英偉達GPU芯片也就還放在倉庫里。據(jù)介紹,等到此次擴建工程完成,該工廠將“容納5萬臺H100用于FSD訓練”。
“特斯拉今年AI方向的投入約為100億美元,其中約一半用于內(nèi)部支出,主要是特斯拉設(shè)計的AI推理計算機和傳感器,這些設(shè)備都和我們所有的汽車上,此外還有Dojo?!?/p>
據(jù)馬斯克介紹,在構(gòu)建人工智能訓練超級集群方面,英偉達硬件約占成本的2/3。他目前對特斯拉今年將有大約30億至40億美元的費用付給英偉達,以采購相關(guān)硬件。
18、2024年7月:沒有適合特斯拉的新AI硬件
馬斯克今年7月在X上透露,目前的特斯拉汽車可能沒有適合該公司下一代AI模型的硬件。他說,如果不升級汽車推理計算機,“下一代 AI 的參數(shù)數(shù)量增加約 倍是很難實現(xiàn)的”。
總體看來,想要打造一臺用于垂直領(lǐng)域的超級計算設(shè)備并非一件易事,時間、資金、成本等等一些問題導致Dojo的發(fā)展較為曲折。
05 合作與競爭共存,特斯拉或憑借Dojo與英偉達“掰手腕”?
如今,馬斯克想要借助Dojo的超算能力進一步拉開特斯拉與其他企業(yè)在自動駕駛領(lǐng)域的差距,甚至還想和英偉達“爭一爭”計算資源業(yè)務(wù)。
19、2024年7月23日:或通過Dojo與英偉達展開競爭
特斯拉第二季度財報電話會議上,馬斯克表示市場對英偉達的硬件需求非常大,不少客戶很難獲得 GPU。
“在此需求之下,我認為我們需要在Dojo上投入更多精力,以確保我們擁有所需的訓練能力,”馬斯克說。“我們確實看到了通過Dojo與英偉達展開競爭的途徑?!?/p>
特斯拉投資者資料中曾有一張圖表,到2024年底,特斯拉AI訓練能力大約和9萬臺H100 GPU所提供的效果相等。
當天晚些時候,馬斯克在X上發(fā)帖稱,Dojo 1到年底,將會與約8000臺H100 GPU提供等效的在線訓練能力。他還展示了這臺超級計算機的照片,看上去,它似乎使用了與特斯拉Cyber trucks相同的類似不銹鋼外殼。
20、2024年7月30日:下一代車載計算平臺AI5 18個月后發(fā)布
馬斯克在回復某人的帖子時表示,下一代車載計算平臺AI5距離大批量生產(chǎn)還有約18個月的時間,該帖子聲稱要成立一個名為“特斯拉 HW4/AI4車主對AI5發(fā)布時落后感到憤怒”的俱樂部。
21、2024年8月3日:擁有10萬+英偉達GPU,特斯拉大力投入AI
馬斯克在X上發(fā)帖稱,他參觀了“Giga Texas(又名 Cortex)的特斯拉超級計算集群”。他指出,該集群將由大約 100000 個 H100/H200 Nvidia GPU 組成,并配備“用于 FSD 和 Optimus 視頻訓練的海量存儲空間”。
可以看出,Dojo不但為自動駕駛算法的訓練和優(yōu)化提供了強大的計算支持,加速了從L2到L5級別自動駕駛的演進,而且也為特斯拉提供新的AI競爭優(yōu)勢。
特斯拉重金押注Dojo
通過歷年以來馬斯克發(fā)表關(guān)于Dojo的言論可以很清晰的看出,Dojo是馬斯克AI帝國的關(guān)鍵“基石”,其出現(xiàn)的過程也體現(xiàn)了馬斯克在自動駕駛技術(shù)上的前瞻性和敏銳程度。
然而,特斯拉在Dojo上的發(fā)展并不太順,Dojo的后續(xù)發(fā)展并沒有達到特斯拉的預(yù)期,這也意味著特斯拉的自動駕駛布局尚未完全成型。
但Dojo的量產(chǎn)和應(yīng)用,也將會推動自動駕駛技術(shù)將更快地從概念走向現(xiàn)實,引入其他同賽道競爭者在AI領(lǐng)域的的投入,也為未來智能交通變革奠定了基礎(chǔ)。