加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

英偉達研究:NVIDIA目標不是AI芯片,而是AI工廠

05/29 15:15
1368
閱讀需 6 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

佐思汽研發(fā)布《2024年英偉達AI與汽車業(yè)務分析報告暨 汽車新四化每周觀察2024年5月第1期》報告

英偉達以銷售AI芯片著稱。2024年5月22日,英偉達公布最新財季實現(xiàn)營收260億美元,同比增長262%;其毛利率78.9%,凈利潤達到148.1億美元,同比上升628%。其中:

數(shù)據(jù)中心業(yè)務營收為226億美元,創(chuàng)下公司歷史上的新紀錄,與上年同期相比大幅增長427%,與上一財季相比增長23%;汽車業(yè)務為英偉達第四大業(yè)務,最新財季營收為3.29億美元,與上年同期相比增長11%,與上一財季相比增長17%。

谷歌、微軟、Meta、亞馬遜、特斯拉等科技巨頭一方面采購英偉達的GPU,另一方面也在抓緊研發(fā)和部署自己的GPU,減輕對英偉達的產(chǎn)品依賴。

隨著AI大模型應用的爆發(fā),對AI芯片的需求出現(xiàn)了爆發(fā)式增長。為什么科技大廠做AI訓練都選擇英偉達而非英特爾AMD?大致有這幾方面原因:

    • CUDA生態(tài)系統(tǒng)的成熟
    • 英偉達芯片的性能優(yōu)勢
    • 經(jīng)過驗證的市場先發(fā)優(yōu)勢
    • 軟件硬件的緊密結(jié)合
    • 強大的行業(yè)生態(tài)

CUDA實際上已成為一些高性能計算和AI應用的行業(yè)標準。許多流行的深度學習框架如TensorFlow、PyTorch等,都提供了對CUDA的原生支持,這意味著開發(fā)者可以無縫地在英偉達GPU上運行他們的代碼,無需額外的適配工作。

2023-2024年,我們可以看到特斯拉減少了對汽車研發(fā)的投入,蘋果放棄了造車,他們紛紛把投入重點轉(zhuǎn)移到AI大模型開發(fā)及落地。

4月28日,馬斯克表示:2024年特斯拉將會投資約100億美元用于AI的訓練和推理,而推理主要用于汽車。特斯拉截至到2024年4月共有3.5萬個GPU用于訓練自動駕駛系統(tǒng)。

5月27日,馬斯克旗下的人工智能初創(chuàng)企業(yè)xAI宣布,已經(jīng)成功完成60億美元的B輪融資,公司估值達到180億美元。訓練xAI的大模型Grok 2需要約2萬個英偉達H100 GPU,Grok 3型號及以上型號將需要10萬個英偉達H100芯片。

在4月12日,xAI發(fā)布Grok1.5V(Vision),這是xAI首款能同時處理文本和視頻的多模態(tài)模型,還包括圖表、屏幕截圖和照片。英偉達高級科學家Jim Fan表示Grok-1.5V最讓人興奮的是解決自動駕駛邊緣案例的潛力。未來如果Grok 2和Grok 3發(fā)布,解決自動駕駛邊緣案例的能力將大大加強。

特斯拉、華為、百度等少數(shù)IT巨頭能夠解決自動駕駛所需超大算力。對于大多數(shù)OEM而言,則不可能自己部署和運營超大規(guī)模智算中心。因此,英偉達推出了AI工廠。

黃仁勛稱,英偉達構(gòu)建的不僅僅是GPU處理器,而是AI工廠,包括了CPU、GPU、內(nèi)存、NVlink、InfiniBand以及以太網(wǎng)交換機。英偉達將專注于AI生成的新型數(shù)據(jù)中心定義為“AI工廠”。

2023年10月,英偉達表示將擴大與富士康的持續(xù)合作,以加速AI驅(qū)動的電動汽車機器人平臺的開發(fā)。雙方合作重點是AI工廠的建設。富士康宣布計劃建造大量基于NVIDIA CPU、GPU及其網(wǎng)絡技術(shù)的計算系統(tǒng),同時配備NVIDIA的硬件和NVIDIA AI Enterprise軟件,這些系統(tǒng)將出售給那些希望建立自己AI數(shù)據(jù)工廠的客戶。

這種“AI工廠”有望成為特斯拉Dojo超級計算機的直接競爭對手。Dojo被用于訓練特斯拉的神經(jīng)網(wǎng)絡,這些神經(jīng)網(wǎng)絡用于支持、訓練和改進其“全自動駕駛”。

黃仁勛稱,英偉達將為整個行業(yè)生產(chǎn)AI,英偉達將專注于發(fā)明AI模型技術(shù)、提供模型定制開發(fā)工具,并建設便于模型微調(diào)和部署的基礎設施。

英偉達不僅連接了AI生態(tài)系統(tǒng)的各個參與者,還降低了行業(yè)門檻,提供了專業(yè)化支持和資源共享。英偉達的工作主要有三大塊:

發(fā)明AI模型技術(shù),運行AI模型并對其進行封裝,也就是NIM;

提供模型定制開發(fā)工具,NeMo微服務可以幫助用戶整理和準備數(shù)據(jù),以便對AI進行初始訓練;

提供基礎設施,便于實現(xiàn)模型的微調(diào)和部署,用戶可以部署在DGX Cloud基礎設施上,也可以部署在本地,或是他們需要的任何地方。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風險等級 參考價格 更多信息
PIC32MX795F512LT-80I/PF 1 Microchip Technology Inc 32-BIT, FLASH, 80 MHz, RISC MICROCONTROLLER, PQFP100, 14 X 14 MM, 1 MM HEIGHT, LEAD FREE, PLASTIC, TQFP-100

ECAD模型

下載ECAD模型
$12.72 查看
MC9S12XEP100MAL 1 Rochester Electronics LLC 32-BIT, FLASH, 50 MHz, RISC MICROCONTROLLER, PQFP112, LQFP-112
$25.46 查看
ATMEGA2560-16AU 1 Microchip Technology Inc IC MCU 8BIT 256KB FLASH 100TQFP

ECAD模型

下載ECAD模型
$13.68 查看
英偉達

英偉達

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設計業(yè)務,隨著公司技術(shù)與業(yè)務發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務、科學研究、制造業(yè)、汽車等領域的計算解決方案提供支持。

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設計業(yè)務,隨著公司技術(shù)與業(yè)務發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務、科學研究、制造業(yè)、汽車等領域的計算解決方案提供支持。收起

查看更多

相關推薦

電子產(chǎn)業(yè)圖譜

佐思汽車研究:致力于汽車、TMT、新能源(特別是新能源汽車、智能汽車、車聯(lián)網(wǎng))領域的產(chǎn)業(yè)研究、專項調(diào)研、戰(zhàn)略規(guī)劃和投資咨詢服務。