加入星計劃，您可以享受以下權(quán)益：

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入

LPU

加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論
  • Groq芯片的創(chuàng)新意義
    Groq芯片的創(chuàng)新意義
    前一陣子，Groq芯片刷屏了，據(jù)說Groq芯片計算速度遠遠超過英偉達GPU，經(jīng)網(wǎng)友測試，Groq每秒生成速度接近500 tok/s，碾壓GPT-4的40 tok/s。Groq是一家成立于2016年的AI創(chuàng)企，據(jù)其官網(wǎng)介紹，LPU是一種專為AI推理所設(shè)計的芯片。LPU的工作原理與GPU截然不同。它采用了時序指令集計算機（Temporal Instruction Set Computer）架構(gòu)，這意味著它無需像使用高帶寬存儲器（HBM）的GPU那樣頻繁地從內(nèi)存中加載數(shù)據(jù)。
  • AI芯片的一百種死法
    AI芯片的一百種死法
    前幾天，英偉達成為首家市值達到2萬億美金的芯片公司，創(chuàng)造了歷史。同一時間，一家名為Groq的初創(chuàng)公司橫空出世，揚言“三年之內(nèi)趕超英偉達”。Groq狠話的底氣，來源于它所開發(fā)的芯片——LPU。
  • AI芯片黑馬一夜爆紅：成本推算爭議不斷，前員工現(xiàn)員工互撕
    AI芯片黑馬一夜爆紅：成本推算爭議不斷，前員工現(xiàn)員工互撕
    2月21日報道，在OpenAI推出又一爆款力作AI視頻生成模型Sora后，連帶著偏上游的AI芯片賽道熱度一點即著。創(chuàng)始成員來自谷歌TPU團隊的美國存算一體AI芯片公司Groq便是最新贏家。這家創(chuàng)企自稱其自研AI推理引擎LPU做到了“世界最快推理”，由于其超酷的大模型速度演示、遠低于GPU的token成本，這顆AI芯片最近討論度暴漲。連原阿里副總裁賈揚清都公開算賬，分析LPU和H100跑大模型的采購和運營成本到底差多少。