加入星計劃,您可以享受以下權益:

  • 創(chuàng)作內容快速變現
  • 行業(yè)影響力擴散
  • 作品版權保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關推薦
  • 電子產業(yè)圖譜
申請入駐 產業(yè)圖譜

研華推出邊緣生成式AI系統(tǒng),亮相英偉達 2024 GTC

04/01 15:57
1574
閱讀需 5 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

全球工業(yè)物聯網品牌廠商研華科技成功整合英偉達(NVIDIA) 生成式AI模型于MIC-733-AO邊緣AI推理盒子,并在英偉達GTC 2024 GPU科技展研華攤位上進行展示(No. 232),該產品預示:未來生成式AI將大幅減少開發(fā)者訓練模型的時間,在工業(yè)應用上也能以更快速更方便的得到AI推理的結果。

研華MIC-733-AO+英偉達生成式AI模型=邊緣生成式AI系統(tǒng)

研華MIC-733-AO邊緣AI系統(tǒng)基于英偉達Jetson AGX Orin?平臺,搭載英偉達Jetson AI實驗室的生成式人工智能模型,現在成功高效率運行大型語言模型(LLMs)、視覺語言模型(VLM)、視覺變換器(ViT)以及圖像生成和對話生成Llamaspeak,這要歸功于英偉達Jetson AGX Orin?平臺的獨特優(yōu)勢,包括加速計算、重要的AI軟件和預先訓練的模型,有助于創(chuàng)建、自定義和部署適用于各種應用和地點的生成式AI模型。

利用英偉達Jetson AI實驗室的生成式AI模型,AI開發(fā)者可以運用檢索增強生成(RAG)技術,將LLMs和VLMs連接到公司的知識庫。這種方法消除了傳統(tǒng)AI模型訓練的需求,允許透過與系統(tǒng)的簡單對話交互來產生AI推論,明顯縮短了開發(fā)時間。研華MIC-733-AO擁有高AI運算效能和多個影像輸入接口,例如IP攝影機、USB/gigE工業(yè)相機、GMSL攝影機、激光雷達等,讓開發(fā)者可以輕松串接影像訊息結合AI運算,而工業(yè)級小體積設計更適合放在邊緣端應用,即使在英偉達Jetson AGX Orin運行滿載時,出色的散熱設計也能防止系統(tǒng)過熱確保正常運行。

邊緣生成式AI系統(tǒng)反應更實時,應用更多元

生成式AI通過從不同的輸入和輸出(例如文本和圖像)創(chuàng)建新內容,正在改變人與計算機的互動方式。從云端到邊緣端,邊緣端生成式AI更適合需要快速反應和低延遲環(huán)境的良好解決方案。在邊緣端生成式AI相對于云端生成式AI的解決方案具有以下幾點優(yōu)勢:

實時反應:根據攝影機和傳感器等數據來源的邊緣計算系統(tǒng)能夠立即回應,無需等待與云端上傳數據造成的延遲。

數據安全:數據儲存在邊緣系統(tǒng)中,大幅降低云端數據傳輸相關的安全風險。

穩(wěn)定的網絡連接:即使沒有無線網絡,邊緣系統(tǒng)也能夠操作并將數據存儲在本地端,直到網絡恢復,而云端生成式AI在沒有網絡時將無法運作。

低傳輸成本:邊緣端AI因不需要隨時傳輸數據給云端,僅需低量傳輸,比云端AI隨時上傳數據更具成本效益。

邊緣生成式AI代表了人工智能時代的未來。研華MIC-733-AO邊緣生成式AI系統(tǒng),整合英偉達Jetson AI實驗室的生成式AI模型,為AI開發(fā)者提供了一個簡單的解決方案。 如果您對研華MIC-733-AO邊緣生成式AI系統(tǒng)感興趣,可聯系研華當地業(yè)務,或者前往官網www.advantech.com.cn了解產品詳細,2024年5月,研華將在深圳、上海、武漢、北京舉辦AI Solution Day全國巡演,屆時將展示Jeston AI全家族產品,歡迎感興趣的伙伴積極報名。

推薦器件

更多器件
器件型號 數量 器件廠商 器件描述 數據手冊 ECAD模型 風險等級 參考價格 更多信息
CC03M-2830-01-GF 1 Samtec Inc Wire Terminal
$0.14 查看
BTA26-800BWRG 1 STMicroelectronics 25A standard and Snubberless™ Triacs

ECAD模型

下載ECAD模型
$6.73 查看
1N4148W-7-F 1 Diodes Incorporated Rectifier Diode, 1 Element, 0.15A, 100V V(RRM), Silicon, GREEN, PLASTIC PACKAGE-2

ECAD模型

下載ECAD模型
$0.16 查看

相關推薦

電子產業(yè)圖譜