Axelera AI

邊緣 AI 推論,記憶體內即時算

4 / 5
一句話介紹:邊緣 AI 推論,記憶體內即時算

Axelera AI 是一家總部位於歐洲的邊緣推論晶片廠商,主打 Metis 系列加速器。這些加速器採用 in‑memory computing(記憶體內運算)技術,將資料儲存與運算緊密結合,能在 M.2 模組與 PCIe 卡兩種形態下直接於裝置端執行高效能的電腦視覺與生成式 AI 工作負載。相較於傳統 CPU/GPU 需要頻繁的記憶體讀寫,Metis 透過在記憶體內部完成卷積、矩陣乘法等核心運算,大幅降低延遲與功耗,特別適合需要即時回應的邊緣應用。

解決什麼問題

在智慧監控、工業檢測、智慧零售等場景,資料往往在本地產生且必須即時分析,將影像或感測資料傳回雲端不僅增加網路帶寬負擔,也會因延遲而影響決策。Axelera 的 Metis 加速器以 低功耗、低延遲 的特性,讓 AI 推論直接在裝置上完成,減少對雲端的依賴,同時提升資料隱私與安全性。其模組化的 M.2 與 PCIe 形態,讓系統整合更彈性,開發者只需在現有硬體平台上插入加速卡,即可獲得近乎 GPU 水準的視覺與生成式 AI 效能。

適合誰、怎麼用

  • 硬體製造商:在嵌入式系統、工業電腦或智慧相機中加入 Metis 模組,即可提供 AI 推論功能而不必重新設計整體架構。
  • AI 開發者:透過支援的 SDK 與主流深度學習框架(如 TensorFlow、PyTorch)將模型部署到 Metis,加速推論且保持開發流程一致。
  • 企業 IT:在需要即時影像分析的邊緣伺服器上安裝 PCIe 卡,降低雲端運算成本,同時符合資料主權與合規需求。

TheAI學院 編輯建議

編輯實測後的真心話
4

以記憶體內運算為核心的邊緣 AI 解決方案,兼具效能與能源效率。

— theai 編輯團隊

主要功能

  • in‑memory computing
  • M.2 模組
  • PCIe 卡
  • 低功耗高效能
  • 支援主流深度學習框架

如何使用 Axelera AI

  1. 邊緣裝置廠商洽詢 Axelera AI 導入 Metis 加速器。
  2. 選 M.2 模組或 PCIe 卡形態。
  3. 用 in-memory computing 在記憶體內完成卷積與矩陣運算。
  4. 在裝置端執行電腦視覺與生成式 AI。
  5. 大幅降低延遲與功耗。
  6. 用於智慧監控或工業檢測。
  7. 依官方方案洽詢導入。

適用場景

  • 智慧監控即時偵測
  • 工業檢測影像分析
  • 智慧零售客流與商品辨識

Axelera AI 的優點與缺點

優點

  • 延遲低
  • 功耗佳
  • 易於整合

缺點

  • 需搭配相容硬體
  • 生態系較新

Axelera AI 常見問題

Metis 加速器支援哪些 AI 模型?

Metis 支援卷積神經網路、Transformer 以及其他常見的電腦視覺與生成式 AI 模型,只要模型可轉換為 ONNX 或 TensorFlow Lite 格式即可部署。

如何在現有伺服器上安裝 PCIe 版 Metis?

只需將 PCIe 卡插入伺服器的空閒插槽,安裝提供的驅動程式與 SDK,然後使用相容的深度學習框架將模型載入即可開始推論。

Metis 的功耗表現如何?

由於採用 in‑memory computing,Metis 在執行相同工作負載時的功耗通常比傳統 GPU 低 30% 以上,具體數值視模型與工作負載而定。

使用者評價

還沒有足夠評價,搶先分享你的使用心得!

寫下你的評價

評論將經審核後公開。

Axelera AI 的替代方案

查看相似的 AI 工具 →

相關 AI 工具

猜你也想看的AI 開發框架與基建

前往官網 ↗