Axelera AI
邊緣 AI 推論,記憶體內即時算
Axelera AI 是一家總部位於歐洲的邊緣推論晶片廠商,主打 Metis 系列加速器。這些加速器採用 in‑memory computing(記憶體內運算)技術,將資料儲存與運算緊密結合,能在 M.2 模組與 PCIe 卡兩種形態下直接於裝置端執行高效能的電腦視覺與生成式 AI 工作負載。相較於傳統 CPU/GPU 需要頻繁的記憶體讀寫,Metis 透過在記憶體內部完成卷積、矩陣乘法等核心運算,大幅降低延遲與功耗,特別適合需要即時回應的邊緣應用。
解決什麼問題
在智慧監控、工業檢測、智慧零售等場景,資料往往在本地產生且必須即時分析,將影像或感測資料傳回雲端不僅增加網路帶寬負擔,也會因延遲而影響決策。Axelera 的 Metis 加速器以 低功耗、低延遲 的特性,讓 AI 推論直接在裝置上完成,減少對雲端的依賴,同時提升資料隱私與安全性。其模組化的 M.2 與 PCIe 形態,讓系統整合更彈性,開發者只需在現有硬體平台上插入加速卡,即可獲得近乎 GPU 水準的視覺與生成式 AI 效能。
適合誰、怎麼用
- 硬體製造商:在嵌入式系統、工業電腦或智慧相機中加入 Metis 模組,即可提供 AI 推論功能而不必重新設計整體架構。
- AI 開發者:透過支援的 SDK 與主流深度學習框架(如 TensorFlow、PyTorch)將模型部署到 Metis,加速推論且保持開發流程一致。
- 企業 IT:在需要即時影像分析的邊緣伺服器上安裝 PCIe 卡,降低雲端運算成本,同時符合資料主權與合規需求。
TheAI學院 編輯建議
編輯實測後的真心話以記憶體內運算為核心的邊緣 AI 解決方案,兼具效能與能源效率。
— theai 編輯團隊
主要功能
- in‑memory computing
- M.2 模組
- PCIe 卡
- 低功耗高效能
- 支援主流深度學習框架
如何使用 Axelera AI
- 邊緣裝置廠商洽詢 Axelera AI 導入 Metis 加速器。
- 選 M.2 模組或 PCIe 卡形態。
- 用 in-memory computing 在記憶體內完成卷積與矩陣運算。
- 在裝置端執行電腦視覺與生成式 AI。
- 大幅降低延遲與功耗。
- 用於智慧監控或工業檢測。
- 依官方方案洽詢導入。
適用場景
- 智慧監控即時偵測
- 工業檢測影像分析
- 智慧零售客流與商品辨識
Axelera AI 的優點與缺點
優點
- 延遲低
- 功耗佳
- 易於整合
缺點
- 需搭配相容硬體
- 生態系較新
Axelera AI 常見問題
Metis 加速器支援哪些 AI 模型?
Metis 支援卷積神經網路、Transformer 以及其他常見的電腦視覺與生成式 AI 模型,只要模型可轉換為 ONNX 或 TensorFlow Lite 格式即可部署。
如何在現有伺服器上安裝 PCIe 版 Metis?
只需將 PCIe 卡插入伺服器的空閒插槽,安裝提供的驅動程式與 SDK,然後使用相容的深度學習框架將模型載入即可開始推論。
Metis 的功耗表現如何?
由於採用 in‑memory computing,Metis 在執行相同工作負載時的功耗通常比傳統 GPU 低 30% 以上,具體數值視模型與工作負載而定。
使用者評價
還沒有足夠評價,搶先分享你的使用心得!