「資料不能出廠」是台灣製造導入 AI 的第一道門檻，而端側 AI 正在把這道門檻拆掉

台中一家做汽車模具的廠商，去年評估過 AI。

流程很標準：找顧問、看 demo、覺得不錯。卡關是在法務看合約的時候。他們替一家日系車廠代工，合約裡有一條寫得很清楚——所有設計圖檔與製程參數不得傳輸至第三方伺服器。

「那我們用 AI 分析製程資料，算不算傳輸給第三方？」

法務的回答是：「你要我簽字保證不算嗎？」

案子就停在那裡。這不是特例，這是台灣製造業導入 AI 最常見的死法，而且它從來不會出現在任何一份數位轉型報告裡。

這個問題不是台灣獨有，軍方早就碰過

有意思的是，最早認真處理「資料不能出去」這個問題的，不是製造業，是軍方。

前線沒有網路。潛艦沒有網路。就算有，在電磁環境不友善的地方你也不敢用。而軍方需要 AI 的程度不比企業低——後勤查詢、裝備維修、政策法規、訓練教材，全都是典型的文件密集型工作。

EdgeRunner AI 就是為這個前提而生的公司。它做的是端側、領域專屬的生成式 AI 助理，完全在本地執行，不需要網路或雲端連線。旗艦案例 EdgeRunner-Camo 是與美國陸軍人工智慧整合中心共同開發的軍用 LLM，官網宣稱在人事、後勤、訓練、政策、武器與戰術等領域，錯誤率相較降低 37%。

但真正值得台灣讀者注意的，是它列出的目標產業：國防之外，還有製造、運輸、油氣、醫療與金融服務。

這些產業之所以不敢用雲端 LLM，理由跟軍方一模一樣，只是換了名字叫「合規」與「營業秘密」。

端側 AI 現在能做到什麼程度

先說結論：比多數人想的好，但不是萬能。

能力上的落差是真的。端側模型的參數規模受限於裝置記憶體，通用能力比不上雲端前沿模型。如果你期待它像 ChatGPT 那樣什麼都能聊，一定會失望。

但如果你把它用在對的地方，落差會小很多。關鍵字是領域微調——在「這間廠的製程異常排查」這種很窄的任務上，一個專門訓練過的小模型，表現可能比通用大模型更穩定，因為它不會被無關的知識干擾。

實務上，現在中小企業能走的路徑大致是這樣：

第一層，本地推論環境。 Ollama 或 LM Studio 這類工具已經把門檻降到很低，一台有足夠顯示記憶體的工作站就能跑起來。這一層純技術，兩天可以搞定。

第二層，知識庫建置。 把公司的作業手冊、規格書、歷史工單整理成可檢索的格式，用檢索增強生成（RAG，我們寫過什麼是 RAG）讓模型引用內部文件回答。這一層是真正的工作量所在，也是最容易被低估的。

第三層，領域微調。 用自家的問答對或工單資料進一步調整模型。這一層報酬率最高，但需要的資料量與技術能力也最高，多數公司會先跳過。

我看過的失敗案例，八成是在第二層就放棄了——因為公司的文件根本沒有整理過，散在各個部門的資料夾與某些老員工的隨身碟裡。

三個面向的影響

對台灣的製造業：這是最直接受益的一群。半導體製程參數、模具設計、配方與良率資料，全部都是「想用但不能上雲」的典型。端側 AI 讓這些資料可以留在廠內被分析。我的建議是從最痛的那個任務開始——多數廠的答案是「老師傅的經驗查不到」，那就先做內部知識庫的問答。

對醫療與金融：法遵要求更硬，但需求也更明確。醫院的病歷檢索、金融的法遵問答，都是高頻且高價值的任務。這兩個產業的特殊性在於，就算資料留在本地，模型的回答仍需可追溯——所以 RAG 的引用機制不是加分項，是必要條件。

對開發者與系統整合商：這裡有一塊被低估的市場。台灣有大量中小型製造業需要這種能力，但沒有內部人力做。「把公司文件整理成 AI 可用的知識庫」這件事，本身就是一門生意，而且它的護城河是對產業流程的理解，不是技術。

未來發展趨勢

硬體會越來越不是問題。 端側 AI 專用的加速器持續進步，Intel、AMD、高通都在推 AI PC，EdgeRunner 自己就與 Intel 合作把代理部署到 Intel AI PC。三年內，跑得動堪用本地模型的裝置會變成辦公室標配。

模型會越來越小而專。 「一個模型解決所有問題」的路線在端側走不通，反而是「一個任務一個小模型」的組合會成為主流。這對台灣做垂直領域模型的團隊是機會。

混合架構會是常態。 完全不上雲太極端，完全上雲又過不了法務。多數企業最後會走混合路線：機敏資料在本地處理，一般任務走雲端。這意味著「資料分級」會變成 AI 導入的前置作業——而多數台灣企業現在連這一步都還沒做。

TheAI學院 總結與評語

回到台中那家模具廠。

他們後來怎麼解的？沒有用什麼高深的技術——買了一台工作站，裝了開源模型，把過去五年的工程變更單與異常處理紀錄整理成知識庫，讓工程師可以用自然語言問「這個材料在這個溫度下曾經出過什麼問題」。

花的錢不到當初顧問報價的十分之一，效果也沒有 demo 裡那麼炫。但它過得了法務那一關，所以它活下來了。

這就是我想說的重點：在受合規限制的產業裡，「能上線」比「很厲害」重要一百倍。 一個跑在本地、能力普通但過得了稽核的方案，價值遠高於一個很聰明但永遠停在 POC 的方案。

給台灣企業三個具體建議：

先做資料分級。 把公司資料分成「可上雲」與「不可上雲」兩堆。這件事不需要任何技術，但它會決定你後面所有的架構選擇。多數公司跳過這一步，然後在導入到一半時才發現撞牆。

從文件密集、答案有標準的任務開始。 法規查詢、SOP 問答、異常排查，這類任務的正確答案存在於既有文件裡，模型只要找得到、引得對就好，不需要它很聰明。

把知識庫整理當成長期投資，不是專案。 這件事沒有終點，但它的複利效果很強——今天整理好的文件，未來換任何模型都還能用。

想了解更多相關工具，可以逛站上的 AI 開發者工具 與 AI 企業專用 分類。

評語：台灣製造業導入 AI 的最大障礙從來不是技術能力，是那份不能外流的合約。端側 AI 把死結解開了一半，另一半——把公司的知識整理成機器讀得懂的形式——沒有任何工具能代勞，只能自己動手。而這件事越早開始越好，因為它是複利的。

資料來源

• EdgeRunner AI 官方網站（端側生成式 AI 與 EdgeRunner-Camo）
• Ollama 官方網站（本地模型執行環境）
• Distributed Spectrum 官方網站（邊緣 AI 的另一種應用型態）

本文依各廠商官方網站公開資訊整理，所引成效數據（如錯誤率降低 37%）均為廠商自述，非獨立第三方驗證。個案描述為綜合產業訪談後的情境重構，非特定公司之實名案例。