AI Expo 2025 深度解析

從生成式 AI 到實體智慧，三大趨勢重塑產業未來

AI Expo 2025 的帷幕落下，留給產業界的卻是一個清晰無比的信號：人工智慧的發展已正式駛入深水區，告別了概念驗證（POC）的喧囂，全面轉向務實落地的價值實現階段。會中數十位來自全球領導廠商、研究機構與新創企業的講者，共同勾勒出一幅 AI 技術與產業深度交融的藍圖。本次大會揭示了三大正在重塑未來的核心趨勢：一、AI 的終極演進：從「生成內容」到「執行任務」的 AI 代理 (Agent) 革命；二、運算力的去中心化：從雲端走向邊緣與終端的混合式 AI 新常態；三、落地的基石與挑戰：硬體基礎設施的再定義與企業導入的務實路徑。本文將綜合大會觀點，深入剖析這些趨勢的內涵、影響與未來展望，為讀者擘劃未來幾年的 AI 發展藍圖。

--------------------------------------------------------------------------------

1. 趨勢一：AI 的終極演進 — 從「生成」到「行動」的代理革命

在大型語言模型（LLM）掀起內容生成的巨浪之後，業界正積極探索 AI 的下一階段演化。來自 Google、NVIDIA、微軟、研華等眾多講者的觀點不約而同地指向同一個未來：具備自主規劃、使用工具並執行任務能力的「AI 代理（Agent）」與「實體 AI（Embodied AI）」。這不僅是技術的必然演進，更是一場將徹底改變人機協作模式的革命，預示著 AI 將從數位世界的「大腦」，進化為能夠在虛實世界中「行動」的完整個体。

1.1 AI Agent：下一波智慧浪潮的定義與潛力

綜合 GMI Cloud、Google Cloud、NVIDIA 及研華科技的分享，AI Agent 不再是傳統被動回應的聊天機器人，而是具備以下核心特徵的智慧實體：

• 自主性 (Autonomy)： Agent 不僅是被動回應指令，而是能主動執行任務，圍繞著一個或多個目標持續運作。

• 目標導向 (Goal-oriented)： Agent 能夠理解複雜的、高層次的目標，並為此自主規劃與推理，將大任務拆解成一系列可執行的步驟。

• 工具使用 (Use Tools)： 這是 Agent 的關鍵能力。它能夠調用 API、資料庫、軟體及其他外部工具，就像人類使用電腦軟體一樣，以獲取資訊或完成特定操作。

• 行動能力 (Action)： Agent 的能力從數位世界的內容生成，擴展至執行跨系統的複雜工作流程，例如自動化完成從分析客戶郵件、查詢庫存、生成報價單到發送郵件的完整銷售流程，甚至能透過機器人等載體與物理世界互動。

1.2 實體 AI：當智慧大腦遇上感知與行動的軀體

新漢集團董事長林茂昌以一個生動的比喻點出了純雲端 AI 的局限性：「如同頭腦發達，全身麻痺」。強大的雲端大模型雖然具備驚人的認知與推理能力，但若無法感知物理世界並對其採取行動，其價值將大打折扣。

為了解決這個問題，實體 AI (Embodied AI) 的概念應運而生。它強調 AI 雲（大腦）與邊緣 AI（感知與行動）的結合，讓智慧大腦得以擁有與現實世界互動的「軀體」。林董事長進一步指出，「會動的 AI」——例如整合了視覺辨識與精密控制的 AI 機器人、能自主優化產線的智慧製造設備——正是邊緣 AI 最具商業價值的「殺手級應用」。這一觀點，也與 Digitimes 董事長黃欽勇的觀察不謀而合，他將邊緣運算的「最後一哩路」視為台灣硬體實力得以大展拳腳的關鍵領域。

1.3 應用展望：重塑企業營運與未來工作模式

AI Agent 的潛力在於將自動化從單點任務推向端到端的流程再造。其應用前景廣闊，橫跨企業營運的多個層面。來自緯謙科技的洞見聚焦於工業製造的機會，NVIDIA 強調其在提升開發者生產力上的應用，而 Google 則展示了其在自動化複雜商業流程方面的潛力，具體價值如下表所示：

AI Agent 的實現，高度依賴於無所不在且即時的運算能力。這正引領著運算架構從集中式的雲端，向分散式的邊緣進行一場重大的轉變。

--------------------------------------------------------------------------------

2. 趨勢二：運算力的再分配 — 混合式 AI 的新常態

隨著 AI 應用從雲端深入到工廠、汽車、個人電腦乃至微小的感測器中，純雲端架構在延遲、隱私、成本等方面的瓶頸日益凸顯。高通、AMD、宜鼎、意法半導體等多位講者皆指出，AI 運算正大規模地走向邊緣與終端裝置，形成雲端負責大規模訓練、邊緣與終端負責即時推論與個性化任務的「混合式 AI」架構。這不僅是技術趨勢，更是推動 AI 普及化的關鍵。

2.1 為何走向邊緣？On-Device AI 的五大核心優勢

高通總裁劉思泰在其演講中，精闢地闡述了在裝置端直接運行 AI（On-Device AI）的五大核心優勢，這也解釋了為何運算力需要被重新分配：

1. 即時性/低延遲 (Immediacy)

    ◦ 數據無需往返雲端，反應速度極快，對於需要即時回饋的應用（如自動駕駛、工業控制）至關重要。

2. 可靠性 (Reliability)

    ◦ 不受網路連線狀況影響，即使在離線或網路不穩定的環境下，AI 功能也能持續運作。

3. 隱私性/安全性 (Privacy)

    ◦ 敏感的個人或企業數據保留在本地裝置處理，大幅降低了在傳輸過程中被竊取或外洩的風險。

4. 個人化 (Personalization)

    ◦ AI 能夠直接在裝置上學習使用者的習慣與偏好，提供真正客製化、獨一無二的體驗，而無需將個人資訊上傳至雲端。

5. 成本效益 (Cost Efficiency)

    ◦ 減少對昂貴雲端運算資源的持續依賴，對於大規模部署的終端裝置而言，能顯著降低長期的營運成本。

2.2 從 AI PC 到工業物聯網：高效能邊緣的實現

高效能邊緣運算正成為現實，並在兩大領域展現出強勁的發展動能：

• AI PC 的崛起： AMD 與高通皆展示了其最新的處理器如何透過整合專用的 NPU（神經處理單元），將強大的 AI 能力直接帶到個人電腦。這使得 PC 不再僅僅是執行軟體的工具，更能實現即時的影像增強、語音降噪、甚至本地運行小型語言模型等功能，全面提升生產力與使用者體驗。

• 工業邊緣的挑戰與方案： 宜鼎國際指出，工業場景的邊緣 AI 面臨著硬體碎片化、異構數據整合困難、以及嚴苛操作環境（如高溫、震動）等多重挑戰。為此，像宜鼎這樣的廠商正提供軟硬整合的 AIoT 解決方案，從可靠的工業級儲存、多樣化的 AI 加速卡與感測模組，到簡化開發的 SDK 與遠端管理平台，旨在克服這些落地痛點，加速智慧製造、智慧城市的實現。

2.3 深入微小角落：MCU 上的嵌入式 AI

AI 的邊緣化不僅止於 PC 或工業電腦，更已深入到資源極度受限的微控制器（MCU）中。意法半導體（STMicroelectronics）與恩智浦（NXP）的分享，揭示了在運算能力、記憶體和功耗都受到嚴峻限制的 MCU 上實現 AI 的策略：

• 核心挑戰： 在僅有幾百 KB 記憶體和 MHz 等級運算能力的微小晶片上運行 AI 模型，如同在有限空間內上演精密的魔術。

• 關鍵賦能工具： 為了克服挑戰，兩家公司都提供了強大的開發工具來降低門檻。

    ◦ 意法半導體的 STM32Cube.AI 能將預先訓練好的神經網路模型，自動轉換為對 STM32 平台高度優化的 C 語言程式碼。

    ◦ 恩智浦的 eIQ 軟體開發環境 則提供圖形化介面與完整的工具鏈，讓不熟悉 AI 的嵌入式工程師也能快速上手。

• 特殊應用場景： 這些工具不僅簡化流程，更針對特定場景提供創新方案。

    ◦ 意法半導體的 NanoEdge AI Studio 甚至無需預訓練模型，可直接在 MCU 上學習正常設備的運作模式（如馬達震動），從而實現異常偵測，極適合工業預測性維護。

    ◦ 恩智浦則針對工業場景常見的感測器數據，提供了專門的 eIQ Toolkit for Time Series，這套工具旨在簡化基於感測器數據的異常偵測、分類與預測任務開發。

無論是雲端、邊緣還是終端，AI 的實現都離不開底層硬體基礎設施的強力支撐。接下來，我們將深入探討構成 AI 算力的核心硬體。

--------------------------------------------------------------------------------

3. 趨勢三：AI 的基石 — 硬體基礎設施的再定義

AI 應用的爆發式增長，對傳統 IT 基礎設施提出了前所未有的挑戰，硬體已然成為 AI 創新的真正引擎。本章將深入剖析 AI 時代的硬體金字塔，從驅動模型運算的 GPU，到常被忽視卻至關重要的儲存系統，再到將一切整合的企業級解決方案。

3.1 算力引擎：GPU 霸權與開放生態的挑戰

AI 加速器市場呈現出由領導者與挑戰者共同推動的格局：

• NVIDIA 的生態壁壘： NVIDIA 不僅憑藉其強大的 GPU 硬體（如 H100 系列）佔據市場主導地位，更關鍵的是其圍繞 CUDA 平台建立的深厚軟體生態系。透過提供如 NeMo（用於客製化 LLM）、TensorRT-LLM（用於加速推論）等高階函式庫與框架，NVIDIA 為開發者打造了一條龍的 AI 開發路徑，形成了難以撼動的護城河。

• AMD 的開放戰略： AMD 則採取了不同的策略，試圖以其端到端的完整硬體產品組合（從資料中心的 Instinct GPU、EPYC CPU，到終端的 Ryzen AI CPU 及自行調適 SoC）及開放的 ROCm 軟體平台來挑戰既有格局。ROCm 的目標是成為能與 CUDA 抗衡的開源選項，為市場提供更多選擇與彈性，避免廠商鎖定。

3.2 效能瓶頸的隱形殺手：儲存系統的關鍵作用

在 AI 工作流程中，儲存系統的角色常被低估，但它卻是決定整體效能的關鍵瓶頸。

• 破除迷思：GPU 為何閒置？ Solidigm 的演講傳遞了一個嚴峻的警告，直指業界普遍存在的「GPU 飢餓 (GPU Starvation)」陷阱。 企業投入巨資購買的昂貴 GPU 經常處於閒置狀態，原因並非 GPU 不夠快，而是後端的儲存系統無法及時「餵送」龐大的訓練數據，導致 GPU 只能空轉等待。

• SSD 的關鍵價值： 為了解決此問題，高效能 SSD 扮演了關鍵角色。其極低的延遲和超高的 IOPS（每秒讀寫次數）能夠確保數據流暢地供給 GPU，最大化算力利用率。特別是高容量的 QLC SSD，不僅能滿足 AI 數據爆炸的需求，更能在總體擁有成本（TCO）上，透過提升效率、節省電力與機架空間，展現出比傳統 HDD 更優的成本效益。

• 邊緣儲存的新要求： 華邦電子的觀點則補充了邊緣 AI 對 Flash Memory 的新需求。在邊緣裝置上，高讀取帶寬變得至關重要，它能加速 AI 模型從 Flash 載入到 RAM 的過程（Code Shadowing），從而實現系統的快速啟動（Instant-On），這對於需要即時反應的應用至關重要。

3.3 系統整合：從硬體到企業級解決方案

單純的硬體堆疊並不能構成高效的 AI 系統，系統整合者的角色因此凸顯。戴爾科技集團（Dell）的分享展示了基礎設施提供商如何透過深度整合來簡化企業導入 AI 的複雜性。

其 Dell Validated Design for GenAI 等方案，是透過與 NVIDIA（如 Project Helix 合作計畫）、AMD 等技術夥伴進行深度工程合作，提供包含伺服器、GPU、儲存、網路及軟體的全棧式解決方案。這些方案經過預先的測試、驗證與優化，能大幅降低企業自行整合的風險與時間成本。同時，將 AI PC 與工作站納入整體藍圖，則體現了將 AI 能力從資料中心無縫延伸至終端使用者的端到端策略。

強大的硬體雖然是基礎，但企業要成功導入 AI，還需要克服策略、數據、人才等多重挑戰，這也引出了關於 AI 實際落地的深入探討。

--------------------------------------------------------------------------------

4. AI 落地現實：企業導入的挑戰與務實路徑

在 AI 的熱潮之下，許多企業在導入過程中卻面臨著從「概念到實踐」的巨大鴻溝。本章節綜合人工智慧科技基金會（AIF）、思想科技、台灣人工智慧實驗室（AI Labs）等多方觀點，深入剖析台灣企業在 AI 落地時的普遍困境，並探討業界提出的務實解決方案與成功心法。

4.1 共同的痛點：企業 AI 轉型的五大困境

根據 AIF 執行長溫怡玲及思想科技技術總監黃方志的分享，企業導入 AI 時面臨的核心困境高度一致：

1. 期望值落差與迷思： 許多企業將 AI 視為解決一切問題的魔術棒，對其能力邊界、導入成本與潛在風險缺乏正確認知，導致期望過高，失望也越大。

2. 找不到合適的應用場景： 常見的錯誤是從技術出發，而非從業務痛點出發。問題定義不清、目標模糊、缺乏可量化的成功指標，導致 AI 專案最終無法產生商業價值。

3. 數據困境： 這是最普遍的基礎性挑戰。數據分散在不同系統形成「數據孤島」、品質不佳、格式混亂、治理薄弱，導致企業缺乏可供 AI 使用的「AI Ready Data」。

4. 跨領域人才缺乏： 市場極度缺乏既懂 AI 技術，又深刻理解產業 Domain Know-how 的複合型人才。技術團隊不懂業務，業務團隊不懂技術，兩者之間存在巨大鴻溝。

5. 高階主管支持不足： 領導層可能將 AI 視為單純的 IT 專案，而非企業級的轉型戰略。缺乏長期投入的決心與資源承諾，過度追求短期速效，對過程中的失敗容忍度低。

4.2 務實的解方：從 RAG 到聯邦式學習

針對上述挑戰，業界也提出了更為務實的解決方案，旨在降低導入門檻，解決特定痛點：

• 檢索增強生成 (Retrieval-Augmented Generation, RAG)： 神燈智能科技指出，對於希望利用 LLM 處理內部知識的企業，RAG 是比從頭訓練或微調模型更高效的途徑。其核心概念是給 LLM 一個「開書考」的環境。在回答問題前，系統會先從企業內部的知識庫（如產品手冊、規章制度）中檢索相關資訊，再將這些資訊連同問題一起交給 LLM，引導其生成基於事實的答案。RAG 在降低幻覺、整合企業內部資料、即時更新知識庫及高成本效益方面具有顯著優勢。

• 聯邦式學習 (Federated Learning)： 台灣 AI Labs 創辦人杜奕瑾分享了此技術在解決資料隱私與跨機構合作難題上的應用。他將其定位為建構「行業模型」的關鍵方法，作為通用基礎模型與企業專屬模型間的橋樑。聯邦式學習允許不同機構在不共享原始數據的前提下，僅交換模型的參數更新，共同訓練出一個更強大的 AI 模型。此技術的威力在台灣 AI Labs 促成台北榮總、台大醫院與亞東醫院的合作中得到驗證，三方共同訓練的腦瘤偵測模型，其效能顯著優於任何單一醫院獨立訓練的模型。

4.3 赋能員工：從內部培養到外部生態系

面對人才困境，AIF 執行長溫怡玲提出了關鍵建議：重心應放在賦能內部員工。她強調：

「讓懂 Domain Know-how 的人學習使用 AI 工具，比讓 AI 專家從頭學產業知識更有效。」

企業應優先提升現有員工的 AI 素養，讓他們能將新工具應用於熟悉的業務場景中。同時，企業也應善用外部資源，積極與法人機構、學術界及技術供應商合作，建立一個能夠提供諮詢、技術支援與人才培育的合作生態系，彌補內部能力的不足。

在解決技術與落地挑戰的同時，AI 的快速發展也帶來了關於倫理、安全與社會責任的深刻思考，這將是下一章節的重點。

--------------------------------------------------------------------------------

5. AI 的雙面刃：治理、安全與永續的未來

人工智慧是一把強大的雙面刃，它在帶來無限機遇的同時，也伴隨著被濫用的風險與深刻的倫理挑戰。本章節將探討 AI 發展中不可或缺的「良知」層面，從資安威脅到「AI 向善」的願景，再到可信賴與永續 AI 的治理框架。

5.1 光明與黑暗：AI for Good vs. AI for Bad

微軟與趨勢科技的演講，鮮明地對比了 AI 發展的光明與黑暗兩面：

• 光明面： 微軟總經理卞志祥提出了 「AI for Good」 的願景，強調科技發展應回歸「以終為始」的思考，關注其對人類與地球的正面價值。他列舉了微軟利用 AI 在環境永續（物種保護、能源優化）、無障礙（為視障者轉譯視覺世界）、人道救援（加速災害應變）及文化保存等領域的具體實踐，並闡述其推動 AI 民主化，讓每個人都能從中受益的目標。

• 黑暗面： 趨勢科技總經理洪偉淦則揭示了 「AI for Bad」 的嚴峻現況。他警告，生成式 AI 正在大幅降低網路攻擊的門檻，讓缺乏高深技術的駭客也能輕易發動攻擊。其惡意手法包括：

    ◦ 惡意程式生成： 快速產生變種的惡意軟體或勒索病毒。

    ◦ 客製化釣魚郵件： 根據目標的公開資訊，生成高度個人化、極難辨識的釣魚郵件。

    ◦ Deepfake 詐騙： 利用 AI 生成偽造的語音或影像，進行更具說服力的詐騙活動。

5.2 建立信任：從「負責任」到「永續」的 AI

面對 AI 的潛在風險，建立可信賴的 AI 成為業界共識。

• 負責任的 AI (Responsible AI)： Google Cloud 強調，負責任的 AI 是其發展的核心原則。這意味著在模型開發與應用的每一個環節，都必須確保其安全、公平、符合倫理規範，並積極應對演算法偏見、數據隱私等問題。

• 永續 AI (Regenerative AI)： 台灣 AI Labs 創辦人杜奕瑾則提出了更貼近企業應用的「永續 AI」概念。他指出，此概念是針對生成式 AI 在企業應用中引發的具體挑戰——即龐大的運算與能源成本，以及如歐盟 AI Act 等日益嚴格的法規監管——而提出的務實策略。企業級 AI 必須在有限資源、保護隱私、持續精進及遵循法規的前提下發展，才能確保其長期價值與可行性。

在全面審視了 AI 的技術演進、硬體基礎、落地挑戰與治理框架後，最後我們將聚焦於台灣在此全球變局下的獨特定位與未來展望。

--------------------------------------------------------------------------------

6. 總結：台灣在 AI 浪潮中的機遇與挑戰

AI Expo 2025 充分展現了全球 AI 發展已從技術狂熱走向產業深耕的態勢。綜合 Digitimes 董事長黃欽勇、經濟部長郭智輝、數位發展部次長林宜敬以及 AIF 執行長溫怡玲的觀點，台灣在這場變革浪潮中，處於一個機會與挑戰並存的關鍵位置。

• 機遇： 台灣最顯著的優勢在於其在全球 AI 產業鏈中的硬體核心地位。從半導體先進製程到伺服器供應鏈，台灣廠商扮演著不可或缺的角色。同時，政府也展現出高度支持，經濟部聚焦於人才培育與協助中小企業導入，數位發展部則透過算力支持、數據開放等政策工具，積極建構有利於 AI 產業發展的生態環境。

• 挑戰： 然而，挑戰同樣嚴峻。Digitimes 董事長黃欽勇以「富貴險中求」精準點出台灣面臨的地緣政治風險，這為產業發展帶來不確定性。此外，佔台灣企業絕大多數的中小企業在 AI 轉型上普遍面臨資源與能力的限制，而能夠結合技術與產業知識的跨領域應用人才缺口，依然是限制 AI 應用深化的一大瓶頸。

• 展望： 展望未來，台灣的成功之路在於策略性地運用其獨特優勢，以駕馭本次大會所揭示的三大核心趨勢。台灣卓越的硬體實力（趨勢三），為未來去中心化的混合式運算架構（趨勢二）奠定了堅實基礎；而其在製造、醫療等領域深厚的產業知識（Domain Know-how），正是解鎖AI 代理革命（趨勢一）在高價值產業中真正潛力的關鍵。透過深化軟硬整合，並積極參與建構可信賴與永續的 AI 生態系，台灣才能在這場重塑全球產業格局的 AI 變革中，穩佔關鍵地位，航向智慧化的未來。