GPU 基礎設施

標籤:GPU 基礎設施

API、自建、混合:給銀行、醫院、製造與公部門的 AI Agent 部署決策地圖 數位轉型
數位轉型 2026 / 09 / 15

API、自建、混合:給銀行、醫院、製造與公部門的 AI Agent 部署決策地圖

系列收尾篇,把前四篇收成一張可以直接拿去開會的決策地圖:依資料敏感度、可用性、流量形狀把每條 AI 流程分流到 API、自建或混合;銀行、醫院、製造、公部門各自的關鍵條件;治理先行、最小落地、依數據擴充的三步導入;以及採購時要求供應商回答的六個問題。

從機櫃到 Agent:算力層要具備的五個治理能力,以及三條實作路線怎麼選 數位轉型
數位轉型 2026 / 09 / 13

從機櫃到 Agent:算力層要具備的五個治理能力,以及三條實作路線怎麼選

GPU 是零件,算力是服務,中間差的是硬體上面那一層。本文不從技術名詞出發,先定義從機櫃到 AI Agent 之間必須具備的五個治理能力:多租戶隔離、配額與成本歸因、推論路由、可觀測性、可攜性,再攤開單機容器化、高效能運算排程器、容器編排平台三條實作路線各自適合誰。系列第四篇。

買了 GPU 不等於有算力:自建 AI 基礎設施的四道關卡與破解法 數位轉型
數位轉型 2026 / 09 / 11

買了 GPU 不等於有算力:自建 AI 基礎設施的四道關卡與破解法

自建失敗的案例幾乎都不是買錯 GPU,而是買了之後算力沒有變成可用的服務。本文攤開四道關卡:供電與散熱(B200 單卡 1000W,高密度實質需液冷)、長期偏低的使用率、三年攤提撞上世代更替、交期與規格。每一道都附務實破解法:先量機房、集中排程、分階段擴充、規格書寫「要跑什麼」。系列第三篇。