數位轉型

三家同時斷線的那個早上:把 AI Agent 建在外部 API 上的三個結構性風險

2026 年 9 月 3 日 ChatGPT、Claude、Grok 同時中斷。當 AI Agent 進入核心流程,供應商的可用性就是貴司的可用性。本文拆解外部 API 的三個結構性風險:成本不可控、資料主權(金管會、衛福部、AI 基本法 2026 年的新要求)、無 SLA 的服務穩定性,以及把「可替換」設計進架構的三層做法。系列第二篇。

三家同時斷線的那個早上:把 AI Agent 建在外部 API 上的三個結構性風險

2026 年 9 月 3 日,台北時間晚上十點多,ChatGPT、Claude 與 Grok 三個平台在幾分鐘之內先後出現大規模錯誤。OpenAI 事後說明是路由錯誤,影響 ChatGPT 與 Codex,約三十多分鐘後修復。Anthropic 的狀態頁顯示錯誤率升高持續了三小時六分鐘。這是第一次三家主要供應商在同一個時段同時出狀況。

對一般使用者,這是一個晚上的不方便。對已經把 AI Agent 接進核心流程的企業,這三個小時代表的是:夜間排程的對帳跑到一半停住、客服 Agent 對客戶回錯誤訊息、公文草擬系統無法使用。當 AI 從輔助工具變成流程的一部分,它的可用性就是貴司的可用性。這篇文章要談的,就是把 AI Agent 建在外部 API 上,除了上一篇談的成本結構之外,另外三個結構性的風險。

結構性風險的意思是:這不是供應商的問題

先講清楚一件事。這篇文章不是在說哪家供應商不可靠。三家同時斷線恰好證明了相反的事:再大的供應商都會斷,而且可能一起斷。結構性風險指的是,只要貴司的架構是「所有推論都送到境外的外部 API」,這三個風險就存在,跟選了哪一家無關。

風險一:成本不可控,而且無法議價

上一篇已經拆過 AI Agent 的 token 消耗是聊天機器人的 5 到 30 倍。這裡要補的是另一面:價格由供應商單方面決定,貴司沒有議價空間。

企業採購習慣的模式是簽約時談好三年的價格與折扣。外部 API 不是這樣運作的。單價會變、快取折扣會依模型世代不同、批次介面的規則會改、舊模型會被下架。過去一年,主要供應商都發生過模型汰換導致企業必須在期限內把所有流程遷移到新版本的事。每一次遷移都是重新測試、重新驗證,這些工程成本不會出現在 API 帳單上,但都是真的錢。

對用量大的企業,這個風險還有一個放大器:用量越大,鎖定越深。當貴司有五十條流程建在某一家的 API 上,換供應商的成本高到不可能執行,價格談判的籌碼也就不存在。

風險二:資料主權,台灣的法規已經追上來了

兩年前談資料主權,多數企業覺得那是歐盟的事。2026 年的台灣已經不是這樣。三個主管機關在半年內都動了:

  • 金融業。金管會在 2024 年 6 月發布「金融業運用人工智慧指引」,2026 年 5 月主委在立法院財委會表示,將把可程式化 AI、代理式 AI 與 AI 風險分類三件事全部納入現行指引。這代表 AI Agent 在金融業不再是灰色地帶,會有明確的治理、問責與資料保護要求。
  • 醫療業。衛福部在 2026 年 5 月 29 日頒布「醫療機構應用生成式人工智慧指引」,適用範圍包含病歷撰寫輔助、臨床決策支援、行政文書與病人溝通,要求涉及臨床判斷與醫療紀錄的情境必須由具資格的醫事人員負最終責任。同時,衛福部正在推動醫療主權雲方針,核心是資料留台與金鑰自主。健保資料本來就不能任意送到境外雲端,這一點大型醫院的資訊室都很清楚。
  • 全體。立法院在 2025 年 12 月 23 日三讀通過人工智慧基本法,國科會為主管機關,數位發展部負責風險分類框架與資料治理機制。七大原則裡明確列了隱私保護與資料治理、資安與安全、問責。

對讀者的實際意義是:「我們把資料送到外部 API 處理」這句話,在金融、醫療、政府三個領域,接下來都需要在稽核時說明資料去了哪裡、由誰處理、如何刪除。不是不能用外部 API,而是能送出去的資料類型會被明確界定。核心帳務、病歷、公文本文,這些多半會落在不能出去的那一邊。

製造業沒有專屬指引,但風險形狀一樣。製程參數、良率資料、供應鏈報價是貴司的核心競爭力,把它們當成 Agent 的上下文送到境外,等於把最值錢的資料放進一個貴司無法稽核的地方。

風險三:服務穩定性,貴司無法要求 SLA

回到 9 月 3 日那個晚上。三小時的中斷,對企業內部系統來說並不算特別長,很多自建系統的年度維護窗口都比這長。差別在於:自建系統的維護時間是貴司決定的,外部 API 的中斷時間是別人決定的。

外部 API 的服務條款通常不提供企業習慣的 SLA,也就是沒有可用性承諾、沒有違約賠償、沒有專屬窗口。斷線的時候貴司能做的只有看狀態頁。速率限制也是同一類問題:供應商會依帳號等級限制每分鐘的請求數與 token 數,貴司的夜間批次跑到一半被限流,只能等。

可用性的定義權在誰手上,就決定了這個系統在稽核時算不算貴司的系統。

這對銀行與醫院特別關鍵。金融業的營運持續要求、醫院的 24 小時臨床作業,都不允許「等供應商修好」這種回應。如果 AI Agent 已經進入這些流程,它的可用性就必須被納入貴司自己的營運持續計畫,而不是依賴狀態頁。

三個風險的共同解法:把「可替換」設計進架構

三個風險看起來是三件事,其實指向同一個架構原則:貴司的流程不應該直接綁死在任何一家外部 API 上。實務上這代表三層設計:

  • 一個統一的入口。所有 AI 呼叫經過貴司自己的閘道,而不是各個系統各自直連供應商。閘道負責量測、歸因、限額、快取,也負責在供應商異常時切換到備援。這一層本身就是成本治理的基礎,上一篇談的埋點就在這裡做。
  • 資料分級。依法規與商業機密程度,明確定義哪些資料可以送外部 API、哪些只能在境內或機房內處理。分級不是一次做完的文件,而是閘道上的規則。
  • 至少一條本地路徑。對不能出去的資料,以及對可用性要求最高的流程,要有一條在貴司控制範圍內的推論路徑。這條路徑不需要一開始就承擔全部流量,但必須存在並且被驗證過,才能在斷線與稽核時派上用場。

第三點就把問題帶到了下一篇。很多企業一聽到「本地路徑」就想到買 GPU,然後被報價單和機房條件嚇退。下一篇要談的是自建 AI 基礎設施真正的四道關卡,以及每一道關卡目前有什麼務實的破解法。

常見問題

這是在建議企業不要用外部 API 嗎?

不是。外部 API 在模型能力、上線速度與突發流量彈性上仍有明顯優勢,多數企業的 AI 流程會繼續使用它。建議的是不要讓流程「直接綁死」在單一供應商上,並且依資料分級決定哪些流程可以走外部、哪些必須留在境內。

台灣目前有哪些法規要求 AI 處理的資料不能出境?

目前沒有單一法條禁止所有資料出境,但金管會的金融業 AI 指引、衛福部 2026 年 5 月的醫療機構生成式 AI 指引與醫療主權雲方針、以及 2025 年 12 月三讀的人工智慧基本法,都對資料治理、隱私保護與問責提出要求。健保資料另有既有的境外限制。實務上,核心帳務、病歷與公文本文多半會被歸類為不宜送外部 API 處理的資料。

閘道是不是又一套要維護的系統?

是,但它取代的是散落在各個系統裡的直連呼叫。集中之後,量測、歸因、限額、快取與備援切換都只需要做一次。以品得網絡的經驗,閘道通常是企業 AI 治理裡投入最小、回收最快的一層。

如果貴司正在盤點哪些 AI 流程碰到了法規邊界,或者想知道現有架構在供應商斷線時會發生什麼事,歡迎聯絡品得網絡。第一步通常是一份資料分級與依賴盤點,不需要動任何既有系統。