Vertex AI 的生成式 AI

什麼是 Vertex AI 的生成式 AI？

建構 GenAI 應用程式的企業級平台

對於 Generative AI Leader 考試來說，Vertex AI 是您必須與「在 Google Cloud 組織內部建構、治理及運營生成式 AI」緊密連結的唯一平台名稱。Vertex AI 是 Google Cloud 的統一企業級機器學習平台，其生成式 AI 部分為企業提供了從「我們想要一個聊天機器人」到「我們擁有一個受治理、可稽核的生產級 GenAI 應用程式」所需的一切——無需拼湊十幾個獨立工具。消費者只需開啟 Gemini 應用程式並輸入問題，但企業需要提示管理、模型選擇、基於私有資料的接地、調校、評估、存取控制、稽核日誌，以及不將其專有資料用於訓練 Google 模型的合約承諾。Vertex AI 的生成式 AI 功能正是在同一個地方回應了上述所有需求。

為何領導者需要了解這些

身為 Generative AI Leader，您很少會編寫程式碼或設定端點。您的職責是了解每個 Vertex AI 建構模組的用途、組織何時應選擇 Vertex AI 而非消費者版 Gemini 應用程式或 Google AI Studio，以及哪些企業級管控機制讓 Vertex AI 在金融、醫療及公共部門等受監管產業中安全可用。考試測驗的是商業判斷力：將場景（「某醫院希望建立一個僅以核准臨床指引為依據的病患端助理，具備完整稽核追蹤功能，且資料不離開其所在區域」）對應到正確的 Vertex AI 能力。本章節將逐一介紹 Vertex AI Studio、Model Garden、Vertex AI Agent Builder、模型調校與評估、部署，以及企業治理層。有關底層模型系列，請參閱 Gemini 模型與能力章節。

白話文解釋

Vertex AI 的生成式 AI 聽起來很技術性，但其背後的概念是每位商業領導者都能理解的事情：家庭廚房與專業、受監管的企業級運作之間的差異。消費者可以在家用冰箱裡現有的食材煮一頓飯——那就是 Gemini 應用程式。企業則必須經營一間商業廚房，使用可追溯的食材、接受衛生稽查、標準化食譜，並能安全地服務數千名顧客。以下類比將 Vertex AI 的各個元件轉化為非技術受眾能夠理解的畫面。

類比一 — 24 小時中央廚房對比家庭小廚房

想像一家大型連鎖便利商店的24 小時中央廚房，與自家廚房的差別。在家裡，您隨手取材、邊煮邊嚐，只服務自己一桌——快速、隨性、無需任何文件。那就是消費者版 Gemini 應用程式：任何人都能使用，但沒有追溯機制，也無法保障剩餘食材的去向。中央廚房則是另一個世界。每種食材都來自核准供應商（Model Garden 就是核准供應商目錄——Gemini、Gemma、Anthropic 的 Claude、Meta 的 Llama，以及合作夥伴模型）。每道食譜在進入生產之前都經過測試與標準化（Vertex AI Studio 是食譜開發台，提示在此設計、比較與確定）。廚房能將食譜從一份擴展到一萬份而不失一致性（Vertex AI 部署將所選模型置於自動擴展的端點後方提供服務）。

最關鍵的是，中央廚房在衛生稽查、過敏原標示及供應鏈管理規定下運作——正如 Vertex AI 的 IAM、VPC Service Controls、資料駐留地與稽核日誌層所做的那樣。中央廚房也有一份具約束力的合約，確保其專有食譜不會被供應商複製——那就是 Vertex AI 的不使用您資料進行訓練承諾。Generative AI Leader 的重點啟示：企業選擇 Vertex AI 並非因為它能「烹飪出更好的」GenAI；選擇它是因為需要受治理、可稽查、可擴展的廚房，而非隨性的家庭設置。

類比二 — 從設計圖到出貨的一站式工坊

第二個實用的類比是一間設備齊全的一站式工坊。想像一位家具製造商，不必在木材廠、獨立裁切間、對街的塗裝店、品質稽查辦公室和出貨站之間來回奔波，而是走進一棟建築物，每個工作站都按照正確順序排列。Vertex AI 的生成式 AI 就是這樣的工坊。設計台是 Vertex AI Studio，團隊在此設計並反覆調整提示——告訴模型該做什麼的指令。材料目錄是 Model Garden，團隊在此選擇要使用哪個模型來建構。組裝線是 Vertex AI Agent Builder，個別提示在此與公司資料和工具連接，成為可運作的代理程式或搜尋體驗。

工坊還有一個品質稽查站——Vertex AI 的評估工具，在任何成品出貨前，依測試案例對模型輸出進行評分。有一個客製化工作台——調校，在此將基礎模型以公司自己的範例加以調整。還有一個出貨碼頭——部署，將完成的應用程式置於穩定、受監控的 API 後方，供其他軟體呼叫。因為每個工作站都在同一棟建築物內，專案可在數週而非數月內從構想推進到生產，且工具之間不會遺失任何東西。對於 Generative AI Leader 而言，商業論點在於整合：一間工坊、一套安全規則、一張帳單、一條稽核追蹤。

類比三 — 官方製造廠對比後街改裝廠

第三個類比直接觸及信任議題。比較向製造商官方工廠購買一輛汽車，與在後街改裝廠組裝一輛汽車的差異。後街改裝廠可能快速又便宜，但沒有保固、沒有安全認證、無法保證零件來源，也沒有任何施工記錄。官方工廠提供車輛識別碼、維修歷史、碰撞測試認證、召回流程及合約。Vertex AI 就是企業生成式 AI 的官方工廠。當銀行或政府機構建構 GenAI 助理時，無法接受「它能運作，相信我們就好」。它需要資料駐留地（工廠必須位於核准區域）、IAM（只有授權人員可以接觸生產線）、VPC Service Controls（圍起安全邊界，防止設計外洩）、稽核日誌（每次請求的完整服務歷史），以及不使用您資料進行訓練承諾（製造商不會再利用您的客製化設計）。

Google AI Studio 和消費者版 Gemini 應用程式非常適合快速原型開發和個人生產力——相當於試駕或業餘愛好專案——但它們並非認證工廠。一旦組織需要法規遵循、區域控制和合約保障，就會將建構工作移至 Vertex AI。這是考試最常見的決策模式，請用這個類比加以記憶：可在任何地方製作原型，但生產製造必須在官方工廠進行。

Vertex AI Studio — 設計與測試提示

Vertex AI Studio 的用途

Vertex AI Studio 是互動式工作空間，團隊在此設計、測試並精煉提示——驅動生成模型的自然語言指令。這是建構者決定建立 GenAI 功能後首先前往的地方。在 Studio 中，提示工程師可以輸入指令、針對模型執行、查看回應、調整措辭並比較結果——全程透過視覺化介面進行，實驗時無需編寫程式碼。Studio 也揭露了模型參數，例如溫度（輸出的創意程度或確定性）和輸出長度，讓團隊能夠調整出想要的行為。

提示管理與比較

Vertex AI Studio 的一項重要企業級優勢，是讓團隊能夠儲存、版本控管並共享提示，而非將它們散落在各個文件中。Studio 支援並排比較，讓團隊可以針對同一個提示測試，例如速度較快的 Gemini Flash 模型與能力更強的 Gemini Pro 模型，進而決定哪一個在成本與品質之間取得最佳平衡。Studio 也能預覽多模態提示——文字結合圖像、音訊或影片——這對於分析產品照片或摘要錄製的會議等使用案例非常重要。對於領導者而言，重點訊息在於 Studio 將提示設計從憑感覺轉變為可量測、可重現的實踐。

從實驗到 API 呼叫

一旦提示在 Studio 中表現良好，就可以匯出為公司自有應用程式嵌入的 API 呼叫。這是從「我們測試了一個想法」到「我們的軟體在生產中使用 GenAI」的橋樑。因此 Studio 既是實驗室，也是入口坡道：自由實驗，然後將已驗證的提示提升為真實產品，並在整個平台上套用相同的治理機制。

Vertex AI Model Garden — 模型目錄

多模型目錄

Vertex AI Model Garden 是組織瀏覽並選擇要使用哪個模型來建構的目錄。它刻意設計為多模型：包含 Google 自家的 Gemini 系列（旗艦多模態模型）和 Gemma 開放模型、Anthropic 的 Claude 系列、Meta 的 Llama 模型、Mistral，以及圖像專用的 Imagen 和影片專用的 Veo 等專業媒體模型，加上大量開源和合作夥伴模型。每個項目都附有模型卡，說明能力、上下文視窗、定價及預期用途。

目錄對領導者的商業價值

Model Garden 的商業價值在於選擇自由，不被鎖定在單一模型，且無需離開安全邊界。公司可以針對高量、對成本敏感的任務使用 Gemini Flash，在 Claude 模型的優勢符合使用案例時採用它，在需要完全控制時使用開放模型——全部在同一套 Google Cloud IAM、計費及稽核架構下運作。在考試中，當場景強調「組織希望評估多個基礎模型」或「在不管理獨立廠商合約的情況下，為每個使用案例挑選最佳模型」時，Model Garden 就是答案。它與 Vertex AI Studio 自然搭配：在 Model Garden 中探索並選擇模型，然後在 Studio 中進行提示或調校。

Vertex AI Agent Builder — 接地代理與搜尋

從單一提示到可運作的代理程式

單一提示只能回應一次請求。代理程式可以進行對話、在公司資料中查找資訊、呼叫工具並完成多步驟任務。Vertex AI Agent Builder 是平台中用於建立這些接地代理和企業級搜尋體驗的部分。它讓組織將生成模型指向自有內容——文件、網站、結構化資料庫、支援票據——並產生一個使用該內容回答問題的助理，而不僅僅依賴模型的一般知識。

接地與企業級搜尋

Agent Builder 的核心能力是接地：將模型連接到具有權威性的公司資料，使答案準確、即時且可追溯到來源。這就是企業如何建立一個引用真實產品手冊的客戶支援助理，或是從實際員工手冊回答人資問題的內部知識機器人。Agent Builder 還支援企業級搜尋——在公司私有內容上提供 Google 品質的搜尋功能。有關將模型連接到資料的深層機制，請參閱接地與 RAG 章節。

為何代理程式需要周圍的平台

代理程式功能強大，但若缺乏治理則風險極高，因為它們可以採取行動並揭露資訊。在 Vertex AI 內部建構代理程式意味著代理程式會自動繼承 IAM 存取控制、稽核日誌及資料駐留地。領導者應將 Agent Builder 記住為聰明模型與可信賴、資料接地商業應用程式之間的橋樑。在考試中，提到「從我們的內部文件中回答問題的助理」或「私有內容的搜尋體驗」的場景，都指向 Vertex AI Agent Builder。

Vertex AI 調校 — 客製化模型

調校是什麼，以及不是什麼

調校透過在公司自有的精選範例集上進一步訓練，使基礎模型適應公司特定的語調、格式或領域。調校並不意味著從頭建構模型——那將耗費巨資，對企業而言幾乎從來都不是正確答案。調校是採用 Model Garden 中的強大基礎模型，並微調其行為：讓它始終以公司的品牌語調回答、遵循固定的 JSON 結構，或一致地使用特定產業術語。

何時調校、何時提示或接地

Generative AI Leader 應理解選項的順序。首先嘗試在 Vertex AI Studio 中進行提示設計——最快且最省成本。如果模型需要即時或私有事實，請透過 Agent Builder 使用接地而非調校，因為調校無法可靠地傳授新事實。當問題是一致的風格或格式——單靠提示無法在大規模下穩定——才保留調校。在考試中，「助理必須在數百萬次請求中始終以我們的特定格式和語調回應」暗示調校，而「助理必須了解我們最新的產品目錄」暗示接地。

Vertex AI 評估 — 在出貨前衡量品質

為何評估是領導者關心的議題

生成模型具有非確定性，因此組織不能僅因為在一次展示中看起來不錯就假設應用程式是好的。Vertex AI 評估工具讓團隊依據定義的標準和測試案例對模型輸出評分——衡量準確性、相關性、安全性及指令遵循程度——在應用程式接觸客戶之前完成。這將「感覺不錯」轉化為領導者可以審閱並簽核的證據。

客觀比較模型與版本

評估也讓模型選擇和變更管理更加嚴謹。在 Model Garden 中的兩個模型之間做選擇，或決定調校後的模型是否真的優於基礎模型時，評估產生的是可比較的分數，而非主觀意見。當廠商發布新模型版本時，評估讓組織能確認切換不會導致品質退步。對於受監管的產業，有文件記錄的評估結果是法規遵循和風險管理的一部分，這就是考試將評估視為核心企業實踐而非選配項目的原因。

Vertex AI 部署 — 在生產環境中運行 GenAI

穩定、可擴展的端點

設計與測試只是旅程的一半；應用程式接下來必須可靠地運行。Vertex AI 部署將所選或已調校的模型置於穩定、安全的端點後方——公司軟體所呼叫的 API 位址。端點隨需求自動擴展，因此客戶流量高峰不會造成服務中斷，而流量低峰也不會浪費資金。團隊無需管理伺服器；Google Cloud 負責底層基礎架構。

監控與生命週期管理

生產中的 GenAI 也需要監控——長期追蹤延遲、使用量、成本及品質訊號——並需要清晰的路徑，在不中斷依賴它的應用程式的情況下更新或回滾端點後的模型。Vertex AI 將此生命週期管理作為平台的一部分提供。領導者的訊息是，部署是治理持續進行的地方：生產中的模型受存取控制、有記錄且可觀測，而非黑盒子。這種運營成熟度是企業選擇 Vertex AI 而非臨時搭建架構的主要原因之一。

企業級管控 — 為何 Vertex AI 適合受監管產業

資料駐留地與區域控制

許多組織在法律上被要求將資料保留在特定國家或區域內。Vertex AI 支援資料駐留地，讓處理和儲存的資料留在核准的區域。對於台灣的銀行或歐盟的政府機構，這不是加分項目——而是使用 GenAI 的先決條件。消費者版 Gemini 應用程式無法提供這種合約式區域控制，這是生產工作負載移至 Vertex AI 的重要原因之一。

IAM、VPC Service Controls 及 CMEK

Vertex AI 繼承了完整的 Google Cloud 安全模型。**IAM（身分識別與存取管理）**使用指派給人員和應用程式的角色，精確控制誰可以使用 Studio、部署模型或呼叫端點。VPC Service Controls 在 Vertex AI API 周圍劃定安全邊界，防止敏感資料外洩至公開網際網路或未授權的專案。**客戶管理的加密金鑰（CMEK）**讓組織控制保護其資料的加密金鑰。這些機制共同使 Vertex AI 成為一個封閉、可稽查的環境，而非開放的消費者工具。

稽核日誌與法規遵循

Vertex AI 中的每個動作都可以記錄在 Cloud Audit Logs 中——誰執行了哪個提示、誰部署了哪個模型、端點何時被呼叫。這產生了監管機構所期望的可追溯歷史。Vertex AI 也持有醫療、金融和公共部門客戶所使用的企業合規認證。對於領導者而言，啟示在於 Vertex AI 讓公司能夠回答稽核人員的問題「請向我展示您的 AI 是如何處理這位客戶的資料的」——這是消費者聊天應用程式根本無法做到的。

Vertex AI 對比 Google AI Studio 對比消費者版 Gemini 應用程式

進入 Google 生成式 AI 的三道門

這個比較是 Generative AI Leader 考試中測試最頻繁的概念之一。Google 提供三個截然不同的生成式 AI 入口，領導者必須將每一個對應到正確的受眾和階段。

消費者版 Gemini 應用程式

Gemini 應用程式（網頁和行動裝置版）是消費者和個人生產力的入口。員工使用它起草電子郵件、摘要文章或腦力激盪——個人使用、快速、無需設置。它非常適合日常生產力，但不是建構受治理商業應用程式的地方，因為它缺乏企業級資料管控、IAM、資料駐留地保障及建構/部署生命週期。有關個人和企業如何將 GenAI 用於生產力的內容，請參閱 GenAI 消費者生產力與企業應用章節。

Google AI Studio

Google AI Studio 是快速免費原型開發的入口，主要面向開發人員和業餘愛好者。它提供了一種快速嘗試提示並取得 API 金鑰以實驗 Gemini 模型的方式。它非常適合學習和概念驗證工作。然而，它並非為企業規模的治理、區域資料管控、MLOps 或大型團隊協作而建構——它是試駕，而非生產線。

Vertex AI — 企業入口

Vertex AI 是企業生產入口。組織在此大規模建構、調校、評估、部署、治理和稽核 GenAI 應用程式，具備資料駐留地、IAM、VPC Service Controls、稽核日誌及不訓練承諾。心智模型：在 Google AI Studio 中製作原型或在 Gemini 應用程式中實驗，但在 Vertex AI 中製造生產應用程式。

企業應何時選擇 Vertex AI

決策訊號

當出現以下一個或多個訊號時，組織應從消費者應用程式或 Google AI Studio 移至 Vertex AI：應用程式必須以私有公司資料為接地依據；資料因法律要求必須保留在特定區域；存取必須透過 IAM 在各團隊間受到控制；稽核日誌是法規遵循的必要條件；工作負載必須透過可靠、受監控的端點擴展至眾多使用者；公司需要其資料不會訓練 Google 模型的合約保障；或團隊希望在同一個平台下評估並在多個模型中做出選擇。

在考試中對應場景

考試頻繁呈現產業場景並詢問正確的方式。具有稽核追蹤功能且以核准指引為依據的醫院助理——配備 Agent Builder 的 Vertex AI。開發人員在週末快速測試提示想法——Google AI Studio。行銷經理為個人使用起草活動簡報——Gemini 應用程式。銀行部署具有區域資料駐留地的客戶端聊天機器人——配備部署和企業管控的 Vertex AI。內化這個對應關係是正確回答 Vertex AI 題目最可靠的方法。

各產業常見使用案例

金融服務與公共部門

金融服務業使用 Vertex AI 建構以產品條款為接地依據的客戶支援助理、摘要申報文件的內部分析師輔助工具，以及詐欺調查輔助工具——全部在具備完整稽核日誌的 VPC Service Controls 邊界內運作。公共部門機構使用 Vertex AI 建構具有嚴格資料駐留地限制的公民服務資訊助理，確保個人資料不離開國境，且每次互動都有記錄以供監督。

醫療、零售與媒體

醫療組織建構僅以核准臨床內容為接地依據的病患端助理，以及摘要病歷的臨床醫師輔助工具，依賴 Vertex AI 的合規立場和資料治理保障。零售公司使用 Vertex AI 進行產品探索搜尋、個人化購物助理，以及為數千種產品列表自動生成內容。媒體公司透過 Vertex AI 上的生成模型進行摘要、翻譯，以及透過 Imagen 和 Veo 生成圖像或影片，部署在受監控的端點後方，確保品質和成本在大規模下保持可控。

常見問題

Vertex AI Studio 與 Model Garden 有何差異？

Model Garden 是目錄——瀏覽並選擇基礎模型的地方，例如 Gemini、Gemma、Claude、Llama、Mistral、Imagen 或 Veo，每個模型都附有描述其能力和成本的模型卡。Vertex AI Studio 是工作台——設計並測試提示的地方，可以比較不同模型的輸出、調整行為，並將結果匯出為 API 呼叫。一般流程是：在 Model Garden 中選擇模型，然後在 Vertex AI Studio 中使用它進行建構。

企業為何選擇 Vertex AI 而非消費者版 Gemini 應用程式？

消費者版 Gemini 應用程式是為個人生產力而建，沒有企業資料管控。企業在需要以下條件時選擇 Vertex AI：資料駐留地、IAM 存取控制、VPC Service Controls、稽核日誌、不使用您資料進行訓練承諾、將模型以私有公司資料接地的能力，以及大規模部署和監控應用程式的受管路徑。簡言之，Gemini 應用程式用於個人使用；Vertex AI 用於受治理的生產商業應用程式。

Google AI Studio 與 Vertex AI Studio 是同一個東西嗎？

不是，而且考試刻意測試這一點。Google AI Studio 是一個獨立的輕量級免費工具，供開發人員和業餘愛好者快速使用 Gemini 模型製作原型並取得 API 金鑰。Vertex AI Studio 是完整 Vertex AI 企業平台內的元件，受 IAM、VPC Service Controls、稽核日誌及資料駐留地治理。快速實驗使用 Google AI Studio；需要企業治理和生產規模時使用 Vertex AI Studio。

Vertex AI Agent Builder 的功能是什麼？

Vertex AI Agent Builder 用於建立接地代理和企業級搜尋體驗。它將生成模型連接到公司自有資料——文件、網站、資料庫——使生成的助理能夠從該具有權威性的內容中回答問題並引用來源。這是超越單一提示的步驟：它在私有內容上建構對話式助理和 Google 品質的搜尋，同時繼承平台的 IAM、稽核日誌及資料駐留地管控。

使用 Vertex AI 時 Google 是否會使用公司資料來訓練其模型？

不會。根據 Vertex AI 的資料治理條款，組織發送的提示、輸入和輸出不會用於訓練 Google 的基礎模型，且資料仍屬於組織自有。這項保障，結合資料駐留地、IAM、VPC Service Controls 及稽核日誌，是金融和醫療等受監管產業能夠有信心在 Vertex AI 上採用生成式 AI 的主要原因。

組織應何時調校模型，何時使用接地？

當目標是單靠提示設計無法在超大量請求中穩定的一致風格、語調或格式時，請使用調校。當模型需要存取即時或私有事實——例如最新產品目錄或內部政策——時，請使用接地（透過 Vertex AI Agent Builder），因為調校無法可靠地傳授新事實。按照優先順序：先嘗試提示設計，針對知識需求使用接地，將調校保留給行為和格式的一致性。