提示最佳化技巧

為何提示最佳化對 Generative AI Leader 至關重要

對於 Generative AI Leader 考試而言，提示最佳化技巧正是讓玩具級示範與生產等級商業工作流程之間的差異顯現的地方。任何人都能在 Gemini 裡輸入一個問題並得到看似合理的回答。領導者的工作截然不同：你必須理解為何某種措辭能產出一致且符合商業需求的結果，而另一種措辭卻產出模糊、不一致或有風險的結果——你還必須知道當結果不夠好時，該轉動哪些「旋鈕」。

提示最佳化並非巧妙的文字技巧，而是一門系統性的學問。Generative AI Leader 必須認識到：生成式模型是一個機率系統，它不是「查找」正確答案，而是逐 token 預測最可能出現的文字。這意味著對提示及模型生成參數進行細小但刻意的調整，就能大幅影響輸出品質。當行銷團隊抱怨「AI 一直寫出不符合品牌風格的文案」時，解決方案幾乎不是「購買更大的模型」，而更常是更有結構的提示、幾個示範範例、更嚴格的輸出格式，或更低的 temperature 設定。

本章節直接建立在提示工程基礎之上。基礎篇涵蓋基本提示的組成要素——角色、脈絡、指令、範例——而提示最佳化技巧則涵蓋進階操作：正確運用少樣本範例、讓模型逐步推理、將複雜任務拆解成片段、約束輸出形式，以及調整生成參數。本章節也教導領導者最有價值的判斷力：何時該最佳化提示，何時提示根本不是真正的問題。身為 Generative AI Leader，你將反覆面對一個抉擇：令人失望的結果究竟需要更好的提示、更好的基礎資料，還是不同的模型——而提示最佳化技巧能給你做出這個判斷的詞彙。

白話文解釋

提示最佳化聽起來可能很抽象，因此用日常生活中的經驗來具體說明很有幫助。Gemini 這類在 Vertex AI Studio 中使用的生成式模型既不是搜尋引擎，也不是計算機——它更像一位非常能幹卻又非常字面解讀的助理，完全按照指令的含意行事。以下三個類比分別從不同角度說明提示最佳化技巧：透過參數塑造輸出、透過範例精煉指令，以及拆解複雜任務。

類比一 ── 調整音響擴大機的旋鈕（模型參數）

想像你在客廳裝了一套高階音響系統。音樂檔案一樣，喇叭一樣，但你實際聽到的聲音取決於那些旋鈕：音量、低音、高音、平衡。轉動旋鈕不會讓擴大機「更聰明」——它改變的是輸出的特性。提示最佳化在 Vertex AI Studio 的模型參數層面，運作方式完全相同。

Temperature 是控制隨機性的旋鈕。temperature 接近 0 時，Gemini 就像一位謹慎的 DJ，總是選擇最安全、最可預測的下一個音符——非常適合需要每次得到相同答案的任務，例如擷取發票號碼或分類客服工單。temperature 較高時，模型願意選擇較不常見的詞彙，產出更多樣化且富有創意的措辭——適合腦力激盪產品名稱或行銷標語。許多初學者陷入的陷阱是認為高 temperature 等於「更聰明」。並非如此。高 temperature 等於「更隨機」，模型並非推理得更深，而只是在擲更冒險的骰子。

Top-p（又稱核取樣）是第二個旋鈕，用來限制模型究竟能從哪些詞彙中選擇——它只保留累積機率達到門檻值的最高機率詞彙。輸出 token 上限是長度旋鈕：它限制回答的最大長度，同時控制成本與冗長程度。安全設定則像是家長控制鎖，封鎖有害類別的內容。在 Vertex AI Studio 中，Generative AI Leader 可以即時移動每一個滑桿並觀察輸出變化——這種親身調校的體驗正是這個類比所描繪的。

類比二 ── 給廚師越來越精確的食譜（少樣本提示）

想像你為一家便當店聘了一位才華洋溢的新廚師。第一天你說「給我做一道雞肉料理」。廚師很有能力，所以你確實得到了一道雞肉料理——但也許口味偏辣，而你的客人喜歡清淡，或者擺盤適合餐廳，而你需要裝進便當盒外帶。廚師沒做錯什麼，只是你的指令太開放了。這就是一個空白的零樣本提示的感覺。

現在你按照提示最佳化所教的方式改進指令。首先加入脈絡：「我們的客人是上班族，口味清淡，必須能在便當盒裡攜帶」。這已經是更好的指令了。然後你做一件更有力量的事——給廚師看三個你已經很滿意的便當成品，並附上份量和擺盤的說明。這就是少樣本提示：不只是描述你想要什麼，而是給模型幾組輸入輸出範例讓它從中模仿規律。廚師現在能穩定地製作出符合你家風格的餐點，因為他們親眼見過目標，而不只是聽過描述。

少樣本提示做得好，意味著範例涵蓋真實案例的多樣性、格式與你想要的輸出完全一致，且彼此沒有矛盾。做得不好——三個範例幾乎完全相同，或格式不一致——反而會讓模型感到困惑。在 Vertex AI Studio 中，你可以直接將範例貼入提示，並立即比較少樣本結果與零樣本結果的差異。結論：當模型的行為接近但不夠一致時，最便宜、最快速的修正通常是幾個好的範例，而不是更昂貴的模型。

類比三 ── 教練將複雜動作拆解成步驟（思維鏈與任務分解）

想像一位籃球教練在教一位年輕球員困難的上籃動作。如果教練只說「去上籃」並期望完成的動作，球員會衝太快、省略腳步，然後投偏。好的教練會說「先踩左腳，然後舉球，再在跳躍頂點出手」。透過逼迫動作逐步執行，準確度大幅提升。技術一直都在，是結構讓它得以發揮。

生成式模型的行為完全相同。當你問 Gemini 一個多步驟問題——「根據這份季度銷售表，哪個區域表現不佳、差距多少，以及建議的行動方案是什麼？」——並要求直接給出最終答案時，模型往往直接猜測。思維鏈提示要求模型「逐步思考」並在得出結論之前展示推理過程。就像籃球員一樣，當模型逐步處理中間步驟而非直接跳到結尾時，結果更可靠。

一個密切相關的技巧是任務分解：與其用一個巨大的提示一次要求所有事情，不如將工作拆分成一連串較小的提示——先摘要資料，再找出異常，再起草建議。每個步驟更簡單、更容易驗證，也更容易在出錯時找出問題所在。在 Vertex AI Studio 中，領導者可以同時試作單一思維鏈提示和拆解後的多提示流程，然後比較哪個對商業工作流程更可靠。教練的洞見依然成立：結構勝過蠻力。

核心提示最佳化技巧

除了類比之外，Generative AI Leader 考試要求你能辨識每種具名技巧，並了解它解決的商業問題。以下技巧構成一套工具組——隨著任務難度增加，你會逐步升級使用。

零樣本提示

零樣本提示給模型一個不含示範範例的指令——例如「將這則客戶評論分類為正面、負面或中性」。現代 Gemini 模型足夠強大，零樣本對於簡單、常見的任務通常已經足夠。在此層面的最佳化意味著撰寫清晰、具體、毫不模糊的指令：說明角色、期望的輸出格式，以及任何限制條件。如果零樣本提示運作可靠，就不要增加複雜度——它是 token 成本最低、最易於維護的選項。

正確運用少樣本提示

當零樣本輸出不一致或風格偏離時，少樣本提示會在提示中直接加入兩到五組輸入輸出範例。最佳化的細節至關重要：範例應涵蓋真實輸入的多樣性（包含邊緣案例）、使用你想要的確切輸出格式，且彼此不能矛盾。三個精心挑選的範例通常比十個粗糙的範例表現更好。少樣本提示是讓輸出一致且符合品牌風格的最高槓桿技巧，且無需更換模型。

思維鏈提示

對於需要推理的任務——數學、邏輯、多條件決策、根因分析——思維鏈提示要求模型在給出最終答案之前先列出中間步驟。一句簡單的「請逐步說明你的推理過程」能顯著提升複雜問題的準確度。代價是更多的輸出 token（成本更高、回應更慢），因此應將思維鏈保留給真正複雜的任務，而非簡單的資料查找。

任務分解

任務分解將一個複雜的請求拆分成一連串較簡單的提示，每個提示都有可驗證的輸出。例如，合約審查工作流程可以分為：（1）擷取所有條款，（2）依風險等級分類每個條款，（3）為律師摘要高風險條款。任務分解使每個步驟可測試，讓失敗更容易隔離，並允許混合使用不同技巧——某個步驟可能用零樣本，另一個步驟用少樣本。這是建立可靠多步驟 AI 工作流程與代理系統的基礎。

輸出格式化與限制條件

傳回自由流動散文的模型很難被下游軟體使用。輸出格式化指示模型傳回特定結構——JSON 物件、Markdown 表格、項目符號清單，或固定欄位集合。限制條件還包括長度限制（「用不超過 50 個字回答」）、語氣要求（「正式，適合提交給主管機關」），以及內容範圍（「只使用所提供文件中的資訊」）。對於商業自動化而言，可預測的輸出形式才能讓模型的回應順暢地輸入另一個系統。

模型參數：塑造輸出的旋鈕

Generative AI Leader 不需要了解數學原理，但必須以商業角度理解每個生成參數的作用。在 Vertex AI Studio 中，這些參數以滑桿的形式顯示在提示旁邊，改變它們會改變結果，而無需更改提示中的任何一個字。

Temperature ── 創意與一致性的調節器

Temperature 控制模型選擇下一個詞彙時使用多少隨機性。對領導者而言，實用的心理模型如下：

• 低 temperature（接近 0）： 確定且可預測。最適合需要每次都得到相同答案的任務：事實擷取、分類、資料轉換。詐欺偵測分類器或發票解析器應在低 temperature 下執行。
• 高 temperature（趨近 1 或以上）： 多樣化且富有創意。最適合你希望每次得到不同答案的任務：腦力激盪、命名、行銷文案、發想。

最重要的商業結論：高 temperature 不會讓模型更聰明、更準確或更博學，它只會讓結果更不可預測。

Top-p（核取樣）── 縮小詞彙範圍

Top-p 限制模型只能從累積機率達到門檻值（例如 0.95）的最高機率詞彙中選擇。較低的 top-p 代表更緊縮、更安全的詞彙；較高的 top-p 允許更多樣化的詞彙選擇。top-p 與 temperature 會相互影響——大多數團隊每次只調整其中一個，並使用 Vertex AI Studio 進行比較。對領導者而言，關鍵點在於兩者都是隨機性控制項，而非智慧控制項。

輸出 token 上限 ── 長度與成本上限

輸出 token 上限設定生成回應的最大長度。這在兩個方面很重要：成本方面，因為生成式模型按輸出 token 計費；使用者體驗方面，因為過長的回答會讓有用的部分被埋沒。設定合理的上限可以防止回應失控和帳單失控。如果模型的回答在句子中途被截斷，通常是輸出 token 上限設得太低。

安全設定 ── 內容護欄

Vertex AI 中的安全設定讓你能設定模型封鎖各類內容的積極程度，例如騷擾、仇恨言論、色情露骨內容和危險內容。領導者應了解這些是可設定的門檻值——兒童教育產品可能設定得非常嚴格，而內部資安研究工具則可能針對特定類別放寬限制。安全篩選器是負責任部署的一部分，也是考試中頻繁出現的主題。

Vertex AI Studio：測試與比較提示的場所

Generative AI Leader 考試要求你能說出 Vertex AI Studio 是 Google Cloud 上用於設計、測試和比較提示的環境，適用於正式應用程式上線之前的階段。

Vertex AI Studio 提供什麼

Vertex AI Studio 是位於 Google Cloud 控制台 Vertex AI 區段內的瀏覽器型工作區。它讓非開發人員也能：

• 撰寫提示並立即看到 Gemini 的回應。
• 透過滑桿調整 temperature、top-p、輸出 token 上限與安全設定。
• 在結構化版面配置中加入系統指令與少樣本範例。
• 並排比較兩個提示或兩個模型。
• 儲存有效的提示，並取得從應用程式呼叫它所需的程式碼。

為何領導者重視 Vertex AI Studio

對 Generative AI Leader 而言，Vertex AI Studio 是讓提示最佳化從理論變成實踐的地方。團隊不必爭論某個提示變更是否有幫助，而是可以直接量測：執行舊提示和新提示、比較輸出，然後選出勝者。它將提示最佳化轉化為快速、可觀察、低成本的迭代循環。這種實驗紀律直接連結到模型評估與選擇，在那裡你不只比較提示，還要依照商業標準比較整個模型。

提示資源庫與起始點

Vertex AI Studio 也包含常見任務的範例提示與範本——摘要、分類、擷取、對話。領導者應了解這些資源的存在，讓團隊不必從空白頁面開始。借用已驗證的提示結構並加以調整，比從零發明更快且更可靠。

系統性地迭代提示

業餘的提示工作是隨機的——改一個字，希望有所幫助。專業的提示最佳化是一個受控制的迭代循環。Generative AI Leader 應該能夠向團隊描述這個循環。

迭代循環

1. 定義成功標準。 在測試之前就決定好什麼樣的輸出算好——正確的事實、正確的格式、正確的語氣、正確的長度。
2. 撰寫基準提示。 從簡單開始，通常是零樣本。
3. 針對代表性輸入進行測試。 使用一小組真實、多樣化的範例，而非單一精心挑選的案例。
4. 診斷失敗模式。 是事實錯誤？格式錯誤？風格不一致？太長？每種失敗類型有不同的修正方式。
5. 每次只改一件事。 加入範例、或調整參數、或重新結構——但每次迭代只改一個變數，這樣你才知道是什麼導致了變化。
6. 比較並保留勝者。 使用 Vertex AI Studio 的並排比較功能。
7. 重複直到輸出可靠地符合成功定義為止。

每次只改一個變數

每次迭代只改一個變數的紀律是最重要也最常被跳過的步驟。如果你同時加入範例、降低 temperature 又重新措辭指令，而輸出有所改善，你並不知道是哪個改變起了作用——也無法重現或解釋它。將提示迭代視為受控實驗，才是讓工作流程可重複而非憑感覺的關鍵所在。

針對代表性輸入進行測試

針對單一順利案例最佳化的提示，在面對真實、混亂的流量時就會失敗。領導者應要求團隊建立一個小型測試集，涵蓋代表性輸入——包括那些棘手的邊緣案例——並在每次迭代時對所有案例進行檢查。

可重複工作流程的提示範本

一旦提示運作良好，商業價值就來自一致地重複使用它。這就是提示範本的角色。

什麼是提示範本

提示範本是一個已驗證的提示結構，包含固定的指令、固定的格式規則、固定的範例，以及一個或多個用於變動輸入的佔位符。對於客服摘要工作流程而言，範本將角色、語氣規則和輸出格式保持不變，每次變動的只是客服工單的文字。每位服務人員、每張工單、每天都使用完全相同的最佳化提示。

範本對企業為何重要

範本將一次性的提示工程成果轉化為可擴展、一致的作業。沒有範本，每位員工自行撰寫提示，品質參差不齊，品牌聲音也會漂移。有了範本，組織一次性捕捉最佳化的提示、集中管理，讓所有人受益。範本也讓提示變得易於維護——當政策改變時，你更新一個範本，而不是追蹤數十個臨時提示。

範本與治理

Generative AI Leader 應將已核准的提示範本視為受治理的資產，類似於已核准的文件範本或電子郵件署名。集中式範本讓組織能夠強制執行語氣、合規性語言和安全限制，並使得隨時間審計與改進提示成為可能。

何時最佳化提示，何時模型或基礎資料才是真正的解決方案

本主題中最具策略性的判斷——也是考試中被大量測試的一點——是知道何時提示最佳化是錯誤的工具。並非所有不良輸出都是提示的問題。

提示才是問題時

當症狀如下時，請最佳化提示：輸出格式不一致、語氣偏離品牌、模型誤解任務、輸出太長或太短，或模型在多步驟推理中急於跳到結論。這些都是指令問題，解決方式是更清晰的措辭、少樣本範例、思維鏈、輸出限制條件或參數調整——全都快速且成本低廉。

基礎資料才是真正解決方案時

如果模型產出流暢但事實錯誤、過時或捏造（幻覺）的答案，再多的提示改寫也無法修正——因為正確資訊根本對模型不可用。真正的解決方案是基礎資料：透過檢索增強生成（RAG）將模型連接到權威的、最新的資料，讓它從真實來源回答，而非依靠記憶。領導者必須認識到「AI 一直捏造我們產品的事實」是基礎資料問題，而非提示問題。這在基礎資料與 RAG 中有深入探討。

模型才是真正解決方案時

如果一個已充分最佳化且有良好基礎資料的提示仍然失敗——任務需要更深層的推理、更長的上下文，或當前模型無法處理的多模態輸入——那麼解決方案就是選擇不同或更強大的模型。相反地，如果大型模型對於簡單、高流量的任務來說是大材小用，切換到更小、更快、更便宜的模型才是最佳化。將模型與任務相配的主題在模型評估與選擇中討論。

診斷順序

考試準備邏輯：先提示，再基礎資料，最後模型。 在花費基礎資料建設費用之前，先窮盡廉價的提示最佳化；在切換模型或微調之前，先窮盡前兩者。直接跳到「使用更大的模型」是經典的昂貴錯誤。

提示最佳化的商業情境

考試經常呈現工作場所情境並詢問最佳的最佳化方案。練習將症狀對應到技巧。

行銷文案不一致

零售團隊抱怨 Gemini 用不一致的聲音撰寫產品描述。修正方式： 少樣本提示——在提示中提供三到五個符合品牌風格的範例描述——加上適中的 temperature 和輸出格式限制條件。這是純粹的提示最佳化勝利。

財務摘要數字計算錯誤

分析師發現模型在摘要財務報表時計算總數有誤。修正方式： 思維鏈提示，讓模型展示每個計算步驟，加上低 temperature 以確保確定性。如果數字本身來自即時資料庫，也應為工作流程加入基礎資料連接。

聊天機器人捏造政策細節

某銀行的客服聊天機器人捏造了不存在的退款政策細節。修正方式： 這不是提示問題——這是基礎資料問題。將聊天機器人透過 RAG 連接到銀行真實的政策文件。單靠調整提示無法阻止幻覺。

高流量任務成本失控

某摘要任務每月執行數百萬次，帳單居高不下。修正方式： 設定輸出 token 上限、收緊提示以減少輸入 token，並考慮切換到更小、更快的模型——提示最佳化與模型選擇協同運作。

提示最佳化中的常見陷阱

Generative AI Leader 應能在團隊方法中識別這些反覆出現的錯誤：

過度設計簡單提示

為一個清晰的零樣本提示已能處理的任務加入思維鏈和十個範例，只會浪費 token、增加成本並減慢回應速度。使用能達到成功標準的最簡單技巧。

一次改動多個變數

在一次迭代中同時重新撰寫指令、加入範例、移動滑桿，就無法知道哪個改動起了作用。每次只改一件事。

針對單一範例進行最佳化

針對單一順利案例調整的提示，在面對真實、混亂的流量時就會失敗。始終針對包含邊緣案例的代表性測試集進行測試。

將參數視為智慧控制項

提高 temperature 或 top-p 以「改善」事實任務，只會讓輸出更不可靠。參數控制隨機性和長度，而非知識或推理深度。

跳過範本設定

讓每位員工自行撰寫臨時提示，必然導致不一致的輸出和未受治理的結果。將最佳提示捕捉為範本。

提示最佳化如何融入 Generative AI 工作流程

提示最佳化是領導者所監督的更大生成式 AI 生命週期中的一個階段：

1. 定義商業任務以及好的輸出應該是什麼樣子。
2. 選擇適合任務的候選模型。
3. 設計並最佳化提示，使用本章節的技巧，在 Vertex AI Studio 中測試。
4. 加入基礎資料，如果任務需要最新或專有的事實。
5. 將最佳化提示範本化，以便可重複使用。
6. 評估輸出品質、成本和安全性，然後再上線。
7. 監控並迭代，因為上線後輸入和需求會改變。

提示最佳化位於第三個階段，但與每個其他階段都有互動——它是最快、最便宜的槓桿，這就是為什麼考試要求你首先使用它。

常見問題

零樣本、單樣本和少樣本提示有何不同？

答： 零樣本只給模型一個指令而不含任何範例——完全依賴模型的通用訓練。單樣本包含一個輸入輸出範例。少樣本包含少量（通常兩到五組）範例，讓模型能透過模仿推斷規律、格式與風格。少樣本提示是讓輸出一致且符合品牌風格的最高槓桿技巧，且無需重新訓練模型。對於簡單任務從零樣本開始，只有在一致性或風格有問題時才升級到少樣本。

更高的 temperature 會讓生成式模型更聰明或更準確嗎？

答： 不會。Temperature 只控制詞彙選擇的隨機程度，而非智慧或知識。高 temperature 讓 Gemini 選擇較不可能出現的詞彙，產出更多樣化且富有創意的輸出——這對腦力激盪很有用，但往往更不準確且更容易產生幻覺。對於資料擷取或分類等需要確實性的任務，請將 temperature 設低（接近 0）。高 temperature 應保留給創意發想。這是考試中最常見的干擾選項之一。

何時應該最佳化提示而非切換到更大的模型？

答： 先最佳化提示——這是最便宜、最快速的修正。提示最佳化能解決格式不一致、語氣錯誤、任務被誤解和推理薄弱的問題。只有在一個充分最佳化且有良好基礎資料的提示仍無法滿足需求，且任務確實需要更多能力時，才切換模型。考試準備順序是先提示、再基礎資料、最後模型。直接跳到更大的模型是經典的昂貴錯誤。

思維鏈提示是什麼，何時應該使用它？

答： 思維鏈提示要求模型在給出最終答案之前展示其中間推理步驟——例如加入「請逐步說明你的推理過程」。它能顯著提升涉及數學、邏輯或多條件決策的複雜任務的準確度。代價是更多的輸出 token，意味著更高的成本和更慢的回應，因此應將其保留給真正需要複雜推理的任務，而非簡單的查找或分類。

提示範本對企業為何重要？

答： 提示範本固定了一個已驗證、最佳化的提示——其指令、格式和範例——只對外暴露一個用於變動輸入的佔位符。這帶來一致性（每個輸出符合相同標準）、可維護性（一次集中修改即可更新所有使用）、治理（品牌和合規性規則在單一位置強制執行）。範本將一次性的提示工程成果轉化為可重複、可擴展的工作流程，這就是為什麼當許多人執行相同類型的生成任務時，它幾乎永遠是正確答案。

我在 Google Cloud 上要在哪裡測試和比較提示？

答： Vertex AI Studio，Google Cloud 控制台 Vertex AI 區段內的瀏覽器型工作區。它讓你能夠撰寫提示、透過滑桿調整 temperature、top-p、輸出 token 上限和安全設定、加入少樣本範例，以及並排比較提示或模型——所有這些都無需撰寫程式碼。Vertex AI Studio 將提示最佳化轉化為快速、可量測的迭代循環，並提供範例提示讓團隊不必從空白頁面開始。

摘要：為 Generative AI Leader 掌握提示最佳化

提示最佳化是生成式 AI 工具組中槓桿最高、成本最低的技能。Generative AI Leader 不需要撰寫程式碼，但必須了解各種技巧——零樣本、少樣本、思維鏈、任務分解、輸出格式化——並以商業角度理解每個模型參數的作用：temperature 與 top-p 控制隨機性，輸出 token 上限控制長度與成本，安全設定控制內容護欄。關鍵是領導者必須內化以下觀念：高 temperature 並不等於更聰明、提示應每次只改一個變數並針對代表性測試集迭代、成功的提示應被捕捉為受治理的範本，以及診斷順序永遠是先提示、再基礎資料、最後模型。以 Vertex AI Studio 作為測試和比較的場所，提示最佳化技巧成為一門有紀律、可量測的實踐——而這份紀律正是 Generative AI Leader 考試期望你在任何生成式 AI 計畫中所展現的。