別再以為 Prompt Engineering 很簡單！Google 工程師揭露企業級 AI 專案的眉角
Prompt Engineering（提示工程）聽起來好像只是問 AI 問題，但如果你認為它像和 ChatGPT 閒聊一樣簡單，那你就錯了！尤其當應用在商業場景，例如摘要報告、從對話中提取洞見、或從龐大資料庫中找答案時，箇中複雜度遠超乎想像。
Google 工程師 Lee Boonstra 近期分享了她在 Google Cloud Office of the CTO 從事大型創新專案的實戰經驗，例如為 Wendy’s 自動化得來速點餐系統。她強調，打造有效的 Prompt 是一個不斷迭代的過程，需要投入時間和精力，才能讓指令和限制條件完美協同運作。
企業級 Prompt Engineering 的挑戰
與生成旅遊行程或待辦事項不同，企業應用中的 Prompt 必須能夠處理各種不同的輸入，一個錯誤的答案都可能造成實際問題。Boonstra 指出，企業級應用需要生成特定格式的答案、串聯 JSON 輸出，並面臨幻覺（模型捏造事實）或誤解等潛在錯誤。
當模型出現幻覺、錯誤推理、風格問題、不精確、API 錯誤或格式錯誤時，都可能對企業或品牌造成損害。
實戰經驗分享：從 Wendy’s 到醫療摘要
Boonstra 在 Google 的 Prompt Engineering 經驗涵蓋各個領域，從 Wendy’s 的自動化得來速點餐系統到生成醫療摘要、以及針對大型法律文件進行問答。她強調，打造有效的 Prompt 是一個持續進行的過程，需要不斷調整和優化。
給 AI 專案的建議
Boonstra 的經驗給予我們一些啟發：
- Prompt Engineering 不只是問問題： 它需要仔細的規劃和持續的精進。
- 每次迭代都很重要： Prompt 需要不斷調整，以應對不同的情境和挑戰。
- 商業應用更嚴謹： 與一般聊天機器人不同，企業級 Prompt 需要更高的準確性和可靠性。
Boonstra 建議，無論你是正在協助客戶有效運用 AI，還是對真實世界中如何使用 LLM 感興趣，都應該理解 Prompt Engineering 的複雜性，並不斷實驗和調整，才能真正發揮 AI 的力量。
個人心得
Prompt Engineering 不僅僅是技術，更是一門藝術。它需要結合對 AI 模型、商業需求和使用者情境的深刻理解。企業在導入 AI 時，不能輕忽 Prompt Engineering 的重要性，而應該投入足夠的資源和專業知識，才能確保 AI 專案的成功。
事件癥結點
許多人低估 Prompt Engineering 的難度，認為只要簡單問問題就能獲得滿意的結果。然而，企業級應用對 AI 的要求更高，Prompt 的設計需要更嚴謹、更精確。唯有正視 Prompt Engineering 的挑戰，才能真正釋放 AI 的潛力，為企業創造價值。
參考閱讀
- https://www.leeboonstra.dev/categories/prompt-engineering/
- https://medium.com/google-cloud/the-foundation-understanding-llms-and-prompt-engineering-and-why-it-all-matters-7ad46878d837
- https://www.leeboonstra.dev/prompt-engineering/prompt_engineering_guide1/
- https://medium.com/google-cloud/best-practices-for-prompt-engineering-in-the-enterprise-55f4d9147574
