![[Open Source] UltraRAG：安裝即用，快速上手，你離 AI 只有一步之遙！](https://raw.githubusercontent.com/OpenBMB/UltraRAG/refs/heads/main/docs/ultrarag_dark.svg "[Open Source] UltraRAG：安裝即用，快速上手，你離 AI 只有一步之遙！")
UltraRAG：讓你的大型語言模型 (LLM) 也能「過目不忘」的秘密武器！ (初學者完整指南)
嘿，大家好！今天我們要來聊聊一個超酷的東西，它能讓你的 AI 變得更聰明，更懂得「舉一反三」，這個東西叫做 UltraRAG。如果你是 AI 的新手，或是想讓你的 LLM (大型語言模型) 變得更強大，這篇文章絕對適合你！
什麼是 RAG？ 為什麼你需要它？
首先，我們先來釐清一個概念： RAG (Retrieval-Augmented Generation，檢索增強生成)。 簡單來說，RAG 就像是給 LLM 裝上了「外掛」，讓它除了原本的知識庫，還能隨時隨地「查閱」額外的資訊。
想像一下，你想要問 ChatGPT 一個關於「台灣高鐵票價」的問題。如果 ChatGPT 只有它自己「內建」的知識，可能無法給你最新的資訊。但如果 ChatGPT 裝上了 RAG，它就可以先去網路上搜尋最新的票價資訊，再把這些資訊告訴你。 這樣，你得到的答案就會更準確、更有價值！
UltraRAG 就是一個幫助你輕鬆建立 RAG 系統的框架 (framework)。 它能讓你用更少的程式碼、更輕鬆的方式，打造出更強大的 AI 應用。
為什麼選擇 UltraRAG？ 它的優點是什麼？
市面上有很多 RAG 的框架，但 UltraRAG 有幾個特別棒的地方，讓它脫穎而出：
- 超簡單上手 (Less Code, Lower Barrier)： UltraRAG 設計的初衷就是讓開發者更容易使用。 你不需要寫很多程式碼，就能建構出一個功能強大的 RAG 系統。
- 彈性十足 (Modular Extension)： UltraRAG 採用模組化設計，就像樂高積木一樣。 每個功能都是獨立的「模組」，你可以根據自己的需求，自由組合、擴展，打造出獨一無二的 RAG 系統。
- 快速部署 (Faster Deployment)： UltraRAG 提供了一鍵部署的功能，讓你快速將你的 RAG 系統變成一個可以使用的 Web 介面。 這表示你很快就能看到成果，並與其他人分享你的 AI 應用！
- 整合 UI (UltraRAG UI)： UltraRAG 有一個酷炫的 UI 介面，讓你可以在裡面視覺化地建構 RAG 流程、除錯、測試，甚至直接變成互動式的聊天機器人。對於初學者來說，這簡直是福音！
UltraRAG 的核心概念： 模組化與 MCP
UltraRAG 的核心概念是模組化 (Modular) 和 MCP (Model Context Protocol，模型上下文協議)。 讓我們用簡單的方式來理解：
- 模組化： 就像前面說的，UltraRAG 把 RAG 系統的功能拆分成一個個獨立的「模組」，例如：
- Retriever (檢索器)： 負責從資料庫中找出相關的資訊。
- Generator (生成器)： 負責根據檢索到的資訊，產生最終的答案。
- Corpus Processing (語料庫處理)： 負責處理你的文件資料，例如：切分、轉換成向量等等。
- Evaluation (評估)： 負責評估你的 RAG 系統的表現。
- MCP： 這是 UltraRAG 的靈魂。 MCP 就像是不同模組之間的「溝通橋樑」。 透過 MCP，不同的模組可以互相傳遞資訊，協同工作，完成複雜的任務。
透過 MCP 架構，你可以更容易地更換、調整不同的模組，例如更換不同的檢索模型 (Retrieval Model) 或生成模型 (Generation Model)，來優化你的 RAG 系統。
準備開始：安裝 UltraRAG
好啦！ 準備好要動手試試了嗎？ 讓我們來安裝 UltraRAG。 這裡提供兩種安裝方式，你可以依照自己的喜好選擇：
方法一： 透過程式碼安裝 (Source Code Installation)
1. 準備環境 (Prepare Environment)
- 強烈推薦使用 uv： 這是個更快速的 Python 環境和套件管理器。 如果你還沒安裝，先執行以下指令：
shell
pip install uv # 或是 curl -LsSf https://astral.sh/uv/install.sh | sh
2. 下載 UltraRAG 原始碼 (Download Source Code)
- 打開你的終端機 (terminal)，執行：
shell
git clone https://github.com/OpenBMB/UltraRAG.git --depth 1
cd UltraRAG
3. 安裝相依性套件 (Install Dependencies)
- 選擇一種方式，依照你的需求安裝：
- A. 建立新的環境 (Create a New Environment) – 推薦
shell
uv sync # 這是安裝核心功能，像是 UI
uv sync --all-extras # 這是安裝所有功能，包含檢索、生成、評估...
uv sync --extra retriever # 只安裝檢索相關套件
uv sync --extra generation # 只安裝生成相關套件安裝完成後，啟動虛擬環境：
- Windows CMD：
.venv\Scripts\activate.bat - Windows Powershell：
.venv\Scripts\Activate.ps1 - macOS / Linux：
source .venv/bin/activate
- Windows CMD：
- B. 在現有的環境中安裝 (Install into an Existing Environment)
shell
uv pip install -e . # 安裝核心功能
uv pip install -e ".[all]" # 安裝所有功能
uv pip install -e ".[retriever]" # 只安裝檢索
- A. 建立新的環境 (Create a New Environment) – 推薦
方法二： 使用 Docker 安裝 (Docker Container Deployment)
如果你不想在本地端配置 Python 環境，Docker 是一個方便的選擇：
1. 下載程式碼與 Docker 映像檔 (Get Code and Images)
- “`shell
git clone https://github.com/OpenBMB/UltraRAG.git –depth 1
cd UltraRAG# 選擇一種方式，下載 Docker 映像檔：
# A. 從 Docker Hub 下載 (推薦)
docker pull hdxin2002/ultrarag:v0.3.0-base-cpu # CPU 版本
docker pull hdxin2002/ultrarag:v0.3.0-base-gpu # GPU 版本
docker pull hdxin2002/ultrarag:v0.3.0 # 完整 GPU 版本# B. 在本地建立 (Build locally)
docker build -t ultrarag:v0.3.0 .
“`
2. 啟動 Docker 容器 (Start the Container)
shell
docker run -it --gpus all -p 5050:5050 <docker_image_name> # 將 <docker_image_name> 替換成你的映像檔名稱，例如 ultrarag:v0.3.0-
啟動後，UltraRAG UI 會自動運行，你可以在瀏覽器中打開 `http://localhost:5050` 來使用。
驗證安裝 (Verify Installation)
無論你使用哪種方式安裝，都執行以下指令來確認是否成功：
ultrarag run examples/sayhello.yaml
如果你看到 Hello, UltraRAG v3!，就表示安裝成功啦！
快速上手： 打造你的第一個 RAG 應用
UltraRAG 提供了豐富的範例和文件，讓你輕鬆開始。 讓我們快速了解一下：
- 文件 (Documentation)： UltraRAG 的文件是你的好夥伴！ 裡面有詳細的教學、範例和 API 說明。 網址： https://ultrarag.openbmb.cn/pages/en/getting_started/introduction
-
範例 (Examples)： UltraRAG 提供了許多範例，讓你快速了解如何建構 RAG 系統。 可以在安裝目錄下的
examples資料夾找到。 像是sayhello.yaml就是一個最簡單的範例。 -
UltraRAG UI： 這是 UltraRAG 最棒的功能之一！ 你可以使用 UI 來：
- 視覺化建構 RAG 流程： 透過拖曳、設定參數，就能建立 RAG 流程，無需編寫程式碼！
- 除錯： 可以查看每個步驟的輸出，方便你找出問題。
- 測試： 可以輸入你的問題，測試 RAG 系統的表現。
- 建立互動式介面： 一鍵將你的 RAG 流程變成一個聊天機器人。
簡單範例： 透過 UI 建立一個 RAG 系統 (初學者)
- 啟動 UltraRAG UI： 確保你已經按照上面的步驟安裝並啟動了 UltraRAG。 在你的瀏覽器中打開 `http://localhost:5050`。
-
熟悉介面： 你會看到 UltraRAG UI 的主畫面。 UI 的主要功能包括 Pipeline Builder (流程建構器)、Knowledge Base (知識庫) 管理、Parameter (參數) 設定等。 可以先大致瀏覽一下。
-
建立一個簡單的 Pipeline (流程)：
- 在 Pipeline Builder 區塊，點擊「新建」按鈕，建立一個新的 Pipeline。
- 拖曳不同的元件到 Canvas (畫布) 上，例如：
- Retriever： 從知識庫中檢索相關資訊。
- LLM： 使用 LLM 生成答案。
- 將元件連接起來，形成一個流程。 (這部分會根據你的需求，組合不同的模組。 像是 “Query -> Retriever -> LLM -> Response” 的順序)
- 設定每個元件的參數。 例如：選擇你的 LLM 模型、設定知識庫等等。
- 儲存你的 Pipeline。
- 建立知識庫 (Knowledge Base)：
- 在 Knowledge Base 區塊，點擊「新建」按鈕，建立一個新的知識庫。
- 上傳你的文件資料。
- UltraRAG 會自動處理你的文件，例如：切分、轉換成向量等等。
- 測試你的 RAG 系統：
- 在 UI 中輸入你的問題。
- UltraRAG 會根據你的 Pipeline，從知識庫中檢索資訊，並用 LLM 生成答案。
- 你可以看到每個步驟的輸出，以便了解系統的運作方式。
進階應用： 研究與開發
對於有經驗的開發者和研究人員，UltraRAG 也提供了許多進階功能：
- 研究實驗 (Research Experiments)： 提供標準化的評估流程、常用的評估資料集，以及視覺化的分析工具，讓你更容易進行研究。
- Deep Research 案例 (Deep Research)： UltraRAG 提供了 Deep Research 案例，它結合了 AgentCPM-Report 模型，可以自動執行多步驟的檢索和整合，生成萬字以上的調查報告。
- 程式碼整合 (Code Integration)： 你可以直接在 Python 程式碼中呼叫 UltraRAG 的元件，進行更靈活的客製化開發。
額外資源： 學習與支援
- 官方文件 (Documentation)： 一定要仔細閱讀！ 裡面有詳細的教學和範例。 https://ultrarag.openbmb.cn/pages/en/getting_started/introduction
- 論文每日摘要 (Paper Daily)： 每天更新 RAG 相關的論文，讓你掌握最新的研究進展。 https://github.com/OpenBMB/UltraRAG/tree/rag-paper-daily/rag-paper-daily
- 教學影片 (Bilibili)： 有 UltraRAG 的安裝和使用教學影片。 https://www.bilibili.com/video/BV1B9apz4E7K/?share_source=copy_web&vd_source=7035ae721e76c8149fb74ea7a2432710
- 社群 (Support)： 可以加入微信群、飛書群和 Discord 社群，與其他使用者交流。
- 聯絡 (Contact)： 如果你有任何問題，可以透過 yanyk.thu@gmail.com 與開發者聯繫。
總結： 讓你的 AI 更上一層樓
UltraRAG 是一個非常棒的工具，它能讓你輕鬆地建構 RAG 系統，讓你的 LLM 變得更聰明、更強大。 無論你是 AI 新手還是經驗豐富的開發者，都應該試試 UltraRAG！ 只要花一點時間學習，你就能用它打造出令人驚艷的 AI 應用！
希望這篇文章對你有幫助！ 祝你 AI 旅程順利！
參考閱讀
https://github.com/OpenBMB/UltraRAG