[Open Source] PageIndex 快速上手，還有幾步驟，立刻體驗！

告別向量資料庫！用 PageIndex 打造更聰明的 RAG 系統

嘿，台灣的 AI 朋友們！👋 你是否也對「檢索增強生成」（Retrieval-Augmented Generation，簡稱 RAG）感到興奮，但又因為向量資料庫的限制而感到沮喪？ 像是搜尋結果不夠精準、文件內容切割困難等問題，是否讓你頭痛不已？ 今天，我要為大家介紹一個超酷的工具—— PageIndex，它能讓你告別向量資料庫，用更聰明的方式來處理 RAG，讓你的 LLM（Large Language Model，大型語言模型）更有效地從長篇文件中提取資訊！

向量資料庫的痛點與挑戰

在 RAG 的世界裡，向量資料庫就像一個藏寶圖，它將你的文件轉換成向量，然後根據你的提問，找出最「相似」的寶藏（也就是文件片段）。 但是，這種「相似度」真的等於「相關性」嗎？ 很多時候，相似度搜索會遇到以下問題：

• 資訊不夠精準： 向量資料庫可能找到與你的問題「長得很像」的片段，但並不一定是真正有用的資訊。
• 斷章取義： 你需要將長篇文件切割成小片段（chunking），而這很可能破壞文件的原始結構和上下文，讓 LLM 難以理解。
• 難以解釋： 你很難知道 LLM 為什麼會找到這些資訊，也難以追蹤其來源。
• 維護成本高： 向量資料庫需要額外的建置、維護和更新成本。

總之，傳統的向量 RAG 就像用一把鈍刀來切牛排，不僅費力，而且效果不佳。

PageIndex 的登場：用推理征服長文件

PageIndex 是一個 基於推理的 RAG 系統，它提供了一個全新的思路： 不用向量資料庫，而是建立一個文件結構化的索引，然後讓 LLM 像人類專家一樣，透過推理和搜尋來找到答案。 就像你在圖書館找書，不會盲目地比較書的相似度，而是先看目錄，找到相關的章節，再仔細閱讀。 PageIndex 讓你 LLM 也能做到這一點！

PageIndex 的核心概念：

1. 建立樹狀結構索引： PageIndex 會分析你的文件，建立一個類似「目錄」的 樹狀結構索引。這個索引會將文件分解成有意義的章節、子章節，並為每個部分提供摘要和標題。
2. 推理式檢索： 當你提問時，PageIndex 會引導 LLM 透過這個樹狀索引，找到最相關的文件部分。 LLM 會像一個聰明的偵探，逐步探索索引，根據你的問題進行推理，最終找到答案。

PageIndex 的優勢：

• 無向量資料庫： 不需要儲存和管理向量，簡化了你的工作流程。
• 無 Chunking： 文件保持原始結構，LLM 能更好地理解上下文。
• 像人類一樣檢索： 模擬專家閱讀文件的過程，提高檢索的準確性和效率。
• 更容易理解和追蹤： 檢索結果可以追溯到具體頁面和章節，方便你檢查和驗證。
• 準確度更高： 在 FinanceBench 評估中，PageIndex 取得了令人驚豔的 98.7% 的準確度，超越了許多向量 RAG 方案。

為什麼 PageIndex 特別適合台灣的讀者？

台灣的 AI 發展越來越蓬勃，我們需要更有效率、更精準的工具來處理複雜的資訊。 PageIndex 的特性特別適合以下情境：

• 長篇文件分析： 例如，法規、財報、技術手冊等，這些文件通常篇幅長、結構複雜，傳統的 RAG 很難應付。
• 專業領域應用： 例如，金融、法律、醫療等，需要高度專業知識，而 PageIndex 的推理能力能幫助你更有效地提取資訊。
• 提高可解釋性： 瞭解 LLM 為什麼會找到這些資訊，對於信任和驗證至關重要。

快速上手 PageIndex：初學者指南

想親身體驗 PageIndex 的魅力嗎？ 這裡有一個簡單的步驟，讓你快速上手：

1. 準備好你的 PDF 或 Markdown 文件

• PageIndex 支援 PDF 和 Markdown 格式的文件。 你可以選擇你要分析的文件。

2. 安裝必要的套件

在你的終端機或命令提示字元中，執行以下指令：

pip3 install --upgrade -r requirements.txt

3. 設定你的 OpenAI API 金鑰

在你的專案根目錄下建立一個名為 .env 的檔案，並加入你的 OpenAI API 金鑰：

CHATGPT_API_KEY=YOUR_OPENAI_API_KEY

4. 執行 PageIndex

使用以下指令，將你的 PDF 文件轉換成樹狀結構索引：

python3 run_pageindex.py --pdf_path /path/to/your/document.pdf

或是，如果你想處理 Markdown 文件：

python3 run_pageindex.py --md_path /path/to/your/document.md

• –pdf_path： 指定 PDF 文件的路徑。
• –md_path： 指定 Markdown 文件的路徑。
• （可選）調整參數： 你可以根據你的需求，調整一些參數，例如：
  • --model： 選擇 OpenAI 模型（預設為 gpt-4o-2024-11-20）。
  • --toc-check-pages： 檢查目錄的頁數（預設為 20）。
  • --max-pages-per-node： 每個節點的最大頁數（預設為 10）。
  • --if-add-node-id： 是否添加節點 ID（預設為 yes）。
  • --if-add-node-summary： 是否添加節點摘要（預設為 yes）。

5. 享受你的樹狀結構索引！

程式執行完畢後，你就可以看到 PageIndex 為你的文件建立的樹狀結構索引。 接下來，你可以將這個索引用於你的 RAG 系統，讓 LLM 更聰明地從文件中提取資訊。

實作小技巧與錯誤排除

• 確保 OpenAI API 金鑰正確： 如果 API 金鑰不正確，程式會無法正常運作。
• 檢查文件格式： PageIndex 對於 PDF 文件的處理效果更好。 如果你的文件是掃描的圖片，可能需要先進行 OCR 處理。
• 調整參數： 如果索引的結構不符合你的需求，可以嘗試調整參數，例如 max-pages-per-node 和 if-add-node-summary。
• 善用 Colab 範例： 官方提供了 Colab 上的範例，可以幫助你更好地理解和使用 PageIndex。
  • Vectorless RAG 範例
  • Vision-based Vectorless RAG 範例

PageIndex 的未來展望

PageIndex 是一個令人興奮的工具，它為 RAG 帶來了新的可能性。 隨著 AI 技术的不断进步，PageIndex 也在持續演進：

• 持續改進： PageIndex 團隊會持續優化索引建立和推理機制，讓它更加高效、準確。
• 更多整合： PageIndex 可以與不同的 LLM 和 RAG 框架整合，提供更靈活的選擇。
• 提供更多應用： PageIndex 可以應用於更多領域，例如知識管理、文件分析、智能客服等等。

結語：迎接更智能的 RAG 時代

PageIndex 是一個非常有潛力的工具，它能幫助我們打造更聰明、更精準的 RAG 系統。 告別向量資料庫，擁抱推理式檢索，讓我們一起迎接更智能的 RAG 時代吧！

呼籲： 如果你對 PageIndex 或 RAG 有任何疑問，歡迎在下方留言，一起討論！ 也歡迎分享你的實作經驗，幫助更多人了解 PageIndex 的魅力。 讓我們一起在 AI 的世界裡探索、學習和成長！

資源連結：

• PageIndex 官方網站： https://vectify.ai/pageindex
• PageIndex 聊天平台： https://chat.pageindex.ai
• PageIndex 文件： https://docs.pageindex.ai
• PageIndex GitHub 倉庫： https://github.com/VectifyAI/PageIndex
• Colab 範例： https://colab.research.google.com/github/VectifyAI/PageIndex/blob/main/cookbook/pageindex_RAG_simple.ipynb
• Mafin 2.5 論文： https://vectify.ai/blog/Mafin2.5
  

參考閱讀

https://github.com/VectifyAI/PageIndex