[Open Source] 擁抱效率！WeKnora文件理解，資訊掌握倒數計時，立即體驗。

WeKnora：用 LLM 打造你的超強文件理解與檢索系統！新手也能輕鬆上手

現代資訊爆炸的時代，我們每天都要處理大量的報告、文件、論文，想要快速找到需要的資訊，簡直是大海撈針！你有沒有想過，如果有一個工具，能夠像一位知識淵博的助理一樣，快速理解文件內容，並且精準地回答你的問題，那該有多好？

現在，這個夢想可以實現了！今天要介紹一個強大的開源框架 WeKnora，它能讓你輕鬆打造出基於大型語言模型 (LLM) 的文件理解與檢索系統。即使你是初學者，也能快速上手，讓你的工作效率飛躍提升！

什麼是 WeKnora？

WeKnora 是一個基於 LLM 的框架，專為深度文件理解和語義檢索而設計，尤其擅長處理複雜、異構的文件。簡單來說，它可以幫助你：

• 深度理解文件內容：不只是單純的文字提取，更能理解文件的結構、上下文和語義。
• 精準檢索資訊：不只是關鍵字搜尋，更能根據語義理解你的問題，找到最相關的資訊。
• 快速回答問題：透過 LLM 的推理能力，結合文件內容，給出高品質、context-aware 的答案。

WeKnora 的核心概念是 RAG (Retrieval-Augmented Generation)，也就是「檢索增強生成」。它先從文件中檢索出相關的內容片段，然後將這些片段提供給 LLM，讓 LLM 在這些資訊的基礎上進行推理，生成最終的答案。

WeKnora 有什麼厲害的地方？

• 強大的 Agent Mode： WeKnora v0.2.0 新增了 ReACT Agent 模式，能夠呼叫內建工具、MCP 工具，甚至是網路搜尋，透過多次迭代和反思，提供全面的總結報告。想像一下，你的文件檢索系統不再只是單純的問答機器，而是一個能夠主動思考、探索的智慧助理！
• 支援多種類型的知識庫： 無論是 FAQ 常見問答，還是結構化的文件知識庫，WeKnora 都能輕鬆應付。還支援資料夾匯入、網址匯入、標籤管理和線上編輯等功能，讓知識庫的管理更加方便。
• 靈活的對話策略： 可以配置 Agent 模型、一般模式模型、檢索閾值和 Prompt，精準控制多輪對話的行為。
• 支援網路搜尋： 內建 DuckDuckGo 搜尋引擎，並支援擴展其他搜尋引擎，讓你的知識庫可以連接到整個網路世界。
• 整合 MCP 工具： 透過 MCP (Message Communication Protocol) 擴展 Agent 的能力，內建 uvx 和 npx 啟動器，支援多種傳輸方式。
• 友善的使用者介面： 提供直觀的網頁介面和標準化的 API，即使沒有技術背景也能輕鬆使用。
• 安全可控： 支援本地部署和私有雲部署，確保你的資料完全掌控在自己手中。

WeKnora 的應用場景有哪些？

WeKnora 的應用範圍非常廣泛，幾乎所有需要處理大量文件的場景都可以使用它，例如：

• 企業知識管理： 快速檢索內部文件、查詢政策、搜尋操作手冊，提高知識發現效率，降低培訓成本。
• 學術研究分析： 快速檢索論文、分析研究報告、整理學術資料，加速文獻回顧，輔助研究決策。
• 產品技術支援： 快速查詢產品手冊、搜尋技術文件、解決疑難雜症，提升客戶服務品質，減輕支援負擔。
• 法律合規審查： 快速檢索合約條款、搜尋法規政策、分析案例，提高合規效率，降低法律風險。
• 醫療知識輔助： 快速檢索醫學文獻、搜尋治療指南、分析案例，支援臨床決策，提高診斷品質。

如何開始使用 WeKnora？

WeKnora 的安裝和設定並不複雜，即使是初學者也能輕鬆上手。以下是一個簡單的入門指南：

1. 安裝必要的工具：
   • Docker：用於容器化部署。
   • Docker Compose：用於管理多個 Docker 容器。
   • Git：用於下載 WeKnora 的程式碼。
2. 下載 WeKnora 程式碼：

   git clone https://github.com/Tencent/WeKnora.git
   cd WeKnora
   

3. 設定環境變數：

   cp .env.example .env
   # 編輯 .env 檔案，設定必要的變數
   

   .env 檔案包含了 WeKnora 的各種設定，例如資料庫連接資訊、API 金鑰等。請仔細閱讀 .env.example 檔案中的說明，根據你的需求進行設定。

4. 啟動服務：

   ./scripts/start_all.sh
   

   或者

   make start-all
   

   這個指令會啟動 WeKnora 的所有服務，包括網頁介面、後端 API、資料庫等。

5. 啟動 Ollama 服務 (可選)：

   ollama serve > /dev/null 2>&1 &
   

   Ollama 是一個可以讓你本地執行 LLM 的工具。如果你想使用本地的 LLM，可以啟動 Ollama 服務。

6. 存取服務：

   服務啟動後，你可以透過以下網址存取：

   • 網頁介面: `http://localhost`
   • 後端 API: `http://localhost:8080`
   • Jaeger Tracing: `http://localhost:16686` (如果啟用了 tracing 功能)

快速開發模式：讓你的開發更有效率

如果你需要頻繁修改程式碼，WeKnora 提供了快速開發模式，讓你不用每次都重新建置 Docker 鏡像，大大提升開發效率。

# 方法 1: 使用 Make 指令 (推薦)
make dev-start      # 啟動基礎設施
make dev-app        # 啟動後端 (新的終端機)
make dev-frontend   # 啟動前端 (新的終端機)

# 方法 2: 一鍵啟動
./scripts/quick-dev.sh

# 方法 3: 使用腳本
./scripts/dev.sh start     # 啟動基礎設施
./scripts/dev.sh app       # 啟動後端 (新的終端機)
./scripts/dev.sh frontend  # 啟動前端 (新的終端機)

快速開發模式的優點：

• 前端修改自動熱重載 (無需重新啟動)
• 後端修改快速重新啟動 (5-10 秒，支援 Air 熱重載)
• 無需重新建置 Docker 鏡像
• 支援 IDE 斷點除錯

個人實作心得與錯誤排除指南

在實際使用 WeKnora 的過程中，我遇到了一些問題，也累積了一些心得，希望能對你有所幫助：

• 記憶體不足： LLM 的推理過程需要大量的記憶體。如果你的電腦記憶體不足，可能會遇到 OOM (Out of Memory) 錯誤。解決方法是：
  • 增加電腦的記憶體。
  • 減少 LLM 的模型大小。
  • 調整 WeKnora 的配置，減少記憶體使用量。
• API 金鑰錯誤： 如果你使用外部的 LLM API，請務必確認 API 金鑰是否正確。
• 文件解析錯誤： WeKnora 的文件解析器可能無法正確解析某些特殊格式的文件。解決方法是：
  • 嘗試將文件轉換為其他格式，例如 PDF 或 TXT。
  • 修改 WeKnora 的文件解析器，使其支援該格式。
• 善用 Web UI 介面： WeKnora 的 Web UI 介面提供了豐富的功能，例如知識庫管理、模型配置、對話設定等。善用這些功能，可以讓你更輕鬆地使用 WeKnora。
• 參考官方文件： WeKnora 的官方文件提供了詳細的說明和範例，遇到問題時可以參考。

WeKnora 的未來發展

WeKnora 是一個充滿潛力的開源框架，未來還有很大的發展空間。我相信，隨著 LLM 技術的不斷進步，WeKnora 將會變得更加強大、易用，成為我們處理資訊、獲取知識的得力助手。

總結

WeKnora 是一個基於 LLM 的強大文件理解與檢索框架，可以幫助你快速找到需要的資訊，提高工作效率。即使你是初學者，也能輕鬆上手。如果你正在尋找一個能夠提升你文件處理能力的工具，那麼 WeKnora 絕對值得你嘗試！

趕快去 WeKnora 的 GitHub 頁面 下載程式碼，開始你的文件理解之旅吧！

參考閱讀

https://github.com/Tencent/WeKnora