Spring AI Alibaba，輕鬆打造AI應用！Spring里程碑倉庫倒數，手刀加入！

Spring AI Alibaba：Java 開發者的 AI 神兵利器，輕鬆打造智慧應用！

各位 Java 開發者們，你是否也想搭上 AI 的列車，讓你的應用程式更聰明、更強大？但是面對複雜的 AI 模型和繁瑣的整合過程，是否感到無從下手？別擔心，今天我要介紹一個讓你輕鬆入門 AI 開發的神兵利器：Spring AI Alibaba！

什麼是 Spring AI Alibaba？

Spring AI Alibaba 是一個基於 Spring AI 的 Java AI 應用框架，它讓你能夠無縫地整合阿里巴巴雲 QWen LLM 服務和雲原生基礎設施。簡單來說，它可以讓你用熟悉的 Spring Boot 開發方式，快速地將生成式 AI 能力添加到你的應用程式中。

為什麼要用 Spring AI Alibaba？

• 簡化 AI 開發流程： Spring AI Alibaba 提供了高階的 AI 抽象層，例如 ChatClient，讓你不用直接面對底層的 AI 模型，可以用更簡單的方式與 AI 互動。
• 無縫整合 Alibaba Cloud QWen： 輕鬆使用阿里巴巴雲的 QWen 大型語言模型，享受其強大的自然語言處理能力。
• 豐富的 AI 功能： 支援多種模型類型，例如聊天、文字轉圖片、語音轉文字、文字轉語音等，滿足你不同的 AI 應用需求。
• 支援 RAG (Retrieval-Augmented Generation)： 透過 RAG 技術，讓你的 AI 應用程式能夠根據外部知識庫生成更準確、更相關的回覆。
• Spring Boot 自動配置： 完美整合 Spring Boot，讓你用熟悉的開發方式快速上手。

誰適合使用 Spring AI Alibaba？

• Java 開發者： 如果你熟悉 Java 和 Spring Boot，那麼 Spring AI Alibaba 將會是你入門 AI 開發的最佳選擇。
• 想快速整合 AI 功能的開發者： 如果你希望快速地將 AI 功能添加到現有的應用程式中，那麼 Spring AI Alibaba 可以幫助你節省大量的時間和精力。
• 需要使用 Alibaba Cloud QWen 模型的開發者： 如果你希望使用阿里巴巴雲的 QWen 大型語言模型，那麼 Spring AI Alibaba 提供了最便捷的整合方式。
• AI 初學者： Spring AI Alibaba 簡化了 AI 開發的複雜性，讓初學者也能輕鬆上手。

如何開始使用 Spring AI Alibaba？

根據官方文件 (https://java2ai.com/docs/dev/get-started/)，只需要兩個步驟就可以將你的 Spring Boot 應用程式變成一個智慧代理：

步驟 1：添加 spring-ai-alibaba-starter 依賴

在你的 pom.xml 檔案中添加以下依賴：

<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-starter</artifactId>
    <version>1.0.0-M6.1</version>
</dependency>

注意事項：

• Spring AI 相關的套件尚未發布到中央倉庫，因此你需要添加 Spring 的里程碑倉庫 (Milestone Repository)：

<repositories>
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>
</repositories>

• 如果你的 Maven 設定檔 settings.xml 中的 mirrorOf 標籤配置了萬用字元 *，請按照以下範例進行修改：

<mirror>
  <id>xxxx</id>
  <mirrorOf>*,!spring-milestones</mirrorOf>
  <name>xxxx</name>
  <url>xxxx</url>
</mirror>

步驟 2：注入 ChatClient

在你的 Controller 中注入 ChatClient：

@RestController
public class ChatController {

    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder builder) {
        this.chatClient = builder.build();
    }

    @GetMapping("/chat")
    public String chat(String input) {
        return this.chatClient.prompt()
                .user(input)
                .call()
                .content();
    }
}

程式碼說明：

• ChatClient 是一個高階的 AI 抽象層，它簡化了與 AI 模型的互動。
• chatClient.prompt().user(input).call().content() 這段程式碼會將使用者輸入 (input) 發送到 AI 模型，並返回 AI 模型的回覆。

範例：

假設你輸入 “你好，請自我介紹一下”，ChatClient 會將這個問題發送到 Alibaba Cloud QWen 模型，然後將模型的回覆返回給你。

核心功能介紹

Spring AI Alibaba 提供了許多強大的功能，以下是一些核心功能的介紹：

• 支援 Alibaba Cloud QWen 模型和 Dashscope 模型服務： 讓你輕鬆使用阿里巴巴雲的 AI 模型。
• 高階 AI 代理抽象：ChatClient： 簡化了與 AI 模型的互動，讓你用更簡單的方式開發 AI 應用程式。
• 支援多種模型類型： 支援聊天、文字轉圖片、語音轉文字、文字轉語音等多種模型類型，滿足你不同的 AI 應用需求。
• 同步和串流 API： 支援同步和串流 API，讓你根據不同的應用場景選擇最適合的 API。
• AI 模型輸出映射到 POJO： 可以將 AI 模型的輸出直接映射到 POJO (Plain Old Java Object)，方便你後續的處理。
• 跨 Vector Store 提供者的可移植 API： 支援不同的 Vector Store 提供者，讓你更靈活地選擇和使用 Vector Store。
• 函數呼叫 (Function Calling)： 讓 AI 模型能夠呼叫外部函數，擴展其能力。
• Spring Boot 自動配置和啟動器 (Starters)： 完美整合 Spring Boot，讓你用熟悉的開發方式快速上手。
• RAG (Retrieval-Augmented Generation) 支援： 透過 RAG 技術，讓你的 AI 應用程式能夠根據外部知識庫生成更準確、更相關的回覆。RAG 的組成元件包含：
  • DocumentReader: 讀取外部文件，例如 PDF、Word、TXT 等。
  • Splitter: 將文件分割成更小的區塊，方便後續的處理。
  • Embedding: 將文件區塊轉換成向量表示，用於語義搜尋。
  • VectorStore: 儲存文件向量，提供快速的語義搜尋功能。
  • Retriever: 根據使用者查詢，從 VectorStore 中檢索相關的文件區塊。
• 支援與 ChatMemory 的對話： 讓 AI 應用程式能夠記住之前的對話內容，提供更自然的對話體驗。

Roadmap：Spring AI Alibaba 的未來發展藍圖

Spring AI Alibaba 的目標是降低 Java 開發者構建 AI 原生應用程式的複雜性，從開發、評估到部署和可觀測性。為了實現這個目標，他們提供開源框架和周邊生態系統的整合，以下是他們計劃在不久的將來支援的功能：

• Prompt 模板管理： 讓你更方便地管理和使用 Prompt 模板。
• 事件驅動的 AI 應用程式： 支援事件驅動的 AI 應用程式，例如當某個事件發生時，自動觸發 AI 模型的執行。
• 支援更多的 Vector Database： 支援更多的 Vector Database，讓你更靈活地選擇和使用 Vector Database。
• 函數部署： 讓你可以更方便地部署自定義的函數。
• 可觀測性 (Observability)： 提供可觀測性功能，讓你能夠監控 AI 應用程式的效能和狀態。
• AI 代理支援： 支援 Prompt 過濾、速率限制、多模型等功能。
• 開發工具： 提供更多的開發工具，讓你更方便地開發 AI 應用程式。

個人實作心得

在使用 Spring AI Alibaba 的過程中，我發現它最大的優點就是簡化了 AI 開發的流程。以前需要花費大量的時間和精力去研究 AI 模型和整合細節，現在只需要幾行程式碼就可以實現 AI 功能。

例如，我使用 Spring AI Alibaba 快速地開發了一個簡單的聊天機器人，它可以回答使用者提出的問題。我只需要定義一個 ChatController，然後注入 ChatClient，就可以將使用者的輸入發送到 Alibaba Cloud QWen 模型，並將模型的回覆返回給使用者。整個過程非常簡單，而且效果也很好。

錯誤排除指南

在使用 Spring AI Alibaba 的過程中，可能會遇到一些問題，以下是一些常見問題的解決方案：

• 無法解析 Spring AI 相關的 artifact： 確保你已經添加了 Spring 的里程碑倉庫 (Milestone Repository)。
• 出現 java.lang.NoClassDefFoundError 錯誤： 檢查你的 JDK 版本是否符合要求（JDK 17 及以上）。
• AI 模型的回覆不準確： 調整 Prompt 的內容，或者使用 RAG 技術，讓 AI 模型能夠根據外部知識庫生成更準確的回覆。

總結

Spring AI Alibaba 是一個非常棒的 AI 開發框架，它可以讓你用熟悉的 Java 和 Spring Boot 開發方式，快速地將生成式 AI 能力添加到你的應用程式中。無論你是 AI 初學者還是經驗豐富的開發者，都可以從中受益。如果你想搭上 AI 的列車，那麼 Spring AI Alibaba 絕對是你不可錯過的選擇！

相關連結

• Spring AI Alibaba 中文版本： README-zh.md
• Spring AI Alibaba 快速入門： https://java2ai.com/docs/dev/get-started/
• Spring AI Alibaba 範例： https://github.com/springaialibaba/spring-ai-alibaba-examples
• Spring AI Alibaba 文件： https://java2ai.com/
• Spring AI： https://docs.spring.io/spring-ai/reference/index.html
• 阿里巴巴雲百煉模型服務及應用開發平台： https://help.aliyun.com/zh/model-studio/getting-started/what-is-model-studio/

聯絡我們

• 釘釘群： 搜尋 61290041831 並加入。
• 微信公眾號： 掃描文章中的二維碼並關注。

希望這篇文章能夠幫助你更好地了解 Spring AI Alibaba，並開始你的 AI 開發之旅！

參考閱讀

https://github.com/alibaba/spring-ai-alibaba