Spring AI

Spring AI 是一個用於 AI 工程的應用框架。它的目標是將 Spring 生態系統的設計原則（如可移植性和模組化設計）應用於 AI 領域，並推廣使用 POJO 作為 AI 領域應用程式的構建塊。

Spring AI 的核心在於解決 AI 整合的根本挑戰：將您的企業資料和 API 與 AI 模型連線起來。

功能

Spring AI 提供以下功能

• 支援所有主要的 AI 模型提供商，例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支援的模型型別包括
  • 聊天補全
  • 嵌入
  • 文字到影像
  • 音訊轉錄
  • 文字到語音
  • 內容稽核
• 支援跨 AI 提供商的可移植 API，同時支援同步和流式 API 選項。此外，還可訪問模型特定功能。
• 結構化輸出 - 將 AI 模型輸出對映到 POJO。
• 支援所有主要的向量資料庫提供商，例如 Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
• 跨向量儲存提供商的可移植 API，包括新穎的類 SQL 元資料過濾 API。
• 工具/函式呼叫 - 允許模型請求執行客戶端工具和函式，從而按需訪問必要的即時資訊。
• 可觀測性 - 提供對 AI 相關操作的洞察。
• 文件注入ETL 框架，用於資料工程。
• AI 模型評估 - 有助於評估生成內容並防範幻覺（hallucinated）響應的實用工具。
• ChatClient API - 用於與 AI 聊天模型通訊的流暢 API，在習慣用法上類似於 WebClient 和 RestClient API。
• Advisors API - 封裝了常見的生成式 AI 模式，轉換髮送到和接收自語言模型 (LLM) 的資料，並提供了跨各種模型和用例的可移植性。
• 支援聊天會話記憶 (Chat Conversation Memory) 和檢索增強生成 (Retrieval Augmented Generation - RAG)。
• 支援所有 AI 模型和向量儲存的 Spring Boot 自動配置和 Starter - 使用start.spring.io 選擇所需的模型或向量儲存。

這套功能讓您可以實現常見的用例，例如“基於文件的問答 (Q&A over your documentation)”或“與您的文件聊天 (Chat with your documentation)”。

文件

詳盡的參考文件、示例應用和研討會/課程材料。

入門

您可以通過幾個簡單的步驟開始使用

1. 建立一個帶有 Spring AI OpenAI boot starter 依賴的 Spring Boot Web 應用。這個Spring Initializr 連結可以幫助您啟動應用。（透過start.spring.io，您可以在新應用中選擇任何想要使用的 AI 模型或向量儲存）。

2. 將您的 OpenAI 金鑰新增到 application.properties 檔案中

   spring.ai.openai.api-key=<YOUR OPENAI KEY>
   

3. 將以下程式碼片段新增到您的 SpringAiDemoApplication 類中

   @Bean
   public CommandLineRunner runner(ChatClient.Builder builder) {
       return args -> {
           ChatClient chatClient = builder.build();
           String response = chatClient.prompt("Tell me a joke").call().content();							
           System.out.println(response);
       };
   }
   

4. 執行應用

   ./mvnw spring-boot:run
   

想換種方式入門？請檢視參考文件中的入門章節。