JSON 是 LLM 工具響應的首選格式，但最近關於 TOON（面向令牌的物件表示法）等替代格式的討論聲稱在令牌效率和效能方面具有潛在優勢。儘管爭論仍在繼續——批判性分析 指出 結果具有上下文依賴性——問題是：如何在你的 Spring AI 應用程式中試驗這些格式？

本文演示了如何配置 Spring AI 以在 JSON、TOON、XML、CSV 和 YAML 之間轉換工具響應，使你能夠決定哪種格式最適合你的特定用例。

Spring AI 工具呼叫：快速…

評估大型語言模型 (LLM) 輸出的挑戰對於眾所周知的不確定性 AI 應用程式至關重要，尤其是在它們投入生產時。

當評估現代 LLM 產生的細緻入微、上下文相關的響應時，ROUGE 和 BLEU 等傳統指標顯得力不從心。人工評估雖然準確，但成本高昂、速度慢且無法擴充套件。

引入 LLM-as-a-Judge——一種強大的技術，它使用 LLM 本身來評估 AI 生成內容的質量。研究表明，複雜的評判模型可以與人類判斷保持高達 85% 的一致性，這實際上更高……

Spring AI ChatClient 提供了一個流暢的 API，用於與 AI 模型進行通訊。流暢的 API 提供了構建提示的組成部分的方法，這些組成部分作為輸入傳遞給 AI 模型。

顧問是流暢 API 的關鍵組成部分，它們攔截、修改和增強 AI 驅動的互動。其主要優點包括封裝常見的生成式 AI 模式、轉換髮送到和來自大型語言模型 (LLM) 的資料，以及為各種模型和用例提供可移植性。

顧問處理 ChatClientRequest 和 ChatClientResponse 物件。框架透過其 getOrder() 值（較低的值首先執行）將顧問鏈式連線起來，最終……

模型上下文協議 (MCP) 規範了AI應用程式如何與外部工具和資源互動。Spring作為主要貢獻者之一，很早就加入了MCP生態系統，幫助開發和維護了官方MCP Java SDK，該SDK是基於Java的MCP實現的基礎。在此貢獻的基礎上，Spring AI透過專用的Boot Starters和MCP Java Annotations全面支援MCP，使得構建能夠無縫連線到外部系統的複雜AI驅動應用程式比以往任何時候都更加容易。

這篇部落格介紹了 MCP 的核心元件，並演示瞭如何使用 Spring AI 構建 MCP 伺服器和客戶端，展示了基本和高階功能。完整的原始碼可在以下位置獲取：MCP 天氣示例…

模型上下文協議 (MCP) 是 Spring AI 中的一項強大功能，它使 AI 模型能夠透過標準化介面訪問外部工具和資源。MCP 的一項有趣功能是它能夠在執行時動態更新可用工具。

這篇部落格文章探討了 Spring AI 如何在 MCP 中實現動態工具更新，為 AI 驅動的應用程式提供靈活性和可擴充套件性。

相關示例程式碼可在此處獲取：動態工具更新示例

理解模型上下文協議

在深入瞭解動態工具更新之前，讓我們先了解 MCP 是什麼以及…

這篇部落格文章演示了使用 Spring AI 的 Prompt Engineering 技術的實際實現。

本文中的示例和模式基於全面的 Prompt Engineering 指南，該指南涵蓋了有效 Prompt Engineering 的理論、原則和模式。

這篇部落格展示瞭如何使用 Spring AI 流暢的 ChatClient API 將這些概念轉化為可工作的 Java 程式碼。

為方便起見，示例的結構遵循原始指南中概述的相同模式和技術。

本文中使用的演示原始碼可在以下位置獲取：https://github.com/spring…

我們很高興地宣佈 Spring AI MCP 0.6.0 里程碑版本釋出。

重大更改 ⚠️

• McpClient.using() - 請改用 McpClient.sync() 或 McpClient.async()
• McpServer.using() - 請改用 McpServer.sync() 或 McpServer.async()
• McpServer.ToolRegistration - 請改用 McpServerFeatures.SyncToolRegistration 或 McpServerFeatures.AsyncToolRegistration
• McpServer.ResourceRegistration - 請改用 McpServerFeatures.SyncResourceRegistration 或 McpServerFeatures.AsyncResourceRegistration
• McpServer.PromptRegistration - 請改用 McpServerFeatures.SyncPromptRegistration 或 McpServerFeatures.AsyncPromptRegistration
• ToolHelper.toToolRegistration() - 請改用 ToolHelper.toSyncToolRegistration()…

在最近的一篇研究論文《構建高效代理》中，Anthropic 分享了關於構建高效大型語言模型 (LLM) 代理的寶貴見解。這項研究特別有趣的是，它強調了簡單性和可組合性，而非複雜的框架。讓我們探討一下這些原則如何使用 Spring AI 轉化為實際實現。

雖然模式描述和圖表來源於 Anthropic 的原始出版物，但我們將重點關注如何使用 Spring AI 的模型可移植性和結構化輸出功能來實現這些模式。我們建議…

我們很高興宣佈Spring AI MCP 0.5.0 里程碑版本釋出。

主要特性與改進

傳輸層增強

• 新的基於Servlet的SSE傳輸

  • 新增支援Servlet 6.0的HttpServletSseServerTransport
  • 實現與任何支援Servlet的Java HTTP伺服器整合
  • 相容Jakarta Servlet API 6.1.0
  • 包含與Tomcat的全面整合測試

• 增強WebMVC傳輸

  • 將Spring的SseEmitter替換為基於自定義BlockingQueue的實現
  • 改進事件傳遞控制和連線管理
  • 新增帶有SSEEvent記錄的專用會話管理
  • 增強錯誤處理和超時管理
  • 包含全面的整合測試
…

我們很高興地宣佈 Spring AI MCP 0.4.0 里程碑版本釋出。

倉庫配置

將此 Spring 里程碑倉庫新增到您的 POM 中

<repositories>
  <repository>
    <id>spring-milestones</id>
    <name>Spring Milestones</name>
    <url>https://repo.spring.io/libs-milestone-local</url>
    <snapshots>
      <enabled>false</enabled>
    </snapshots>
  </repository>
</repositories>

主要功能

參考文件：https://docs.springframework.tw/spring-ai-mcp/reference/overview.html

增強的根管理

• 在非同步客戶端中實現了適當的 ListRootsResult 封裝
• 在伺服器元件中添加了 listRoots 方法
• 在非同步伺服器中實現了根更改通知處理
• 添加了包含非同步通知的根整合測試
• 添加了對具有單個和多個消費者的根更改通知的支援
• 改進了根新增/刪除場景的健壯性
…