Soby Chacko
Spring AI 中對 AWS Bedrock 提示快取的支援
在我們之前關於 Anthropic 提示快取的博文中,我們探討了提示快取如何透過重用先前處理過的提示內容,顯著降低 API 成本和延遲。我們介紹了 Spring AI 針對 Anthropic Claude 模型的五種策略性快取模式,並展示了它們如何在尊重 4 個斷點限制的同時自動處理快取斷點位置。
AWS Bedrock 將提示快取引入更廣泛的生態系統——支援 Claude 模型(透過 Bedrock 訪問)和 Amazon 自有的 Nova 系列。如果您正在考慮使用 Bedrock 或已在使用它,您會發現相同的 Spring AI……
Spring AI 與 Anthropic Claude 中的提示快取支援
當應用程式重複傳送相同的提示內容時,大型語言模型 API 成本會迅速累積。一個典型場景:您正在構建一個文件分析器,每次請求都包含一個 3,000 令牌的文件。關於該文件的五個問題意味著以全價處理 15,000 令牌的相同內容。
Anthropic 的提示快取透過允許您重用以前處理過的提示段來解決此問題。Spring AI 透過策略性快取模式提供全面支援,這些模式會自動處理快取斷點放置和管理。
在這篇博文中,我們……
Spring for Apache Kafka 4.0.0-RC1 現已可用
我們很高興代表團隊和所有貢獻者宣佈 Spring for Apache Kafka 4.0.0-RC1 已經發布。我們向所有使此版本成為可能做出貢獻的貢獻者表示感謝。
這是 4.0.0 GA 版本之前的第一個也是最後一個釋出候選版本。我們鼓勵社群測試此釋出候選版本,並在我們進行正式釋出之前提供任何問題或疑慮的反饋。
4.0.0-RC1 中的新功能
共享消費者增強:透過全面的確認支援、併發配置和工廠級容器屬性,擴充套件了共享消費者功能。共享消費者實現現在包含適當的毒丸訊息保護和傳遞計數跟蹤。談到共享消費者,我們最近釋出了一篇專門的部落格……
Spring for Apache Kafka 中引入共享消費者支援 (Kafka 佇列)
在我們的 Road to GA 系列中,本週我們將探討 Apache Kafka 4.0.0 中的共享組及其在 Spring for Apache Kafka 4.0.0 中的整合——這一功能從根本上擴充套件了我們從 Kafka 主題消費訊息的方式。
當我們第一次開始使用 Kafka 時,心智模型是直接的:主題儲存訊息,消費者讀取它們,處理在分割槽內按順序進行。這種基於分割槽的模型為無數應用程式提供了良好的服務,提供了帶有強保證的有序處理。然而,某些用例涉及建立包含數百個…
Spring for Apache Kafka 4.0.0-M5 現已釋出
Spring for Apache Kafka 4.0.0-M3 現已釋出
我們代表團隊和所有貢獻者,很高興宣佈 Spring for Apache Kafka 4.0.0-M3 已釋出。
我們向所有為這些釋出做出貢獻的人表示感謝。
4.0.0-M3 提供了對透過 Apache Kafka 4.0.0 中的 KIP-932 引入的 Kafka 佇列(共享消費者)的初步支援。請記住,在 Apache Kafka 4.0.0 中,佇列支援作為早期訪問功能引入,因此 Spring for Apache Kafka 對此的支援也應被視為早期訪問和實驗性的。
您可以在 Spring for Apache Kafka 4.0.0-M3 的參考文件中找到更多詳細資訊……
Spring for Apache Kafka 3.3.7 和 3.2.10 現已釋出
我們代表團隊和所有貢獻者,很高興宣佈 Spring for Apache Kafka 3.3.7 和 3.2.10 已釋出,並可從 Maven Central 獲取。
我們向所有為這些釋出做出貢獻的人表示感謝。
隨著 3.2.10 版本的釋出,我們已經達到了 Spring for Apache Kafka 3.2.x 版本的開源生命週期結束。請參閱 支援時間表 獲取更多詳細資訊。請考慮升級到最新的 3.3.x 版本以獲得持續的 OSS 支援。
發行說明
請參閱發行說明,瞭解這些版本中包含的更多詳細資訊……
Spring for Apache Kafka 4.0.0-M2 和 3.3.5 現已釋出
我們很高興宣佈 Spring for Apache Kafka 4.0.x 系列的第二個里程碑版本 - 4.0.0-M2,它現在支援 Apache Kafka 4.0.0。
4.0.0-M2 中的關鍵變化
4.0.0-M2中的 Kafka 客戶端已更新至4.0.0- 所有與 ZooKeeper 相關的支援現在都從
4.0.0-M2中刪除,因為 Apache Kafka4.0.0已完全移除對 ZooKeeper 的依賴,現在專門使用 KRaft 進行領導者選舉和仲裁管理 - Spring for Apache Kafka 為測試目的提供的
EmbeddedKafkaBroker實用程式將不再與 ZooKeeper 配合使用,因為它只支援 KRaft 協議 - 我們還驗證了透過 KIP-848 引入的下一代消費者再平衡協議透過 Spring for Apache Kafka 4.0.0-M2 完美執行 …