YC初創公司Rivet推出面向AI智慧體的高效能可擴充套件編排器
由Y Combinator F25孵化專案孵化出的初創團隊Rivet,近日釋出了一款專為智慧體(Agentic)工作負載設計的高密度、可擴充套件編排器。
該平臺基於“參與者模型”(Actor Model)構建,旨在解決在傳統資源密集型沙盒中執行AI智慧體時所固有的效率低下問題。通過利用由S3支援的輕量級參與者,Rivet為管理複雜AI智慧體的開發者提供了一種更高效的替代方案。
與傳統沙盒往往佔用大量記憶體且啟動緩慢不同,Rivet的參與者架構專為速度和效率而生。該平臺提供長生命週期程式、用於上下文的記憶體狀態以及持久化的SQLite儲存。
據創始人介紹,這種架構使得記憶體佔用最低可降至72 KB,而傳統沙盒通常需要數百兆位元組。此外,該系統支援亞毫秒級的持久化寫入,使其在即時應用中表現出極高的響應速度。
選擇S3作為主要儲存介質是Rivet的核心差異化優勢。許多系統依賴昂貴的SSD或高吞吐量的Postgres資料庫,而Rivet利用S3在保持高效能的同時顯著降低了成本。
通過基於SSD的快取層,系統確保資料在後臺批次寫入S3,從而避免了儲存層成為效能瓶頸。這種方法使使用者能夠以傳統塊儲存一小部分的成本,實現接近SSD的讀寫速度。
Rivet的設計具有高度靈活性,既支援通過單個Rust二進位制檔案進行自託管部署,也提供託管雲服務選項。目前,已有企業開始利用該平臺編排多人智慧體和複雜工作流。
憑藉其開源模式和對開發者體驗的重視,Rivet正致力於成為不斷增長的AI智慧體生態系統中穩健的基礎設施層,為開發者提供構建複雜AI系統的有力工具。
來源: Hacker News