Databricks 宣布推出「Lakehouse//RT」,這是一項革命性的技術,讓企業能夠直接在湖倉一體(Lakehouse)架構上進行即時分析。此新解決方案基於名為「Reyden」的全新計算引擎,能夠在具備 Delta Lake 和 Apache Iceberg™ 的資料表中,直接實現毫秒級的查詢延遲,即使面對數萬名並行使用者或代理程式也能維持高效能。

Lakehouse//RT 的推出,旨在解決企業在處理即時數據時面臨的挑戰。過去,企業若要實現低延遲和高併發的即時分析,通常需要額外建置一個獨立的即時服務層,這不僅增加了成本和複雜性,還可能導致數據孤島和治理問題。Lakehouse//RT 透過在湖倉一體內直接處理即時數據,消除了對獨立服務層的需求,簡化了架構,並確保數據的一致性和即時性。

該解決方案的效能表現卓越,與現有的即時服務基礎設施相比,效能提升最高可達 16 倍。在標準分析基準測試中,Lakehouse//RT 能夠在每秒處理 12,000 個查詢的情況下,實現低於 100 毫秒的延遲。對於小型數據集,延遲可低至 10 毫秒;對於大型數據集,則可維持在 100 毫秒以下。此外,所有查詢都在 Unity Catalog 的統一治理下執行,無需額外的權限管理層或複雜的數據同步管道。

Databricks 聯合創始人兼 CEO Ali Ghodsi 表示:「Lakehouse//RT 是我們引擎譜系的最後一塊拼圖,它提供了人們所期望、代理程式所需要的毫秒級處理層。正如我們證明了『最好的數據倉儲是湖倉一體』一樣,現在我們可以說『最好的即時分析引擎也是湖倉一體』。」

Lakehouse//RT 的主要特點包括:

* **毫秒級延遲**:透過 Reyden 的非同步執行模型,實現小數據集 10 毫秒、大數據集 100 毫秒以下的響應時間,並在高吞吐量下維持低延遲。 * **開放且統一的治理系統**:所有查詢均在 Unity Catalog 的治理下執行,無需額外的治理層。 * **即時存取最新數據**:無需數據轉換或複製,直接查詢 Delta 和 Iceberg 表格,即可在數分鐘內開始分析即時數據。

目前,Lakehouse//RT 已進入 Beta 測試階段。Cisco 和 Magnite 等客戶已在實際應用中驗證了其效能,並對其在延遲、效能和架構簡化方面的優勢給予了高度評價。

FACT BOX · 重點整理

  • 來源:PR TIMES
  • 分類:技術発表
  • 相關組織:Databricks / Cicso / Magnite