9月26日,由阿里云與英特爾聯(lián)合主辦的“數(shù)聚云端 · 智馭未來“——阿里云數(shù)據(jù)庫創(chuàng)新上云峰會在京舉行。峰會上,阿里云重磅發(fā)布一站式敏捷數(shù)據(jù)倉庫解決方案。該方案結(jié)合一站式數(shù)據(jù)管理平臺DMS及云原生數(shù)據(jù)倉庫AnalyticDB(簡稱:ADB),真正實現(xiàn)了庫倉一體的技術(shù)架構(gòu),提供在線數(shù)據(jù)實時入倉、T+1周期性快照、按需建倉等能力,數(shù)據(jù)延時低至秒級,持續(xù)賦能業(yè)務在線化,令企業(yè)在線數(shù)據(jù)釋放最大價值。

通過低代碼操作,阿里云一站式敏捷數(shù)據(jù)倉庫解決方案大幅降低了實時數(shù)倉的構(gòu)建難度和數(shù)據(jù)加工門檻,同時可支撐企業(yè)各類高頻、動態(tài)化的實時分析場景和需求,幫助用戶破解實時數(shù)倉建設(shè)難題,加速企業(yè)數(shù)字化轉(zhuǎn)型。

數(shù)據(jù)實時入倉,業(yè)務數(shù)據(jù)秒級分析

如今,數(shù)據(jù)已成為企業(yè)發(fā)展過程中必不可少的核心生產(chǎn)資料之一,隨著企業(yè)數(shù)字化程度加深,如何通過數(shù)據(jù)提升生產(chǎn)力是企業(yè)不斷探索的方向。作為數(shù)據(jù)集成、開發(fā)和服務的核心載體,數(shù)據(jù)倉庫在其中發(fā)揮著關(guān)鍵作用。

傳統(tǒng)數(shù)據(jù)倉庫一般基于T+1數(shù)據(jù)集成構(gòu)建離線數(shù)倉,以支撐企業(yè)各項分析與服務。傳統(tǒng)方案不但會影響線上業(yè)務穩(wěn)定性,且難以支持企業(yè)的實時需求,隨著企業(yè)對于數(shù)據(jù)價值變現(xiàn)和應用的時效性要求越來越高,實時數(shù)倉應運而生。

阿里云一站式敏捷數(shù)據(jù)倉庫解決方案基于阿里集團多年實時數(shù)倉建設(shè)經(jīng)驗,結(jié)合一站式數(shù)據(jù)管理平臺DMS及云原生數(shù)據(jù)倉庫ADB,支持業(yè)務數(shù)據(jù)實時入倉+增刪改查、基于拉鏈表的T+1周期性快照等功能,充分滿足企業(yè)應用場景對生產(chǎn)數(shù)據(jù)進行實時分析的需求,如:促銷大屏、監(jiān)控報表、精準營銷、交互式運營分析等。

傳統(tǒng)實時數(shù)倉構(gòu)建方案通常難以滿足多源異構(gòu)數(shù)據(jù)實時入倉的需求,同時數(shù)據(jù)處理鏈路較長,效率無法保證。相較于傳統(tǒng)方案,阿里云一站式敏捷數(shù)據(jù)倉庫解決方案有如下4大核心優(yōu)勢:

1、對業(yè)務側(cè)影響小,不會因為數(shù)據(jù)匯聚集中和實時加工影響業(yè)務側(cè)正常運行,CPU、內(nèi)存占用低于5%

2、事務順序和數(shù)據(jù)準確性有保障,且處理鏈路短,支持在線數(shù)據(jù)實時處理落倉,效率更高。數(shù)據(jù)傳輸效率100m/s,數(shù)據(jù)延時在10秒內(nèi)

3、支持復雜實時數(shù)據(jù)加工、計算邏輯

4、低代碼操作,能夠大大降低實時數(shù)倉的構(gòu)建難度,提升構(gòu)建效率的同時,支撐企業(yè)數(shù)字化轉(zhuǎn)型過程中的各類實時場景

DMS集成數(shù)據(jù)傳輸服務DTS,可支持數(shù)十種數(shù)據(jù)源的存量數(shù)據(jù)+增量更新數(shù)據(jù),實時同步到ADB,確保實時數(shù)倉側(cè)數(shù)據(jù)與生產(chǎn)端保持一致。此外,DTS支持在實時數(shù)據(jù)入倉、數(shù)據(jù)集成過程中,對數(shù)據(jù)進行實時加工處理,幫助企業(yè)降本增效。

周期性快照,業(yè)務零打擾

除了實時統(tǒng)計分析場景外,企業(yè)為滿足周期性數(shù)據(jù)分析需求,需建設(shè)周期性全量快照。傳統(tǒng)數(shù)倉的周期性全量集成方案會對生產(chǎn)業(yè)務造成穩(wěn)定性影響、全量集成時效性差、且無法滿足客戶針對任意時間點進行數(shù)據(jù)回溯的業(yè)務訴求。

針對T+1周期性集成場景,一站式敏捷數(shù)據(jù)倉庫解決方案支持基于拉鏈表的T+1全量數(shù)據(jù)快照,用戶通過簡單幾個步驟,即可按需生成各種周期的全量或增量快照。此外,業(yè)務還可按需進行任意時間點的數(shù)據(jù)回溯,以快速解決數(shù)據(jù)異常問題。

某銀行實時數(shù)倉構(gòu)建案例

以某銀行為例,該銀行采用一站式敏捷數(shù)據(jù)倉庫方案構(gòu)建實時數(shù)倉,以支持各業(yè)務線高效、定制的分析和決策需求。DMS集成DTS非侵入式實時日志解析能力,進行數(shù)據(jù)實時入倉,極大降低了數(shù)據(jù)同步過程中對業(yè)務系統(tǒng)的資源消耗,對業(yè)務操作零干擾,大幅降低實時數(shù)倉建設(shè)難度。此外,方案助力該銀行按T+1(小時)頻率快速生成快照表,千萬數(shù)據(jù)級快照只需3分鐘,結(jié)合ADB對海量數(shù)據(jù)的毫秒級交互式分析能力,進一步提升了實時數(shù)倉對分析決策的支撐效率。

阿里云資深技術(shù)專家、數(shù)據(jù)庫產(chǎn)品事業(yè)部生態(tài)工具部負責人陳長城

阿里云資深技術(shù)專家、數(shù)據(jù)庫產(chǎn)品事業(yè)部生態(tài)工具部負責人陳長城表示:“一站式數(shù)據(jù)管理DMS的目標是幫助企業(yè)在線數(shù)據(jù)價值最大化,企業(yè)通過一站式數(shù)據(jù)管理DMS+ADB可快速構(gòu)建實時數(shù)倉,實現(xiàn)庫倉一體的技術(shù)架構(gòu)。

相比傳統(tǒng)方案,可有效解決多種在線數(shù)據(jù)資產(chǎn)化的難題,實現(xiàn)按需建倉、數(shù)據(jù)集中和敏捷開發(fā)。借助庫倉一體的DMS數(shù)據(jù)傳輸與加工鏈路,大大縮短數(shù)據(jù)流ETL鏈路,降低維護成本,通過數(shù)據(jù)開發(fā)進行靈活的任務編排和產(chǎn)品化支持T+1場景,可降低數(shù)據(jù)加工門檻,快速發(fā)揮企業(yè)在線數(shù)據(jù)價值。”

阿里云研究員、數(shù)據(jù)庫產(chǎn)品事業(yè)部OLAP產(chǎn)品部負責人占超群

阿里云研究員、數(shù)據(jù)庫產(chǎn)品事業(yè)部OLAP產(chǎn)品部負責人占超群表示:“云原生數(shù)據(jù)倉庫AnalyticDB以云原生、數(shù)據(jù)庫與大數(shù)據(jù)一體化為核心,支持一份數(shù)據(jù)多計算場景、全鏈路數(shù)據(jù)實時化等特點,支持結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)融合分析,可實現(xiàn)超大規(guī)模實時增刪改查、高并發(fā)低延時的按需低成本復雜分析,助力業(yè)務實現(xiàn)敏捷、實時、智能的數(shù)字化創(chuàng)新。

阿里云一站式敏捷數(shù)據(jù)倉庫解決方案,結(jié)合一站式數(shù)據(jù)管理DMS+ADB為企業(yè)提供了敏捷的數(shù)據(jù)入倉、ETL管理、任務編排、資產(chǎn)管理等能力,將企業(yè)數(shù)據(jù)資產(chǎn)價值最大化,未來我們還將推出更多企業(yè)級的能力,歡迎大家關(guān)注。”

目前,阿里云一站式敏捷數(shù)據(jù)倉庫解決方案已廣泛應用于金融、數(shù)字政府、零售、泛互聯(lián)網(wǎng)等行業(yè),幫助企業(yè)建設(shè)數(shù)字化轉(zhuǎn)型的基礎(chǔ)底座。