資料,是產業數字化和物聯網最重要的資源之一。
如何讓資料平滑流轉起來,並進行計算、分析和治理,從而驅動企業更高效地進行數字化轉型和業務創新,是一件很重要也很有價值的事情。
為了打通大資料全鏈路,
青雲正式釋出大資料工作臺
,透過為企業提供
“資料上雲、資料開發、資料同步、作業運維排程、引擎資源管理”
等功能模組,降低企業大資料使用門檻,讓非技術人員也能進行資料開發與治理,一鍵開啟資料洞察之旅。
資料流轉、計算、分析和治理面對的挑戰
要讓資料平滑流轉起來,並進行計算、分析和治理,其中包括了幾個方面:
一是資料同步。雲平臺已有的資料庫、資料倉庫、訊息佇列等服務中的資料,需要資料同步服務來打通彼此之間的孤立關係。對多源異構資料提供開放的資料整合能力,不僅能整合青雲自己的資料來源,還能整合企業自建的、甚至其他雲平臺的資料來源。
二是實時計算。在 IoT 場景中,透過 IoT 採集閘道器將資料採集到統一的平臺後,需要大資料平臺對大量的裝置資料、監控資料等進行分析、挖掘,最終轉化為裝置報告和流程最佳化相關的資訊和知識。這種反饋實時性越高,對企業降本增效的效果會越好。
三是統一作業運維排程。任務排程系統已成為大資料平臺不可或缺的一部分。任務量多、資料量大,容易導致前面的任務尚未結束或者失敗,後面的任務也開始執行起來,最終跑出錯誤的分析結果。隨著任務量的增加和依賴關係的複雜,企業對任務排程系統的需求越來越迫切。
此外,資料治理、資料資產管理、資料服務共享等需求同樣迫切。
集合六大產品特性,青雲大資料工作臺釋出
談到資料整合、資料加工、資料服務,我們很容易想到資料中臺。
目前市面上的資料中臺主要以大專案定製的方式進行私有化交付,往往需要企業自己搭建、部署、實施、運維和升級,或者採用技術服務費用的方式購買整套大資料環境,成本高、週期長。當企業業務峰值超過預期時,還需要增加採購。
這一現狀引發了我們的思考,是否可以在雲端以一站式、便捷、低成本的方式,構建“雲上資料中臺”,充分發揮雲資源按需付費、彈性擴容的優勢,來解決資料層面的問題呢?
基於此,青雲正式推出大資料工作臺,即採用雲原生架構的一站式智慧大資料開發與治理平臺,聚焦於資料使用場景,解決資料整合、流批一體計算、統一作業運維排程、資料服務共享等問題,實現資料在雲平臺各產品之間的快速流轉,支撐上層業務應用,消除“資料孤島”,統一排程和計算,幫助企業專注於資料價值的挖掘和探索,提升資料洞察能力。
接下來,透過一段產品影片,來感受打通大資料全鏈路的一站式資料開發體驗,包括:相容多種資料來源、視覺化資料整合、視覺化資料開發和全託管 Flink 叢集。
青雲大資料工作臺產品特性,主要有六點:
第一,雲原生容器化架構
大資料工作臺採用“公私一體”的架構,依託雲原生 Kubernetes 遮蔽底層基礎設施的能力,支援青雲公有云、青雲私有云、以及獨立部署的方式。
第二,全託管流批一體引擎
雲端全託管 Flink 叢集,可以對海量資料進行亞秒級處理,支援流批一體的作業處理方式,能夠覆蓋多種業務場景。
第三,與資料儲存無縫對接
內建 Connector 無縫對接訊息佇列、資料庫、資料倉庫、物件儲存等雲端資料儲存類產品,按需拓展 Connector 對接各類外部資料系統。
第四,一站式開發與運維
大資料工作臺作為一站式開發運維平臺,提供了視覺化資料開發 IDE,支援多語言開發模式,同時支援依賴包管理、UDF 管理輔助開發工作,一鍵提交,全託管排程,大幅節約開發成本和週期。
第五,多樣化的排程策略
提供最小顆粒度為分鐘級別的排程配置,排程週期支援單次執行、立即執行和週期執行等。
第六,細粒度的資源管控
最小資源使用粒度僅 0。5 CU,精細化資源管控,支援按量和包年/包月計費,價格低廉,安全穩定。
應對豐富的業務場景,驅動企業數“智”化轉型
在場景上,青雲大資料工作臺支援四種標準化場景,分別是精細化運營分析場景、實時計算場景、視覺化開發運維場景、構建數倉場景。目前這些場景已經在青雲的客戶中投入使用。
首先是
精細化運營分析場景
,主要面向中小型網際網路或移動網際網路客戶。客戶業務端積累大量的使用者行為資料,需要做使用者行為分析,從而為其使用者提供更有針對性的服務。同時,客戶大資料發展較為領先,會有資料安全和資料質量相關的需求。大資料工作臺可以在使用者畫像、推薦、資料分析、大屏展示、資料治理等方面提供支援。
精細化運營分析場景架構圖
其次是
實時計算場景
,主要面向對實時資料有加工處理需求的客戶,如智慧工廠。客戶透過訊息佇列統一資料標準,由大資料工作臺來執行計算任務處理,對增量熱資料和全量資料進行分類處理、分類展示和應用。大資料工作臺可以在 IoT 終端實現實時資料分析、實時使用者日誌分析、實時運營資料分析、實時風控等方面提供支援。
實時計算場景資料場景架構圖
第三是
視覺化開發運維場景
,主要面向以學習或者科研為目標的客戶。客戶使用科研資料,利用大資料計算引擎對資料的成員和許可權管理進行分工協作,進行多維分析和計算,透過計算引擎和實時資料處理,挖掘資料模型,輸出科研分析報告等。大資料工作臺可以在資料 ETL、資料探勘等方面提供支援。
視覺化開發運維場景架構圖
最後是
構建數倉場景
,主要面向在青雲雲平臺上使用了訊息佇列、資料庫、資料倉庫、大資料計算儲存的客戶。客戶將資料按照不同的業務線或資料型別存放在不同的資料儲存介質中,需要做不同介質間的同步傳輸,或者需要匯聚到統一的資料倉庫或大資料儲存中,進行下一步的資料計算和分析。大資料工作臺可以在資料整合、實時或離線計算、資料儲存等方面提供支援。
構建數倉場景架構圖
進入數字時代,資料已然成為驅動企業發展的“新動能”。
青雲大資料工作臺的釋出,將致力於幫助企業啟用資料資產,釋放資料價值,加速數“智”化程序!
股民福利來了!十大金股送給你,帶你掘金“黃金坑”!點選檢視>>
開啟App看更多精彩內容