網(wǎng)絡技術的發(fā)展是推動大數(shù)據(jù)平臺發(fā)展的一個關鍵因素。2012年以前是一個互聯(lián)網(wǎng)的時代,這個時期互聯(lián)網(wǎng)公司和電信運營商,掌握著海量的數(shù)據(jù),所以他們開始利用Hadoop平臺來進行大數(shù)據(jù)的處理。那時候程序員自己寫程序跑在Hadoop平臺上來解決應用問題。2012年以后移動互聯(lián)網(wǎng)的迅猛發(fā)展,這使得服務行業(yè)率先數(shù)字化。例如在金融行業(yè),手機App讓用戶可以隨時隨地查詢、轉賬,此時銀行開始面臨海量數(shù)據(jù)和高并發(fā)的沖擊,就需要一個大數(shù)據(jù)平臺來解決這個問題。這也就是為什么華為在2013年面向行業(yè)市場推出大數(shù)據(jù)平臺產(chǎn)品FusionInsight。接下來物聯(lián)網(wǎng)的發(fā)展會讓更多的實體行業(yè)數(shù)字化,數(shù)據(jù)的特征更多是半結構化和非結構化,AI等更多新的搜索技術將能夠幫助我們輕松地使用大數(shù)據(jù)平臺。
華為FusionInsight大數(shù)據(jù)平臺是集 Hadoop 生態(tài)發(fā)行版、大規(guī)模并行處理數(shù)據(jù)庫、大數(shù)據(jù)云服務于一體的融合數(shù)據(jù)處理與服務平臺,擁有端到端全生命周期的解決方案能力。除了提供包括批處理、內(nèi)存計算、流計算和MPPDB在內(nèi)的全方位數(shù)據(jù)處理能力外,還提供數(shù)據(jù)分析挖掘平臺、數(shù)據(jù)服務平臺,幫助用戶實現(xiàn)從數(shù)據(jù)到知識,從知識到智慧的轉換,進而幫助用戶從海量數(shù)據(jù)中挖掘數(shù)據(jù)價值。
此外華為FusionInsight大數(shù)據(jù)平臺是根據(jù)行業(yè)客戶需求進行優(yōu)化的解決方案。為解決用戶在具體場景下的問題,提供許多創(chuàng)新的技術能力,舉幾個例子:
第一個是統(tǒng)一SQL。大數(shù)據(jù)技術中有很多能夠利用SQL語言進行數(shù)據(jù)處理的組件,比如Hive、SparkSQL、Elk、MPPDB等,當用戶對于這些組件進行業(yè)務開發(fā)時,需要對不同組件分別進行,造成很大的不便。FusionInsight提供統(tǒng)一SQL,對外業(yè)務界面只出現(xiàn)一個SQL開發(fā)管理界面,通過統(tǒng)一SQL的業(yè)務分發(fā)層進行業(yè)務分發(fā),這樣就簡化了業(yè)務開發(fā)。同時,華為還提供了SQL on Hadoop引擎Elk,這個引擎完全兼容SQL 2003標準,無需修改測試腳本就可以通過TPC-DS測試,性能超過開源產(chǎn)品3倍。通過使用統(tǒng)一SQL技術,某大型保險公司實現(xiàn)了用大數(shù)據(jù)平臺替代傳統(tǒng)數(shù)倉,在復雜計算業(yè)務場景下,其性能提升了10-100倍。
第二個是實時搜索。華為FusionInsight率先實現(xiàn)了對Hadoop平臺與MPPDB數(shù)倉平臺的統(tǒng)一全文檢索,率先支持SQL on Solr接口,提升業(yè)務開發(fā)效率5倍以上,獨創(chuàng)標簽索引方案,提升搜索性能3-10倍。目前,實時搜索技術在平安城市和金融行業(yè)已經(jīng)實現(xiàn)商用。在國內(nèi)某省的平安城市項目中,百億級規(guī)模數(shù)據(jù)集中查詢,實時搜索響應時間<3秒。
第三個是實時決策。與日常生活息息相關的很多業(yè)務是需要實時決策的,比如使用銀行卡交易過程中的風險控制。由于傳統(tǒng)技術處理速度的原因,往往只能實現(xiàn)事后風控。也就是說用戶在刷卡完成后,銀行才能夠檢查出來,剛才的交易是否有風險。這樣對于銀行和客戶而言,都會有很大的風險存在。而華為FusionInsight實時決策平臺,可以實現(xiàn)毫秒級復雜規(guī)則的風險檢查,提供百萬TIPS的業(yè)務處理能力,從而讓風險控制從事后變?yōu)槭轮校⒋_保端到端的交易可在500毫秒內(nèi)完成,不影響交易用戶的體驗。
第四個是圖分析技術。在生活中有很多時候是需要進行用戶的關系分析來進行風險控制和業(yè)務處理的。如果我們的客戶中有一個是VIP客戶,那么他的朋友符合VIP客戶條件的可能性就會很大。因此如果我們能夠通過關系分析技術找到他的朋友圈,在針對他的朋友進行針對性營銷,那么業(yè)務成功的可能性也就會大大增加。但是,傳統(tǒng)的數(shù)據(jù)庫技術在處理客戶關系發(fā)現(xiàn)時很困難,某公司曾經(jīng)做過一個測試,想在2000萬客戶中發(fā)現(xiàn)客戶間的關系信息,但是一直無法算出來。但是用圖分析技術就可以很好解決這一類問題。因為在圖數(shù)據(jù)庫中,用戶就是點,用戶關系就是邊,發(fā)現(xiàn)用戶關系就變成了發(fā)現(xiàn)點與點間需要幾條邊的問題。華為的分布式圖數(shù)據(jù)庫,能夠?qū)崿F(xiàn)萬億頂點百億邊的實時查詢,從而很快發(fā)現(xiàn)用戶關系。在某項目中,華為幫助客戶實現(xiàn)了13.7億條關系圖譜數(shù)據(jù),3層關系查詢秒級響應,從而大大提高了業(yè)務響應的速度。
最后,華為大數(shù)據(jù)平臺是有著豐富的市場實踐的產(chǎn)品。華為FusionInsight大數(shù)據(jù)平臺已在40+個國家,總計700+項目中實現(xiàn)了成功商用?蛻舭ㄖ袊、一汽集團、中國商飛、工商銀行、招商銀行、中國移動、西班牙電信等眾多世界500強企業(yè)。同時華為公司在全球建成有13個開放實驗室,在這里華為與各國200+合作伙伴進行大數(shù)據(jù)方案的聯(lián)合創(chuàng)新,包括SAP、埃森哲、IBM、宇信科技、中軟國際等,共同推動大數(shù)據(jù)技術在各行各業(yè)的應用。
數(shù)博會正在進行中,相約數(shù)博會,與華為共同開啟大數(shù)據(jù)時代美好未來!
華為公司簡介
作為全球領先的信息與通信(ICT)解決方案供應商,華為堅持以豐富人們的溝通和生活為愿景,堅持圍繞客戶需求的持續(xù)創(chuàng)新,與合作伙伴開放合作,在電信網(wǎng)絡、企業(yè)網(wǎng)絡、終端和音視頻等領域構筑了端到端的解決方案優(yōu)勢。通過全球?qū)W⒕礃I(yè)的17萬名華為人,致力于為運營商客戶、企業(yè)客戶和消費者創(chuàng)造最大的價值,提供有競爭力的ICT解決方案、產(chǎn)品和服務。目前,華為的業(yè)務遍及全球170多個國家和地區(qū),服務全世界1/3以上的人口。華為公司成立于1987年,是一家由員工持有全部股份的民營企業(yè)。欲了解更多詳情,請參閱華為官網(wǎng):www.huawei.com
了解華為在企業(yè)市場的更多信息,請訪問:http://enterprise.huawei.com
在新浪微博上關注 @華為企業(yè)業(yè)務 :http://weibo.com/hwenterprise
在微信公眾號查找“華為企業(yè)業(yè)務中國”,或通過微信”掃一掃”功能掃描二維碼進行添加:
