如何扛住流量“洪峰”
“雙十一”剛過
“雙十一”的數(shù)據(jù)量不僅大,還會(huì)實(shí)時(shí)變化
“今年的數(shù)據(jù)處理工作
,除了批處理(對(duì)數(shù)據(jù)進(jìn)行批量處理)外,還有流處理,就是實(shí)時(shí)處理數(shù)據(jù)。龐大的交易數(shù)據(jù)每分鐘、每秒鐘都在變,它們并不是從數(shù)據(jù)庫里面統(tǒng)計(jì)出來的,而是系統(tǒng)自動(dòng)一層層把它們匯集上來的。”阿里巴巴集團(tuán)首席技術(shù)官張建鋒表示。他口中的“流處理”就是流計(jì)算,即實(shí)時(shí)計(jì)算。對(duì)于扛住“雙十一”流量“洪峰”,它功不可沒。那么
,什么是流計(jì)算?它是如何抗住“雙十一”流量“洪峰”的?對(duì)此,科技日?qǐng)?bào)記者采訪了業(yè)內(nèi)專家。以內(nèi)存取代硬盤實(shí)現(xiàn)快速處理
北京理工大學(xué)計(jì)算機(jī)學(xué)院副院長(zhǎng)
、教授劉馳在接受科技日?qǐng)?bào)記者采訪時(shí)解釋道,流計(jì)算指當(dāng)一條數(shù)據(jù)被處理完后,立刻被序列化到內(nèi)存中,然后通過網(wǎng)絡(luò)傳輸?shù)较乱粋€(gè)節(jié)點(diǎn),由下一個(gè)節(jié)點(diǎn)繼續(xù)處理。“這種流式處理技術(shù),是以內(nèi)存取代硬盤的方式來實(shí)現(xiàn)數(shù)據(jù)快速處理,這是流計(jì)算之所以能夠高效處理數(shù)據(jù)的根本原因據(jù)劉馳介紹
“流式處理可被用于兩種不同的計(jì)算場(chǎng)景:事件流和持續(xù)計(jì)算。”劉馳介紹道
,在事件流場(chǎng)景,系統(tǒng)會(huì)持續(xù)產(chǎn)生大量的數(shù)據(jù),這類數(shù)據(jù)最早出現(xiàn)在銀行和股票交易領(lǐng)域,也會(huì)在互聯(lián)網(wǎng)監(jiān)控、無線通信等領(lǐng)域出現(xiàn)。這些領(lǐng)域的相關(guān)業(yè)務(wù),需要流計(jì)算技術(shù)以近乎實(shí)時(shí)的方式對(duì)數(shù)據(jù)流進(jìn)行復(fù)雜分析。“而在持續(xù)計(jì)算場(chǎng)景,比如大型網(wǎng)站
,流計(jì)算技術(shù)可以動(dòng)態(tài)實(shí)時(shí)地刷新用戶訪問數(shù)據(jù),展示網(wǎng)站實(shí)時(shí)流量的變化情況,分析每天各小時(shí)的流量和用戶分布情況。一些需要實(shí)時(shí)處理數(shù)據(jù)的場(chǎng)景也能應(yīng)用到流計(jì)算技術(shù),比如對(duì)根據(jù)用戶行為產(chǎn)生的日志文件進(jìn)行實(shí)時(shí)分析,對(duì)用戶進(jìn)行商品的實(shí)時(shí)推薦等。”劉馳介紹道。實(shí)時(shí)采集
、實(shí)時(shí)計(jì)算、實(shí)時(shí)查詢劉馳向記者介紹道,流計(jì)算的處理流程一般包含三個(gè)階段:數(shù)據(jù)實(shí)時(shí)采集
首先
然后
,不同于批量計(jì)算等待數(shù)據(jù)集成全部完成后才啟動(dòng)計(jì)算作業(yè),流式計(jì)算作業(yè)是一種常駐計(jì)算服務(wù),一旦啟動(dòng)將一直處于等待事件觸發(fā)的狀態(tài),即一有小批量數(shù)據(jù)進(jìn)入流式數(shù)據(jù)存儲(chǔ)系統(tǒng),流計(jì)算系統(tǒng)就會(huì)立刻計(jì)算并得出結(jié)果。“同時(shí),部分電商平臺(tái)的流計(jì)算團(tuán)隊(duì),還使用了增量計(jì)算模型,將大批量數(shù)據(jù)分批進(jìn)行增量計(jì)算,進(jìn)一步減少單次運(yùn)算規(guī)模并有效降低整體運(yùn)算時(shí)延。”劉馳說。最后
,采用數(shù)據(jù)批處理方式,通常需要等待數(shù)據(jù)計(jì)算結(jié)果得出后,才能批量將數(shù)據(jù)傳輸?shù)皆诰€系統(tǒng)技術(shù)雖強(qiáng)大但仍存在短板
不過,劉馳表示
“如果在系統(tǒng)內(nèi)存不足的情況下,還要滿足多個(gè)用戶的數(shù)據(jù)請(qǐng)求,那么每個(gè)用戶實(shí)際被分到的內(nèi)存就會(huì)很少
“此外,流計(jì)算技術(shù)面對(duì)的是源源不斷涌入的數(shù)據(jù)
獨(dú)家推薦
-
大部分企業(yè)持續(xù)看好中國(guó)市場(chǎng) 外資企業(yè)在華投資經(jīng)營(yíng)信心沒有改變
國(guó)家發(fā)展改革委舉行的新聞發(fā)布會(huì)上,針對(duì)有記者提出的目前部分外資企業(yè)外遷的問題時(shí)
,新聞發(fā)言人孟瑋表示,部分外資企業(yè)在全球范圍內(nèi)調(diào)整生促進(jìn)畢業(yè)生盡早就業(yè) 七部門實(shí)施高校畢業(yè)生就業(yè)創(chuàng)業(yè)推進(jìn)行動(dòng)
昨天(9月10日),中組部
、人力資源社會(huì)保障部等七部門印發(fā)《關(guān)于實(shí)施高校畢業(yè)生就業(yè)創(chuàng)業(yè)推進(jìn)行動(dòng)的通知》,從9月15日至12月31日,對(duì)2020屆和全國(guó)社?div id="jpandex" class="focus-wrap mb20 cf">;饳?quán)益投資收益額為2917.18億元 投資收益率為14.06%
全國(guó)社會(huì)保障基金理事會(huì)今天(11日)發(fā)布2019年社?div id="jpandex" class="focus-wrap mb20 cf">;鹉甓葓?bào)告。2019年
,社?div id="jpandex" class="focus-wrap mb20 cf">;饳?quán)益投資收益額為2917 18億元,投資收益率為14 06%。自200我國(guó)資本市場(chǎng)表現(xiàn)平穩(wěn) 外資總體保持凈流入態(tài)勢(shì)
上午舉行中國(guó)國(guó)際服務(wù)貿(mào)易交易會(huì)2020中國(guó)國(guó)際金融年度論壇
。論壇上,證監(jiān)會(huì)副主席方星海表示,外資總體保持凈流入態(tài)勢(shì),前八個(gè)月滬深港通北新聞排行