大數(shù)據(jù)PPTBIG DATA PRESENTATIONPRESENTS BY bantuwang

隨著云時(shí)代的來臨，大數(shù)據(jù)（Big data）也吸引了越來越多的關(guān)注。分析師團(tuán)隊(duì)認(rèn)為，大數(shù)據(jù)（Big data）通常用來形容一個(gè)公司創(chuàng)造的大量非結(jié)構(gòu)化數(shù)據(jù)和半結(jié)構(gòu)化數(shù)據(jù)，這些數(shù)據(jù)在下載到關(guān)系型數(shù)據(jù)庫用于分析時(shí)會(huì)花費(fèi)過多時(shí)間和金錢。大數(shù)據(jù)分析常和云計(jì)算聯(lián)系到一起，因?yàn)閷?shí)時(shí)的大型數(shù)據(jù)集分析需要像MapReduce一樣的框架來向數(shù)十、數(shù)百或甚至數(shù)千的電腦分配工作。大數(shù)據(jù)BIG DATA

大數(shù)據(jù)是什么？大數(shù)據(jù)的特征和結(jié)構(gòu)大數(shù)據(jù)時(shí)代的機(jī)遇和挑戰(zhàn)大數(shù)據(jù)的趨勢大數(shù)據(jù)的應(yīng)用和案例CONTENTS

PART-01大數(shù)據(jù)是什么？1

大數(shù)據(jù)（BIG DATA）指無法在一定時(shí)間范圍內(nèi)用常規(guī)軟件工具進(jìn)行捕捉、管理和處理的數(shù)據(jù)集合，是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)。

大數(shù)據(jù)定義對(duì)于“大數(shù)據(jù)”（Big data）研究機(jī)構(gòu)Gartner給出了這樣的定義。“大數(shù)據(jù)”是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力來適應(yīng)海量、高增長率和多樣化的信息資產(chǎn)。決策力洞察發(fā)現(xiàn)力流程優(yōu)化能力

大數(shù)據(jù)是“未來的新石油”大數(shù)據(jù)是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)。大數(shù)據(jù)就是“未來的新石油”。BIG DATA

何謂大？（數(shù)據(jù)度量）1Byte= 8 Bit1 KB= 1,024 Bytes = 8192 bit1 MB= 1,024 KB = 1,048,576 Bytes1 GB= 1,024 MB = 1,048,576 KB1 TB= 1,024 GB = 1,048,576 MB1 PB= 1,024 TB = 1,048,576 GB1 EB = 1,024 PB = 1,048,576 TB1 ZB= 1,024 EB = 1,048,576 PB1 YB= 1,024 ZB = 1,048,576 EB1 BB= 1,024 YB = 1,048,576 ZB1 NB= 1,024 BB = 1,048,576 YB1 DB= 1,024 NB = 1,048,576 BB

到底有多大？1PB相當(dāng)于50%的全美學(xué)術(shù)研究圖書館藏書信息內(nèi)容5EB相當(dāng)于至今全世界人類所講過的話語1ZB如同全世界海灘上的沙子數(shù)量總和1YB相當(dāng)于7000位人類體內(nèi)的微細(xì)胞總和

大數(shù)據(jù)帶來的變革123

PART-02大數(shù)據(jù)的特征和結(jié)構(gòu)2

大數(shù)據(jù)的特征2176543

大數(shù)據(jù)的結(jié)構(gòu)大數(shù)據(jù)包括結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，非結(jié)構(gòu)化數(shù)據(jù)越來越成為數(shù)據(jù)的主要部分。據(jù)IDC的調(diào)查報(bào)告顯示：企業(yè)中80%的數(shù)據(jù)都是非結(jié)構(gòu)化數(shù)據(jù)，這些數(shù)據(jù)每年都按指數(shù)增長60%。大數(shù)據(jù)就是互聯(lián)網(wǎng)發(fā)展到現(xiàn)今階段的一種表象或特征而已，沒有必要神話它或?qū)λ３志次分模谝栽朴?jì)算為代表的技術(shù)創(chuàng)新大幕的襯托下，這些原本看起來很難收集和使用的數(shù)據(jù)開始容易被利用起來了，通過各行各業(yè)的不斷創(chuàng)新，大數(shù)據(jù)會(huì)逐步為人類創(chuàng)造更多的價(jià)值。半結(jié)構(gòu)化結(jié)構(gòu)化非結(jié)構(gòu)化

大數(shù)據(jù)的安全威脅大數(shù)據(jù)基礎(chǔ)設(shè)施安全威脅1大數(shù)據(jù)存儲(chǔ)安全威脅2隱私泄露問題3針對(duì)大數(shù)據(jù)的高級(jí)持續(xù)性攻擊4數(shù)據(jù)訪問安全威脅5其他安全威脅6

大數(shù)據(jù)的三個(gè)層面123

大數(shù)據(jù)改變生活優(yōu)化各級(jí)政府、主管部門、上市公司、企業(yè)集團(tuán)、外資公司都將基于大數(shù)據(jù)分析平臺(tái)優(yōu)化其決策。革命大數(shù)據(jù)分析能力逐漸加強(qiáng)，傳統(tǒng)市場研究行業(yè)、證券研究所、產(chǎn)業(yè)鏈咨詢機(jī)構(gòu)將逐漸消失。顛覆銀行都將基于企業(yè)大數(shù)據(jù)平臺(tái)開展銀行直銷業(yè)務(wù)，同時(shí)按照產(chǎn)業(yè)鏈金融服務(wù)事業(yè)部模式開展業(yè)務(wù)改變因大數(shù)據(jù)系統(tǒng)的出現(xiàn)，所有依賴信息不對(duì)稱盈利的業(yè)務(wù)都將消失。大數(shù)據(jù)對(duì)政府、金融機(jī)構(gòu)、企業(yè)來說，象空氣一樣不可或缺！

PART-03大數(shù)據(jù)時(shí)代的機(jī)遇和挑戰(zhàn)3

機(jī)遇和挑戰(zhàn)機(jī)遇挑戰(zhàn)大數(shù)據(jù)技術(shù)促進(jìn)國家和社會(huì)發(fā)展大數(shù)據(jù)藍(lán)海成為企業(yè)競爭的新焦點(diǎn)大數(shù)據(jù)時(shí)代呼喚創(chuàng)新型人才大數(shù)據(jù)技術(shù)的運(yùn)用仍有困難大數(shù)據(jù)給信息安全帶來新挑戰(zhàn)

機(jī)遇1：大數(shù)據(jù)技術(shù)促進(jìn)國家和社會(huì)發(fā)展大數(shù)據(jù)技術(shù)的運(yùn)用前景是十分光明的。當(dāng)前，我國正處在全面建成小康社會(huì)征程中，工業(yè)化、信息化、城鎮(zhèn)化、農(nóng)業(yè)現(xiàn)代化任務(wù)很重，建設(shè)下一代信息基礎(chǔ)設(shè)施，發(fā)展現(xiàn)代信息技術(shù)產(chǎn)業(yè)體系，健全信息安全保障體系，推進(jìn)信息網(wǎng)絡(luò)技術(shù)廣泛運(yùn)用，是實(shí)現(xiàn)四化同步發(fā)展的保證。大數(shù)據(jù)分析對(duì)我們深刻領(lǐng)會(huì)世情和國情，把握規(guī)律，實(shí)現(xiàn)科學(xué)發(fā)展，做出科學(xué)決策具有重要意義，我們必須重新認(rèn)識(shí)數(shù)據(jù)的重要價(jià)值。實(shí)現(xiàn)科學(xué)發(fā)展做出科學(xué)決策

機(jī)遇2：大數(shù)據(jù)藍(lán)海成為企業(yè)競爭的新焦點(diǎn)大數(shù)據(jù)所能帶來的巨大商業(yè)價(jià)值，被認(rèn)為將引領(lǐng)一場足以與20世紀(jì)計(jì)算機(jī)革命匹敵的巨大變革。大數(shù)據(jù)正在對(duì)每個(gè)領(lǐng)域都造成影響，包括商業(yè)、經(jīng)濟(jì)等領(lǐng)域。大數(shù)據(jù)正在促生新的藍(lán)海，催生新的經(jīng)濟(jì)增長點(diǎn)，正在成為企業(yè)競爭的新焦點(diǎn)。

機(jī)遇3：大數(shù)據(jù)時(shí)代呼喚創(chuàng)新型人才

挑戰(zhàn)1：大數(shù)據(jù)技術(shù)的運(yùn)用仍有困難目前，大數(shù)據(jù)技術(shù)的運(yùn)用仍存在一些困難與挑戰(zhàn)，體現(xiàn)在大數(shù)據(jù)挖掘的四個(gè)環(huán)節(jié)中。1要對(duì)來自網(wǎng)絡(luò)包括物聯(lián)網(wǎng)和機(jī)構(gòu)信息系統(tǒng)的數(shù)據(jù)附上時(shí)空標(biāo)志，去偽存真，盡可能收集異源甚至是異構(gòu)的數(shù)據(jù)，還可與歷史數(shù)據(jù)對(duì)照，多角度驗(yàn)證數(shù)據(jù)的全面性和可信性。2要達(dá)到低成本、低能耗、高可靠性目標(biāo)，要用到冗余配置、分布化和云計(jì)算技術(shù)，存儲(chǔ)時(shí)對(duì)數(shù)據(jù)進(jìn)行分類，通過過濾和去重，減少存儲(chǔ)量，并加入便于檢索的標(biāo)簽。3大數(shù)據(jù)的復(fù)雜性使得難以用傳統(tǒng)的方法描述與度量，需要將高維圖像等多媒體數(shù)據(jù)降維后度量與處理，利用上下文關(guān)聯(lián)進(jìn)行語義分析，從大量動(dòng)態(tài)及可能模棱兩可的數(shù)據(jù)中綜合信息，并導(dǎo)出可理解的內(nèi)容。4使結(jié)果更直觀以便于洞察。目前，盡管計(jì)算機(jī)智能化有了很大進(jìn)步，但還只能針對(duì)小規(guī)模、有結(jié)構(gòu)或類結(jié)構(gòu)的數(shù)據(jù)進(jìn)行分析，談不上深層次的數(shù)據(jù)挖掘，現(xiàn)有的數(shù)據(jù)挖掘算法在不同行業(yè)中難以通用。

挑戰(zhàn)2：大數(shù)據(jù)給信息安全帶來新挑戰(zhàn)123加大隱私泄露風(fēng)險(xiǎn)對(duì)現(xiàn)有存儲(chǔ)和安防措施提出挑戰(zhàn)被運(yùn)用到攻擊手段中大量數(shù)據(jù)的集中存儲(chǔ)增加了其泄露的風(fēng)險(xiǎn)；一些敏感數(shù)據(jù)的所有權(quán)和使用權(quán)并沒有清晰界定。復(fù)雜的數(shù)據(jù)存儲(chǔ)在一起，可能造成企業(yè)安全管理不合規(guī)；安全防護(hù)手段更新升級(jí)慢，存在漏洞黑客可收集更多有用信息，大數(shù)據(jù)分析讓攻擊更精準(zhǔn)；大數(shù)據(jù)為黑客發(fā)起攻擊提供了更多的機(jī)會(huì)

“棱鏡門”引爆大數(shù)據(jù)時(shí)代爭議事情的起因是美國中情局前職員斯諾登向媒體爆料，過去6年間，美國的情報(bào)部門通過一個(gè)代號(hào)為“棱鏡”的項(xiàng)目，從多家知名互聯(lián)網(wǎng)公司獲取電子郵件、在線聊天內(nèi)容、照片、文檔、視頻等網(wǎng)絡(luò)私人數(shù)據(jù)，跟蹤用戶一舉一動(dòng)。他說，自己只需要坐在辦公桌前，動(dòng)動(dòng)指頭，敲敲鍵盤，就能了解很多人的私密信息。斯諾登的爆料引起一片嘩然，根據(jù)他提供的資料，被卷入“棱鏡門”事件的公司包括微軟、雅虎、谷歌、蘋果、Facebook等9大IT業(yè)巨頭。在“棱鏡門”事件開始發(fā)酵之后，這些公司先是趕緊出面否認(rèn)與美國政府的監(jiān)視項(xiàng)目進(jìn)行過合作，并相繼發(fā)表聲明，呼吁政府采取更透明態(tài)度，以證明他們的“清白”。

PART-04大數(shù)據(jù)的趨勢4

借助大數(shù)據(jù)尖端分析加速發(fā)展如果正確的數(shù)據(jù)出現(xiàn)在合適的時(shí)間，您的業(yè)務(wù)將有望獲得什么機(jī)會(huì)？如何更有效率地運(yùn)營您的業(yè)務(wù)？通過數(shù)據(jù)分析獲得變革的潛力與直觀理解影響著醫(yī)療、銀行、交通運(yùn)輸、制造等各行各業(yè)。對(duì)于許多早期的使用者，當(dāng)他們從傳統(tǒng)商業(yè)智能 (BI) 的實(shí)踐發(fā)展到可靠直觀理解的更高級(jí)分析（預(yù)測性和規(guī)范性）時(shí)，數(shù)據(jù)改變了他們的業(yè)務(wù)，無論是通過新的發(fā)現(xiàn)、更尖端的產(chǎn)品和服務(wù)或總體更好的客戶體驗(yàn)。

大數(shù)據(jù)的趨勢趨勢一數(shù)據(jù)的資源化：是指大數(shù)據(jù)成為企業(yè)和社會(huì)關(guān)注的重要戰(zhàn)略資源，并已成為大家爭相搶奪的新焦點(diǎn)。因而，企業(yè)必須要提前制定大數(shù)據(jù)營銷戰(zhàn)略計(jì)劃，搶占市場先機(jī)。趨勢二與云計(jì)算的深度結(jié)合：大數(shù)據(jù)離不開云處理，云處理為大數(shù)據(jù)提供了彈性可拓展的基礎(chǔ)設(shè)備，是產(chǎn)生大數(shù)據(jù)的平臺(tái)之一。自2013年開始，大數(shù)據(jù)技術(shù)已開始和云計(jì)算技術(shù)緊密結(jié)合，預(yù)計(jì)未來兩者關(guān)系將更為密切。趨勢三科學(xué)理論的突破：隨著大數(shù)據(jù)的快速發(fā)展，就像計(jì)算機(jī)和互聯(lián)網(wǎng)一樣，大數(shù)據(jù)很有可能是新一輪的技術(shù)革命。隨之興起的數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)和人工智能等相關(guān)技術(shù)，可能會(huì)改變數(shù)據(jù)世界里的很多算法和基礎(chǔ)理論，實(shí)現(xiàn)科學(xué)技術(shù)上的突破。趨勢四數(shù)據(jù)科學(xué)和數(shù)據(jù)聯(lián)盟的成立：未來，數(shù)據(jù)科學(xué)將成為一門專門的學(xué)科，被越來越多的人所認(rèn)知。各大高校將設(shè)立專門的數(shù)據(jù)科學(xué)類專業(yè)，也會(huì)催生一批與之相關(guān)的新的就業(yè)崗位。

趨勢五數(shù)據(jù)泄露泛濫：未來幾年數(shù)據(jù)泄露事件的增長率也許會(huì)達(dá)到100%，除非數(shù)據(jù)在其源頭就能夠得到安全保障。可以說，在未來，每個(gè)財(cái)富500強(qiáng)企業(yè)都會(huì)面臨數(shù)據(jù)攻擊，無論他們是否已經(jīng)做好安全防范。而所有企業(yè)，無論規(guī)模大小，都需要重新審視今天的安全定義。趨勢六數(shù)據(jù)管理成為核心競爭力：數(shù)據(jù)管理成為核心競爭力，直接影響財(cái)務(wù)表現(xiàn)。當(dāng)“數(shù)據(jù)資產(chǎn)是企業(yè)核心資產(chǎn)”的概念深入人心之后，企業(yè)對(duì)于數(shù)據(jù)管理便有了更清晰的界定，將數(shù)據(jù)管理作為企業(yè)核心競爭力，持續(xù)發(fā)展，戰(zhàn)略性規(guī)劃與運(yùn)用數(shù)據(jù)資產(chǎn)，成為企業(yè)數(shù)據(jù)管理的核心。趨勢七數(shù)據(jù)質(zhì)量是BI(商業(yè)智能)成功的關(guān)鍵：采用自助式商業(yè)智能工具進(jìn)行大數(shù)據(jù)處理的企業(yè)將會(huì)脫穎而出。其中要面臨的一個(gè)挑戰(zhàn)是，很多數(shù)據(jù)源會(huì)帶來大量低質(zhì)量數(shù)據(jù)。想要成功，企業(yè)需要理解原始數(shù)據(jù)與數(shù)據(jù)分析之間的差距，從而消除低質(zhì)量數(shù)據(jù)并通過BI獲得更佳決策。趨勢八數(shù)據(jù)生態(tài)系統(tǒng)復(fù)合化程度加強(qiáng)：大數(shù)據(jù)的世界不只是一個(gè)單一的、巨大的計(jì)算機(jī)網(wǎng)絡(luò)，而是一個(gè)由大量活動(dòng)構(gòu)件與多元參與者元素所構(gòu)成的生態(tài)系統(tǒng)，終端設(shè)備提供商、基礎(chǔ)設(shè)施提供商、網(wǎng)絡(luò)服務(wù)提供商、網(wǎng)絡(luò)接入服務(wù)提供商、數(shù)據(jù)服務(wù)使能者、數(shù)據(jù)服務(wù)提供商、觸點(diǎn)服務(wù)、數(shù)據(jù)服務(wù)零售商等等一系列的參與者共同構(gòu)建的生態(tài)系統(tǒng)。

PART-05大數(shù)據(jù)的應(yīng)用和案例5

大數(shù)據(jù)的應(yīng)用領(lǐng)域教育學(xué)情報(bào)學(xué)公共服務(wù)天文學(xué)電子政務(wù)傳媒業(yè)生物醫(yī)學(xué)商業(yè)智能圖書館學(xué)氣候?qū)W企業(yè)管理市場營銷金融學(xué)生活?yuàn)蕵房偨y(tǒng)選舉

企業(yè)大數(shù)據(jù)建設(shè)方法大數(shù)據(jù)業(yè)務(wù)戰(zhàn)略大數(shù)據(jù)建設(shè)目標(biāo)大數(shù)據(jù)架構(gòu)設(shè)計(jì)大數(shù)據(jù)實(shí)施大數(shù)據(jù)運(yùn)維大數(shù)據(jù)持續(xù)改進(jìn)服務(wù)改進(jìn)技術(shù)升級(jí)架構(gòu)優(yōu)化

擴(kuò)展現(xiàn)有架構(gòu)1324更深入地分析當(dāng)前數(shù)據(jù)針對(duì)高數(shù)據(jù)速度設(shè)計(jì)針對(duì)數(shù)據(jù)多樣性和數(shù)據(jù)量進(jìn)行設(shè)計(jì)發(fā)現(xiàn)新模式—— 提高業(yè)務(wù)價(jià)值 ——

商品零售大數(shù)據(jù)此事經(jīng)被《紐約時(shí)報(bào)》報(bào)道后，塔吉特“大數(shù)據(jù)”的巨大威力轟動(dòng)全美在美國，有一位父親怒氣沖沖地跑到塔吉特賣場，質(zhì)問為何將帶有嬰兒用品優(yōu)惠券的廣告郵件，寄送給他正在念高中的女兒?然而后來證實(shí)，他的女兒果真懷孕了。這名女孩搜尋商品的關(guān)鍵詞，以及在社交網(wǎng)站所顯露的行為軌跡，使沃爾瑪捕捉到了她的懷孕信息。模型發(fā)現(xiàn)，許多孕婦在第2個(gè)妊娠期的開始會(huì)買許多大包裝的無香味護(hù)手霜；在懷孕的最初20周大量購買補(bǔ)充鈣、鎂、鋅的善存片之類的保健品。最后塔吉特選出了25種典型商品的消費(fèi)數(shù)據(jù)構(gòu)建了“懷孕預(yù)測指數(shù)”，通過這個(gè)指數(shù)，Target能夠在很小的誤差范圍內(nèi)預(yù)測到顧客的懷孕情況，因此Target就能早早地把孕婦優(yōu)惠廣告寄發(fā)給顧客。擁抱大數(shù)據(jù)

消費(fèi)大數(shù)據(jù)

證監(jiān)會(huì)大數(shù)據(jù)回顧“老鼠倉”的查處過程，在馬樂一案中，“大數(shù)據(jù)”首次介入。深交所此前通過“大數(shù)據(jù)”查出的可疑賬戶高達(dá)300個(gè)

交通大數(shù)據(jù)UPS最新的大數(shù)據(jù)來源是安裝在公司4.6萬多輛卡車上的遠(yuǎn)程通信傳感器，這些傳感器能夠傳回車速、方向、剎車和動(dòng)力性能等方面的數(shù)據(jù)。收集到的數(shù)據(jù)流不僅能說明車輛的日常性能，還能幫助公司重新設(shè)計(jì)物流路線。大量的在線地圖數(shù)據(jù)和優(yōu)化算法，最終能幫助UPS實(shí)時(shí)地調(diào)配駕駛員的收貨和配送路線。該系統(tǒng)為UPS減少了8500萬英里的物流里程，由此節(jié)約了840萬加侖的汽油。

金融大數(shù)據(jù)阿里“水文模型”是按小微企業(yè)類目、級(jí)別等分別統(tǒng)計(jì)一個(gè)阿里系商戶的相關(guān)“水文數(shù)據(jù)”庫。如過往每到某個(gè)時(shí)點(diǎn)，該店鋪銷售會(huì)進(jìn)入旺季，銷售額就會(huì)增長，同時(shí)每在這個(gè)時(shí)段，該客戶對(duì)外投放的額度就會(huì)上升，結(jié)合這些水文數(shù)據(jù)，系統(tǒng)可以判斷出該店鋪的融資需求；結(jié)合該店鋪以往資金支用數(shù)據(jù)及同類店鋪資金支用數(shù)據(jù)，可以判斷出該店鋪的資金需求額度。$

—— 感謝觀看 ——THANKS