時至今日,我們的數(shù)據(jù)管理能力日益提升,但數(shù)據(jù)分析能力仍相對落后。盡管工具與流程皆已齊備,但還是缺少充
足的數(shù)據(jù)科學(xué)家人員。在今天的文章中,我們將專注于能夠交付實際分析結(jié)論的大數(shù)據(jù)應(yīng)用,同時追蹤其發(fā)展及當(dāng)
前狀態(tài),最終借此窺探大數(shù)據(jù)技術(shù)的未來發(fā)展方向。
早期大數(shù)據(jù)技術(shù)采納方指明令人感興趣的跨行業(yè)發(fā)展可能性
根據(jù)2012年《福布斯》雜志發(fā)表的文章,早期大數(shù)據(jù)技術(shù)采納方主要來自金融服務(wù)、電信、制造(特別是消費(fèi)級產(chǎn)
品)以及政府領(lǐng)域。
早期采納方在起步階段會使用其新近安裝的大數(shù)據(jù)基礎(chǔ)設(shè)施(例如 HDFS、MapReduce 以及 NoSQL 數(shù)據(jù)庫等等)
以實驗各類新型應(yīng)用。
根據(jù) Pacific Crest公司收集到的數(shù)據(jù),各早期采納方往往希望利用這些方案處理數(shù)據(jù)中心日志信息(包括服務(wù)器、
路由器以及各類物聯(lián)網(wǎng)傳感器等),旨在實現(xiàn)網(wǎng)絡(luò)分析與IT系統(tǒng)性能監(jiān)控。
在此基礎(chǔ)之上, 亦有相當(dāng)一部分企業(yè)嘗試?yán)么髷?shù)據(jù)技術(shù)進(jìn)行財務(wù)數(shù)據(jù)(欺詐檢測)與 Web 數(shù)據(jù)(情感分析以實
現(xiàn)個性化體驗)分析。
表 1,大數(shù)據(jù)應(yīng)用早期實驗方向
初步實驗對于了解大數(shù)據(jù)基礎(chǔ)設(shè)施收益、潛力與不足之處非常重要。然而根據(jù)CapGemini 于 2014 年發(fā)布的報告,
試水性實驗的成功比例并不算高。其失敗原因主要有三:
1. 將數(shù)據(jù)分散在多個不同團(tuán)隊中,因此訪問難度較原始設(shè)計更高;
2. 數(shù)據(jù)被安置于遺留系統(tǒng)當(dāng)中,導(dǎo)致將其導(dǎo)出至大數(shù)據(jù)基礎(chǔ)設(shè)施變得非常困難;
3. 缺少統(tǒng)一而明確的全局性數(shù)據(jù)管理與數(shù)據(jù)分析方案,這使得工作人員難以從數(shù)據(jù)內(nèi)提取信息。而隨著此類問題的
一一克服,近來我們發(fā)現(xiàn)成功案例變得愈發(fā)普遍。事實上,目前全球各地對于大數(shù)據(jù)基礎(chǔ)設(shè)施及其附加方案的興趣
都呈現(xiàn)出快速升溫之勢 (見圖一)。
圖 1,各行業(yè)與地區(qū)大數(shù)據(jù)投入數(shù)據(jù)
企業(yè)客戶持續(xù)投資給初創(chuàng)公司帶來可觀的風(fēng)投支持積極性企業(yè)向大數(shù)據(jù)技術(shù)投入的資金呈現(xiàn)增長之勢。 根據(jù) New
Vantage 指出,受訪企業(yè)中有27%表示其將在2017年之前向大數(shù)據(jù)項目投入超過5000萬美元資金。而在2014年面
向同樣企業(yè)對象
的調(diào)查中,這一比例僅為5.4%。
目前,價值萬億美元的行業(yè),包括醫(yī)療衛(wèi)生、保險、農(nóng)業(yè)、能源、醫(yī)藥、教育、汽車、運(yùn)輸以及物流等等,都在積
極探索如何利用大數(shù)據(jù)利器解決自己面臨的現(xiàn)實難題。
舉例來說,汽車制造商希望分析消費(fèi)者的信息娛樂選擇以提供更理想的車載信息娛樂體驗,同時亦需要分析車輛性
能數(shù)據(jù)以提供預(yù)防性維護(hù)建議。另外,無線運(yùn)營商也希望了解消費(fèi)者如何使用其數(shù)據(jù),從而更好地提供內(nèi)容并實現(xiàn)
營收。
考慮到以上提到的企業(yè)投資與變革力度,風(fēng)險投資商們則更為積極地為大數(shù)據(jù)初創(chuàng)企業(yè)提供資金,如圖三所示。單
在 2015 年年內(nèi),風(fēng)投方為大數(shù)據(jù)初創(chuàng)企業(yè)提供的資金總額就高達(dá) 67 億美元,超過 2014 年的 60 億美元。
圖 2,截至 2016 年 2 月大數(shù)據(jù)應(yīng)用總體態(tài)勢圖
出于同樣的理由,大數(shù)據(jù)初創(chuàng)企業(yè)也開始迎來一波收購浪潮。
其中包括 AOL 收購 Convertro, Google 收購 Adometry, 蘋果收購 Topsy,Teradata 收購AsterData 與 Think
Big Analytics,Salesforce 收購 Edgespring 等等。最近,我們還見證了微軟收購 Revolution Analytics,HDS收
購Pentaho以及Advance收購1010Data。除此之外,小規(guī)模收購亦層出不窮,包括Amazon收購Amiato等。
如圖二所示, 目前風(fēng)投方的主要關(guān)注重點在于大數(shù)據(jù)基礎(chǔ)設(shè)施與工具。盡管基礎(chǔ)設(shè)施與工具部署同樣顯示出旺盛的
生命力,但這里我們姑且將注意力集中在大數(shù)據(jù)應(yīng)用身上。
大數(shù)據(jù)應(yīng)用的崛起
信息技術(shù)中的每個新興領(lǐng)域(例如商務(wù)智能、客戶端/服務(wù)器計算、云計算以及移動計算等)通常都需要經(jīng)歷三個發(fā)
展階段:
1. 基礎(chǔ)設(shè)施部署,在大數(shù)據(jù)領(lǐng)域,此類基礎(chǔ)設(shè)施負(fù)責(zé)對數(shù)據(jù)進(jìn)行存儲、管理、移動與傳輸。
2. 工具部署,在大數(shù)據(jù)領(lǐng)域,此類工具用于搜索并分析各種形式的大數(shù)據(jù)并呈現(xiàn)處理結(jié)果。
3. 應(yīng)用程序引入,通常將基礎(chǔ)設(shè)施與工具轉(zhuǎn)化為實際功能。
遵循這樣的分階段實現(xiàn)方式,眾多大型企業(yè)已經(jīng)開始部署大數(shù)據(jù)基礎(chǔ)設(shè)施與多種工具,旨在分析收集到的海量數(shù)據(jù)。
由于我們已經(jīng)進(jìn)入應(yīng)用開發(fā)與部署階段,因此最重要的是著眼于具體軟件。截至目前, 我們已經(jīng)發(fā)現(xiàn)了三種主要大
數(shù)據(jù)應(yīng)用類型:
淺層應(yīng)用,包括執(zhí)行客戶流失分析并圍繞通用型分析工具進(jìn)行開發(fā)(例如 Dataminr 與 DataRobot 等)。 這些應(yīng)
用由數(shù)據(jù)科學(xué)家負(fù)責(zé)支持,從而執(zhí)行經(jīng)過嚴(yán)格定義的任務(wù)流程,并且通常只能在運(yùn)行基礎(chǔ)之上提供淺層分析能力。
而這些由分析模型與報告機(jī)制驅(qū)動的應(yīng)用 由數(shù)據(jù)科學(xué)家及服務(wù)專家進(jìn)行開發(fā)與維護(hù)——他們往往來自管理咨詢企業(yè)
,且充分理解相關(guān)業(yè)務(wù)領(lǐng)域及最終用戶需求。最終用戶通常為商業(yè)分析師。
應(yīng)用能夠處理大數(shù)據(jù),但無法實現(xiàn)任何形式的預(yù)測或預(yù)測性分析(例如 Socrata 及 Zuora)。 這類應(yīng)用可能面向水
平或垂直體系,其能夠為最終用戶——主要為商業(yè)分析師——提供理解數(shù)據(jù)并形成結(jié)論報告的能力。作為實例,紐
約市就利用 Socrata 系統(tǒng)創(chuàng)建財務(wù)報告。
具備嵌入式預(yù)測性分析的應(yīng)用,此類應(yīng)用未來將分為以下兩種類別:
1. 包含預(yù)測模型, 并由數(shù)據(jù)科學(xué)家負(fù)責(zé)開發(fā)與定期更新。這意味著應(yīng)用供應(yīng)商必須擁有強(qiáng)大的服務(wù)能力以支持軟件
功能。此類應(yīng)用包括 AgileOne、OPower、Zephyr Health、Duetto 以及 DataXu 與 MediaMath 等在線廣告應(yīng)
用方案。
2. 所使用的預(yù)測模型可由應(yīng)用本身自動構(gòu)建。此類應(yīng)用廠商包括 Oration 與 Namogoo。
歸屬于這一類別的應(yīng)用可能面向橫向(例如 AgileOne 與 Namogoo)或垂直領(lǐng)域( 例如 OPower、Duetto 或者
Oration)。
這三種大數(shù)據(jù)應(yīng)用類型可被視為應(yīng)用領(lǐng)域的開創(chuàng)者, 如今以其為基礎(chǔ)又有第四種見解型應(yīng)用開始出現(xiàn)。之前提到的
第三種應(yīng)用同見解型應(yīng)用最為接近,但二者間又存在著重要差異:其能夠做出預(yù)測,但無法形成見解。
換言之,第三種應(yīng)用無法根據(jù)預(yù)測結(jié)果執(zhí)行對應(yīng)操作。相反,它們依賴于用戶來識別特定預(yù)測結(jié)果并執(zhí)行對應(yīng)行為。
總結(jié)
盡管仍然面臨多種障礙(每一種新興技術(shù)在出現(xiàn)后都必須面對挑戰(zhàn)), 但大數(shù)據(jù)的早期采納方已經(jīng)在相關(guān)項目當(dāng)中
積極投資,并將其部署至企業(yè)業(yè)務(wù)系統(tǒng)當(dāng)中 以解決各類關(guān)鍵性難題。
為了實現(xiàn)大數(shù)據(jù)的跨行業(yè)處理潛能,各風(fēng)險投資方都在積極為大數(shù)據(jù)初創(chuàng)企業(yè)提供援助,希望其解決方案能夠為大
型企業(yè)客戶所采納??紤]到已經(jīng)陸續(xù)出現(xiàn)的大量大數(shù)據(jù)基礎(chǔ)架構(gòu)及部署分析工具,多數(shù)企業(yè)開始將注意力轉(zhuǎn)向大數(shù)
據(jù)應(yīng)用程序。
我們確定的這三種具體類型涵蓋了相繼出現(xiàn)的各類新型大數(shù)據(jù)應(yīng)用。其中一些能夠提供預(yù)測結(jié)論,但卻無法實現(xiàn)見
解與實際行動,這亦是大數(shù)據(jù)應(yīng)用尚未徹底發(fā)展成熟的主要標(biāo)志。
在未來的文章中,我們將深入探討見解型應(yīng)用 ——即第四類亦是最具發(fā)展前途的大數(shù)據(jù)應(yīng)用類型。
(來源:51CTO.comhttps://www.oreilly.com/ideas/whats-next-for-big-data-applications)