清華大學教授:大數據時代 統計學依然是數據分析靈魂

讓大數據區別于數據的,是其海量積累、高增長率和多樣性

什麼是數據?數據(data)在拉丁文里是「已知」的意思,在英文中的一個解釋是「一組事實的集合,從中可以分析出結論」。籠統地說,凡是用某種載體記錄下來的、能反映自然界和人類社會某種信息的,就可稱之為數據。古人「結繩記事」,打了結的繩子就是數據。步入現代社會,信息的種類和數量越來越豐富,載體也越來越多。數字是數據,文字是數據,圖像、音頻、視頻等都是數據。

  • 什麼是大數據呢?量的增多,是人們對大數據的第一個認識。隨著科技發展,各個領域的數據量都在迅猛增長。有研究發現,近年來,數字數據的數量每3年多就會翻一番。

  • 大數據區別于數據,還在於數據的多樣性。正如高德納咨詢公司研究報告指出的,數據的爆炸是三維的、立體的。所謂的三維,除了指數據量快速增大外,還指數據增長速度的加快,以及數據的多樣性,即數據的來源、種類不斷增加。

  • 從數據到大數據,不僅是量的積累,更是質的飛躍。海量的、不同來源、不同形式、包含不同信息的數據可以容易地被整合、分析,原本孤立的數據變得互相聯通。這使得人們通過數據分析,能發現小數據時代很難發現的新知識,創造新的價值。

通過數據來研究規律、發現規律,貫穿了人類社會發展的始終。人類科學發展史上的不少進步都和數據採集分析直接相關,例如現代醫學流行病學的開端。倫敦1854年發生了大規模的霍亂,很長時間沒有辦法控制。一位醫師用標點地圖的方法研究了當地水井分佈和霍亂患者分佈之間的關係,發現有一口水井周圍,霍亂患病率明顯較高,借此找到了霍亂暴發的原因:一口被污染的水井。關閉這口水井之後,霍亂的發病率明顯下降。這種方法,充分展示了數據的力量。

本質上說,許多科學活動都是數據挖掘,不是從預先設定好的理論或者原理出發,通過演繹來研究問題,而是從數據本身出發通過歸納來總結規律。近現代以來,隨著我們面臨的問題變得越來越複雜,通過演繹的方式來研究問題常常變得很困難。這就使得數據歸納的方法變得越來越重要,數據的重要性也越發凸顯出來。

大數據是非競爭性資源,有助於政府科學決策、商家精準營銷

大數據時代,數據的重要作用更加凸顯,許多國家都把大數據提升到國家戰略的高度。

政府合理利用大數據,引導決策的將是基於實證的事實,政府會更有預見性、更加負責、更加開放。中國古代治國就已經有重數據的思想,如商鞅提出,「強國知十三數……欲強國,不知國十三數,地雖利,民雖眾,國愈弱至削」。大數據時代,循「數」治國將更加有效。小數據時代,政府做決策更多依憑經驗和局部數據,難免頭痛醫頭、腳痛醫腳。比如,交通堵塞就多修路。大數據時代,政府做決策能夠從粗放型轉向集約型。路堵了,利用大數據分析,可以得知哪一時間、哪一地段最容易堵,或在這一地段附近多修路,或提前預警引導居民合理安排出行,實現對交通流的最佳配置和控制,改善交通。

對於商家來說,大數據使精準營銷成為可能。一個有趣的故事,是沃爾瑪超市的「啤酒、尿布」現象。沃爾瑪超市分析銷售數據時發現,顧客消費單上和尿布一起出現次數最多的商品,竟然是啤酒。跟蹤調查后發現,有不少年輕爸爸會在買尿布時,順便買些啤酒喝。沃爾瑪發現這一規律后,搭配促銷啤酒、尿布,銷量大幅增加。大數據時代,每個人都會「自發地」提供數據。我們的各種行為,如點擊網頁、使用手機、刷卡消費、觀看電視、坐地鐵出行、駕駛汽車,都會生成數據並被記錄下來,我們的性別、職業、喜好、消費能力等信息,都會被商家從中挖掘出來,以分析商機。

大數據也將使個人受益。從生物學、醫學上講,以前生物學家只是通過對單個或幾個基因的操控來觀察其對生物體的影響,很難發現整體的關聯。現在由於技術的發展,可以分析很多,如遺傳信息、全體基因的表達量信息、蛋白質族譜信息、全基因組甲基化信息、表觀遺傳信息等。同時還有個人健康指標、病歷、藥物反應等數據。如果真能達成生物學上多維多向數據的有機融合,就能夠把個人完整地描述出來,從而實現精準醫療的目的。

大數據時代,審核數據的真實性也有了更有效的手段。大數據的特徵之一是多樣性,不同來源、不同維度的數據之間存在一定的關聯度,可以交叉驗證。例如,某地的工業產值虛報了一倍,但用電量和能耗卻沒有達到相應的規模。這就是數據異常,很容易被系統識別出來。發現異常后,相關部門再進行複核,就能更有針對性地防止、打擊數據造假。

數據是一種資源,但數據又跟煤、石油等物質性資源不一樣。物質性資源不可再生,你用多了,別人就用少了,因而很難共享。數據可以重複使用、不斷產生新的價值。大數據資源的使用是非惡性競爭的,共享的前提下,更能夠製造雙贏。從另一個角度來說,數據如果不被融合、聯繫在一起,也不能稱之為大數據。

大數據不能被直接拿來使用,統計學依然是數據分析的靈魂

現在社會上有一種流行的說法,認為在大數據時代,「樣本=全體」,人們得到的不是抽樣數據而是全數據,因而只需要簡單地數一數就可以下結論了,複雜的統計學方法可以不再需要了。

在我看來,這種觀點非常錯誤。首先,大數據告知信息但不解釋信息。打個比方說,大數據是「原油」而不是「汽油」,不能被直接拿來使用。就像股票市場,即使把所有的數據都公布出來,不懂的人依然不知道數據代表的信息。大數據時代,統計學依然是數據分析的靈魂。正如加州大學伯克利分校邁克爾·喬丹教授指出的,「沒有系統的數據科學作為指導的大數據研究,就如同不利用工程科學的知識來建造橋樑,很多橋樑可能會坍塌,並帶來嚴重的後果。」

其次,全數據的概念本身很難經得起推敲。全數據,顧名思義就是全部數據。這在某些特定的場合對於某些特定的問題確實可能實現。比如,要比較清華、北大兩校同學數學能力整體上哪個更強,可以收集到兩校同學高考時的數學成績作為研究的數據對象。從某種意義上說,這是全數據。但是,並不是說我們有了這個全數據就能很好地回答問題。

一方面,這個數據雖然是全數據,但仍然具有不確定性。入校時的數學成績並不一定完全代表學生的數學能力。假如讓所有同學重新參加一次高考,幾乎每個同學都會有一個新的成績。分別用這兩組全數據去做分析,結論就可能發生變化。另一方面,事物在不斷地發展和變化,同學入校時的成績並不能夠代表現在的能力。全體同學的高考成績數據,僅對於那次考試而言是全數據。「全」是有邊界的,超出了邊界就不再是全知全能了。事物的發展充滿了不確定性,而統計學,既研究如何從數據中把信息和規律提取出來,找出最優化的方案;也研究如何把數據當中的不確定性量化出來。

所以說,在大數據時代,數據分析的很多根本性問題和小數據時代並沒有本質區別。當然,大數據的特點,確實對數據分析提出了全新挑戰。例如,許多傳統統計方法應用到大數據上,巨大計算量和存儲量往往使其難以承受;對結構複雜、來源多樣的數據,如何建立有效的統計學模型也需要新的探索和嘗試。對於新時代的數據科學而言,這些挑戰也同時意味著巨大的機遇,有可能會產生新的思想、方法和技術。


(來源:《 人民日報 》)




美國對沖基金交易員傳授股指期貨(第三期)



培養出來的學員在期貨和外匯市場屢屢實現三個月翻十倍、四個月翻六倍、三周翻兩倍的驚人交易績效。並被華爾街交易學院及盈道金融研究院聘為指導老師和技術顧問。


(點擊閱讀原文查看詳情)



---
資料來源:清華大學教授:大數據時代 統計學依然是數據分析靈魂
如果內容有不適當或對出處有疑慮,請立即通知客服中心
值得看看:
→ 
→ 
→ 
Facebook留言板
您可能有興趣
客服信箱 客服信箱
一則未讀訊息
發訊息給線上客服