跳到主要內容

預測分析時代

 

getImage

預測分析時代:讓數據告訴你,誰會買、誰說謊、誰會離職、誰會死!

Predictive Analytics: The Power to Predict Who Will Click, Buy, Lie, or Die


這本書其實不如預期中的好看,當初是看在「Amazon 商業分類 No.1」的廣告下買的,不過在machine learning的不少觀念確實改變了我舊有的思維,幫助不可謂不大。

對於big data有興趣的,可順便參閱舊文「統計學,最強的商業武器 - 筆記」。


預測建模流程是一種從訓練實例學習,自動處理資料的作業,所以必須將肯定個案和否定個案都包含在內。

預測分析的目標是改善作業效率,而不是為了搞清楚人們的意圖。  ==> 這有巧妙的避開倫理爭議

每個組織必須決定資料的人、事、時、地、儲存期間和原因:
保留--儲存什麼及儲存多久。
取用--哪些員工、哪類人員或團體成員可以取得並檢視哪些資料要素。
分享--要散播什麼資料、散播給組織裡的哪些團體和哪些外部組織。
合併--哪些資料要素可以加以彙整或結合。
反應--如何依據各項資料要素決定組織的反應、對外拓展或其他行為。

偏見有循環性,是一種自我應驗的預言,而且這種循環會因為運用預測分析而受到強化。

扼殺機器學習的元凶就是過度學習(或稱過度擬合〔overfitting〕)。過度學習是指誤把雜訊當資訊,對於資料已顯示的訊息做過多的報設。如果你針對數字做過多的解讀,你就會過度學習,越走越偏,無法發現資料潛藏的事實。

機器學習的目的是歸納(induction) :歸納----從詳細事實到一般通則的推論。

不過,可別把歸納跟演繹(deduction)混為一談,因為兩著恰好相反:

演繹----從通則到特定個案的提論(或說是從因到果的推論)。

演繹通常比較直截了當,只是應用已知知規則。舉例來說,如果所友人都會死,蘇格拉底是人,演繹法告訴我們,蘇格控底也會死。

歸納是一種藝術形式,我們手中握有世界如何運作的縮影:資料把發生過的事情詳實記錄下來。我們設法能資料中尋找概論,獲得重要推論,找出在未知的情況中一樣適用的模式。

雖然歸納是一輯推論,但是歸納總讓人覺得不合理。這是因為歸納必須依據過度簡化的假設假設是我們設法在歸納上有問突破的關鍵。沒有假設,你根本無法設計學習方法。我們對於世界運作方式的了解,還不足以讓我們設計出完美的學習。如果我們對世界運作方式有足夠的了解,就不需要機器學習來進行預測

建模方式各有不同,卻全都面臨同樣的挑戰:盡可能多學習,但不要過度學習。

大多數學習方法的目的都是要找出一個有效的預測模型,起初通常是以一個瑣碎、簡單、笨拙的模型開始,經過反覆修改,猶如應用「基因突變」直到找出一館有效的預測模型。

如果是以數學公式為主的方式,即是挑選隨機變數,以一個隨機模型為起點,然接重複微調變數,直至公式能做出準確的預測。

對於所有學習技術,訓練資料會引導每次修改,設法改善整個資料集的預測績效。

測試機器是否過度學習,那就是保留一些資料測試模型。隨機挑選一個測試集(test set),並將這些資料跟其他資料加以隔離。只用剩餘的資料當成訓練集,來設計預測模型。然後,利用測試集評估機器學習產生的模型。由於測試集並未用來設計模型,因此模型不可能理解這部分資料的特性。這樣一來,模型針對測試集做出的預測結果。就能當成模型對一般資料的合理績效評估,也就是對模型預測能力做出的實際評估。為了評估預測模型,就必須使用客觀無偏(unbiased)的測試集。

決策樹若長得太大,分支到更多更小的區隔,就會出現過度學習。除非我們能細心照料,不讓決策樹任意生長,否則決策樹最後便無法發揮效力。

簡單講就是,讓決策樹盡量開枝散葉,然後再加以修剪。訣竅在於,不依據決定決策樹生長的訓練資料,而是依據能透露生長變異的測試資料來做修剪。這是相當簡練確切的解決方案,能在學習不足與過度學習之間取得一個巧妙平衡。

修剪決策樹就是進行回溯,把後來證實為錯誤的一些機器學習修改步驟回復。藉由這些回復動作,修剪掉一些枝葉,就能找出一個濃纖合度的平衡模型。有效的預測模型也是這樣存在於決策樹之中。

留言

這個網誌中的熱門文章

Alison Krauss的『When you say nothing at all』

你一定聽過這首歌:When you say nothing at all,不論你是看了『Notting Hill』或是喜歡『男孩特區』,你聽到的可能是Ronan Keating的版本。 最近在聽『Various.Artists.-.[Best.Audiophile.Voices.III]』,裡面有Alison Krauss演唱的版本,我的老天,沒蓋你,馬上把這首歌納入我的經典歌曲集。 誰是Alison Krauss呢? 以下是她的介紹(擷自Very-CD): 多次被評為世界最美的女聲,坐擁 11 座格萊美獎,代表歌曲包括 When You Say Nothing At All 和《冷山》中那首動人的 The Scarlet Tide 等等。 在和"聯合車站"樂隊的合作後,Union Station 的 Bluegrass 威力又把她往前推了一把,讓已經擁有翅膀的Alison 又添加一道光環。當一位鄉村電臺 DJ 某天在節目中播放 Alison 精選專輯主打歌 When You Say Nothing At All 後,每天如浪潮般的點歌頻率,開啟了鄉村音樂的一個新傳奇。 Alison 在 1995 年與 Union Station 合作的精選大碟,曾是鄉村音樂排行榜第 2 名、流行音樂專輯第 15 名,全美銷量達二百萬張,這對於一個鄉村歌手而言,是相當大的數目。不過與其說專輯得到如此多的成功是個意外,不如承認 Alison 無可否認十分甜美的歌喉,及用心演唱的態度,才是讓她長久以來受歌迷肯定的主要原因。 16歲時,Alison Krauss 與美國鄉村音樂最重要的獨立唱片公司 Rounder 簽約,發行的第一張個人專輯,立刻成為樂評家的最愛。 18 歲首度獲得葛萊美獎,之後又繼續獲得無數鄉村音樂獎項,其中包括 11 項葛萊美獎,總總的榮耀應該都是因為她從小苦學古典小提琴、民謠小提琴及歌唱技巧。樂評家均認為 Alison Krauss and Union Station 從 80 年代末至 90 年代中,將草根藍調音樂從地方性音樂帶領成為全世界均能接受的樂風,在樂壇佔有舉足輕重的地位。 1999年,Alison Krauss 的專輯《Forget About It》成為金唱片。一年後,她因在《O Brother ,Where Art You》...

永遠的少年:村上春樹與海邊的卡夫卡

讀楊照老師的《永遠的少年:村上春樹與海邊的卡夫卡》,真是令我豁然開朗,茅塞頓開。 閱讀村上的《海邊的卡夫卡》時,我已經能夠隱約理解到"村上春樹的互文世界"這個觀念,因為那裏有圖書館,容易地就聯想到《世界末日與冷酷異境》。 佐伯小姐說「嗯,但是那個圖書館裡面沒有放書。」 卡夫卡又問她說:「圖書館沒有放書,那放什麼呢?」 在《世界末日》那座圖書館裡,放書的架子上,堆放著一個個白色的獨角獸頭骨。 獨角獸頭骨裡存放著的是「記憶」,記憶存在「心」裡;圖書館所留存的就是一堆無法捨去的記憶與心。 年輕時候的佐伯小姐告訴卡夫卡的,「這裡沒有記憶,我們有別種方式處理記憶。」;那就與獨角獸的頭骨相呼應,所以主角需要去讀夢。 記憶存在心裡,那麼沒有心的人就讓獨角獸把記憶給吸收進去。 在那裡的人,他們如此單純,因為他們沒有心,因為他們沒有跟隨心最重要的一種東西,或者讓心變成可能的最重要的一種東西,那就是「記憶」。 他們只有片段短時間的記憶,沒有長時間的記憶。 那村上是這樣解讀”心”: 「不能把疲倦放進心喏。」她說。「我媽媽常說,疲倦或許可以支配身體,但心卻必須自己掌握好。」 「說得有理。」我說。 「不過說真的,我不太明白心是什麼樣的東西。那正確說來到底意味著什麼?到底應該怎麼去使用它?我只是記住那句話而已。」 「心不是拿來使用的東西。」我說。「心這東西只是在那裡而已,和風一樣。妳只要感覺它在動就好了。」(p.082) 「因為我有心而她沒有心,所以不管我多麼愛她都得不到什麼是嗎?」 「是啊。」老人說。「你只有繼續失去而已。她沒有你說的心這東西。我也沒有。誰都沒有。」 「但你不是對我這麼親切嗎?你關心我,不眠不休看護我。這不是心的一種表現嗎?」 「不,不一樣。親切和心又是不一樣的東西。親切是一種獨立的機能。說得正確一點是表層的機能。那只是習慣而已,和心不同。所謂心是更深、更強的東西。而且是更矛盾的東西。」 我閉上眼睛,把散在各個方向的想法一一收集起來。(p.212) 「但那裡沒有所謂的心存在是嗎?」 「沒有心。」老人說。「不過你的心終究也會消失。心消失之後既沒有喪失感,也沒有失望。無處可去的愛也會消失。只留下生活。只留下平靜而悄然的生活。你可能...

GLOOMY BEAR 暴力熊

Gloomy Bear身世背景: Gloomy是一隻在路邊被遺棄的粉紅色小熊 , 被小朋友Pity發現,並將牠帶回家中收養, 並為小熊取名為Gloomy。 可惜.....Gloomy外表可愛,但因為被拋棄的緣故~卻有著一般熊的暴力性格, 長大長出爪子後就時常向主人用暴力招數打招呼, 而Pity就慘被Gloomy日日夜夜地欺負!悲慘ㄉ人生就這樣子開始囉!! 暴力熊喜好~咬主人頭, 而牠的主人,復原能力極高...打不死喔~厲害厲害! 暴力熊顏色:粉紅色,金色,銀色,紅色,藍色,黃色,還有罕見的綠色與混色。 粉紅色暴力熊性別:女 頭大身細,眼珠黑色,爪白色兼尖利,具有殺傷力,她多數用口爪殺人,殺完人後喜歡在街上徘徊。 小主人每次都被暴力熊揍得半死兼頭破血流, 但仍然不離不棄地緊緊抱住這隻血腥的寵物; Pity就算受到傷害亦要讓開心的回憶遮掩,然後繼續微笑期待小熊再次跟他一起溫習/做功課/看書;相信等待他的會是小熊的溫柔而非暴力傷害; 暴力熊和他小主人之間微妙的情感讓人感動又心酸; 這次轉輪科技所推出的暴力熊,內容包含小男孩Pity與粉紅熊Gloomy兩支一組。造形上善用Gloomy胖胖的軀體,將轉輪關節隱藏其中,全身有14處可動。可替換配件包含小男孩被打的表情,還有防止熊熊咬人的口罩以及牠嘴角流下來的血,原型制作為山口勝久。