課程目標(biāo)

本課程為高級課程，專注于機(jī)器學(xué)習(xí)算法，原理，以及算法實現(xiàn)及優(yōu)化。

通過本課程的學(xué)習(xí)，達(dá)到如下目的：

1、 熟悉常見的機(jī)器學(xué)習(xí)的算法。

2、 掌握機(jī)器學(xué)習(xí)的算法原理，以及數(shù)據(jù)推導(dǎo)。

3、 學(xué)會使用Python來實現(xiàn)機(jī)器學(xué)習(xí)算法，以及優(yōu)化算法。

4、 掌握scikit-learn擴(kuò)展庫來實現(xiàn)機(jī)器學(xué)習(xí)算法。

【授課時間】

2-3天時間

學(xué)員要求

課程為實戰(zhàn)課程，要求：

1、 每個學(xué)員自備一臺便攜機(jī)(必須)。

2、 要求有Python開發(fā)基礎(chǔ)。

3、 要求有基本的數(shù)據(jù)分析和數(shù)據(jù)挖掘的知識。

注：講師現(xiàn)場提供開源的安裝程序、擴(kuò)展庫，以及現(xiàn)場分析的數(shù)據(jù)源。

授課方式

機(jī)器學(xué)習(xí)任務(wù) + 算法原理 + 數(shù)學(xué)推導(dǎo) + Python實現(xiàn)

從任務(wù)出發(fā)，了解算法原理，以及數(shù)學(xué)推導(dǎo)過程，全過程演練操作，讓學(xué)員在分析、分享、講授、總結(jié)、自我實踐過程中獲得能力提升。

課程大綱

第一部分： 機(jī)器學(xué)習(xí)基礎(chǔ)

1、 機(jī)器學(xué)習(xí)簡介

2、 機(jī)器學(xué)習(xí)的種類

Ø 監(jiān)督學(xué)習(xí)/無監(jiān)督學(xué)習(xí)/半監(jiān)督學(xué)習(xí)/強(qiáng)化學(xué)習(xí)

Ø 批量學(xué)習(xí)和在線學(xué)習(xí)

Ø 基于實例與基于模型

3、 機(jī)器學(xué)習(xí)的主要戰(zhàn)挑

Ø 數(shù)據(jù)量不足

Ø 數(shù)據(jù)質(zhì)量差

Ø 無關(guān)特征

Ø 過擬合/擬合不足

4、 機(jī)器學(xué)習(xí)任務(wù)

Ø 監(jiān)督：分類、回歸

Ø 無監(jiān)督：聚類、降維、關(guān)聯(lián)規(guī)則

5、 機(jī)器學(xué)習(xí)基本過程

6、 模型評估指標(biāo)

Ø 回歸：R^2, MAE/MSE/RMSE/MAPE

Ø 分類：Acc,Recall,Precision,F1，ROC曲線,AUC

7、 模型評估方法

Ø 訓(xùn)練集/驗證集

Ø 交叉驗證

8、 過擬合評估

Ø 過擬合檢驗

Ø 過擬合解決方法：正則化

Ø 正則化：

² L1正則項

² L2正則項

9、 模型參數(shù)優(yōu)化

Ø 交叉驗證

Ø 網(wǎng)格搜索GridSearchCV

Ø 隨機(jī)搜索RandomizeSearchCV

10、 機(jī)器學(xué)習(xí)常用庫

第二部分： 回歸任務(wù)算法

1、 線性回歸模型

Ø 一元線性回歸

Ø 多元線性回歸

2、 線性回歸算法

Ø 損失函數(shù)

Ø 普通最小二乘法OLS

3、 欠擬合解決方法

Ø 多項式回歸

4、 過擬合的優(yōu)化算法：正則化

Ø 嶺回歸（Ridge）

Ø 套索回歸Lasso

Ø ElasticNet回歸

Ø 各種算法的適用場景

5、 超參優(yōu)化

6、 大規(guī)模數(shù)據(jù)集回歸：迭代算法

Ø 隨機(jī)梯度下降

Ø 批量梯度下降

Ø 小批量梯度下降

7、 梯度算法的關(guān)鍵問題

第三部分： 邏輯回歸

1、 邏輯回歸模型

2、 邏輯回歸的算法

Ø 原理

Ø 數(shù)學(xué)推導(dǎo)

3、 正則項處理

4、 其它優(yōu)化：

Ø 迭代樣本的隨機(jī)選擇

Ø 變化的學(xué)習(xí)率

5、 求解算法與懲罰項的關(guān)系

6、 多分類處理

Ø ovo

Ø ovr

第四部分： 線性判別分析

1、 判別分析簡介

Ø 基本思想

2、 判別分析算法

Ø 數(shù)學(xué)推導(dǎo)

Ø 類間/類內(nèi)散度矩陣

3、 多分類處理

Ø 迭代樣本的隨機(jī)選擇

Ø 變化的學(xué)習(xí)率

4、 求解算法與懲罰項的關(guān)系

第五部分： 支持向量機(jī)

1、 支持向量機(jī)簡介

Ø 作用：回歸、分類、異常檢測

Ø 適用場景

2、 線性SVM分類

Ø 基本原理

Ø 支持向量

Ø SMO算法

3、 非線性SVM分類

4、 常用核函數(shù)

Ø 線性核函數(shù)

Ø 多項式核

Ø 高斯RBF核

Ø 核函數(shù)的選擇原則

5、 線性不可分處理：松弛系數(shù)

第六部分： 決策樹

1、 決策樹模型

2、 構(gòu)建決策樹的三個關(guān)鍵問題

3、 決策樹的訓(xùn)練

4、 決策樹的可視化

5、 決策樹常用算法

Ø ID5

Ø CART

6、 正則化參數(shù)

7、 決策樹預(yù)測的基本步驟

第七部分： 神經(jīng)網(wǎng)絡(luò)

1、 神經(jīng)網(wǎng)絡(luò)模型

Ø 工作原理：加法器、激活函數(shù)

Ø 適用場景

2、 神經(jīng)網(wǎng)絡(luò)的建立步驟

3、 BP算法實現(xiàn)

4、 多層感知器MLP

Ø 隱藏層的數(shù)量

Ø 神經(jīng)元的個數(shù)

第八部分： 樸素貝葉斯

1、 貝葉斯簡介

Ø 條件概率

Ø 常見貝葉斯網(wǎng)絡(luò)

2、 樸素貝葉斯

Ø 算法實現(xiàn)

Ø 連續(xù)變量處理：高斯分布

3、 拉普拉斯修正

第九部分： 集成算法

1、 分類模型優(yōu)化思想

2、 優(yōu)化框架

Ø Bagging

Ø Boosting

3、 Bagging集成

Ø 原理

Ø 隨機(jī)森林

4、 Boosting集成

Ø 原理

Ø AdaBoost

第十部分： 無監(jiān)督算法

結(jié)束：課程總結(jié)與問題答疑。

講師簡介

培訓(xùn)師介紹：

傅一航

華為系大數(shù)據(jù)專家

計算機(jī)軟件與理論碩士研究生

（研究方向：數(shù)據(jù)挖掘、搜索引擎）

在華為工作十年，五項國家專利，在華為工作期間

獲得華為數(shù)項獎項，曾在英國、日本、荷蘭和比利

時等海外市場做項目，對大數(shù)據(jù)有深入的研究。

傅老師專注于大數(shù)據(jù)分析與挖掘、機(jī)器學(xué)習(xí)等應(yīng)用技術(shù)，以及大數(shù)據(jù)系統(tǒng)部署解決方案。旨在將大數(shù)據(jù)的數(shù)據(jù)分析、數(shù)據(jù)挖掘、數(shù)據(jù)建模應(yīng)用于行業(yè)及商業(yè)領(lǐng)域，解決行業(yè)實際的問題。

1、讓決策更科學(xué)：將大數(shù)據(jù)應(yīng)用于運(yùn)營決策，用大數(shù)據(jù)探索領(lǐng)域發(fā)展規(guī)律和行業(yè)發(fā)展趨勢，有效分析用戶需求，并預(yù)測用戶行為，最終實現(xiàn)市場變化預(yù)測，提升企業(yè)科學(xué)決策能力。

2、讓管理更高效：將大數(shù)據(jù)應(yīng)用于企業(yè)管理，用大數(shù)據(jù)呈現(xiàn)企業(yè)整體運(yùn)營情況，診斷企業(yè)管理問題和風(fēng)險，全面理解組織、產(chǎn)品、人員、營銷、財務(wù)等要素間的相關(guān)性，實現(xiàn)企業(yè)資源的最優(yōu)化配置，提升企業(yè)管理效率。

3、讓營銷更精準(zhǔn)：將大數(shù)據(jù)應(yīng)用于市場營銷，解決營銷中的用戶群細(xì)分和品牌定位，客戶價值評估，產(chǎn)品設(shè)計優(yōu)化，產(chǎn)品最優(yōu)定價等實際問題，實現(xiàn)精準(zhǔn)營銷和精準(zhǔn)推薦，以最小的營銷成本實現(xiàn)最大化的營銷效果。

傅老師目前致力于將大數(shù)據(jù)技術(shù)應(yīng)用于通信、金融、航空、電商、互聯(lián)網(wǎng)、政府等領(lǐng)域。傅老師的課程最大特色：實戰(zhàn)性強(qiáng)！“圍繞業(yè)務(wù)問題+搭建分析框架+運(yùn)用分析方法+建立分析模型+熟悉分析工具+形成業(yè)務(wù)策略”。以商業(yè)問題為起點(diǎn)，基于實際的業(yè)務(wù)應(yīng)用場景（明確目的），搭建全面系統(tǒng)的業(yè)務(wù)框架和分析維度（分析思路），選擇最合適的方法（分析方法），深入淺出的理論講解（分析模型），使用簡單實用的工具操作（分析工具），對分析結(jié)果進(jìn)行有效的解讀（數(shù)據(jù)可視化），最終形成具體的業(yè)務(wù)建議，實現(xiàn)業(yè)務(wù)分析/數(shù)據(jù)分析的閉環(huán)。

培訓(xùn)課題設(shè)計:

應(yīng)用類：

《大數(shù)據(jù)分析與數(shù)據(jù)挖掘綜合能力提升實戰(zhàn)》

《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

《市場營銷大數(shù)據(jù)分析實戰(zhàn)培訓(xùn)》

《大數(shù)據(jù)建模與模型優(yōu)化實戰(zhàn)培訓(xùn)》

《大數(shù)據(jù)分析與挖掘之SPSS工具入門與提高》

《金融行業(yè)風(fēng)險預(yù)測模型實戰(zhàn)培訓(xùn)》

理論/認(rèn)知/戰(zhàn)略類：

《大數(shù)據(jù)產(chǎn)業(yè)現(xiàn)狀及應(yīng)用創(chuàng)新》

《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

《大數(shù)據(jù)時代的精準(zhǔn)營銷》

技術(shù)類：

《Hadoop大數(shù)據(jù)解決方案開發(fā)技術(shù)基礎(chǔ)培訓(xùn)》

《Python開發(fā)基礎(chǔ)實戰(zhàn)》

《大數(shù)據(jù)分析與挖掘之Python開發(fā)實戰(zhàn)》

《Python機(jī)器學(xué)習(xí)算法原理及優(yōu)化實現(xiàn)》

服務(wù)客戶:

傅老師曾提供過培訓(xùn)咨詢服務(wù)的客戶遍及通信、金融、交通、制造、政府等行業(yè)，包括華為、富士康、平安集團(tuán)、中國銀行、招商銀行、光大銀行、中信銀行、交通銀行、廣電銀通、西部航空、海南航空、中國移動、中國聯(lián)通、中國電信、西部航空、安能物流、廣州地鐵、富維江森、東風(fēng)日產(chǎn)、神南礦業(yè)、公交集團(tuán)、廣州稅務(wù)、良品鋪?zhàn)拥葐挝缓凸�司�?/p>

部分信息如下所示：

通信行業(yè)培訓(xùn)客戶：

聯(lián)通研究院：《大數(shù)據(jù)預(yù)測建模優(yōu)化》

廣州電信：《大數(shù)據(jù)時代的精準(zhǔn)營銷》兩期

北京電信：《大數(shù)據(jù)分析綜合能力提升》

香港電信：《大數(shù)據(jù)精準(zhǔn)營銷實戰(zhàn)》

上海電信：《渠道大數(shù)據(jù)分析與挖掘思路及方法》兩期

河北電信：《數(shù)據(jù)化運(yùn)營下的大數(shù)據(jù)分析綜合能力提升實戰(zhàn)》

南京電信：《大數(shù)據(jù)視圖支撐精準(zhǔn)化營銷》

佛山電信：《數(shù)據(jù)挖掘技術(shù)及其應(yīng)用培訓(xùn)》

泉州電信：《大數(shù)據(jù)挖掘、信息分析及應(yīng)用培訓(xùn)》

湖北聯(lián)通：《大數(shù)據(jù)分析與商業(yè)智能》

廣東聯(lián)通：《數(shù)據(jù)分析與數(shù)據(jù)挖掘?qū)崙?zhàn)培訓(xùn)》兩期

江蘇聯(lián)通：《大數(shù)據(jù)分析綜合能力提升》

吉林聯(lián)通：《大數(shù)據(jù)分析綜合能力提升-中級》

烏魯木齊聯(lián)通：《大數(shù)據(jù)分析綜合能力提升》

上海移動：《大數(shù)據(jù)分析與挖掘、建模及優(yōu)化》叁期

浙江移動：《大數(shù)據(jù)分析與數(shù)據(jù)挖掘應(yīng)用實戰(zhàn)》

江蘇移動：《大數(shù)據(jù)精準(zhǔn)營銷技能提升實戰(zhàn)》

深圳移動：《大數(shù)據(jù)分析綜合能力提升》

廣西移動：《大數(shù)據(jù)發(fā)展趨勢及在公司營銷領(lǐng)域的應(yīng)用》

遼寧移動2期：《數(shù)據(jù)分析方法與經(jīng)營分析技巧》

泉州移動3期：《數(shù)說營銷—市場營銷數(shù)據(jù)分析與挖掘應(yīng)用》

德陽移動2期：《大數(shù)據(jù)挖掘與建模優(yōu)化實戰(zhàn)培訓(xùn)》

浙江移動：《大數(shù)據(jù)產(chǎn)品營銷能力提升》

四川移動：《大數(shù)據(jù)分析與挖掘綜合能力提升》

吉林移動：《數(shù)據(jù)分析與數(shù)據(jù)挖掘培訓(xùn)》；

貴州移動：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

海南移動：《基于大數(shù)據(jù)運(yùn)營的用戶行為分析與精準(zhǔn)定位》

山東移動：《大數(shù)據(jù)分析綜合能力提升》

深圳移動：《大數(shù)據(jù)在行業(yè)內(nèi)外的應(yīng)用》

中國移動終端公司：《大數(shù)據(jù)分析綜合能力提升培訓(xùn)》

中山移動：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

東莞移動：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

成都移動：《數(shù)字化運(yùn)營下的數(shù)據(jù)分析與數(shù)據(jù)挖掘》

眉山移動2期：《大數(shù)據(jù)分析綜合能力提升》

云浮移動：《大數(shù)據(jù)挖掘和信息提煉專項培訓(xùn)》

陽江移動：《小數(shù)據(jù)·大運(yùn)營--運(yùn)營數(shù)據(jù)的分析與挖掘》

德陽移動：《電信運(yùn)營商市場營銷數(shù)據(jù)挖掘應(yīng)用典型案例》

陜西在線：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

四川在線：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

大連移動：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》

內(nèi)蒙古移動：《大數(shù)據(jù)分析與Hadoop大數(shù)據(jù)解決方案》

貴州中移通信：《SPSS數(shù)據(jù)分析與數(shù)據(jù)挖掘應(yīng)用實戰(zhàn)》

華為技術(shù)：《話務(wù)量預(yù)測與排班管理》

……

金融行業(yè)培訓(xùn)客戶：

中國銀行：《大數(shù)據(jù)變革與商業(yè)模式創(chuàng)新》《大數(shù)據(jù)時代的精準(zhǔn)營銷》

廣發(fā)銀行：《大數(shù)據(jù)下的精準(zhǔn)營銷實戰(zhàn)》四期

中信銀行：《大數(shù)據(jù)分析與挖掘綜合能力提升實戰(zhàn)》叁期

交通銀行：《大數(shù)據(jù)時代的精準(zhǔn)營銷》

安信證券：《大數(shù)據(jù)時代下的金融發(fā)展》

平安集團(tuán)：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

平安產(chǎn)險：《大數(shù)據(jù)分析綜合能力提升》

平安壽險：《大數(shù)據(jù)分析與應(yīng)用實戰(zhàn)》

平安銀行：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

農(nóng)業(yè)銀行：《Python大數(shù)據(jù)分析與挖掘》叁期

建設(shè)銀行：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》兩期

光大銀行：《大數(shù)據(jù)分析與數(shù)據(jù)挖掘應(yīng)用實戰(zhàn)》四期

招商銀行：《“數(shù)”說營銷----大數(shù)據(jù)營銷實戰(zhàn)與沙盤》四期

杭州銀貨通科技：《大數(shù)據(jù)產(chǎn)業(yè)發(fā)展及應(yīng)用創(chuàng)新》

廣電銀通：《大數(shù)據(jù)綜合能力提升》

平安普惠金融：《Hadoop解決方案技術(shù)培訓(xùn)》

浦發(fā)銀行：《大數(shù)據(jù)精準(zhǔn)營銷》

金融壹帳通：《大數(shù)據(jù)分析與挖掘綜合能力提升實戰(zhàn)》

中金所：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

……

能源汽車交通行業(yè)培訓(xùn)客戶：

一汽解放錫柴：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

廣東郵政：《大數(shù)據(jù)分析綜合能力提升實戰(zhàn)》

深圳水務(wù)：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

寧夏國電：《大數(shù)據(jù)思維與應(yīng)用》兩期

柳州上汽五菱：《大數(shù)據(jù)下的精準(zhǔn)營銷實戰(zhàn)》

東風(fēng)商用：《數(shù)說營銷實戰(zhàn)》

東風(fēng)日產(chǎn)：《大數(shù)據(jù)分析與數(shù)據(jù)挖掘應(yīng)用實戰(zhàn)》兩期

富維江森（汽車）：《數(shù)字化運(yùn)營下的數(shù)據(jù)分析與數(shù)據(jù)挖掘應(yīng)用培訓(xùn)》

廣州地鐵：《大數(shù)據(jù)分析與數(shù)據(jù)挖掘培訓(xùn)》兩期

廣州地鐵：《數(shù)據(jù)分析與數(shù)據(jù)建模實戰(zhàn)》兩期

西部航空：《數(shù)字化運(yùn)營下的數(shù)據(jù)分析與數(shù)據(jù)挖掘應(yīng)用培訓(xùn)》

海南航空：《利用大數(shù)據(jù)營銷提升航線收益》

南方航空：《大數(shù)據(jù)精準(zhǔn)營銷實戰(zhàn)》兩期

北京機(jī)場貴賓公司：《市場營銷數(shù)據(jù)的分析》

深圳公交集團(tuán)：《大數(shù)據(jù)與智慧交通》

延長殼牌：《大數(shù)據(jù)分析與挖掘綜合能力提升》

神南礦業(yè)：《大數(shù)據(jù)產(chǎn)業(yè)發(fā)展與應(yīng)用創(chuàng)新》

寶雞國電：《大數(shù)據(jù)分析與挖掘》兩期

順豐快遞：《大數(shù)據(jù)分析綜合能力提升實戰(zhàn)》

……

其它行業(yè)培訓(xùn)客戶：

嶺南集團(tuán)：《大數(shù)據(jù)時代下的精準(zhǔn)營銷》

ABB：《大數(shù)據(jù)分析實戰(zhàn)培訓(xùn)》

頂新國際：《大數(shù)據(jù)思維與應(yīng)用創(chuàng)新》

索菲亞：《大數(shù)據(jù)分析實戰(zhàn)培訓(xùn)》

玫琳凱：《大數(shù)據(jù)思維與應(yīng)用》叁期

西部數(shù)據(jù)：《大數(shù)據(jù)分析綜合能力提升》

無限極：《大數(shù)據(jù)分析綜合能力提升》兩期

雅圖仕：《大數(shù)據(jù)分析綜合能力提升》

施耐德：《大數(shù)據(jù)分析綜合能力提升》叁期

廣州稅務(wù)：《大數(shù)據(jù)分析與挖掘?qū)崙?zhàn)》叁期

YKK吉田拉鏈：《大數(shù)據(jù)分析綜合能力提升培訓(xùn)》

富士康：《數(shù)據(jù)分析綜合能力提升培訓(xùn)》

貴州中煙：《互聯(lián)網(wǎng)+時代的大數(shù)據(jù)思維》

深圳欣盛商：《電商大數(shù)據(jù)分析》

安能物流：《大數(shù)據(jù)挖掘分析及應(yīng)用實戰(zhàn)》

良品鋪?zhàn)樱骸洞髷?shù)據(jù)分析綜合能力提升》兩期

新時代集團(tuán)：《問題的挖掘、分析—數(shù)據(jù)分析技巧》兩期培訓(xùn)

挑戰(zhàn)牧業(yè)：《大數(shù)據(jù)分析綜合能力提升》

易鑫集團(tuán)：《大數(shù)據(jù)分析綜合能力提升》

贛州監(jiān)獄：《大數(shù)據(jù)時代的營銷》共三期培訓(xùn)

賀州學(xué)院：《大數(shù)據(jù)時代的人才培養(yǎng)》