大數(shù)據(jù)建模與分析挖掘應(yīng)用其它上課時間：

• 2021/3/24至2021/3/27 北京

• 2021/7/21至2021/7/24 杭州

• 2021/8/25至2021/8/28 重慶

• 2021/9/23至2021/9/26 上海

• 2021/10/23至2021/10/26 北京

• 2021/11/24至2021/11/27 珠海

• 2021/12/23至2021/12/26 北京

1.大數(shù)據(jù)分析應(yīng)用開發(fā)工程師

培訓(xùn)目標(biāo)
1.本課程讓學(xué)員充分掌握大數(shù)據(jù)平臺技術(shù)架構(gòu)、大數(shù)據(jù)分析的基本理論、機(jī)器學(xué)習(xí)的常用算法、國內(nèi)外主流的大數(shù)據(jù)分析與BI商業(yè)智能分析解決方案、以及大數(shù)據(jù)分析在搜索引擎、廣告服務(wù)推薦、電商數(shù)據(jù)分析、金融客戶分析方面的應(yīng)用案例。

2.本課程強(qiáng)調(diào)主流的大數(shù)據(jù)分析挖掘算法技術(shù)的應(yīng)用和分析平臺的實施，讓學(xué)員掌握主流的基于大數(shù)據(jù)Hadoop和Spark的大數(shù)據(jù)分析平臺架構(gòu)和實際應(yīng)用，并用結(jié)合實際的生產(chǎn)系統(tǒng)案例進(jìn)行教學(xué)，掌握基于Hadoop、spark大數(shù)據(jù)平臺的數(shù)據(jù)挖掘和數(shù)據(jù)倉庫分布式系統(tǒng)平臺應(yīng)用，以及商業(yè)和開源的數(shù)據(jù)分析產(chǎn)品加上Hadoop平臺形成大數(shù)據(jù)分析平臺的應(yīng)用剖析。。

3.讓學(xué)員掌握常見的機(jī)器學(xué)習(xí)算法，深入講解業(yè)界成熟的大數(shù)據(jù)分析挖掘與BI平臺的實踐應(yīng)用，并以客戶分析系統(tǒng)、日志分析和電商推薦系統(tǒng)為案例，串聯(lián)常用的數(shù)據(jù)挖掘技術(shù)進(jìn)行應(yīng)用教學(xué)。

課程簡介
大數(shù)據(jù)建模與分析挖掘技術(shù)已經(jīng)逐步地應(yīng)用到新興互聯(lián)網(wǎng)企業(yè)（如電子商務(wù)網(wǎng)站、搜索引擎、社交網(wǎng)站、互聯(lián)網(wǎng)廣告服務(wù)提供商等）、銀行金融證券企業(yè)、電信運(yùn)營等行業(yè)，給這些行業(yè)帶來了一定的數(shù)據(jù)價值增值作用。

本次課程面向有一定的數(shù)據(jù)分析挖掘算法基礎(chǔ)的工程師，帶大家實踐大數(shù)據(jù)分析挖掘平臺的項目訓(xùn)練，系統(tǒng)地講解數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)建模、挖掘模型建立、大數(shù)據(jù)分析與挖掘算法應(yīng)用在業(yè)務(wù)模型中，結(jié)合主流的Hadoop與Spark大數(shù)據(jù)分析平臺架構(gòu)，實現(xiàn)項目訓(xùn)練。

結(jié)合業(yè)界使用最廣泛的主流大數(shù)據(jù)平臺技術(shù)，重點剖析基于大數(shù)據(jù)分析算法與BI技術(shù)應(yīng)用，包括分類算法、聚類算法、預(yù)測分析算法、推薦分析模型等在業(yè)務(wù)中的實踐應(yīng)用，并根據(jù)講師給定的數(shù)據(jù)集，實現(xiàn)兩個基本的日志數(shù)據(jù)分析挖掘系統(tǒng)，以及電商（或內(nèi)容）推薦系統(tǒng)引擎。

本課程基本的實踐環(huán)境是Linux集群，JDK1.8，Hadoop2.7.*，Spark2.1.*。

學(xué)員需要準(zhǔn)備的電腦最好是i7三代及以上CPU，8GB及以上內(nèi)存，硬盤空間預(yù)留50GB（可用移動硬盤），基本的大數(shù)據(jù)分析平臺所依賴的軟件包和依賴庫等，講師已經(jīng)提前部署在虛擬機(jī)鏡像（VMware鏡像），學(xué)員根據(jù)講師的操作任務(wù)進(jìn)行實踐。

本課程采用技術(shù)原理與項目實戰(zhàn)相結(jié)合的方式進(jìn)行教學(xué)，在講授原理的過程中，穿插實際的系統(tǒng)操作，本課程講師也精心準(zhǔn)備的實際的應(yīng)用案例供學(xué)員動手訓(xùn)練。

詳細(xì)大綱與培訓(xùn)內(nèi)容

兩個完整的項目任務(wù)和實踐案例（重點）

1.日志分析建模與日志挖掘項目實踐

a)Hadoop，Spark，并結(jié)合ELK技術(shù)構(gòu)建日志分析系統(tǒng)和日志數(shù)據(jù)倉庫

b)互聯(lián)網(wǎng)微博日志分析系統(tǒng)項目

2.推薦系統(tǒng)項目實踐

a)電影數(shù)據(jù)分析與個性化推薦關(guān)聯(lián)分析項目

b)電商購物籃分析項目

Hadoop，Spark，可結(jié)合Oryx分布式集群在個性化推薦和精準(zhǔn)營銷項目。

項目的階段性步驟貫穿到三天的培訓(xùn)過程中，第三天完成整個項目的原型

課程大綱

時間

內(nèi)容提要

授課詳細(xì)內(nèi)容

實踐訓(xùn)練

第一天

業(yè)界主流的數(shù)據(jù)倉庫工具和大數(shù)據(jù)分析挖掘工具

1.業(yè)界主流的基于Hadoop和Spark的大數(shù)據(jù)分析挖掘項目解決方案

2.業(yè)界數(shù)據(jù)倉庫與數(shù)據(jù)分析挖掘平臺軟件工具

3.Hadoop數(shù)據(jù)倉庫工具Hive

4.Spark實時數(shù)據(jù)倉庫工具SparkSQL

5.Hadoop數(shù)據(jù)分析挖掘工具M(jìn)ahout

6.Spark機(jī)器學(xué)習(xí)與數(shù)據(jù)分析挖掘工具M(jìn)Llib

7.大數(shù)據(jù)分析挖掘項目的實施步驟

配置數(shù)據(jù)倉庫工具HadoopHive和SparkSQL

部署數(shù)據(jù)分析挖掘工具HadoopMahout和SparkMLlib

大數(shù)據(jù)分析挖掘項目的數(shù)據(jù)集成操作訓(xùn)練

1.日志數(shù)據(jù)解析和導(dǎo)入導(dǎo)出到數(shù)據(jù)倉庫的操作訓(xùn)練

2.從原始搜索數(shù)據(jù)集中抽取、集成數(shù)據(jù)，整理后形成規(guī)范的數(shù)據(jù)倉庫

3.數(shù)據(jù)分析挖掘模塊從大型的集中式數(shù)據(jù)倉庫中訪問數(shù)據(jù)，一個數(shù)據(jù)倉庫面向一個主題，構(gòu)建兩個數(shù)據(jù)倉庫

4.同一個數(shù)據(jù)倉庫中的事實表數(shù)據(jù)，可以給多個不同類型的分析挖掘任務(wù)調(diào)用

5.去除噪聲

項目數(shù)據(jù)集加載ETL到HadoopHive數(shù)據(jù)倉庫并建立多維模型

基于Hadoop的大型數(shù)據(jù)倉庫管理平臺—HIVE數(shù)據(jù)倉庫集群的多維分析建模應(yīng)用實踐

6.基于Hadoop的大型分布式數(shù)據(jù)倉庫在行業(yè)中的數(shù)據(jù)倉庫應(yīng)用案例

7.Hive數(shù)據(jù)倉庫集群的平臺體系結(jié)構(gòu)、核心技術(shù)剖析

8.HiveServer的工作原理、機(jī)制與應(yīng)用

9.Hive數(shù)據(jù)倉庫集群的安裝部署與配置優(yōu)化

10.Hive應(yīng)用開發(fā)技巧

11.HiveSQL剖析與應(yīng)用實踐

12.Hive數(shù)據(jù)倉庫表與表分區(qū)、表操作、數(shù)據(jù)導(dǎo)入導(dǎo)出、客戶端操作技巧

13.Hive數(shù)據(jù)倉庫報表設(shè)計

14.將原始的日志數(shù)據(jù)集，經(jīng)過整理后，加載至Hadoop+Hive數(shù)據(jù)倉庫集群中，用于共享訪問

利用HIVE構(gòu)建大型數(shù)據(jù)倉庫項目的操作訓(xùn)練實踐

Spark大數(shù)據(jù)分析挖掘平臺實踐操作訓(xùn)練

15.Spark大數(shù)據(jù)分析挖掘平臺的部署配置

16.Spark數(shù)據(jù)分析庫MLlib的開發(fā)部署

17.Spark數(shù)據(jù)分析挖掘示例操作，從Hive表中讀取數(shù)據(jù)并在分布式內(nèi)存中運(yùn)行

第二天

聚類分析建模與挖掘算法的實現(xiàn)原理和技術(shù)應(yīng)用

18.聚類分析建模與算法原理及其在SparkMLlib中的實現(xiàn)與應(yīng)用，包括：

a)Canopy聚類（canopyclustering）

b)K均值算法（K-meansclustering）

c)模糊K均值（FuzzyK-meansclustering）

d)EM聚類，即期望最大化聚類（ExpectationMaximization）

e)以上算法在SparkMLib中的實現(xiàn)原理和實際場景中的應(yīng)用案例。

19.Spark聚類分析算法程序示例

基于SparkMLlib的聚類分析算法，實現(xiàn)日志數(shù)據(jù)集中的用戶聚類

分類分析建模與挖掘算法的實現(xiàn)原理和技術(shù)應(yīng)用

20.分類分析建模與算法原理及其在SparkMLlib中的實現(xiàn)與應(yīng)用，包括：

f)Spark決策樹算法實現(xiàn)

g)邏輯回歸算法（logisticsregression）

h)貝葉斯算法（Bayesian與Cbeyes）

i)支持向量機(jī)（Supportvectormachine）

j)以上算法在SparkMLlib中的實現(xiàn)原理和實際場景中的應(yīng)用案例。

21.Spark客戶資料分析與給用戶貼標(biāo)簽的程序示例

22.Spark實現(xiàn)給商品貼標(biāo)簽的程序示例

23.Spark實現(xiàn)用戶行為的自動標(biāo)簽和深度技術(shù)

基于SparkMLlib的分類分析算法模型與應(yīng)用操作

關(guān)聯(lián)分析建模與挖掘算法的實現(xiàn)原理和技術(shù)應(yīng)用

24.預(yù)測、推薦分析建模與算法原理及其在SparkMLlib中的實現(xiàn)與應(yīng)用，包括：

k)Spark頻繁模式挖掘算法（parallelFPGrowthAlgorithm）應(yīng)用

l)Spark關(guān)聯(lián)規(guī)則挖掘（Apriori）算法及其應(yīng)用

m)以上算法在SparkMLib中的實現(xiàn)原理和實際場景中的應(yīng)用案例。

25.Spark關(guān)聯(lián)分析程序示例

基于SparkMLlib的關(guān)聯(lián)分析操作

第三天

推薦分析挖掘模型與算法技術(shù)應(yīng)用

26.推薦算法原理及其在SparkMLlib中的實現(xiàn)與應(yīng)用，包括：

a)Spark協(xié)同過濾算法程序示例

b)Item-based協(xié)同過濾與推薦

c)User-based協(xié)同過濾與推薦

d)交叉銷售推薦模型及其實現(xiàn)

推薦分析實現(xiàn)步驟與操作（重點）

回歸分析模型與預(yù)測算法

27.利用線性回歸（多元回歸）實現(xiàn)訪問量預(yù)測

28.利用非線性回歸預(yù)測成交量和訪問量的關(guān)系

29.基于R+Spark實現(xiàn)回歸分析模型及其應(yīng)用操作

30.Spark回歸程序?qū)崿F(xiàn)異常點檢測的程序示例

回歸分析預(yù)測操作例子

圖關(guān)系建模與分析挖掘及其鏈接分析和社交分析操作

31.利用SparkGraphX實現(xiàn)網(wǎng)頁鏈接分析，計算網(wǎng)頁重要性排名

32.實現(xiàn)信息傳播的社交關(guān)系傳遞分析，互聯(lián)網(wǎng)用戶的行為關(guān)系分析任務(wù)的操作訓(xùn)練

圖數(shù)據(jù)的分析挖掘操作，實現(xiàn)微博數(shù)據(jù)集的社交網(wǎng)絡(luò)建模與關(guān)系分析

神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)算法模型及其應(yīng)用實踐

33.神經(jīng)網(wǎng)絡(luò)算法NeuralNetwork的實現(xiàn)方法和挖掘模型應(yīng)用

34.基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)的訓(xùn)練過程

a)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法

b)DeepLearning的訓(xùn)練方法

35.深度學(xué)習(xí)的常用模型和方法

a)CNN（ConvolutionalNeuralNetwork）卷積神經(jīng)網(wǎng)絡(luò)

b)RNN（RecurrentNeuralNetwork）循環(huán)神經(jīng)網(wǎng)絡(luò)模型

c)RestrictedBoltzmannMachine(RBM)限制波爾茲曼機(jī)

36.基于Spark的深度學(xué)習(xí)算法模型庫的應(yīng)用程序示例

基于Spark或TensorFlow神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)庫實現(xiàn)文本與圖片數(shù)據(jù)挖掘

項目實踐

37.日志分析系統(tǒng)與日志挖掘項目實踐

a)Hadoop，Spark，ELK技術(shù)構(gòu)建日志數(shù)據(jù)倉庫

b)互聯(lián)網(wǎng)微博日志分析系統(tǒng)項目

38.推薦系統(tǒng)項目實踐

a)電影數(shù)據(jù)分析與個性化推薦關(guān)聯(lián)分析項目

項目數(shù)據(jù)集和詳細(xì)的實驗指導(dǎo)手冊由講師提供

培訓(xùn)總結(jié)

39.項目方案的課堂討論，討論實際業(yè)務(wù)中的分析需求，剖析各個環(huán)節(jié)的難點、痛點、瓶頸，啟發(fā)出解決之道；完成講師布置的項目案例，鞏固學(xué)過的大數(shù)據(jù)分析挖掘處理平臺技術(shù)知識以及應(yīng)用技能

討論交流

第四天

學(xué)員考試與業(yè)界交流

課程主講

周老師中國科學(xué)院通信與信息系統(tǒng)專業(yè)博士。北京郵電大學(xué)移動互聯(lián)網(wǎng)與信息化實驗室特聘研究員、對外經(jīng)貿(mào)大學(xué)信息學(xué)院特聘兼職教師、中國移動集團(tuán)高級培訓(xùn)講師，長期從事大數(shù)據(jù)、4G、移動互聯(lián)網(wǎng)安全、管理及大數(shù)據(jù)精確營銷等研究方向。國內(nèi)頂級信息系統(tǒng)架構(gòu)師，金牌講師，技術(shù)顧問，移動開發(fā)專家。擁有豐富的通信信息系統(tǒng)設(shè)計、開發(fā)經(jīng)驗及培訓(xùn)行業(yè)經(jīng)驗，先后為全國超過15家省移動公司，超過30家地市移動公司有過項目開發(fā)合作及授課，擔(dān)任多個大型通信項目的總師。

張老師：阿里大數(shù)據(jù)高級專家，國內(nèi)資深的Spark、Hadoop技術(shù)專家、虛擬化專家，對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態(tài)系統(tǒng)中的技術(shù)進(jìn)行了多年的深入的研究，更主要的是這些技術(shù)在大量的實際項目中得到廣泛的應(yīng)用，因此在Hadoop開發(fā)和運(yùn)維方面積累了豐富的項目實施經(jīng)驗。近年主要典型的項目有：某電信集團(tuán)網(wǎng)絡(luò)優(yōu)化、中國移動某省移動公司請賬單系統(tǒng)和某省移動詳單實時查詢系統(tǒng)、中國銀聯(lián)大數(shù)據(jù)數(shù)據(jù)票據(jù)詳單平臺、某大型銀行大數(shù)據(jù)記錄系統(tǒng)、某大型通信運(yùn)營商全國用戶上網(wǎng)記錄、某省交通部門違章系統(tǒng)、某區(qū)域醫(yī)療大數(shù)據(jù)應(yīng)用項目、互聯(lián)網(wǎng)公共數(shù)據(jù)大云(DAAS)和構(gòu)建游戲云(WebGameDaas)平臺項目等。