大數據分析：Python爬蟲、數據清洗和數據可視化

第1章 大數據
1.1 大數據概述
1.1.1 大數據介紹
1.1.2 大數據的特征
1.1.3 大數據技術應用與基礎
1.2 大數據的意義
1.2.1 大數據的國家戰略意義
1.2.2 大數據的企業意義
1.2.3 我國大數據市場的預測
1.3 大數據的產業鏈分析
1.3.1 技術分析
1.3.2 運營分析
1.4 本章小結
1.5 實訓
習題
第2章 爬蟲與大數據
2.1 爬蟲概述
2.1.1 爬蟲介紹
2.1.2 爬蟲的地位與作用
2.2 Python介紹
2.2.1 Python開發環境搭建
2.2.2 編寫Python程序
2.2.3 Python數據類型
2.3 爬蟲相關知識
2.3.1 了解網頁結構
2.3.2 Python與爬蟲
2.3.3 基礎爬蟲框架
2.4 利用爬蟲抓取網頁內容
2.4.1 觀察與分析頁面
2.4.2 抓取過程分析
2.4.3 獲取頁面內容
2.5 本章小結
2.6 實訓
習題
第3章 Scrapy爬蟲
3.1 Scrapy爬蟲概述
3.2 Scrapy原理
3.2.1 Scrapy框架的架構
3.2.2 Request對象和Response對象
3.2.3 Select對象
3.2.4 Spider開發流程
3.3 Scrapy的開發與實現
3.3.1 Scrapy爬蟲開發流程
3.3.2 創建Scrapy項目並查看結構
3.3.3 編寫代碼並運行爬蟲
3.4 本章小結
3.5 實訓
習題
第4章 數據庫連接與查詢
4.1 數據庫
4.1.1 數據庫概述
4.1.2 關系數據庫設計
4.2 MySQL數據庫
4.2.1 MySQL數據庫概述
4.2.2 MySQL數據庫下載、安裝與運行
4.2.3 MySQL數據庫命令行入門
4.3 使用Python操作MySQL數據庫
4.3.1 pymysql安裝與使用
4.3.2 Python連接MySQL數據庫
4.4 本章小結
4.5 實訓
習題
第5章 數據可視化基礎與應用
5.1 數據可視化
5.1.1 數據可視化概述
5.1.2 數據可視化工具
5.1.3 數據可視化圖表
5.2 matplotlib可視化基礎
5.2.1 numpy庫
5.2.2 matplotlib認識與安裝
5.2.3 matplotlib測試
5.2.4 matplotlib.pyplot庫
5.3 matplotlib可視化繪圖
5.3.1 繪制線性圖形
5.3.2 繪制柱狀圖形
5.3.3 繪制直方圖
5.3.4 繪制散點圖
5.3.5 繪制極坐標圖
5.3.6 繪制餅圖
5.4 pyecharts可視化應用
5.5 本章小結
5.6 實訓
習題
第6章 大數據存儲與清洗
6.1 大數據存儲
6.2 數據清洗
6.2.1 數據清洗概述
6.2.2 數據清洗的原理
6.2.3 數據清洗的流程
6.2.4 數據清洗的工具
6.3 數據標準化
6.3.1 數據標準化的概念
6.3.2 數據標準化的方法
6.3.3 數據標準化的實例
6.4 本章小結
6.5 實訓
習題
第7章 數據格式與編碼技術
7.1 文件格式
7.2 數據類型與編碼
7.2.1 數據類型概述
7.2.2 字符編碼
7.2.3 數據轉換
7.3 Kettle數據清洗與轉換工具的使用
7.3.1 Kettle概述
7.3.2 Kettle的安裝與使用
7.4 CSV格式的數據轉換
7.4.1 CSV格式概述
7.4.2 CSV與JSON文件的轉換
7.5 本章小結
7.6 實訓
習題
第8章 數據抽取與采集
8.1 數據抽取
8.2 文本抽取與實現
8.2.1 文本文件抽取
8.2.2 CSV文件抽取
8.2.3 JSON文件抽取
8.3 網頁數據抽取與實現
8.3.1 網頁數據抽取
8.3.2 Excel抽取網頁數據
8.3.3 Kettle抽取網頁數據
8.4 數據采集與實現
8.5 本章小結
8.6 實訓
習題
第9章 pandas數據分析與清洗
9.1 認識pandas
9.2 pandas語法與使用
9.3 pandas讀取與清洗數據
9.3.1 數據準備
9.3.2 從CSV中讀取數據
9.3.3 pandas數據清洗
9.4 pandas數據可視化
9.4.1 pandas繪圖概述
9.4.2 pandas繪圖方法
9.5 本章小結
9.6 實訓
習題
第10章 數據分析與清洗綜合實訓
10.1 數據清洗實訓
10.1.1 使用Kettle對生成的隨機數實現字段選擇
10.1.2 使用Kettle連接不同的數據表
10.1.3 使用Kettle過濾數據表
10.1.4 使用Kettle連接MySQL數據庫，並輸出查詢結果
10.2 數據分析實訓
10.3 本章小結
習題