Hive實戰

[美] 斯科特·肖、[南非] 安德烈亞斯·弗朗索瓦·弗穆爾恩、[印] 安庫爾·古普塔(Ankur G

  • 出版商: 人民郵電
  • 出版日期: 2018-11-01
  • 售價: $414
  • 貴賓價: 9.5$393
  • 語言: 簡體中文
  • 頁數: 238
  • 裝訂: 平裝
  • ISBN: 711549391X
  • ISBN-13: 9787115493910
  • 相關分類: Hadoop

立即出貨 (庫存=1)

買這商品的人也買了...

商品描述

Hive“出身名門”,是最初由Facebook公司開發的數據倉庫工具。它簡單且容易上手,是深入學習Hadoop技術的一個很好的切入點。本書由數據庫專家和大數據專家共同撰寫,具體內容包括:Hive的安裝和配置,其核心組件和架構,Hive數據操作語言,如何加載、查詢和分析數據,Hive的性能調優以及安全性,等等。本書旨在為讀者打牢基礎,從而踏上專業的大數據處理之旅。

作者簡介

作者:[美]斯科特·肖(Scott Shaw)、[南非]安德烈亞斯·弗朗索瓦·弗穆爾恩(Andreas Fran?ois Vermeulen)、[印]安庫爾·古普塔(Ankur G譯者:唐富年
斯科特·肖(Scott Shaw)
Hortonworks公司解決方案工程師,曾為微軟公司的商業智能項目擔任顧問,擁有近20年的數據管理經驗。作為演講者和培訓師,他致力於普及分佈式計算、大數據概念、商業智能、Hive和Hadoop。

安德烈亞斯·弗朗索瓦·弗穆爾恩(Andreas Fran?ois Vermeulen)
集數據科學家、數據倉庫架構師、博士研究員、企業顧問等角色於一身,曾獲“英國數據科學技術先鋒”稱號,廣泛涉足數據工程、商業智能、雲架構、深度學習等多個領域。

安庫爾·古普塔(Ankur Gupta)
Hortonworks公司解決方案工程師,曾在Oracle公司擔任顧問,有多年從事數據架構師和Oracle數據庫管理員的經驗,著有Oracle GoldenGate 11g Complete Cookbook。

戴維·傑魯姆加德(David Kjerrumgaard)
Streamlio公司解決方案架構主管,曾是Hortonworks公司的系統架構師和數據流實踐主管,擁有Certified Developer for Apache Hadoop認證,精通Hive、Kafka、Spark、Storm等技術。

目錄大綱

第1章為Hive打好基礎:Hadoop 1 
1.1一隻小像出生了2 
1.2 Hadoop的結構3 
1.3數據冗餘6 
1.3.1傳統的高可用性6 
1.3.2 Hadoop的高可用性9 
1.4 MapReduce處理12 
1.4 .1超越MapReduce 16 
1.4.2 YARN和現代數據架構17 
1.4.3 Hadoop和開源社區19 
1.4.4我們身在何處22 
第2章Hive簡介24 
2.1 Hadoop發行版25 
2.2集群架構27 
2.3 Hive的安裝30 
2.4探尋你的方式32 
2.5 Hive CLI 35 
第3章Hive架構37 
3.1 Hive組件37 
3.2 HCatalog 38 
3.3 HiveServer2 40 
3.4客戶端工具42 
3.5執行引擎:Tez 46 
第4章Hive表DDL 48 
4.1 schema-on- read 48 
4.2 Hive數據模型49 
4.2.1模式/數據庫49 
4.2.2為什麼使用多個模式/數據庫49
4.2.3創建數據庫49 
4.2.4更改數據庫50 
4.2.5刪除數據庫50 
4.2.6列出數據庫51 
4.3 Hive中的數據類型51 
4.3.1基本數據類型51 
4.3.2選擇數據類型51 
4.3.3複雜數據類型52 
4.4表53 
4.4.1創建表53 
4.4.2列出表54 
4.4.3內部表/外部表54 
4.4.4內部表/受控表55 
4.4.5內部表/外部表示例55 
4.4. 6表的屬性59 
4.4.7生成已有表的CREATE TABLE命令60 
4.4.8分區和分桶61 
4.4.9分區注意事項63 
4.4.10對日期列進行高效分區63 
4.4.11分桶的注意事項65 
4.4.12更改表66 
4.4.13 ORC文件格式67 
4.4.14更改表分區68 
4.4.15修改列72 
4.4.16刪除表/分區72 
4.4.17保護表/分區73 
4.4.18其他CREATE TABLE命令選項73 
第5章數據操作語言75 
5.1將數據裝載到表中75
5.1.1使用存儲在HDFS中的文件裝載數據75 
5.1.2使用查詢裝載數據77 
5.1.3將查詢到的數據寫入文件系統80 
5.1.4直接向表插入值81 
5.1.5直接更新表中數據83 
5.1.6在表中直接刪除數據84 
5.1.7創建結構相同的表85 
5.2連接86 
5.2.1使用等值連接來整合表86 
5.2.2使用外連接87 
5.2.3使用左半連接89 
5.2.4用單次MapReduce實現連接90 
5.2.5最後使用最大的表91 
5.2.6事務處理92 
5.2.7 ACID是什麼,以及為什麼要用到它92 
5.2.8 Hive配置92 
第6章將數據裝載到Hive 94 
6.1裝載數據之前的設計注意事項94 
6.2將數據裝載到HDFS 95 
6.2.1 Ambari文件視圖95 
6.2.2 Hadoop命令行97 
6.2.3 HDFS的NFS Gateway 97 
6.2.4 Sqoop 98 
6.2.5 Apache NiFi 101 
6.3用Hive訪問數據105 
6.3.1外部表105 
6.3.2 LOAD DATA語句106
6.4在Hive中裝載增量變更數據107 
6.5 Hive流處理107 
6.6小結108 
第7章查詢半結構化數據109 
7.1點擊流數據111 
7.1.1攝取數據113 
7.1.2創建模式116 
7.1.3裝載數據116 
7.1.4查詢數據116 
7.2攝取JSON數據119 
7.2.1使用UDF查詢JSON 121 
7.2.2使用SerDe訪問JSON 122 
第8章Hive分析125 
8.1構建分析模型125 
8.1.1使用太陽模型獲取需求125 
8.1.2將太陽模型轉換為星型模式129 
8.1.3構建數據倉庫137 
8.2評估分析模型. 140 
8.2.1評估太陽模型140 
8.2.2評估聚合結果142 
8.2.3評估數據集市143 
8.3掌握數據倉庫管理144 
8.3.1必備條件144 
8.3.2檢索數據庫144 
8.3.3評估數據庫147 
8.3.4過程數據庫160 
8.3.5轉換數據庫185 
8.3.6你掌握了什麼192 
8.3.7組織數據庫192
8.3.8報表數據庫196 
8.3.9示例報表197 
8.4高級分析199 
8.5接下來學什麼199 
第9章Hive性能調優200 
9.1 Hive性能檢查表200 
9.2執行引擎201 
9.2.1 MapReduce 201 
9.2.2 Tez 201 
9.3存儲格式203 
9.3.1 ORC格式203 
9.3.2 Parquet格式205 
9.4矢量化查詢執行206 
9.5查詢執行計劃206 
9.5.1基於代價的優化208 
9.5.2執行計劃210 
9.5.3性能檢查表小結212 
第10章Hive的安全性213 
10.1數據安全性的幾個方面213 
10.1.1身份認證214 
10.1.2授權214 
10.1.3管理214 
10.1.4審計214 
10.1.5數據保護214 
10.2 Hadoop的安全性215 
10.3 Hive的安全性215 
10.3.1默認授權模式215 
10.3.2基於存儲的授權模式216 
10.3.3基於SQL標準的授權模式217
10.3.4管理通過SQL進行的訪問218 
10.4使用Ranger進行Hive授權219 
10.4.1訪問Ranger用戶界面220 
10.4.2創建Ranger策略220 
10.4.3使用Ranger審計222 
第11章Hive的未來224 
11.1 LLAP 224 
11.2 Hive-on-Spark 225 
11.3 Hive:ACID和MERGE 225 
11.4可調隔離等級225 
11.5 ROLAP/基於立方體的分析226 
11.6 HiveServer2的發展226 
11.7面向不同工作負載的多個HiveServer2實例226 
附錄A建立大數據團隊227 
附錄B Hive函數231