本课程主要讲解目前大数据领域最热门、最火爆、最有前景的技术——Spark。在本课程中，会从浅入深，基于大量案例实战，深度剖析和讲解Spark，并且会包含完全从企业真实复杂业务需求中抽取出的案例实战。课程会涵盖Scala编程详解、Spark核心编程、Spark SQL和Spark Streaming、Spark内核以及源码剖析、性能调优、企业级案例实战等部分。完全从零起步，让学员可以一站式精通Spark企业级大数据开发，提升自己的职场竞争力，实现更好的升职或者跳槽，或者从j2ee等传统软件开发工程师转型为Spark大数据开发工程师，或是对于正在从事hadoop大数据开发的朋友可以拓宽自己的技术能力栈，提升自己的价值。
1.课程研发环境开发工具: Eclipse、Scala IDE for Eclipse;Spark: 1.3.0和1.5.1Hadoop: 2.4.1Hive: 0.13ZooKeeper: 3.4.5Kafka: 2.9.2-0.8.1 其他工具: SecureCRT、WinSCP、VirtualBox等2.内容简介本课程主要讲解的内容包括：Scala编程、Hadoop与Spark集群搭建、Spark核心编程、Spark内核源码深度剖析、Spark性能调优、Spark SQL、Spark Streaming。本课程的最大特色包括：1、代码驱动讲解Spark的各个技术点（绝对不是照着PPT空讲理论）；2、现场动手画图讲解Spark原理以及源码（绝对不是干讲源码和PPT）；3、覆盖Spark所有功能点（Spark RDD、Spark SQL、Spark Streaming，初级功能到高级特性，一个不少）；4、Scala全程案例实战讲解（近百个趣味性案例）；5、Spark案例实战的代码，几乎都提供了Java和Scala两个版本和讲解（一次性同时精通Java和Scala开发Spark）；6、大量全网唯一的知识点：基于排序的wordcount，Spark二次排序，Spark分组取topn，DataFrame与RDD的两种转换方式，Spark SQL的内置函数、开窗函数、UDF、UDAF，Spark Streaming的Kafka Direct API、updateStateByKey、transform、滑动窗口、foreachRDD性能优化、与Spark SQL整合使用、持久化、checkpoint、容错与事务。7、多个从企业实际需求抽取出的复杂案例实战：每日uv和销售额统计案例、top3热卖商品统计案例、每日top3热点搜索词统计、广告计费日志实时黑名单过滤案例、热点搜索词滑动统 计案例、top3热门商品实时统计案例8、深度剖析Spark内核源码与Spark Streaming源码，给源码进行详细的注释和讲解（史上最细致源码讲解）9、全面讲解Spark、Spark SQL、Spark Streaming的性能调优，其中包括全网唯一的Shuffle性能调优（详细讲解性能调优的各个技术点）10、涵盖Spark两个重要版本，Spark 1.3.0和Spark 1.5.1的讲解（走在Spark最前沿，涵盖最新高级特性） 超重磅免费升级通知！ 本次课程升级，总计132讲，60课时左右，内容扩充近一倍。将从入门到精通的各个阶段都进行了阶段升级。主要内容概述如下：1、Scala编程进阶：讲解Scala高级编程技巧。2、Spark核心编程进阶：史上最细致的Spark核心编程讲解，包括standalone集群操作以及spark-submit所有细节，补充大量实验，并补充讲解几乎所有的算子操作，并增添大量实战案例以及移动端app访问流量日志分析综合案例。3、Spark内核原理进阶：全网独家讲解Spark常用的10个算子的内部原理。4、Spark SQL实战开发：讲解Thrift JDBC/ODBC Server等高级内容，并增添新闻网站关键指标离线统计综合案例。5、Spark Streaming实战开发：讲解Flume数据源等高级内容，并增添新闻网站关键指标实时统计综合案例。6、Spark运维管理进阶：完全实战讲解与演练Spark的运维与管理的各种高阶技术，包括基于ZooKeeper和文件系统实现HA以及主从切换、多种作业监控方式，以及全网独家的Spark动态资源分配技术和Fair Scheduler技术。 中华石杉: 在国内BAT公司以及一线互联网公司从事过大数据开发和架构工作，负责过多个大型大数据系统的架构和开发。精通Hadoop、Storm、Spark等大数据技术。有丰富的企业内部技术分享、技术培训和技术讲座的经验。讲师答疑QQ：2310879776 一、Scala编程详解： 第1讲-Spark的前世今生第2讲-课程介绍、特色与价值第3讲-Scala编程详解：基础语法第4讲-Scala编程详解：条件控制与循环第5讲-Scala编程详解：函数入门第6讲-Scala编程详解：函数入门之默认参数和带名参数第7讲-Scala编程详解：函数入门之变长参数第8讲-Scala编程详解：函数入门之过程、lazy值和异常第9讲-Scala编程详解：数组操作之Array、ArrayBuffer以及遍历数组第10讲-Scala编程详解：数组操作之数组转换第11讲-Scala编程详解：Map与Tuple第12讲-Scala编程详解：面向对象编程之类第13讲-Scala编程详解：面向对象编程之对象第14讲-Scala编程详解：面向对象编程之继承第15讲-Scala编程详解：面向对象编程之Trait第16讲-Scala编程详解：函数式编程第17讲-Scala编程详解：函数式编程之集合操作第18讲-Scala编程详解：模式匹配第19讲-Scala编程详解：类型参数第20讲-Scala编程详解：隐式转换与隐式参数第21讲-Scala编程详解：Actor入门二、课程环境搭建： 第22讲-课程环境搭建：CentOS 6.5集群搭建第23讲-课程环境搭建：Hadoop 2.4.1集群搭建第24讲-课程环境搭建：Hive 0.13搭建第25讲-课程环境搭建：ZooKeeper 3.4.5集群搭建第26讲-课程环境搭建：kafka_2.9.2-0.8.1集群搭建第27讲-课程环境搭建：Spark 1.3.0集群搭建三、Spark核心编程：第28讲-Spark核心编程：Spark基本工作原理与RDD第29讲-Spark核心编程：使用Java、Scala和spark-shell开发wordcount程序第30讲-Spark核心编程：wordcount程序原理深度剖析第31讲-Spark核心编程：Spark架构原理第32讲-Spark核心编程：创建RDD实战（集合、本地文件、HDFS文件）第33讲-Spark核心编程：操作RDD实战（transformation和action案例实战）第34讲-Spark核心编程：transformation操作开发案例实战第35讲-Spark核心编程：action操作开发案例实战第36讲-Spark核心编程：RDD持久化详解第37讲-Spark核心编程：共享变量（Broadcast Variable和Accumulator）第38讲-Spark核心编程：高级编程之基于排序机制的wordcount程序第39讲-Spark核心编程：高级编程之二次排序实战第40讲-Spark核心编程：高级编程之topn与分组取topn实战四、Spark内核源码深度剖析：第41讲-Spark内核源码深度剖析：Spark内核架构深度剖析第42讲-Spark内核源码深度剖析：宽依赖与窄依赖深度剖析第43讲-Spark内核源码深度剖析：基于Yarn的两种提交模式深度剖析第44讲-Spark内核源码深度剖析：SparkContext初始化原理剖析与源码分析第45讲-Spark内核源码深度剖析：Master主备切换机制原理剖析与源码分析第46讲-Spark内核源码深度剖析：Master注册机制原理剖析与源码分析第47讲-Spark内核源码深度剖析：Master状态改变处理机制原理剖析与源码分析第48讲-Spark内核源码深度剖析：Master资源调度算法原理剖析与源码分析第49讲-Spark内核源码深度剖析：Worker原理剖析与源码分析 第50讲-Spark内核源码深度剖析：Job触发流程原理剖析与源码分析第51讲-Spark内核源码深度剖析：DAGScheduler原理剖析与源码分析（stage划分算法与task最佳位置算法）第52讲-Spark内核源码深度剖析：TaskScheduler原理剖析与源码分析（task分配算法）第53讲-Spark内核源码深度剖析：Executor原理剖析与源码分析第54讲-Spark内核源码深度剖析：Task原理剖析与源码分析第55讲-Spark内核源码深度剖析：Shuffle原理剖析与源码分析（普通Shuffle与优化后的Shuffle）第56讲-Spark内核源码深度剖析：BlockManager原理剖析与源码分析（Spark底层存储机制）第57讲-Spark内核源码深度剖析：CacheManager原理剖析与源码分析第58讲-Spark内核源码深度剖析：Checkpoint原理剖析与源码分析五、Spark性能优化：第59讲-Spark性能优化：性能优化概览第60讲-Spark性能优化：诊断内存的消耗第61讲-Spark性能优化：高性能序列化类库第62讲-Spark性能优化：优化数据结构第63讲-Spark性能优化：对多次使用的RDD进行持久化或Checkpoint第64讲-Spark性能优化：使用序列化的持久化级别第65讲-Spark性能优化：Java虚拟机垃圾回收调优第66讲-Spark性能优化：提高并行度第67讲-Spark性能优化：广播共享数据第68讲-Spark性能优化：数据本地化第69讲-Spark性能优化：reduceByKey和groupByKey第70讲-Spark性能优化：shuffle性能优化六、Spark SQL：第71讲-课程环境搭建：Spark 1.5.1新版本特性、源码编译、集群搭建第72讲-Spark SQL：前世今生第73讲-Spark SQL：DataFrame的使用第74讲-Spark SQL：使用反射方式将RDD转换为DataFrame第75讲-Spark SQL：使用编程方式将RDD转换为DataFrame第76讲-Spark SQL：数据源之通用的load和save操作第77讲-Spark SQL：Parquet数据源之使用编程方式加载数据第78讲-Spark SQL：Parquet数据源之自动分区推断第79讲-Spark SQL：Parquet数据源之合并元数据第80讲-Spark SQL：JSON数据源复杂综合案例实战第81讲-Spark SQL：Hive数据源复杂综合案例实战第82讲-Spark SQL：JDBC数据源复杂综合案例实战第83讲-Spark SQL：内置函数以及每日uv和销售额统计案例实战第84讲-Spark SQL：开窗函数以及top3销售额统计案例实战第85讲-Spark SQL：UDF自定义函数实战第86讲-Spark SQL：UDAF自定义聚合函数实战第87讲-Spark SQL：工作原理剖析以及性能优化第87讲-Spark SQL：与Spark Core整合之每日top3热点搜索词统计案例实战第87讲-Spark SQL：核心源码深度剖析（DataFrame lazy特性、Optimizer优化策略等）第87讲-Spark SQL：延伸知识之Hive On Spark七、Spark Streaming：第88讲-Spark Streaming：大数据实时计算介绍第89讲-Spark Streaming：DStream以及基本工作原理第90讲-Spark Streaming：与Storm的对比分析第91讲-Spark Streaming：实时wordcount程序开发第92讲-Spark Streaming：StreamingContext详解第93讲-Spark Streaming：输入DStream和Receiver详解第94讲-Spark Streaming：输入DStream之基础数据源以及基于HDFS的实时wordcount案例实战第95讲-Spark Streaming：输入DStream之Kafka数据源实战（基于Receiver的方式）第96讲-Spark Streaming：输入DStream之Kafka数据源实战（基于Direct的方式）第97讲-Spark Streaming：DStream的transformation操作概览第98讲-Spark Streaming：updateStateByKey以及基于缓存的实时wordcount案例实战第99讲-Spark Streaming：transform以及广告计费日志实时黑名单过滤案例实战第100讲-Spark Streaming：window滑动窗口以及热点搜索词滑动统计案例实战第101讲-Spark Streaming：DStream的output操作以及foreachRDD性能优化详解第102讲-Spark Streaming：与Spark SQL结合使用之top3热门商品实时统计案例实战第103讲-Spark Streaming：缓存与持久化机制详解第104讲-Spark Streaming：Checkpoint机制详解（Driver高可靠方案详解）第105讲-Spark Streaming：部署、升级和监控实时应用程序第106讲-Spark Streaming：容错机制以及事务语义详解第107讲-Spark Streaming：架构原理深度剖析第108讲-Spark Streaming：StreamingContext初始化与Receiver启动原理剖析与源码分析第109讲-Spark Streaming：数据接收原理剖析与源码分析第110讲-Spark Streaming：数据处理原理剖析与源码分析（block与batch关系透彻解析）第111讲-Spark Streaming：性能调优详解第112讲-课程总结（学到了什么？达到了什么水平？） Spark开发进阶(升级内容！) 一、Scala编程进阶： 第113讲-Scala编程进阶：Scaladoc的使用第114讲-Scala编程进阶：跳出循环语句的3种方法第115讲-Scala编程进阶：多维数组、Java数组与Scala数组的隐式转换第116讲-Scala编程进阶：Tuple拉链操作、Java Map与Scala Map的隐式转换第117讲-Scala编程进阶：扩大内部类作用域的2种方法、内部类获取外部类引用第118讲-Scala编程进阶：package与import实战详解第119讲-Scala编程进阶：重写field的提前定义、Scala继承层级、对象相等性第120讲-Scala编程进阶：文件操作实战详解第121讲-Scala编程进阶：偏函数实战详解第122讲-Scala编程进阶：执行外部命令第123讲-Scala编程进阶：正则表达式支持第124讲-Scala编程进阶：提取器实战详解第125讲-Scala编程进阶：样例类的提取器实战详解第126讲-Scala编程进阶：只有一个参数的提取器第127讲-Scala编程进阶：注解实战详解第128讲-Scala编程进阶：常用注解介绍第129讲-Scala编程进阶：XML基础操作实战详解第130讲-Scala编程进阶：XML中嵌入scala代码第131讲-Scala编程进阶：XML修改元素实战详解第132讲-Scala编程进阶：XML加载和写入外部文档第133讲-Scala编程进阶：集合元素操作第134讲-Scala编程进阶：集合的常用操作方法第135讲-Scala编程进阶：map、flatMap、collect、foreach实战详解第136讲-Scala编程进阶：reduce和fold实战详解二、Spark核心编程进阶： 第137讲-环境搭建-CentOS 6.4虚拟机安装第138讲-环境搭建-Hadoop 2.5伪分布式集群搭建第139讲-环境搭建-Spark 1.5伪分布式集群搭建第140讲-第一次课程升级大纲介绍以及要点说明第141讲-Spark核心编程进阶-Spark集群架构概览第142讲-Spark核心编程进阶-Spark集群架构的几点特别说明第143讲-Spark核心编程进阶-Spark的核心术语讲解第144讲-Spark核心编程进阶-Spark Standalone集群架构第145讲-Spark核心编程进阶-单独启动master和worker脚本详解第146讲-Spark核心编程进阶-实验：单独启动master和worker进程以及启动日志查看第147讲-Spark核心编程进阶-worker节点配置以及spark-evn.sh参数详解第148讲-Spark核心编程进阶-实验：local模式提交spark作业第149讲-Spark核心编程进阶-实验：standalone client模式提交spark作业第150讲-Spark核心编程进阶-实验：standalone cluster模式提交spark作业第151讲-Spark核心编程进阶-standalone模式下的多作业资源调度第152讲-Spark核心编程进阶-standalone模式下的作业监控与日志记录第153讲-Spark核心编程进阶-实验：运行中作业监控以及手工打印日志第154讲-Spark核心编程进阶-yarn-client模式原理讲解第155讲-Spark核心编程进阶-yarn-cluster模式原理讲解第156讲-Spark核心编程进阶-实验：yarn-client模式提交spark作业第157讲-Spark核心编程进阶-yarn模式下日志查看详解第158讲-Spark核心编程进阶-yarn模式相关参数详解第159讲-Spark核心编程进阶-spark工程打包以及spark-submit详解第160讲-Spark核心编程进阶-spark-submit示例以及基础参数讲解第161讲-Spark核心编程进阶-实验：spark-submit最简单版本提交spark作业第162讲-Spark核心编程进阶-实验：spark-submit给main类传递参数第163讲-Spark核心编程进阶-spark-submit多个示例以及常用参数详解第164讲-Spark核心编程进阶-SparkConf、spark-submit以及spark-defaults.conf第165讲-Spark核心编程进阶-spark-submit配置第三方依赖第166讲-Spark核心编程进阶-spark算子的闭包原理详解第167讲-Spark核心编程进阶-实验：对闭包变量进行累加操作的无效现象第168讲-Spark核心编程进阶-实验：在算子内打印数据的无法看到现象第169讲-Spark核心编程进阶-mapPartitions以及学生成绩查询案例第170讲-Spark核心编程进阶-mapPartitionsWithIndex以开学分班案例第171讲-Spark核心编程进阶-sample以及公司年会抽奖案例第172讲-Spark核心编程进阶-union以及公司部门合并案例第173讲-Spark核心编程进阶-intersection以及公司跨多项目人员查询案例第174讲-Spark核心编程进阶-distinct以及网站uv统计案例第175讲-Spark核心编程进阶-aggregateByKey以及单词计数案例第176讲-Spark核心编程进阶-cartesian以及服装搭配案例第177讲-Spark核心编程进阶-coalesce以及公司部门整合案例第178讲-Spark核心编程进阶-repartition以及公司新增部门案例第179讲-Spark核心编程进阶-takeSampled以及公司年会抽奖案例第180讲-Spark核心编程进阶-shuffle操作原理详解第181讲-Spark核心编程进阶-shuffle操作过程中进行数据排序第182讲-Spark核心编程进阶-会触发shuffle操作的算子第183讲-Spark核心编程进阶-shuffle操作对性能消耗的原理详解第184讲-Spark核心编程进阶-shuffle操作所有相关参数详解以及性能调优第185讲-Spark核心编程进阶-综合案例1：移动端app访问流量日志分析第186讲-Spark核心编程进阶-综合案例1：日志文件格式分析第187讲-Spark核心编程进阶-综合案例1：读取日志文件并创建RDD第188讲-Spark核心编程进阶-综合案例1：创建自定义的可序列化类第189讲-Spark核心编程进阶-综合案例1：将RDD映射为key-value格式第190讲-Spark核心编程进阶-综合案例1：基于deviceID进行聚合操作第191讲-Spark核心编程进阶-综合案例1：自定义二次排序key类第192讲-Spark核心编程进阶-综合案例1：将二次排序key映射为RDD的key第193讲-Spark核心编程进阶-综合案例1：执行二次排序以及获取top10数据第194讲-Spark核心编程进阶-综合案例1：程序运行测试以及代码调试第195讲-Spark核心编程进阶-部署第二台CentOS机器第196讲-Spark核心编程进阶-部署第二个Hadoop节点第197讲-Spark核心编程进阶-将第二个Hadoop节点动态加入集群第198讲-Spark核心编程进阶-使用yarn-client和yarn-cluster提交spark作业 三、Spark内核原理进阶： 第199讲-Spark内核原理进阶-union算子内部实现原理剖析第200讲-Spark内核原理进阶-groupByKey算子内部实现原理剖析第201讲-Spark内核原理进阶-reduceByKey算子内部实现原理剖析第202讲-Spark内核原理进阶-distinct算子内部实现原理剖析第203讲-Spark内核原理进阶-cogroup算子内部实现原理剖析第204讲-Spark内核原理进阶-intersection算子内部实现原理剖析第205讲-Spark内核原理进阶-join算子内部实现原理剖析第206讲-Spark内核原理进阶-sortByKey算子内部实现原理剖析第207讲-Spark内核原理进阶-cartesian算子内部实现原理剖析第208讲-Spark内核原理进阶-coalesce算子内部实现原理剖析第209讲-Spark内核原理进阶-repartition算子内部实现原理剖析四、Spark SQL实战开发进阶： 第210讲-Spark SQL实战开发进阶-Hive 0.13安装与测试第211讲-Spark SQL实战开发进阶-Thrift JDBC、ODBC Server第212讲-Spark SQL实战开发进阶-CLI命令行使用第213讲-Spark SQL实战开发进阶-综合案例2：新闻网站关键指标离线统计第214讲-Spark SQL实战开发进阶-综合案例2：页面pv统计以及排序和企业级项目开发流程说明第215讲-Spark SQL实战开发进阶-综合案例2：页面uv统计以及排序和count(distinct) bug说明第216讲-Spark SQL实战开发进阶-综合案例2：新用户注册比例统计第217讲-Spark SQL实战开发进阶-综合案例2：用户跳出率统计第218讲-Spark SQL实战开发进阶-综合案例2：版块热度排行榜统计第219讲-Spark SQL实战开发进阶-综合案例2：测试与调试五、Spark Streaming实战开发进阶： 第220讲-Spark Streaming实战开发进阶-flume安装第221讲-Spark Streaming实战开发进阶-接收flume实时数据流-flume风格的基于push的方式第222讲-Spark Streaming实战开发进阶-接收flume实时数据流-自定义sink的基于poll的方式第223讲-Spark Streaming实战开发进阶-高阶技术之自定义Receiver第224讲-Spark Streaming实战开发进阶-kafka安装第225讲-Spark Streaming实战开发进阶-综合案例3：新闻网站关键指标实时统计第226讲-Spark Streaming实战开发进阶-综合案例3：页面pv实时统计第227讲-Spark Streaming实战开发进阶-综合案例3：页面uv实时统计第228讲-Spark Streaming实战开发进阶-综合案例3：注册用户数实时统计第229讲-Spark Streaming实战开发进阶-综合案例3：用户跳出量实时统计第230讲-Spark Streaming实战开发进阶-综合案例3：版块pv实时统计六、Spark运维管理进阶： 第231讲-Spark运维管理进阶-基于ZooKeeper实现HA高可用性以及自动主备切换第232讲-Spark运维管理进阶-实验：基于ZooKeeper实现HA高可用性以及自动主备切换第233讲-Spark运维管理进阶-基于文件系统实现HA高可用性以及手动主备切换第234讲-Spark运维管理进阶-实验：基于文件系统实现HA高可用性以及手动主备切换第235讲-Spark运维管理进阶-作业监控-实验：通过Spark Web UI进行作业监控第236讲-Spark运维管理进阶-作业监控-实验：standalone模式下查看历史作业的Web UI第237讲-Spark运维管理进阶-作业监控-实验：启动HistoryServer查看历史作业的Web UI第238讲-Spark运维管理进阶-作业监控-实验：使用curl+REST API进行作业监控第239讲-Spark运维管理进阶-作业监控-实验：Spark Metrics系统以及自定义Metrics Sink第240讲-Spark运维管理进阶-作业资源调度-静态资源分配原理第241讲-Spark运维管理进阶-作业资源调度-动态资源分配原理第242讲-Spark运维管理进阶-作业资源调度-实验：standalone模式下使用动态资源分配第243讲-Spark运维管理进阶-作业资源调度-实验：yarn模式下使用动态资源分配第244讲-Spark运维管理进阶-作业资源调度-多个job资源调度原理第245讲-Spark运维管理进阶-作业资源调度-Fair Scheduler使用详解
目标一. 熟练掌握Scala编程语言，能够用Scala开发Spark程序，并能看懂Spark源码目标二. 从零开始手动搭建Hadoop集群、Spark集群、Hive、ZooKeeper和kafka集群目标三. 熟练掌握Spark核心编程，可以开发各种复杂的大数据离线批处理程序目标四. 透彻理解Spark内核源码，可以在线上程序报错时进行故障排查，根据异常堆栈信息阅读对应源码解决线上故障目标五. 能够对常见的Spark性能问题，使用各种技术进行性能调优目标六. 熟练使用Spark SQL开发大数据交互式查询程序，掌握常见性能优化技术目标七. 熟练使用Spark Streaming开发大数据实时计算程序，理解原理和源码，并能进行性能调优 亮点一、使用Spark 1.3.0 / Spark 1.5.1+Hadoop 2.4.1组合，Spark深入讲解划时代版本1.3.0，并讲解最新版本1.5.1，技术绝对处于行业的前沿。.亮点二、代码驱动讲解所有技术点，现场画图讲解所有原理和概念，既能够动手实战，又能够透彻理解.亮点三、所有功能点均按照官方大纲来，所有技术点、功能点，基础功能和高级特性，全部讲解到，全面覆盖。.亮点四、全程案例实战，Scala包含数十个趣味案例，Spark中涉及数个从实际企业需求场景抽取出来的复杂案例.亮点五、几乎所有Spark代码实战、案例实战，都提供了Java和Scala两个版本的代码，全网唯一！亮点六、大量独家的高级知识点和技术点，包括Spark二次排序、分组取topn，Spark SQL内置函数和开窗函数，Spark Streaming Driver高可用方案等等，全网唯一！亮点七、现场画图讲解源码，深入剖析80%的核心内核源码，给源码进行大量注释，深入细致的源码讲解，全网唯一！亮点八、全面讲解Spark、Spark SQL和Spark Streaming的性能优化技术，结合现场画图讲解性能调优，并深入讲解Shuffle性能调优，全网唯一！
