写给自己的话:

    对于大数据开发的工作要求,spark随时可见。所以要下定决心好好看一看spark相关的技术。

学习目录:

第一步是配置spark环境:包括linux系统的安装,java,ssh,Hadoop,Scala,spark的安装与环境变量设置。

第二步:java学习。

第三步:Hadoop学习。HDFS,MR计算框架,必须得知道吧。spark也是需要在HDFS上进行数据获取的,学习Hadoop才能知道其不足,明白spark的优势,为什么Hadoop必死。在hdfs的操作指令也必须掌握。能会写MapReduce程序就再好不过了。

第四步:Scala学习。函数式编程,重点明白这个吧。只需能看懂,而且会使用Scala操作RDD就行。

第五步:就是spark学习。当然,最好学习spark的方式就是看官方文档,读源码,看博客(博客写的都太简单,没有特别深入的),看RDD的论文,作业如何调度,某研究院的spark官方文档中文翻译

 

学习渠道:

  • 官网的编程手册
  • 只有实际项目才能从本质上提升一个人的spark能力