Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架,Spark,拥有Hadoop MapReduce所具有的优点;但不同于MapReduce的是Job中间输出结果可以保存在内存中,从而不再需要读写HDFS,因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。
推荐|机器学习必须了解的那些AI工具包!
全球人工智能
1+阅读 · 2017年10月12日
百度开源高性能 Python 分布式计算框架 Bigflow
大数据技术
0+阅读 · 2017年12月14日
马蜂窝实时计算平台演进之路
架构文摘
0+阅读 · 2019年6月17日
大数据和云计算技术周报(第69期)
大数据和云计算技术
0+阅读 · 2018年9月24日
这项技术实操与测试,我们是认真的
InfoQ
1+阅读 · 2018年9月2日
实时流处理新选择:LinkedIn重磅发布Samza 1.0
AI前线
0+阅读 · 2018年12月3日
一篇文看懂Hadoop
人工智能学家
1+阅读 · 2019年7月15日
北上广深工作的年轻人,周末都是怎么过的?
DJI大疆创新
0+阅读 · 2017年11月29日
唯品会实时计算平台的演进之路
DBAplus社群
1+阅读 · 2019年3月21日
阿里云EMR Remote Shuffle Service在小米的实践
阿里技术
1+阅读 · 2022年1月17日
微信扫码咨询专知VIP会员