大数据和云计算技术周报(第106期)

2019 年 6 月 10 日 大数据和云计算技术


导语

“大数据” 三个字其实是个marketing语言,从技术角度看,包含范围很广,计算、存储、网络都涉及,知识点广、学习难度高。

    

本期会给大家奉献上精彩的:kafka、flink、MongoDB、消息队列、GNN、Spark

、redis、Tedis、数据。全是干货,希望大家喜欢!!!


#大数据和云计算技术社区#希望通过坚持定期分享能帮助同学在大数据学习道路上尽一份微博之力。相信长期坚持认真阅读周报的同学,在技术的道路上一定会日益精进!感谢编辑们的长期坚持!也请同学们继续打赏,支持社区,支持编辑们持续奉献高质量知识!


#大数据和云计算技术社区#长期招募有兴趣参与社区编辑和运营的同学,欢迎扫描文末二维码联系(参与社区工作,收获知识和进步,还有红包哦)。


特别提醒,文末有惊喜!


以下是正文,限于众编辑水平有限,不保证大家都喜欢。(如果链接不能点开  请用二维码  谢谢


1Redis

Redis实战之限制操作频率,从列举三个场景,然后再抽离本质,再到解决方案落地,最后总结,当工作遇到,可供参考

https://juejin.im/post/5cf695d9f265da1bbf690aa4?utm_source=gold_browser_extension

2HDFS

本文介绍了HDFS的短路读演进、安全的短路读以及小米在安全短路读的优化。

https://mp.weixin.qq.com/s/-HM1mMCS3l3fq_zzEAU6hg


3BigTable

在GFS应用的前期,一致性不是问题,GFS的主要使 用者(BigT able)就是GFS开发者,他们深知应该如何使用GFS,这种不一致在BigTable中被 很好屏蔽掉(采用上面所说的方法),BigTable提供了很好的一致性保证。

https://mp.weixin.qq.com/s/GuJ6VqZJy3ONaVOWvQT9kg



4MongoDB

本文讲述了MongoDB的使用模式构建总结的一些经验,以及各个模式的优缺点、应用场景示例。

http://www.mongoing.com/archives/26532

5spark

spark structured streaming 介绍

https://mp.weixin.qq.com/s/xtBQQFfqZKCyETzWaN4AWA


6推荐系统

本文中,微软亚洲研究院研究员谢幸、张富峥将为你揭开大数据背后个人性格的神秘面纱,近距离感受个性化推荐的神奇之处。

https://mp.weixin.qq.com/s/JLL37WmvF9WeRERFHOPuEg


7大数据解决方案

Uber 一直致力于开发大数据解决方案,本文将介绍 Uber 的大数据平台的演进。

https://mp.weixin.qq.com/s/rpqTRp43XFyOhi0_wBGlSg


8HBase

HBase多租户

https://mp.weixin.qq.com/s/2lDQRSlIXkYf-D43e123-A


本文主要讲述了如何远程debug HBase源代码对HBase二次开发

https://mp.weixin.qq.com/s/5I-3t6ogwKSdDGOLCI19iw


9舆情分析系统

舆情大数据分析系统需要两类计算,一类是实时计算包括海量网页内容实时抽取,情感词分析并进行网页舆情结果存储。另一类是离线计算,系统需要对历史数据进行回溯,结合人工标注等方式优化情感词库,对一些实时计算的结果进行矫正等。

https://mp.weixin.qq.com/s/Eb5d0I09XTC9GcmCw0-VPw


10LSTM

本文介绍一个有意思的 LSTM 变种:ON-LSTM ,神经元经过特定排序,将层级结构(树结构)整合到 LSTM 中去,从而允许 LSTM 能自动学习到层级结构信息,达到更丰富信息的表达。

https://mp.weixin.qq.com/s/hg93slLJVEpsFJ2E1Z4EDQ



11kafka

对于kafka的架构原理我们先提出几个问题?

1.Kafka的topic和分区内部是如何存储的,有什么特点?

2.与传统的消息系统相比,Kafka的消费模型有什么优点?

3.Kafka如何实现分布式的数据存储与数据读取?

本文将详细讲述这些。

https://mp.weixin.qq.com/s/49q_A3_H8ZHun0ZSvUuBvA




11开心一刻

预祝大家早日成为不朽

致谢:

周蓬勃、王在道、孙亚飞、冯艺帆、陈少军、邓开表、张少华、薛述强、刘彬、刘超、廖程鹏、董言、吕西金、朱洁、蓝随、黄文辉、郭飞


猜你喜欢

#大数据和云计算机技术社区#博客精选(2017)

NoSQL 还是 SQL ?这一篇讲清楚

阿里的OceanBase解密

#大数据和云计算技术#: "四有"社区介绍

大数据和云计算技术周报(第56期)

新数仓系列:Hbase周边生态梳理(1)

《大数据架构详解》第2次修订说明

简单梳理跨数据中心数据库

云观察系列:漫谈运营商公有云发展史

云观察系列:百度云的一波三折

云观察系列:阿里云战略观察

超融合方案分析系列(7)思科超融合方案分析

加入技术讨论群

《大数据和云计算技术》社区群人数已经6000+,欢迎大家加下面助手微信,拉大家进群,自由交流。


喜欢QQ群的,可以扫描下面二维码:

欢迎大家通过二维码打赏支持技术社区(英雄请留名,社区感谢您,打赏次数超过108+):



登录查看更多
0

相关内容

GFS 是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。它运行于廉价的普通硬件上,并提供容错功能。它可以给大量的用户提供总体性能较高的服务。
【SIGMOD2020-腾讯】Web规模本体可扩展构建
专知会员服务
30+阅读 · 2020年4月12日
专知会员服务
125+阅读 · 2020年3月26日
【资源】100+本免费数据科学书
专知会员服务
108+阅读 · 2020年3月17日
【阿里技术干货】知识结构化在阿里小蜜中的应用
专知会员服务
98+阅读 · 2019年12月14日
【大数据白皮书 2019】中国信息通信研究院
专知会员服务
138+阅读 · 2019年12月12日
【干货】大数据入门指南:Hadoop、Hive、Spark、 Storm等
专知会员服务
96+阅读 · 2019年12月4日
新书《面向机器学习和数据分析的特征工程》,419页pdf
专知会员服务
143+阅读 · 2019年10月10日
2019互联网医疗行业洞察
行业研究报告
8+阅读 · 2019年5月28日
【大数据】大数据参考架构和关键技术(综合)
产业智能官
14+阅读 · 2018年11月22日
终于有人把云计算、大数据和人工智能讲明白了
Python开发者
3+阅读 · 2018年6月13日
终于有人把云计算、大数据和人工智能讲明白了!
大数据技术
7+阅读 · 2018年4月2日
大数据流处理平台的技术选型参考
架构文摘
4+阅读 · 2018年3月14日
《大数据架构详解:从数据获取到深度学习》第⑨次重印
大数据和云计算技术
3+阅读 · 2018年3月3日
《大数据架构详解:从数据获取到深度学习》第八次重印
大数据和云计算技术
5+阅读 · 2017年12月24日
福利丨晚来天欲雪,一起囤大数据好书吗?
DBAplus社群
4+阅读 · 2017年12月13日
今日头条推荐系统架构演进之路
QCon
32+阅读 · 2017年6月21日
Arxiv
20+阅读 · 2019年11月23日
Arxiv
30+阅读 · 2019年3月13日
VIP会员
相关VIP内容
【SIGMOD2020-腾讯】Web规模本体可扩展构建
专知会员服务
30+阅读 · 2020年4月12日
专知会员服务
125+阅读 · 2020年3月26日
【资源】100+本免费数据科学书
专知会员服务
108+阅读 · 2020年3月17日
【阿里技术干货】知识结构化在阿里小蜜中的应用
专知会员服务
98+阅读 · 2019年12月14日
【大数据白皮书 2019】中国信息通信研究院
专知会员服务
138+阅读 · 2019年12月12日
【干货】大数据入门指南:Hadoop、Hive、Spark、 Storm等
专知会员服务
96+阅读 · 2019年12月4日
新书《面向机器学习和数据分析的特征工程》,419页pdf
专知会员服务
143+阅读 · 2019年10月10日
相关资讯
2019互联网医疗行业洞察
行业研究报告
8+阅读 · 2019年5月28日
【大数据】大数据参考架构和关键技术(综合)
产业智能官
14+阅读 · 2018年11月22日
终于有人把云计算、大数据和人工智能讲明白了
Python开发者
3+阅读 · 2018年6月13日
终于有人把云计算、大数据和人工智能讲明白了!
大数据技术
7+阅读 · 2018年4月2日
大数据流处理平台的技术选型参考
架构文摘
4+阅读 · 2018年3月14日
《大数据架构详解:从数据获取到深度学习》第⑨次重印
大数据和云计算技术
3+阅读 · 2018年3月3日
《大数据架构详解:从数据获取到深度学习》第八次重印
大数据和云计算技术
5+阅读 · 2017年12月24日
福利丨晚来天欲雪,一起囤大数据好书吗?
DBAplus社群
4+阅读 · 2017年12月13日
今日头条推荐系统架构演进之路
QCon
32+阅读 · 2017年6月21日
Top
微信扫码咨询专知VIP会员