数据分析师会被算法取代么?

2019 年 1 月 20 日 数据猿

作者:陈丹奕

数据猿官网 | www.datayuan.cn

今日头条丨一点资讯丨腾讯丨搜狐丨网易丨凤凰丨阿里UC大鱼丨新浪微博丨新浪看点丨百度百家丨博客中国丨趣头条丨腾讯云·云+社区

在现实中,当一个数据分析师跟别人聊天的时候,经常会被问一些问题:


Q:数据分析人员能做什么?


A:从纷繁的数据里提炼出有价值的信息并给公司提供支持啊。


Q:你怎么提炼啊?


A:写程序采集啊,清洗啊,用一定的算法计算数据内部联系,根据业务做出判断啊……


Q:如果都是用已有的算法,这些事情为什么不能用现成的流程来做呢?或者为什么不能写成程序,让机器自己实现呢?


A:呃…………


作为一名数据分析师,跟人聊天聊成这样,非常常见也非常令人不爽。但我们数据分析师是不是仅能手工操作一些算法,等着机器和算法逐步取代我们么?并不是!


照例观点先行:数据分析不等于数据分析算法/程序,数据分析算法/程序只是分析师手中的工具,数据分析要取得成功必须依赖人的力量,数据分析师的作用在于根据对业务的理解,合理使用分析工具,完成分析目标。


结合业务的数据分析才是科学的,一切只看计算机输出结果不考虑业务实际情况的数据分析都是无(shua)用(liu)功(mang)。计算机能实现的算法也好,程序也好,只是数据分析中的一部分;如何选择分析切入点,如何选择数据来源,如何确定算法,如何解读结论,这些机器统统做不了,需要我们数据分析师来解决。


观点在上边两段里已经充分展示了,接下来我要愉快的展(che)开(dan)观点内容了:


数据分析通常包括几个阶段:提出/发现问题——获取并清洗数据——建模——调整优化——输出结论。


这是一个闭环流程,每一步都需要人工参与,程序会参与中间三步,算法在建模中会用到,而数据分析的最重要两步,问题和结论,目前是不可能完全交给计算机去处理的(其实我个人认为这两步在真正的人工智能出现前,绝不可能由计算机自动处理),因此数据分析人员最大的优势,就是“经验”,也就是业务理解能力和数据分析经验。

详细解释一下数据分析的几个阶段:


提出/发现问题阶段:


大多数时候,数据分析都是为了解决一个问题(锁定某个产品的目标客户,对同样的人群做营销活动用A方案好还是B方案好,等等),或者验证一个猜想(不让旅游者上班高峰坐地铁是不是会大幅度缓解拥挤现象,啤酒和尿布放一起是不是真的会提升啤酒的销售额,等等),总之需要达到一个目标。即使是探索性分析(拿着一大堆数据看看能不能找出点什么结论),那也需要先预设一个或多个目标作为切入点,然后在探索过程中逐步修正。


提出和发现问题的过程,交给计算机干不太靠谱,首先计算机不会提出问题(因为笨),其次计算机能发现的问题也一定是人已经发现了的问题(还是因为笨),需要先有人来设定规则,然后计算机才能根据规则发现问题。而数据分析师,就是设定规则的人。


目标和规则的设定,一定要基于业务,这样分析结果才有用,否则会得出正确但无用的结论。举个栗子,订阅报纸的数据扔给计算机去分析关联关系,看有哪些报纸可以进行组合促销,最后得出个光明日报和人民日报关联系数90%多,所以这俩报纸可以组合起来卖,问题是这俩报纸本来就是要求党政机关订阅的党报,组合起来毫无意义,该订的还是要订,不订的还是不订,这就是典型的正确但无用的分析结果。懂业务能让分析师少做这种无用功,但是计算机要想懂业务就得由人来教,教还不一定能教会,教完了又不能触类旁通(报纸的关联算法拿到电商去完全不能用啊),这样的计算机永远都不如分析师懂业务。

获取并清洗数据:


这个阶段计算机参与的较多,分析师的工作是指出拿什么数据,拿哪些字段,数据获取到以后用哪些规则进行清洗整理。如果数据源不变,需要重复或定期进行分析时,这个阶段的规则可以固化,由计算机来自动执行,但规则仍然是由分析师来制定的。

建模、调整优化:


这两个阶段中,分析算法出场了,描述分析、关联分析、回归、分类、聚类、时间序列,每个类别里都有一大堆的固定算法,分析师不能通过手算得出结论,需要借助封装好算法的分析工具(图形化的SPSS,命令行方式的R,等等),看来这一阶段计算机要超越分析师了!


等等,建模哪有这么简单,计算机解决不了的问题一大堆呢:什么时候用哪个类别的算法(该做分类还是聚类),同一类别不同算法哪个更适合当前情况(K-means还是两步聚类,这是个问题),同一个算法怎么调整参数能使效果更好(到底该把用户聚成几类呢),算法输出的结果是否正常(有一部分数据出了问题导致分析结果出现偏差)等等。这些问题计算机统统不知道耶,需要分析师来告诉它该做什么事。


打个比方,数据分析就是打仗,算法是机枪、大炮、坦克等等技术兵器,分析师是士兵、炮手、驾驶员(操纵者),不能因为士兵自己不能一分钟吐出几百发子弹或者炮手自己不能一下子拆掉一个碉堡,就让机枪大炮坦克把操纵者扔下,自己上阵去打仗……就算是无人机,那也得有个拿遥控器的驾驶员蹲在办公室里操作啊……


算法始终只是工具,数据分析效果如何还是要看用工具的分析师功力如何。一个做过几十个分析项目的分析师,功力通常来说比刚入行的分析师或者纯开发人员要深厚一些(极少数天赋异禀的不算……),选算法调参数建模型的能力更强一些,分析出来的结果也会相对靠谱一些——没错,经验在这两个阶段就是优势。

输出结论:


这一阶段计算机的工作已经基本完成了,对模型输出的数据进行解读,那完全是分析师的天下——同一份数据给不同的分析师,可能会得出不同的结论,很多时候分析师并不单单根据数据本身得出结论,还要结合很多外界因素来修正结论。分析师的经验越丰富,拥有的有效信息量越多,得出的结论就越接近事实(之所以用接近,是因为对数据解读的准确度永远达不到100%,影响结果的因素太多了,比如一个企业销售额连续增长10年,分析师根据公司数据和市场情况判断下一年还会继续增长,结果老板出事跑路了,企业直接倒闭),而这个过程是计算机目前没办法自主进行的,商业智能系统做的再好,也需要由分析师来设定规则,告诉计算机在什么时间需要做什么。


也许随着大数据和人工智能的发展,有一天计算机可以完全不依赖人工设定的规则(不需要确定数据来源,不需要选择算法和模型,不需要人工干预来修正模型,等等),自己对数据进行全方位的分析,加入所有因素的影响,并输出准确度非常高的报告,只有到那时候,分析师才会失业啊。


不过,真到了那一天,恐怕不光是分析师失业的问题吧……


关于作者


陈丹奕,在天善智能、知乎等多个专业网站开设个人专栏,主讲数据分析内容。在百度时多次被邀为百度对外培训讲师,拥有百度认证金牌讲师证书。


数据猿读者亲启:


名企&大佬专访精选

向下滑动启阅

以下文字均可点击阅读原文


跨国外企:

谷歌大中华及韩国区数据洞察与解决方案总经理郭志明IBM中国区开发中心总经理吉燕勇微软中国CTO官韦青前微软中国CTO黎江VMware中国区研发中心总经理任道远


中国名企:

联想集团副总裁田日辉首汽租车COO 魏东

阿里巴巴数据经济研究中心秘书长潘永花

搜狗大数据研究院院长李刚易观CTO郭炜

前上海证券交易所副总裁兼CTO白硕携程商旅亚太区CMO 邱斐艾瑞集团CTO郝欣诚泰康集团大数据部总经理周雄志上海链家研究院院长陈泽帅蓝色光标首席数据科学家王炼


知名学者:

北大新媒体研究院副院长刘德寰中科院基因研究所方向东

 

创业明星:

地平线机器人创始人兼CEO余凯天工科仪董事长王世金ZRobot CEO乔杨天眼查创始人兼CEO柳超第四范式联合创始人兼首席架构师胡时伟天云大数据CEO雷涛Kyligence联合创始人兼CEO韩卿数之联创始人兼CEO周涛明略数据董事长吴明辉91征信创始人兼CEO 薛本川智铀科技创始人、CEO及首席科学家夏粉丨易宝支付联合创始人兼总裁余晨海云数据创始人兼CEO冯一村星环科技COO佘晖碳云智能联合创始人兼首席科学家李英睿

 

知名投资人:

前IDG创始合伙人、火山石资本创始人章苏阳

华创资本合伙人熊伟铭六禾创投总裁王烨

信天创投合伙人蒋宇捷青域基金执行总裁牟颖

蓝驰创投合伙人朱天宇


——数据猿专访部


(可上下滑动启阅)







▲向上滑动


采访/报道/投稿

yaphet.zhang@datayuan.cn


商务合作

18600591561(微信)



长按右方二维码

关注我们ˉ►


登录查看更多
0

相关内容

数据分析是指用适当的统计方法对收集来的大量第一手资料和第二手资料进行分析,以求最大化地开发数据资料的功能,发挥数据的作用。
【2020新书】实战R语言4,323页pdf
专知会员服务
100+阅读 · 2020年7月1日
【实用书】学习用Python编写代码进行数据分析,103页pdf
专知会员服务
192+阅读 · 2020年6月29日
【2020新书】从Excel中学习数据挖掘,223页pdf
专知会员服务
90+阅读 · 2020年6月28日
商业数据分析,39页ppt
专知会员服务
160+阅读 · 2020年6月2日
【经典书】数据结构与算法C++,第二版,738页pdf
专知会员服务
166+阅读 · 2020年3月27日
专知会员服务
123+阅读 · 2020年3月26日
【经典书】Python数据数据分析第二版,541页pdf
专知会员服务
192+阅读 · 2020年3月12日
新书《面向机器学习和数据分析的特征工程》,419页pdf
专知会员服务
142+阅读 · 2019年10月10日
秋招笔试必备| 99份产品/运营岗笔试主观题(含答案)
人人都是产品经理
19+阅读 · 2019年8月14日
关于Python数据分析,这里有一条高效的学习路径
一文看懂怎么用 Python 做数据分析
大数据技术
24+阅读 · 2019年5月5日
《人工智能转型手册》,吴恩达 著
人工智能学家
21+阅读 · 2018年12月14日
关于机器学习你要了解的 5 件事
机器学习算法与Python学习
7+阅读 · 2018年9月7日
周末深夜,学妹说她想做Python数据分析师
机器学习算法与Python学习
4+阅读 · 2018年6月7日
【入门】数据分析六部曲
36大数据
18+阅读 · 2017年12月6日
一位数据分析师的书单
R语言中文社区
12+阅读 · 2017年10月28日
如何系统地学习数据挖掘?
数据库开发
10+阅读 · 2017年10月22日
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
Accelerated Methods for Deep Reinforcement Learning
Arxiv
6+阅读 · 2019年1月10日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
Arxiv
11+阅读 · 2018年7月8日
Arxiv
3+阅读 · 2018年2月24日
VIP会员
相关VIP内容
【2020新书】实战R语言4,323页pdf
专知会员服务
100+阅读 · 2020年7月1日
【实用书】学习用Python编写代码进行数据分析,103页pdf
专知会员服务
192+阅读 · 2020年6月29日
【2020新书】从Excel中学习数据挖掘,223页pdf
专知会员服务
90+阅读 · 2020年6月28日
商业数据分析,39页ppt
专知会员服务
160+阅读 · 2020年6月2日
【经典书】数据结构与算法C++,第二版,738页pdf
专知会员服务
166+阅读 · 2020年3月27日
专知会员服务
123+阅读 · 2020年3月26日
【经典书】Python数据数据分析第二版,541页pdf
专知会员服务
192+阅读 · 2020年3月12日
新书《面向机器学习和数据分析的特征工程》,419页pdf
专知会员服务
142+阅读 · 2019年10月10日
相关资讯
秋招笔试必备| 99份产品/运营岗笔试主观题(含答案)
人人都是产品经理
19+阅读 · 2019年8月14日
关于Python数据分析,这里有一条高效的学习路径
一文看懂怎么用 Python 做数据分析
大数据技术
24+阅读 · 2019年5月5日
《人工智能转型手册》,吴恩达 著
人工智能学家
21+阅读 · 2018年12月14日
关于机器学习你要了解的 5 件事
机器学习算法与Python学习
7+阅读 · 2018年9月7日
周末深夜,学妹说她想做Python数据分析师
机器学习算法与Python学习
4+阅读 · 2018年6月7日
【入门】数据分析六部曲
36大数据
18+阅读 · 2017年12月6日
一位数据分析师的书单
R语言中文社区
12+阅读 · 2017年10月28日
如何系统地学习数据挖掘?
数据库开发
10+阅读 · 2017年10月22日
相关论文
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
Accelerated Methods for Deep Reinforcement Learning
Arxiv
6+阅读 · 2019年1月10日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
Arxiv
11+阅读 · 2018年7月8日
Arxiv
3+阅读 · 2018年2月24日
Top
微信扫码咨询专知VIP会员