开篇词 你为什么需要数据分析能力?
你好,我是陈旸,清华大学计算机系博士毕业。清华有一门课,叫数据挖掘,正是通过这门课,我学会了如何从海量的数据中找到关联关系,以及如何进行价值挖掘。那时候感觉自己掌握了一门利器,就特别想找到一个钉子,来试试自己手里的这把锤子。
当时恰好赶上2009年微博的热潮。我用3个月的时间就积累了4万粉丝,一年的时间积累了上百万粉丝。这是怎么做到的呢?
通过数据采集,我收集了每天的微博热点,然后对热点进行抓取、去广告,再让机器定时自动进行发布。同时我让账号每天都去关注明星的粉丝列表,这样可以获得15%的回粉概率。久而久之,就会有源源不断的粉丝。
你看,其实就是数据分析帮我做到了微博的自动化运营。这还只是一个小例子,数据分析的影响已经渗透到了我们工作生活的方方面面。
- 通过数据分析,我们可以更好地了解用户画像,为企业做留存率、流失率等指标分析,进而精细化产品运营。
- 如果你关注比特币,数据分析可以帮助你预测比特币的走势。
- 面对生活中遇到的种种麻烦,数据分析也可以提供解决方案,比如信用卡反欺诈,自动屏蔽垃圾邮件等。
可以说,我们生活在数据驱动一切的时代,数据挖掘和数据分析就是这个时代的“淘金”,从国家、企业、组织到个人,都一定会关注各种数据,从这些数据中得到价值。
也正是这个原因,数据分析人才成了香饽饽,不管是数据分析师,数据分析工程师,还是数据产品经理,有数据思维的运营人员,都变得越来越抢手。你是不是也已经摩拳擦掌,做好了了解这一领域的准备呢?
我想在接下来的15周时间里,把自己在清华学习数据挖掘的体会和工作实践中对数据分析的理解,重新梳理整合呈现给你,和你一起在数据分析这个领域来一场急行军。
说了这么多数据分析的重要性,你是不是有这样的疑问:我也知道数据分析能力很重要,但是数据分析是不是很难?到底该怎么学呢?
其实这里有一些误区,数据分析并非遥不可及,它不难,掌握高效的学习方法很重要;但是它也不简单,需要你耐下性子,跟我一起来慢慢掌握数据分析的核心知识点和工具操作。
我招聘过一个实习生,很普通的本科学校。最开始他只会简单的PHP语法,实习期间薪水也就只有3000元,但到后来他不仅可以做爬虫抓取,还可以做数据分析,薪水就涨到了税后1.3万,这个进步用了不到一年的时间。
他的成长速度非常快,这是怎么做到的呢?
总结一下,就是他找到了高效的学习方法,我把它称为MAS方法。
- Multi-Dimension:想要掌握一个事物,就要从多个角度去认识它。
- Ask:不懂就问,程序员大多都很羞涩,突破这一点,不懂就问最重要。
- Sharing:最好的学习就是分享。用自己的语言讲出来,是对知识的进一步梳理。
所以学习这个专栏我们也用MAS方法,我来负责你和数据分析建立起多维度连接,你来负责提问和分享。
怎么和数据分析建立多维度连接呢?我特意把内容分成了三个大类。
- 第一类是基础概念。这是我们学习的基础,一定不能落下。
- 第二类是工具。这个部分可以很好地锻炼你的实操能力。
- 第三类是题库。题库的作用是帮你查漏补缺,在这个过程中,你会情不自禁地进行思考。
这个连接的过程,也是我们从“思维”到“工具”再到“实践”的一个突破过程。如果说重要性,一定是“思维”最重要,因为思维是底层逻辑和框架,可以让我们一通百通,举一反三,但是思维修炼也是最难的。所以,我强调把学习重心放在工具和实践上,即学即用,不断积累成就感,思维也就慢慢养成了。
说到底,学习数据分析的核心就是培养数据思维,掌握挖掘工具,熟练实践并积累经验。为了能带给你更好的学习效果,我在专栏里设计了五大模块。
1. 预习篇
我会给你介绍数据分析的全景图,和你进一步探讨最佳的学习路径。我还专门准备了3篇Python入门内容,如果你还没有Python基础,希望能帮你快速上手,如果你已掌握了Python,可以当作一个复习。这么安排是因为Python是数据科学领域当之无愧的王牌语言,很多数据分析利器也是基于Python的(再或者,你也可以购买极客时间上的“零基础学Python”视频课程)。
2. 基础篇
我会带你修炼数据思维,从数据分析的基础概念,到数据采集、数据处理以及数据可视化。我们一起从数据准备的整个流程上了解数据的方方面面。
3. 算法篇
算法是数据挖掘的精华所在,也是我们专栏的重点内容。我精选了10大算法,包括分类、聚类和预测三大类型。每个算法我们都从原理和案例两个维度来理解,达到即学即用的目的。
4. 实战篇
项目实战是我们学习的一个重要关卡。我准备了5个项目带你真实体验。比如在金融行业中,如何使用数据分析算法对信用卡违约率进行分析?现在的互联网产品都进入到千人千面的人工智能阶段,如何针对一个视频网站搭建视频推荐算法?
5. 工作篇
我选择了几个大家最关心的职场问题,比如面试时注意什么,职位晋升路径是怎样的等等,助你一臂之力。
我希望,通过这个专栏,你将有如下收获。
1. 数据和算法思维
这不仅是在技术上的思维模式,更是我们平时看待问题解决问题的思维方式。如果你将数据视为财富,将数据分析视为获得财富的工具,那么在大数据时代,你将获得更宽广的视野。
2. 工具
用好工具,你将拥有收集数据、处理数据、得到结果的能力,它会让你在工作中游刃有余。
3. 更好的工作机会和价值
无论是当前火爆的人工智能,还是数据算法工程师的市场,都很看重数据分析和数据处理的能力。从“思维”到“工具”再到“实践”,沿着这个路径拓展自己的能力边界,拥有更强的竞争力。
在你面前,即将开始一场数据科学之旅。我们一起用15周的时间,从算法原理、分析工具和实战案例三个维度体会数据科学之美。
在专栏学习的过程中,如果你遇到问题,不论是概念不懂,还是工具使用遇到error,你都可以来找我。也希望你可以把自己的学习笔记分享出来,它不仅是最好的自我学习方法,也是最好的交流语言。
我愿意跟你一起,将这些看似“高大上”的内容琢磨得通俗易懂。当你完成这段旅程,你将会发现这个世界从来不缺少“石油”,而它们,正在等着你的勘探。
正式启程之前,我想邀请你聊聊自己对课程的期待,你如何看待数据挖掘和数据分析?你的工作和生活中有什么事情用到过数据思维吗?
- Hank_Yan 👍(187) 💬(2)
业务洞察是分析数据的前提,分析数据是理解数据的前提,理解数据是数据挖掘的前提。从业务到数据再到挖掘,每一步环环相扣,相辅相成。业务千变万化,规律亘古不变。期待老师提纲挈领,从整体思路点拨,用经典案例教学,让每一位学生学到真本事,共勉。
2018-12-17 - 别问 👍(165) 💬(1)
求推荐一些数据分析的书,谢谢。
2018-12-17 - 汪汪汪 👍(80) 💬(2)
本人是转行学习数据分析,想通过两个月时间自学,顺利拿到offer进入岗位进行实操。目前看了《深入浅出数据分析》那本书,然后学了python基础知识,想请问老师,接下来该如何开展学习计划。我想学python常用的几个库,从爬虫开始获取外部数据,熟悉常用的数据挖掘算法,最后花两个星期学习基础的SQL和excel操作。您的建议是什么?我手上的学习资源比较多,所以得重点筛选。期待老师的回信
2018-12-17 - Alexander 👍(78) 💬(7)
期待,当然是以找到相关工作为目的啦。
2018-12-17 - 五岳寻仙 👍(26) 💬(1)
老师好!看到这个专栏很兴奋!对数据挖掘/机器学习很感兴趣,自学有段时间了,也接触了不少工具,但遇到具体问题还是很盲目,有下面几个方面的困惑: 1. 如何做好“特征工程”,没有思路,也没有思考方向,看了不少博客,所谓的技巧也都知道了,但遇到问题还是用不好; 2. 对于样本类别不均衡的问题,不会处理,尝试过下采样或过采样,但似乎改变了样本原本的分布,效果不太好; 3. 对各种机器模型输出的结果没有把控能力,搞不懂为何有时效果好,有时效果却很差。 因为没有人带,自学感觉很迷茫,希望能跟随这门课程提升自己应用能力。 另外,想请教一下老师,为了能更好地掌握经典的机器学习算法,有没有必要自己实现一遍?
2018-12-17 - 猴哥 👍(20) 💬(1)
大一新生,刚好是大数据专业,希望接下来的15周里面可以不掉队,多跟着老师学些有用的知识。感觉老师讲的蛮生动的,一定能物超所值,我非常非常非常满意😀
2018-12-19 - 日神式熊 👍(15) 💬(3)
我是一个想转商业数据分析与挖掘的生物学(生物信息方向)硕士研究生,很需要有一门课大概能告诉我一个算法或者数学模型适用于哪些商业或者运营的情景,这是我现在急需的,也是对课程的期望,哪些东西可以解决哪些问题,也希望作者能推荐一些类似的书,期望自己能在这么课收获很多,找到自己的路
2018-12-17 - Aggi 👍(11) 💬(1)
希望多讲一些分析的思维,以及和实际业务关联的案例的整个流程
2018-12-17 - Fergus 👍(9) 💬(2)
自己在从事这方面的工作,更多的时候是拿着钉子找锤子,同时朝着“自动化”的方向去改善自己的工作方式。 随着工作的开展,发现自己的基础不扎实、知识过于分散,同时缺乏数据的解读能力,目之所及即是思想的极限。 读完文章和留言已非常有收获,感谢。
2018-12-17 - Conan 👍(8) 💬(1)
Multi-Dimension: 1. 理解每节课中讲到的概念 2. 重复文章中的代码示例 3. 自己根据已经学到的内容再进行拓展学习 Ask: 1. Google 2. stack overflow 3. 留言提问 Sharing: 1. 把每节课所学整理成笔记在留言里分享
2018-12-19 - 任欣 👍(8) 💬(1)
老师讲的数据就是这个时代的石油,确实是这样子的,在读研的时候深有体会,实验室的很多科研,项目都需要用到数据分析的思维和能力,工作之后也在为现在的公司处理数据帮助运营人员进行精准营销,无论是传统行业还是互联网行业,这都是一门重要的能力,希望以后能够在课上和老师有更多的交流。
2018-12-17 - Yezhiwei 👍(6) 💬(1)
希望能学到老师训练思维的方法
2018-12-18 - 微光lu 👍(6) 💬(1)
老师您好,跨专业的研一同学,选了数据挖掘这门课,老师上课主要讲了一些算法 有时候算法原理可以听明白,但是让自己用实际数据编程实践就很困难完成不了,目前学期末了Python才刚简单学了一遍,想问老师算法,编程需要掌握到什么程度,才可以达到能用实际数据分析。谢谢老师
2018-12-17 - React 👍(5) 💬(1)
我想统计一下php职位某个范围薪资中招聘信息出现最多的关键词,可以通过专栏的学习得到解答吗
2018-12-17 - 姜戈 👍(5) 💬(1)
之前一直在看推荐系统的内容,还没入门,就被各种算法搞得头大,浏览了课程安排,希望数据分析45讲让我对推荐系统的学习打下坚实基础.
2018-12-17