以我客岁做的一个项目为例:
3.4. 避免统计学成见 & 给出严谨的结论
我们公司的引导层欲望懂得为什愦我们的员工离职率很高,若何才可以避免这一点。遵守我膳绫擎介绍的流程:
- 大年夜人事部分收集数据,清跋扈的告诉他们我须要的数据时光跨度,变量。并和法务部分一路将数据中的隐私部分去除。
- 进行数据预处理,建模并评估。
- 大年夜中发掘贸易价值,如 a. 为什么员工会离职(将变量重要性进行排序,用决定计划树可视化分类结不雅) b. 什么样的员工值得留住?
- 制造申报,并像引导层报告请示我的发明,过程设计可视化等。
- 和其他部分的同事将这个项目包装成一个案例,卖给我们的其他客户。
这个根本包含了数据分析项目标根本流程,对于这个项目标一些有趣发明可以看我的另一个答复[2]。但不难看出,全部流程中有大年夜量的沟经由过程程,甚至还包含发卖的部分,这在一次表现了数据科学家的工作广度。
3. 对于数据科学家的一些感悟
数据科学家是个听起来异常“性感的”的岗亭,别忘了我们小时刻的妄图都是成为一个科学家。但抛开这些虚的器械,我们必须认清这个岗亭的核心就是将很多技能封装到一小我身上。而我们工作的┞俘常开展少不了其他同事的支撑和赞助,所以切切不要看不起别人的工作内容。没稀有据工程师进行数据采集,没有分析师帮我们美化图表和提出质疑,我们无法获得最好的结不雅。
数据分析项目一向都是世人拾柴火焰高,没有人可以当超人。所以在获得如许“高薪性感”的职位后,我们更应当把心装回肚子里,踏扎实实。
3.2. 不要盲目迷信算法
承接上一点,固然我们的工作重点之一是建模,但请不要神话算法,也不威胁算法以令同事,认为只有本身做的部分才有价值。
简单来说,可以经由过程没有免费的午餐定理(No Free Lunch Theorem -> NFL Theorem)来解释。NFL由Wolpert在1996年提出,其应用范畴本来为经计揭捉?。和那句家喻户晓的"世界没有免费的午餐"有所不合, NFL讲的是优化模型的评估问题。
在机械进修范畴,NFL告诉机械进修大年夜颐魅者:"假设所稀有据的分布可能性相等,当我们用任一分类做法来猜测未不雅测到的新数据时,对于误分的预期是雷同的。" 简而言之,NFL的定律指明,如不雅我们对要解决的问题一窍不通且并假设其分布完全随机且平等,那么任何算法的预期机能都是类似的。这个定理对于“盲目标算法崇拜”有息灭性的袭击。例如,如今很多人陷溺“深度进修”弗成自拔,那是不是深度进修就比其他任何算法都要好?在任何时刻表示都更好呢?未必,我们必须要加深对于问题的懂得,不克不及盲目标说某一个算法可以包打世界。
4.2. 大年夜实践中培养分析才能
周志华师长教师在《机械进修》一书中也简明扼要的总结:“NFL定理最重要的寄意,是让我们清跋扈的熟悉到,离开具体问题,空洞的谈‘什么进修算法更好’毫无意义。”
在这个深度进修就是一切的时代,作为数据科学家,我们要有本身的自力断定。
3.3. 看重数据可视化和模许可解释度
数据科学家作为一个更偏贸易应用的岗亭,而不是研究岗亭,须要看重数据可视化的重要性以及模许可解释度的意义。原因很简单,如不雅客户看不懂我们做的是什么,或者客户不信赖我们做的器械的靠得住性,你即使有再酷炫的模型,也执偾浪费时光。在大年夜部分中小型的数据分析项目中,用深度进修的机会是很有限的。原因包含但不限于:
- 数据量请求很大年夜
- 调参成本太高且奇淫巧技太多
- 模许可视化即解释度低
2.1. 分析数据和建模
而比较常用的机械进修模型是: 广义线性模型(generalized linear models),如最通俗的逻辑回归;还有以决定计划树为基底的模型,如随机丛林和Gradient Boosting Tree等。这两种模型都有很好的可解释性,并且都可以获得变量重要性系数。以Sklearn官方文档中的简单的决定计划树可视化为例:

我们可以清跋扈的看到一个数据点若何大年夜上至下被分到了不合的类别傍边。作为一个须要和不合背景的人沟通的职业,分类器可视化是一个很好沟通基本。
而可视化的好处远不止于此,在数据建模初期的可视化可以避免我们走很多弯路。以ISL[3]中附带的线性回归为例,我们一眼就可以看出最右边的图不像左边的图中的数据可以经由过程简单的线性回归进行拟合,可以直接跳过线性回归来节俭时光。

承接上一点,对于一个问题我们平日无法获得所有的相干变量,这导致了大年夜部分数据分析的结不雅其实或多或少都有成见。讲个经典的统计学笑话,夏天溺水身亡的人数比拟冬天大年夜幅度上升,而夏天吃冰激凌的人数也上升,所以获得结论: “吃冰激凌”会导致“溺水”。这种数据会撒谎的本质就在于我们无法获得所有的隐变量,如夏天去海边的人数上升,泅水的人数上升等。
而在数据分析的项目中,大年夜部分谬误无法像膳绫擎这个例子一眼就可以看穿,我们经常会获得很多看起来很可托但实袈潋大年夜误的结论。作为一个数据科学家,请在分析时当心在当心,谨慎再谨慎,因为我们的分析结不雅往往会直接影响到公司或者客户的收益。假设你做人事分析的项目,缺点的结论可能导致优良的员工被解雇。
推荐阅读
当然Google更为出名的是其搜刮引擎和告白投放。而如今他们正在被Google高端的产品所代替,包含Google计算引擎(GCE)、图形处理单位(GPU)与现场可编程门阵列加快、闪存以及人工智能与机械进修。 Tech Neo技>>>详细阅读
本文标题:数据科学工作者(Data Scientist) 的日常工作内容包括什么?
地址:http://www.17bianji.com/lsqh/39229.html
1/2 1

网友点评
精彩导读
科技快报
品牌展示