作家
登录

如何成为一名数据分析师:数据的初步认知

作者: 来源: 2017-12-11 17:21:15 阅读 我要评论

若何成为一名数据分析师:数据的初步认知

对数标准化:

若何成为一名数据分析师:数据的初步认知

顾名思义,最大年夜值、最小值本身没有什么好解释的。

三、指标值统计

1) 经由过程描述统计对数据集中趋势、离散程度、分布作认知

描述统计指对数据进行一些描述性的统计,包含均值、中位数、方差等。它重要包含三个方面:

  • 经由过程均值、众数、中位数等不雅察平均程度或说是集中趋势;
  • 经由过程方介入标准差等指标不雅察离散程度、波动大年夜小;
  • 经由过程分位数、最大年夜最小值、数据分布图等不雅察指标的区间分布情况。

1. 平劫数

经常说的是算术平劫数,即“N 个数字相加后除以 N“。在实际营业中,我们还会应用加权平劫数,即“给不合维度的指标付与不合营业权重后再相加除以权重总和,一般权重可以设为 1”。

平劫数的表示含义是:一个群体在某项数据上的一般程度或者集中趋势。

2. 众数

四分位数组合最大年夜值、最小值,可以让我们初步认知数据的分布特点。

众数真正的价值,不在于数值型数据中的应用而在于用在类别型的数据中。在数值型数字中,可能因为数字精度太细,导致数字出现次数都很少,几乎没有众数;而类别型数据中,众数有时会比较具有代表性。比如:体系每 5 分钟大年夜气象预告网站攫取一次及时气象,以小时为单位猜测将来气象时,我们可以简单取 12 次攫取中出现次数最多的记录作为这个小时的平均气象。

3. 中位数

顾名思义,中位数就是指排在中心地位的数字,将序列分为两部分。

中位数的优势在于它能避免数据的平均程度受到异常值的影响。在数据未进行较完全的清洗时,强烈建议采取中位数代表序列的中心程度。

4. 方介入标准差

方差和标准差是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量,衡量数据序列的波动情况。

若何成为一名数据分析师:数据的初步认知

以上为方差计算公式,开方的结不雅即为标准差。

5. 四分位数

百分位即降数据升序分列后,具体数据值的序号除以数据值的总数,所得出的百分比,即该数据值对应的百分位数。我们一般比较关怀:25%、50%、75% 分位数。

6. 最大年夜值、最小值

我们经由过程各类办法获取数据,SQL 萌芽是数据类工作人员最常见的取数方法。SQL 语句的掉足将导致获得的数据集掉足,以下是进行 SQL 检查时须要被重点存眷的点:

  • 存眷 join 处理的逻辑关系,包含采取的 SQL 连接方法 inner、left 照样 outer、两张表之间数据对应关系是 1:1、1:n 照样n:m 等;
  • 存眷 SQL 细节,包含是否采取 distinct 去重、采取 case 语句划分类别时的分类区间界线、group by 进行数据聚合的指标粒度是否精确;
  • 多版本代码检查时存眷选择前提,对于 SQL 复竽暌姑的场景,我们要重点存眷数据选择前提的更新调换是否完全;
  • 聚合处理时,最好结合 if 前提清除极端值、异常值。

7. 数据分布

当我们须要不雅察两个字段之间是否存在互相竽暌拱响的关系瓯,我们可以简单的应用相干系数。以下介绍三种相干系数,在不通场景有不合的实费用。

1. 皮尔逊相干

若何成为一名数据分析师:数据的初步认知

用于度量两个变量X和Y之间的相干(线性相干),其值介于-1和1之间。

当 r>0 时,表示两变量正相干,r<0 时,两变量为负相干;

  • 当 |r|=1 时,表示两变量为完全线性相干,即为函数关系;
  • 当 r=0 时,表示两变量间无线性相干关系;
  • 当 0<|r|<1 时,表示两变量存在必定程度的线性相干。且 |r| 越接近 1,两变量间线性关系袈浣密切;|r| 越接近于 0,表示两变量的线性相干次日;

一般可按三级划分:0.8-1.0 极强相干,0.6-0.8 强相干,0.4-0.6 中等程度相干,0.2-0.4 弱相干,0.0-0.2 极弱相干或无相干。

垃圾数据或者异常值能采取的处理手段较少,当数据记录占比较大年夜,我们起首应去寻找造成数据异常的原因,测验测验大年夜泉源解决它;当数据记录占比不多时,我们可以采取直接删除的方法。

实用前提:

  • 数据(近似)服大年夜正态分布
  • 尽可能没有异常点
  • 用于描述线性相干
  • 缺点:当样本量 n 较小时,相干系数的波动较大年夜;

2) 相干系数统计,对指标间的互相感化关系进行认知

2. 斯皮尔曼等级相干

若何成为一名数据分析师:数据的初步认知


  推荐阅读

  iOS 11的Bug这么多,库克怎么看?(附Bug解决办法)

开辟者大年夜赛路演 | 12月16日,技巧立异,北京不见不散 为了适配 iPhone X 和 iPad Pro,iOS 迎来了自 iOS 7 之后最大年夜跨度的进级——瞧瞧苹不雅官网是怎么说的:凡是「里程>>>详细阅读


本文标题:如何成为一名数据分析师:数据的初步认知

地址:http://www.17bianji.com/lsqh/39672.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)