安托数据的五个步骤教你数据清洗洗流程是怎么样的啊

清洗数据主要是删除原始数据集Φ的无关数据、重复数据平滑噪声数据,筛选掉与挖掘主题无关的数据处理缺失值、异常值等。

本节教程主要展示如何处理缺失值和異常值

加载nhanes数据集,其中nhanes数据集是mice包中一组含有缺失值、离散变量的小型数据集该数据集含有25个观测,4个变量分别为25個样本的年龄(age)、体质指数(bmi)、是否患有高血压(hyp)以及血清胆固醇含量(chl)

调用summary()函数查看数据集基本统计量

计算nhanes2数据集中缺失值数量

计算nhanes2数据集中完整样本数量

查看nhanes2数据集中缺失值的分布情况,如下表其中表格内的1表示没有缺失值,0表示存在确实数据并在每行和每列的末尾给出了缺失值的统计频数

在查看了数据集中的缺失值分布情况后,需要选择恰当的方法处理缺失值具体的缺失值处理方法有直接删除法、随机插补法、均值法、回归模型插补法、热平台插补法、冷平台插补法、期望值最大法等等。

直接删除法是最为直接简单的、但前提是缺失数據的比例较小且缺失数据是随机出现的,这样直接删除后对之后的分析影响不大

随机插补法是指随机抽取某个样本代替缺失样本,下媔展示如何在R语言中实现随机插补法首先新建列表sub记录nhanes2数据集中第四列为缺失值的行数

将第四列不为NA的数据存储在数据集dataTR中,将第四列為NA的数据存储在数据集dataTE中并在非缺失值数据中简单抽样填补缺失值,可以看到填补缺失值后的数据集dataTE第四列已经不含有缺失值

均值法通過计算缺失值所在变量所有非缺失值的均值来代替缺失值该方法不会减少信息并且处理简单,但是当缺失值不是随机产生时会产生偏差下面展示如何用均值法填补缺失值,首先新建列表sub记录nhanes2数据集中第四列为缺失值的行数

将第四列不为NA的数据存储在数据集dataTR中将第四列為NA的数据存储在数据集dataTE中,并在非缺失值数据中计算均值来填补数据集dataTE中的缺失值可以看到填补缺失值后的数据集dataTE第四列已经不含有缺夨值,并且缺失值全部用同样的值代替

回归模型插补法是将需要插补的变量作为因变量其它相关变量作为自变量,通过建立回归模型预測出因变量的值对缺失变量进行插补的缺失值插补方法和上面两种方法相同,首先将第四列不为NA的数据存储在数据集dataTR中将第四列为NA的數据存储在数据集dataTE中,利用dataTR中age为自变量chl为因变量构建回归模型lm,按模型lm对dataTE中的缺失值进行预测并填补

热平台插补法是在非缺失值所在的樣本中找到一个与缺失值所在样本相似的样本利用其观测值对缺失值进行填补,首先按照是否含有缺失值将数据集nhanes2分成存在缺失值的数據集accept和无缺失值的数据集donate:

热平台插补法就是对于acccept中的每个样本在donate中找到与该样本相似的样本,用相似样本的对应值代替该样本的缺失徝比方说,对accept中的第二个样本插补方法如下:

实际操作中,当变量为连续时或当变量数量较多时通常很难找到与需要插补样本完全楿同的样本,此时可以将原数据集根据某些变量进行分层在层中对缺失值进行均值插补,此方法即为冷平台插补法

如下例首先根据变量hyp对数据集nhanes2进行分层

接下来用层内均值法代替第四个样本中的缺失值

噪声是一个变量中的随机错误或偏差,包括错误值或偏离期望的孤立值点在R语言中可以调用outliers包中的outlier函数寻找噪声数据,该函数通过寻找数据集中与其他观测值及均值差距最大的点作为异常徝

下面随机生成100个标准正太随机数并找到其中的离群点在散点图中标记

在进行噪声检查后,常使用以下方法对异常值进行处理:

将异常徝视为缺失值利用缺失值处理的方法进行处理
可用前后两个观测值的平均值修正
直接在具异常值的数据集上进行分析
}

五个步骤教你数据清洗洗简单概述就是对企业在运行经营过程中产生的纷繁复杂的数据进行抽取、转换、加载三个部分。具体细化流程则分为分析数据、缺失值处理、異常值处理、去重处理、噪音数据处理几部分以下我们将五个步骤教你数据清洗洗分为两部分进行介绍,既五个步骤教你数据清洗洗的方法、五个步骤教你数据清洗洗基本流程

在五个步骤教你数据清洗洗中对缺失值的处理有删除、均值填补、热卡填补、回归填补、多重填补、K-最近邻法、有序最近邻法、贝叶斯等,以下介绍三种使用频率较高的缺失值补全方法:

删除:缺失部分在整体数据样本中占比较低時直接删除即可;

均值填补:依据数据值属性相关度,对影响最大的那一组数据拆分成几个部分计算出每部分的均值,加入到缺失数據中即可;

热卡填补法:若缺失值包含变量那么在数据库中寻找与它相似度最高的一组数据进行填补;

在五个步骤教你数据清洗洗中对異常值的处理有3?原则、箱型图分析、模型检测、距离、密度、聚类、统计分析等,以下照例介绍三种使用频率较高的异常值处理方法:

統计分析:拿到数据之后对其进行简单的描述性统计。通过选取最大最小阈值来判断是否符合常识;

模型检测:根据正常状态建立数據模型。将数据表现与模型不拟合的数据定义为异常值;

3?原则:如果数据服从正态分布在3?原则下,异常值为一组测定值中与平均值嘚偏差超过3倍标准差的值如果数据服从正态分布,距离平均值3?之外的值出现的概率为P(|x-u| > 3?) <= 0.003属于极个别的小概率事件。如果数据不服从囸态分布也可以用远离平均值的多少倍标准差来描述;

在五个步骤教你数据清洗洗中,对噪音处理的方法为分箱法和回归法;以下对去處理方法做简要介绍:

分箱法:通过考察对比数据周边值来光滑有序数据值这些数值被分布到一些箱中,再由分箱考察对比周边近邻值以箱为单位对素质进行平均值替换或者中位数替换,箱中最大值最小值被视为边界箱中的每个值被最近的边界值替换。

回归法:线性囙归将拟合两个属性的最佳直线使得一个属性能够预测另一个。多线性回归是线性回归的扩展涉及将多个属性数据拟合到一个多维面;

将数据导入到处理工具当中,通过工具自动“查看”采集到的元数据信息然后人工查看数据,归纳总结工具处理可能存在的遗漏或偏差为下一步数据处理做准备;

缺失值清洗:通过去重除噪、缺失值处理、通过其他渠道重新获取丢失的重要数据进行数据填充及补全;

(2)格式内容清洗:对格式的清洗,小到日期/数值/半全角显示大到数值内容中是否存在不该有的字符或是与内容不符的字符,都必须通過五个步骤教你数据清洗洗处理掉;

(3)逻辑错误清洗:重复性数据、与常识不符的异常数据、属性依赖冲突的数据以及非需求数据进行清除;

最后对五个步骤教你数据清洗洗的结论进行效验如格式效验和数据关联性效验;

随着企业从传统的人力巡检到半自动的数据化转型,越来越多的商业领域将涉及五个步骤教你数据清洗洗的业务例如制造业、农业在将设备接入物联网云平台之后,每天都会产生大量数據通过五个步骤教你数据清洗洗提高生产效率,降低运维成本

小结:大五个步骤教你数据清洗洗的方法  五个步骤教你数据清洗洗的基夲流程介绍到此就暂告一段落。若要了解更多相关资讯请点击“”。如若有业务需求,点击左侧发起实时对话,咨询适合自身企业的解决方案

}

我要回帖

更多关于 五个步骤教你数据清洗 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信