Python Pandas DataFrame 删除缺失值 None Nan drop dropna 替换缺失值 fillna 重复值删除 duplicate 数值替换 replace apply

本文介绍: 一、获取缺失值。二、剔除缺失值drop dropna。三、缺失值补全 fillna。四、重复值剔除 duplicate（按照行和列）。五、数值转换 replace a p ply applymap。

一、获取缺失值。
二、剔除缺失值。
三、缺失值补全。
四、重复值剔除（按照行和列）。
五、数值转换。

原始数据展示。数据下载链接 https://download.csdn.net/download/qq_35240689/86723500?s pm=1001.2014.3001.5503

在这里插入图片描述

获取所有的缺失值，返回一个 true 和 false 的表
在这里插入图片描述

df.isnull()

df.isnull().sum()

df.isnull().sum(axis='columns')

df.isnull().all()

1. 剔除 `植物园` 这一列缺失值的 2种方式

df1 = df.drop(columns='植物园')
df1 = df.drop('植物园', axis=1)

df1 = df.loc[:, ~(df.isnull().all())]

df1[~(df1.isnull().any('columns'))]

df.dropna(axis='columns', how='all', inplace=True)

df.dropna(axis='index', how='any', inplace=True)

df.fillna(method='ffill')

df.fillna(method='bfill')

df.duplicated()

df.drop_duplicates()

df.duplicated(subset=['天坛'], keep=False)

df.drop_duplicates(subset=['天坛'], keep=False)

df.replace(np.nan, -9999)

df.replace([np.nan, 0], -9999)

只关注和设置这个规则，循环这种事情交给编程语言去处理

def aqi_level(aqi):
    if aqi&gt;0 and aqi<=50:
        level = '优'
    elif aqi&gt;50 and aqi<=100:
        level = '良'
    elif aqi&gt;100 and aqi<=150:
        level = '轻度污染'
    elif aqi&gt;150 and aqi<=200:
        level = '中度污染'
    elif aqi&gt;200 and aqi<=300:
        level = '重度污染'
    else:
        level = '严重污染'
    return level

# 数据预处理一下  将所有的类型都转为 AQI
aqi = df[df['type']=='AQI']
aqi['东四'].apply(aqi_level)

#~aqi.columns.isin(['date', 'hour', 'type']) 取非这三列的所有列

aqi.loc[:, ~aqi.columns.isin(['date', 'hour', 'type'])].apply(np.mean, axis=0)

aqi.loc[:, ~aqi.columns.isin(['date', 'hour', 'type'])].applymap(aqi_level)