Python方差特征过滤的实现 Python方差特征过滤的实例分析

时间:2021-08-15 小妮浅浅人气:1

想了解Python方差特征过滤的实例分析的相关内容吗，小妮浅浅在本文为您仔细讲解Python方差特征过滤的实现的相关知识和一些Code实例，欢迎阅读和指正，我们先划重点：Python,方差特征,过滤，下面大家一起来学习吧。

说明

1、通过特征本身的方差来筛选特征。特征的方差越小，特征的变化越不明显。

2、变化越不明显的特征对我们区分标签没有太大作用，因此应该消除这些特征。

实例

def variance_demo():
    """
    过滤低方差特征
    :return:
    """
    # 1. 获取数据
    data = pd.read_csv('factor_returns.csv')
    data = data.iloc[:, 1:-2]
    print('data:\n', data)
 
    # 2. 实例化一个转换器类
    transfer = VarianceThreshold(threshold=10)
 
    # 3. 调用fit_transform()
    data_new = transfer.fit_transform(data)
    print('data_new:\n', data_new, data_new.shape)
 
   
    return None

知识点扩充：

方差过滤法

VarianceThreshold 是特征选择的一个简单基本方法,其原理在于–底方差的特征的预测效果往往不好。而VarianceThreshold会移除所有那些方差不满足一些阈值的特征。默认情况下，它将会移除所有的零方差特征，即那些在所有的样本上的取值均不变的特征。

sklearn中的VarianceThreshold类中重要参数 threshold（方差的阈值），表示删除所有方差小于threshold的特征 #不填默认为0——删除所有记录相同的特征。

import pandas as pd
import numpy as np
np.random.seed(1) #设置随机种子，实现每次生成的随机数矩阵都一样
a= np.random.randint(0, 200,10)
b= np.random.randint(0, 200,10)
c= np.random.randint(0, 200,10)
d= [9,9,9,9,9,9,9,9,9,9]
data=pd.DataFrame({"A" : a,"B" : b,"C" : c,"D" : d})
data
from sklearn.feature_selection import VarianceThreshold
sel_model = VarianceThreshold(threshold = 0)
#删除不合格特征之后的新矩阵
sel_model.fit_transform(data)

加载全部内容