最强总结! T检验 !

文摘   2024-09-25 11:26   北京  

哈喽,我是小白~

今儿和大家详细聊聊T检验!~

T检验(t-test)是统计学中一种用于比较两个数据集均值是否有显著差异的检验方法,尤其适用于样本较小且未知总体标准差的情况。

它的应用场景主要是在以下两种假设下:

  • 零假设(Null Hypothesis, H0):认为两组样本的均值相等,没有显著差异。
  • 备择假设(Alternative Hypothesis, H1):认为两组样本的均值不相等,存在显著差异。

我们通过计算一个统计量T值,并将其与T分布的临界值相比。如果T值落在临界区间外,则拒绝零假设,说明两组均值存在显著差异。

举个例子:

假设我们有两组学生,分别使用不同的教学方法,组1的学生使用传统教学法,组2的学生使用一种新的教学方法。我们希望知道新的教学方法是否能显著提高学生成绩。我们从两组学生中各抽取了10人,并计算了他们的平均成绩。为了判断成绩是否有显著差异,我们可以进行T检验。

在这个例子中,T检验就是帮助我们确定两组学生成绩的均值差异是否只是随机波动,还是由不同教学方法引起的实质性差异。

T检验的特点:

1. 样本较小:适用于样本量较小的情况,特别是当样本量小于30时。

2. 标准差未知:T检验用于总体标准差未知的场合。

3. 假设正态分布:T检验要求样本数据服从或近似服从正态分布。

4. 三种主要类型

  • 单样本T检验(One-Sample t-test):用于比较单一样本均值与已知总体均值的差异。
  • 独立样本T检验(Independent t-test):比较两组独立样本的均值差异。
  • 配对样本T检验(Paired t-test):用于比较两个相关样本(如前后测试数据)之间的均值差异。

T分布的特性和形状

T分布和标准正态分布都呈钟形曲线,具有对称性。不同点在于,T分布的形状取决于自由度(Degrees of Freedom, df),当自由度较小时,T分布的尾部更厚,表示在较小样本量下,数据有更大的波动空间。

  • 自由度(df):T检验中的自由度一般为样本量减去1。自由度越大,T分布的形状越接近标准正态分布。
  • 尾部更厚:自由度较低时,T分布的尾部比正态分布厚,表示极端值出现的可能性更大。

可视化T分布:

大家会发现,随着自由度增加,T分布逐渐向标准正态分布靠拢。

import numpy as np
import scipy.stats as stats
import matplotlib.pyplot as plt

# 生成T分布和标准正态分布的概率密度函数
x = np.linspace(-55100)
t_dist_df_2 = stats.t.pdf(x, df=2)  # 自由度为2
t_dist_df_10 = stats.t.pdf(x, df=10)  # 自由度为10
normal_dist = stats.norm.pdf(x)  # 标准正态分布

# 绘图
plt.figure(figsize=(86))
plt.plot(x, t_dist_df_2, label='T-distribution (df=2)', color='red')
plt.plot(x, t_dist_df_10, label='T-distribution (df=10)', color='blue')
plt.plot(x, normal_dist, label='Normal Distribution', color='green', linestyle='--')
plt.title("Comparison of T-distributions and Normal Distribution")
plt.xlabel("x")
plt.ylabel("Density")
plt.legend()
plt.grid(True)
plt.show()
  • 自由度为2的T分布:你可以看到它的尾部更厚,表明较小样本量下T值的波动更大。
  • 自由度为10的T分布:与标准正态分布的形状更加接近。

T检验的详细推导过程

T检验的核心思想是通过计算两个样本均值差异的标准化量值,并根据自由度下的T分布确定该差异是否显著。

单样本T检验公式:

当我们有一个样本要与已知总体均值进行比较时,T值的计算公式为:

其中:

  •  是样本均值
  •  是总体均值
  •  是样本标准差
  •  是样本量

推导过程:

1. 均值差异:首先计算样本均值与总体均值的差异 

2. 标准化:由于差异的绝对值没有意义,我们需要对其进行标准化,即除以样本标准差的估计值 

3. T分布:在样本服从正态分布且总体标准差未知的情况下,T值会服从自由度为  的T分布。

两独立样本T检验公式:

当我们比较两个独立样本的均值时,T值的公式为:

其中:

  •  和  分别是两组样本的均值
  •  和  是两个样本的样本量
  •  是两组样本的合并标准差,计算公式为:

推导过程:

1. 均值差异:首先计算两个样本均值的差异 

2. 标准化差异:使用合并标准差  对均值差异进行标准化,合并标准差结合了两个样本的变异性。

3. 自由度:根据样本量和样本标准差,计算合并的自由度 

Python实现:T检验和可视化

在实际分析中,T检验常用于小规模样本下的均值比较。以下代码演示了如何使用Python实现T检验,并进行数据可视化。

import numpy as np
import scipy.stats as stats
import matplotlib.pyplot as plt
import seaborn as sns

# 设置随机种子
np.random.seed(0)

# 生成两个正态分布的样本数据
group1 = np.random.normal(601030)  # 均值60,标准差10,样本量30
group2 = np.random.normal(651230)  # 均值65,标准差12,样本量30

# 进行独立样本T检验
t_stat, p_value = stats.ttest_ind(group1, group2)

print(f"T统计量: {t_stat}")
print(f"p值: {p_value}")

# 可视化两组数据的分布
plt.figure(figsize=(86))
sns.histplot(group1, color="blue", label="Group 1", kde=True, stat="density", bins=10)
sns.histplot(group2, color="red", label="Group 2", kde=True, stat="density", bins=10)
plt.title("Group 1 vs Group 2 - T-Test Example")
plt.legend()
plt.show()
  • 数据生成:生成了两组服从正态分布的样本数据,代表不同组学生的成绩。

  • T检验:使用 scipy.stats.ttest_ind 进行独立样本T检验,输出T统计量和p值。

  • 可视化:绘制了两组数据的分布直方图,叠加了概率密度曲线,可以直观地看到两组数据的分布情况。

机器学习中的T检验应用

T检验常用于特征选择,尤其是在分类问题中,我们可以通过T检验来确定哪些特征在不同类别之间有显著差异。

from sklearn.datasets import load_iris
from sklearn.feature_selection import f_classif
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score

# 加载Iris数据集
data = load_iris()
X = data.data
y = data.target

# 使用ANOVA的F值检验(类似于T检验)进行特征选择
F_values, p_values = f_classif(X, y)

print("各特征的F值:", F_values)
print("各特征的p值:", p_values)

# 根据p值选择显著特征
selected_features = X[:, p_values < 0.05]

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(selected_features, y, test_size=0.3, random_state=0)

# 训练逻辑回归模型
model = LogisticRegression()
model.fit(X_train, y_train)

# 预测并计算准确率
y_pred = model.predict(X_test)
print("模型准确率:", accuracy_score(y_test, y_pred))

1. F检验:类似于T检验,F检验用于比较多个类别之间特征的方差。根据p值,我们可以选择显著性高的特征用于模型训练。

2. 逻辑回归模型:通过选择显著性特征后,使用逻辑回归模型对Iris数据集进行分类,并计算模型准确率。

最后

以上就是今天所有的内容了。
如果对你来说比较有用,记得点赞、收藏,慢慢学习~
下期会有更多干货等着你!~


Python和机器学习初学者
Python和机器学习分享,只写干货,一起学习~
 最新文章