
本文档旨在指导读者如何使用Python上传并读取Excel数据集,并在此基础上进行简单的线性回归分析。主要涉及pandas库的数据读取和处理,以及sklearn库的线性回归模型应用。通过本文,读者可以掌握数据导入、数据预处理以及简单线性回归建模的基本流程。
1. 数据导入与读取
首先,我们需要使用pandas库来读取Excel文件。确保你已经安装了pandas库。如果没有,可以使用以下命令安装:
pip install pandas
然后,可以使用以下代码读取Excel文件:
import pandas as pd
# 替换为你的Excel文件路径
excel_file_path = "/Users/zeinabhassano/Documents/Master's_thesis/Gender Inequality/Labor data/ILO modelled estimates/updated/employment by sex and age - ilo modelled estimates (thousands) - annual.xlsx"
# 读取Excel文件
try:
df = pd.read_excel(excel_file_path, sheet_name='Sheet1') # 替换为你的sheet名称,如果只有一个sheet,可以省略sheet_name参数
print(df.head()) # 打印前几行数据,检查是否读取成功
except FileNotFoundError:
print(f"文件未找到: {excel_file_path}")
except Exception as e:
print(f"读取文件时发生错误: {e}")注意事项:
立即学习“Python免费学习笔记(深入)”;
- 确保文件路径正确。
- 如果Excel文件包含多个sheet,需要指定sheet_name参数。
- 可以使用try...except语句来处理文件不存在或读取错误的情况。
2. 数据预处理
在进行线性回归之前,需要对数据进行预处理。这可能包括:
- 处理缺失值。
- 将分类变量转换为数值变量(例如,使用独热编码)。
- 选择合适的特征和目标变量。
以下是一个示例,展示如何处理缺失值并将性别变量转换为数值变量:
import pandas as pd # 假设数据框名为df # 1. 处理缺失值 (这里使用均值填充,可以根据实际情况选择其他方法) df = df.fillna(df.mean()) # 2. 将性别变量转换为数值变量 (假设性别列名为'Sex', Male=1, Female=0) df['Sex_Encoded'] = df['Sex'].apply(lambda x: 1 if x == 'Male' else 0) # 打印处理后的数据 print(df.head())
注意事项:
立即学习“Python免费学习笔记(深入)”;
- 缺失值的处理方法取决于数据的具体情况。常用的方法包括删除包含缺失值的行/列,使用均值/中位数/众数填充缺失值等。
- 分类变量的编码方式有很多种,例如独热编码、标签编码等。选择合适的编码方式取决于模型的具体要求。
3. 线性回归建模
使用sklearn库可以方便地进行线性回归建模。确保你已经安装了sklearn库。如果没有,可以使用以下命令安装:
pip install scikit-learn
然后,可以使用以下代码进行线性回归建模:
import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error, r2_score
# 假设数据框名为df,目标变量为'Employment',特征变量为'Sex_Encoded'
X = df[['Sex_Encoded']] # 特征变量,注意必须是二维数组
y = df['Employment'] # 目标变量
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 80%训练集,20%测试集
# 创建线性回归模型
model = LinearRegression()
# 训练模型
model.fit(X_train, y_train)
# 预测
y_pred = model.predict(X_test)
# 评估模型
mse = mean_squared_error(y_test, y_pred)
r2 = r2_score(y_test, y_pred)
print(f"均方误差 (MSE): {mse}")
print(f"R^2 score: {r2}")
# 输出模型系数和截距
print(f"系数 (Coefficient): {model.coef_}")
print(f"截距 (Intercept): {model.intercept_}")代码解释:
- LinearRegression():创建线性回归模型。
- fit(X_train, y_train):使用训练数据训练模型。
- predict(X_test):使用测试数据进行预测。
- mean_squared_error(y_test, y_pred):计算均方误差。
- r2_score(y_test, y_pred):计算R^2 score。
- model.coef_: 输出模型系数。
- model.intercept_: 输出模型截距。
注意事项:
立即学习“Python免费学习笔记(深入)”;
- 需要将特征变量和目标变量分别赋值给X和y。
- 可以使用train_test_split函数将数据集划分为训练集和测试集。
- 可以使用不同的评估指标来评估模型的性能。
4. 总结
本文档介绍了如何使用Python上传、读取Excel数据集并进行简单的线性回归分析。主要步骤包括:
- 使用pandas库读取Excel文件。
- 对数据进行预处理,包括处理缺失值和将分类变量转换为数值变量。
- 使用sklearn库进行线性回归建模。
- 评估模型的性能。
通过学习本文档,读者可以掌握数据导入、数据预处理以及简单线性回归建模的基本流程。在实际应用中,可以根据数据的具体情况选择合适的预处理方法和模型。










