机器学习 - 多元回归
多元回归
多元回归类似于 线性回归,但它包含多个自变量,这意味着我们试图基于**两个或多个**变量来预测一个值。
看一下下面的数据集,它包含了一些关于汽车的信息。
汽车 | 型号 | 容积 | 重量 | CO2 |
丰田 | Aygo | 1000 | 790 | 99 |
三菱 | Space Star | 1200 | 1160 | 95 |
斯柯达 | Citigo | 1000 | 929 | 95 |
菲亚特 | 500 | 900 | 865 | 90 |
迷你 | Cooper | 1500 | 1140 | 105 |
大众 | Up! | 1000 | 929 | 105 |
斯柯达 | Fabia | 1400 | 1109 | 90 |
梅赛德斯 | A 级 | 1500 | 1365 | 92 |
福特 | 嘉年华 | 1500 | 1112 | 98 |
奥迪 | A1 | 1600 | 1150 | 99 |
现代 | I20 | 1100 | 980 | 99 |
铃木 | Swift | 1300 | 990 | 101 |
福特 | 嘉年华 | 1000 | 1112 | 99 |
本田 | 思域 | 1600 | 1252 | 94 |
现代 | I30 | 1600 | 1326 | 97 |
欧宝 | Astra | 1600 | 1330 | 97 |
宝马 | 1 | 1600 | 1365 | 99 |
马自达 | 3 | 2200 | 1280 | 104 |
斯柯达 | Rapid | 1600 | 1119 | 104 |
福特 | 福克斯 | 2000 | 1328 | 105 |
福特 | 蒙迪欧 | 1600 | 1584 | 94 |
欧宝 | 英速亚 | 2000 | 1428 | 99 |
梅赛德斯 | C 级 | 2100 | 1365 | 99 |
斯柯达 | 明锐 | 1600 | 1415 | 99 |
沃尔沃 | S60 | 2000 | 1415 | 99 |
梅赛德斯 | CLA | 1500 | 1465 | 102 |
奥迪 | A4 | 2000 | 1490 | 104 |
奥迪 | A6 | 2000 | 1725 | 114 |
沃尔沃 | V70 | 1600 | 1523 | 109 |
宝马 | 5 | 2000 | 1705 | 114 |
梅赛德斯 | E 级 | 2100 | 1605 | 115 |
沃尔沃 | XC70 | 2000 | 1746 | 117 |
福特 | B-Max | 1600 | 1235 | 104 |
宝马 | 2 | 1600 | 1390 | 108 |
欧宝 | Zafira | 1600 | 1405 | 109 |
梅赛德斯 | SLK | 2500 | 1395 | 120 |
我们可以根据发动机的尺寸来预测汽车的 CO2 排放量,但通过多元回归,我们可以加入更多的变量,例如汽车的重量,从而使预测更加准确。
它是如何工作的?
在 Python 中,我们有模块可以为我们完成工作。首先导入 Pandas 模块。
import pandas
在我们的 Pandas 教程 中了解 Pandas 模块。
Pandas 模块允许我们读取 csv 文件并返回一个 DataFrame 对象。
该文件仅用于测试目的,你可以在这里下载:data.csv
df = pandas.read_csv("data.csv")
然后创建一个包含自变量的列表,并将该变量称为X
。
将因变量放在一个名为y
的变量中。
X = df[['Weight', 'Volume']]
y = df['CO2']
**提示:** 通常将自变量列表命名为大写 X,将因变量列表命名为小写 y。
我们将使用 sklearn 模块的一些方法,因此我们也需要导入该模块。
from sklearn import linear_model
从 sklearn 模块中,我们将使用LinearRegression()
方法来创建一个线性回归对象。
该对象有一个名为fit()
的方法,它将自变量和因变量作为参数,并用描述关系的数据填充回归对象。
regr = linear_model.LinearRegression()
regr.fit(X, y)
现在我们有一个回归对象,可以根据汽车的重量和体积预测二氧化碳值。
# 预测一辆重量为 2300 公斤,体积为 1300 立方厘米的汽车的二氧化碳排放量
predictedCO2 = regr.predict([[2300, 1300]])
示例
查看整个示例的实际操作
import pandas
from sklearn import linear_model
df = pandas.read_csv("data.csv")
X = df[['Weight', 'Volume']]
y = df['CO2']
regr = linear_model.LinearRegression()
regr.fit(X, y)
# 预测一辆重量为 2300 公斤,体积为 1300 立方厘米的汽车的二氧化碳排放量
predictedCO2 = regr.predict([[2300, 1300]])
print(predictedCO2)
结果
[107.2087328]
我们预测一辆 1.3 升发动机,重量为 2300 公斤的汽车,每行驶 1 公里将释放约 107 克二氧化碳。
系数
系数是一个描述与未知变量关系的因子。
示例:如果 x
是一个变量,那么 2x
是 x
的两倍。 x
是未知变量,数字 2
是系数。
在这种情况下,我们可以询问重量相对于二氧化碳的系数值,以及体积相对于二氧化碳的系数值。 我们得到的答案告诉我们,如果我们增加或减少其中一个自变量,会发生什么。
示例
打印回归对象的系数值
import pandas
from sklearn import linear_model
df = pandas.read_csv("data.csv")
X = df[['Weight', 'Volume']]
y = df['CO2']
regr = linear_model.LinearRegression()
regr.fit(X, y)
print(regr.coef_)
结果
[0.00755095 0.00780526]
结果解释
结果数组表示重量和体积的系数值。
重量:0.00755095
体积:0.00780526
这些值告诉我们,如果重量增加 1 公斤,二氧化碳排放量将增加 0.00755095 克。
而且如果发动机尺寸(体积)增加 1 立方厘米,二氧化碳排放量将增加 0.00780526 克。
我认为这是一个合理的猜测,但让我们来测试一下!
我们已经预测到,如果一辆 1300 立方厘米发动机的汽车重量为 2300 公斤,二氧化碳排放量将约为 107 克。
如果我们把重量增加 1000 公斤会怎么样?
示例
复制之前的示例,但将重量从 2300 更改为 3300
import pandas
from sklearn import linear_model
df = pandas.read_csv("data.csv")
X = df[['Weight', 'Volume']]
y = df['CO2']
regr = linear_model.LinearRegression()
regr.fit(X, y)
predictedCO2 = regr.predict([[3300, 1300]])
print(predictedCO2)
结果
[114.75968007]
我们预测一辆 1.3 升发动机,重量为 3300 公斤的汽车,每行驶 1 公里将释放约 115 克二氧化碳。
这表明 0.00755095 的系数是正确的
107.2087328 + (1000 * 0.00755095) = 114.75968