机器学习 - 训练/测试
评估您的模型
在机器学习中,我们创建模型来预测某些事件的结果,就像上一章中我们根据汽车的重量和发动机尺寸预测汽车的二氧化碳排放量一样。
为了衡量模型是否足够好,我们可以使用一种称为训练/测试的方法。
什么是训练/测试
训练/测试是一种衡量模型准确性的方法。
它被称为训练/测试,因为您将数据集拆分为两个集合:训练集和测试集。
80% 用于训练,20% 用于测试。
您使用训练集训练模型。
您使用测试集测试模型。
训练模型意味着创建模型。
测试模型意味着测试模型的准确性。
从数据集开始
从您要测试的数据集开始。
我们的数据集展示了 100 位顾客在商店中的购物习惯。
示例
import numpy
import matplotlib.pyplot as plt
numpy.random.seed(2)
x = numpy.random.normal(3, 1, 100)
y = numpy.random.normal(150, 40, 100) / x
plt.scatter(x, y)
plt.show()
结果
x 轴表示购买前经过的分钟数。
y 轴表示购买所花费的金额。
拆分为训练/测试
训练集应为原始数据的 80% 的随机选择。
测试集应为剩余的 20%。
train_x = x[:80]
train_y = y[:80]
test_x = x[80:]
test_y = y[80:]
显示训练集
使用训练集显示相同的散点图
显示测试集
为了确保测试集不完全不同,我们也会查看一下测试集。
拟合数据集
数据集长什么样?我认为最佳拟合方式是 多项式回归,所以让我们绘制一条多项式回归线。
为了在数据点上绘制一条线,我们使用 matplotlib 模块的 plot()
方法。
示例
在数据点上绘制一条多项式回归线。
import numpy
import matplotlib.pyplot as plt
numpy.random.seed(2)
x = numpy.random.normal(3, 1, 100)
y = numpy.random.normal(150, 40, 100) / x
train_x = x[:80]
train_y = y[:80]
test_x = x[80:]
test_y = y[80:]
mymodel = numpy.poly1d(numpy.polyfit(train_x, train_y, 4))
myline = numpy.linspace(0, 6, 100)
plt.scatter(train_x, train_y)
plt.plot(myline, mymodel(myline))
plt.show()
结果
结果可以支持我关于数据集拟合多项式回归的建议,即使我们尝试预测数据集之外的值时会得到一些奇怪的结果。例如,这条线表明,一位顾客在商店里停留 6 分钟会产生 200 美元的购买。这可能是一个过度拟合的迹象。
但 R 平方分数呢?R 平方分数是衡量我的数据集拟合模型程度的好指标。
R2
还记得 R2,也称为 R 平方吗?
它衡量 x 轴和 y 轴之间的关系,其值范围从 0 到 1,其中 0 表示没有关系,而 1 表示完全相关。
sklearn 模块有一个名为 r2_score()
的方法,可以帮助我们找到这种关系。
在这种情况下,我们想测量顾客在商店停留的时间与他们花费的金额之间的关系。
示例
我的训练数据在多项式回归中的拟合程度如何?
import numpy
from sklearn.metrics import r2_score
numpy.random.seed(2)
x = numpy.random.normal(3, 1, 100)
y = numpy.random.normal(150, 40, 100) / x
train_x = x[:80]
train_y = y[:80]
test_x = x[80:]
test_y = y[80:]
mymodel = numpy.poly1d(numpy.polyfit(train_x, train_y, 4))
r2 = r2_score(train_y, mymodel(train_x))
print(r2)
自己尝试 »
**注意:**结果 0.799 表明存在一个还不错的关系。
引入测试集
现在我们已经创建了一个还不错的模型,至少在训练数据方面是这样。
现在我们想用测试数据来测试模型,看看它是否能得到相同的结果。
示例
让我们找到使用测试数据时的 R2 分数。
import numpy
from sklearn.metrics import r2_score
numpy.random.seed(2)
x = numpy.random.normal(3, 1, 100)
y = numpy.random.normal(150, 40, 100) / x
train_x = x[:80]
train_y = y[:80]
test_x = x[80:]
test_y = y[80:]
mymodel = numpy.poly1d(numpy.polyfit(train_x, train_y, 4))
r2 = r2_score(test_y, mymodel(test_x))
print(r2)
自己尝试 »
**注意:**结果 0.809 表明模型也拟合了测试集,我们有信心可以使用该模型预测未来的值。
预测值
现在我们已经确定我们的模型还算不错,我们可以开始预测新的值了。
这个例子预测这位顾客将花费 22.88 美元,这似乎与图表相符。