多项式回归

介绍

直线回归研究的是一个依变数与一个自变数之间的回归问题，但是，在畜禽、水产科学领域的许多实际问题中，影响依变数的自变数往往不止一个，而是多个，比如绵羊的产毛量这一变数同时受到绵羊体重、胸围、体长等多个变数的影响，因此需要进行一个依变数与多个自变数间的回归分析，即多元回归分析。

研究一个因变数与一个或多个自变数间多项式的回归分析方法，称为多项式回归（Polynomial Regression）。如果自变数只有一个时，称为一元多项式回归；如果自变数有多个时，称为多元多项式回归。在一元回归分析中，如果依变数y与自变数x的关係为非线性的，但是又找不到适当的函式曲线来拟合，则可以採用一元多项式回归。

一元m次多项式回归方程为：

。

二元二次多项式回归方程为：

。

多项式回归的最大优点就是可以通过增加x的高次项对实测点进行逼近，直至满意为止。事实上，多项式回归可以处理相当一类非线性问题，它在回归分析中占有重要的地位，因为任一函式都可以分段用多项式来逼近。因此，在通常的实际问题中，不论依变数与其他自变数的关係如何，我们总可以用多项式回归来进行分析。

多项式回归分析

多项式回归问题可以通过变数转换化为多元线性回归问题来解决。

对于一元m次多项式回归方程，令

，则

就转化为m元线性回归方程

。

因此用多元线性函式的回归方法就可解决多项式回归问题。需要指出的是，在多项式回归分析中，检验回归係数

是否显着，实质上就是判断自变数x的i次方项对因变数y的影响是否显着。

对于二元二次多项式回归方程，令

，则该二元二次多项式函式就转化为五元线性回归方程

。但随着自变数个数的增加,多元多项式回归分析的计算量急剧增加。多元多项式回归属于多元非线性回归问题。

模型如以下形式的称为一元多项式回归模型：

套用

多项式回归在回归分析中很重要，因为任意一个函式至少在一个较小的範围内都可以用多项式任意逼近，因此在比较複杂的实际问题中，有时不问y与诸元素的确切关係如何，而用回归分析进行分析运算。

比如，对房屋成交信息建立多项式回归方程，并依据回归方程对房屋价格进行预测。

实例数据：如下图，为了方便展示，成交信息只使用了房屋的面积以及对应的成交价格。

实验过程：使用算法为线性回归

实现步骤：

1、建立工程并导入sklearn包

import matplotlib.pyplot as pltimport numpy as npfrom sklearn import linear_modelfrom sklearn.preprocessing import PolynomialFeatures

2、载入训练数据，建立回归方程

# 读取数据集datasets_X = []datasets_Y = []fr = open('prices.txt','r')lines = fr.readlines()for line in lines:    items = line.strip().split(',')    datasets_X.append(int(items[0]))    datasets_Y.append(int(items[1]))length = len(datasets_X)datasets_X = np.array(datasets_X).reshape([length,1])datasets_Y = np.array(datasets_Y)minX = min(datasets_X)maxX = max(datasets_X)X = np.arange(minX,maxX).reshape([-1,1])poly_reg = PolynomialFeatures(degree = 2)X_poly = poly_reg.fit_transform(datasets_X)lin_reg_2 = linear_model.LinearRegression()lin_reg_2.fit(X_poly, datasets_Y)

3、可视化处理

# 图像中显示plt.scatter(datasets_X, datasets_Y, color = 'red')plt.plot(X, lin_reg_2.predict(poly_reg.fit_transform(X)), color = 'blue')plt.xlabel('Area')plt.ylabel('Price')plt.show()

实验结果：通过多项式回归拟合的曲线与数据点的关係如右图所示。依据该多项式回归方程即可通过房屋的尺寸，来预测房屋的成交价格。

多项式回归

多项式回归

基本介绍

介绍

多项式回归分析

套用

相关推荐