python中的多元（多项式）最佳拟合曲线？

如何在python中计算最佳拟合线，然后在matplotlib中的散点图上绘制它

我用普通最小二乘回归法计算线性最佳拟合线，如下所示：

from sklearn import linear_model
clf = linear_model.LinearRegression()
x = [[t.x1,t.x2,t.x3,t.x4,t.x5] for t in self.trainingTexts]
y = [t.human_rating for t in self.trainingTexts]
clf.fit(x,y)
regress_coefs = clf.coef_
regress_intercept = clf.intercept_      

这是多变量的（每种情况下都有许多x值）。所以，X是列表的列表，y是单个列表。 例如：

x = [[1,2,3,4,5], [2,2,4,4,5], [2,2,4,4,1]] 
y = [1,2,3,4,5]

但我如何用高阶多项式函数做到这一点呢。例如，不仅是线性的（x为M=1的幂），还有二项式的（x为M=2的幂）、二次的（x为M=4的幂），等等。例如，如何从以下公式中获得最佳拟合曲线

摘自Christopher Bishops的“模式识别和机器学习”，第7页：

被接受的答案 提供，它将使用numpy执行您需要的操作，您可以将结果插入到绘图中，如我在下面概述的那样

您只需将x点和y点数组以及所需的拟合度（顺序）传递到

MultiplyFit

。这将返回系数，然后可以使用numpy的polyval进行打印

注意：下面的代码已修改为进行多变量拟合，但绘图图像是早期非多变量答案的一部分

import numpy
import matplotlib.pyplot as plt
import multipolyfit as mpf

data = [[1,1],[4,3],[8,3],[11,4],[10,7],[15,11],[16,12]]
x, y = zip(*data)
plt.plot(x, y, 'kx')

stacked_x = numpy.array([x,x+1,x-1])
coeffs = mpf(stacked_x, y, deg) 
x2 = numpy.arange(min(x)-1, max(x)+1, .01) #use more points for a smoother plot
y2 = numpy.polyval(coeffs, x2) #Evaluates the polynomial for each x2 value
plt.plot(x2, y2, label="deg=3")

---

注意：这是前面答案的一部分，如果没有多变量数据，它仍然是相关的。使用

coeffs=numpy.polyfit（x，y，3）

对于非多元数据集，最简单的方法可能是使用numpy：

numpy.polyfit（x，y，deg，rcond=None，full=False，w=None，cov=False）

最小二乘多项式拟合

将阶数

deg

的多项式

p（x）=p[0]*x**deg+…+p[deg]

拟合到点

（x，y）

。返回系数p的向量，使平方误差最小化

---

有点脱离上下文，因为结果函数不是多项式，但可能仍然很有趣。多项式拟合的一个主要问题是：阶数越高，发生的振荡越剧烈。这不仅是构造的，而且还会反过来咬你

作为补救措施，我不久前创建了。它解决了一个适当的最小二乘问题，并给出了很好的结果，例如：

将numpy导入为np
将matplotlib.pyplot作为plt导入
导入平滑拟合
x=[1,4,8,11,10,15,16]
y=[1,3,3,4,7,11,12]
a=0.0
b=17.0
plt.绘图（x，y，'kx'）
lmbda=3.0#控制平滑度
n=100
u=平滑拟合.fit1d（x，y，a，b，n，lmbda）
x=np.linspace（a，b，n）
VAL=[u（xx）表示x中的xx]
plt.绘图（x，vals，“-”）
plt.show（）

---

即使拟合多项式，最小二乘回归仍然是线性的。只要方程是项的线性组合（如多项式），相同的算法工作。相关：相关：你想为每个集合X生成一个公式，还是为所有集合X生成一个公式？这如何应用于多元回归？因为我有多个X变量（每种情况5个），我有一个X的二维数组（列表列表）。我的X看起来像这样：

[[1,2,3,4,5]，[2,3,4,5,6]，…]

。将其输入到您的答案中，我得到

类型错误：x的预期1D向量

。这些单独的数据集是单独分析还是组合分析？y值是什么样的？@jozzas模块

multipolyfit

来自哪里？尝试导入它会导致导入错误：

导入错误：没有名为mul的模块tipolyfit.multipolyfit

…我刚刚注意到这个问题。我已经更新了repo的组织，添加了一个允许的开源许可证，并在PyPi上发布了它。您应该能够轻松地安装multipolyfit。我得到一个类型错误：对于行堆栈数组（[x，x+1，x-1]），只能将元组（而不是“int”）连接到元组错误。