非线性回归是一种回归分析形式，其中数据拟合模型，然后以数学函数表示。简单线性回归用直线 (y = mx + b) 关联两个变量 (X 和 Y)，而非线性回归则以非线性 (曲线) 关系关联两个变量。
该模型的目标是使平方和尽可能小。平方和是一种度量，用于跟踪 Y 观测值与用于预测 Y 的非线性（曲线）函数的差异。
计算方法是，首先求出拟合的非线性函数与集合中每个 Y 点数据之间的差值。然后，对每个差值求平方。最后，将所有平方数相加。这些平方数之和越小，函数与集合中数据点的拟合效果越好。非线性回归使用对数函数、三角函数、指数函数、幂函数、洛伦兹曲线、高斯函数和其他拟合方法。
摘要
- 线性和非线性回归都可以从 X 变量（或多个变量）预测 Y 响应。
- 非线性回归是 X 变量（或多个变量）的曲线函数，用于预测 Y 变量
- 非线性回归可以预测人口随时间的增长情况。
非线性回归建模与线性回归建模类似，两者都试图以图形方式跟踪一组变量的特定响应。非线性模型的开发比线性模型更复杂，因为函数是通过一系列近似值（迭代）创建的，这些近似值可能源于反复试验。数学家使用几种既定方法，例如高斯-牛顿法和莱文伯格-马夸特法。
通常，乍一看呈非线性的回归模型实际上是线性的。曲线估计程序可用于识别数据中起作用的函数关系的性质，以便您可以选择正确的回归模型，无论是线性还是非线性。线性回归模型虽然通常形成直线，但也可以形成曲线，具体取决于线性回归方程的形式。同样，可以使用代数来转换非线性方程，以模仿线性方程 - 这种非线性方程被称为“内在线性”。
线性回归用直线将两个变量联系起来；非线性回归则用曲线将变量联系起来。
非线性回归示例
非线性回归的一个例子是预测人口随时间的增长。人口数据随时间变化的散点图显示，时间与人口增长之间似乎存在某种关系，但这是一种非线性关系，需要使用非线性回归模型。逻辑人口增长模型可以提供未测量时期的人口估计值以及未来人口增长的预测。
非线性回归中使用的独立变量和因变量应为定量变量。分类变量（如居住地或宗教）应编码为二元变量或其他类型的定量变量。
为了从非线性回归模型中获得准确的结果，您应该确保指定的函数准确描述独立变量和因变量之间的关系。良好的起始值也是必要的。即使您为模型指定了正确的函数形式，不良的起始值也可能导致模型无法收敛，或者解决方案仅在局部而非全局上是最优的。