Scikit Learn - 线性建模

本章将帮助您了解 Scikit-Learn 中的线性建模。首先,让我们了解一下 Sklearn 中的线性回归是什么。

下表列出了 Scikit-Learn 提供的各种线性模型 −

Sr.No Model &描述
1

线性回归

它是研究因变量 (Y) 与给定一组自变量 (X) 之间关系的最佳统计模型之一。

2

逻辑回归

尽管名为逻辑回归,但它是一种分类算法,而非回归算法。基于给定的一组独立变量,它用于估计离散值(0 或 1、是/否、真/假)。

3

岭回归

岭回归或 Tikhonov 正则化是一种执行 L2 正则化的正则化技术。它通过添加相当于系数幅值平方的惩罚项(收缩量)来修改损失函数。

4

贝叶斯岭回归

贝叶斯回归通过使用概率分布而不是点估计来构建线性回归,提供了一种自然机制,可以应对数据不足或数据分布不均的情况。

5

LASSO

LASSO 是一种执行 L1 正则化的正则化技术。它通过添加相当于系数绝对值总和的惩罚项(收缩量)来修改损失函数。

6

多任务 LASSO

它允许联合拟合多个回归问题,强制所有回归问题(也称为任务)的选定特征相同。 Sklearn 提供了一个名为 MultiTaskLasso 的线性模型,该模型使用混合 L1、L2 范数进行正则化训练,可以联合估计多元回归问题的稀疏系数。

7

Elastic-Net

Elastic-Net 是一种正则化回归方法,它线性结合了 Lasso 和 Ridge 回归方法中的惩罚项(即 L1 和 L2)。当存在多个相关特征时,它非常有用。

8

多任务弹性网络

这是一个弹性网络模型,可以联合拟合多个回归问题,强制所有回归问题(也称为任务)的选定特征相同。