Optimization 稀疏最小二乘回归工具

Optimization 稀疏最小二乘回归工具,optimization,math,statistics,regression,least-squares,Optimization,Math,Statistics,Regression,Least Squares,我想用几十万个例子做稀疏高维(几千个特征)最小二乘回归。我很高兴使用非幻想优化-随机梯度下降是好的 有没有人知道有什么软件已经实现了这样做,所以我不必写我自己的 亲切问候。虽然我不确定,但这让我觉得(线性代数软件包)能够提供支持。他们通常对大型矩阵数学感兴趣,包括稀疏矩阵和核心外尺寸。基本版本是FORTRAN,但也有C和其他语言库的端口 由于LAPACK的许多底层调用都使用BLAS(基本线性代数子程序),您可能还想查看一下。我建议您看看。这是一个相当成熟的线性代数库,尽管与它的接口可能有点棘手,

我想用几十万个例子做稀疏高维(几千个特征)最小二乘回归。我很高兴使用非幻想优化-随机梯度下降是好的

有没有人知道有什么软件已经实现了这样做,所以我不必写我自己的


亲切问候。

虽然我不确定,但这让我觉得(线性代数软件包)能够提供支持。他们通常对大型矩阵数学感兴趣,包括稀疏矩阵和核心外尺寸。基本版本是FORTRAN,但也有C和其他语言库的端口


由于LAPACK的许多底层调用都使用BLAS(基本线性代数子程序),您可能还想查看一下。

我建议您看看。这是一个相当成熟的线性代数库,尽管与它的接口可能有点棘手,因为它是用Fortran编写的。不过,这很好,因为Fortran与C是ABI兼容的,如果您的函数原型正确的话


[编辑]进一步审查后,LAPACK似乎不支持稀疏矩阵。出于某些目的,它可以处理带状矩阵,但对于线性最小二乘问题,它只支持一般矩阵。

我很确定,它可以用于此类问题。它非常强大和灵活。该页面链接了大量在线资源。

感谢您的评论。我在寻找一种能为我处理梯度计算和所有数据争论的东西。最后我什么也找不到。R似乎被大数据集淹没了。我在python中使用numpy实现了一个解决方案。