Machine learning 自动选择超参数

Machine learning 自动选择超参数,machine-learning,optimization,neural-network,artificial-intelligence,hyperparameters,Machine Learning,Optimization,Neural Network,Artificial Intelligence,Hyperparameters,我在学习神经网络和正则化。我注意到有很多超参数需要手动设置,这取决于您试图解决的问题类型、您正在处理的数据集等 我想知道是否有一种方法,我们可以创建另一个优化模型,以便它自动找到训练所需的最佳超参数?我的意思是,我们可以通过梯度下降或其他方法找到合适的权重。那么,如果我们能够在超参数上找到某种代价函数,我们难道不能做同样的事情吗?基本上就像一个人工智能程序调整我们的人工智能模型 这样的事情可能发生吗,或者至少是一个值得问的问题?也许这已经在一些我不知道的研究中完成了?是的,有一些框架可以自动为您

我在学习神经网络和正则化。我注意到有很多超参数需要手动设置,这取决于您试图解决的问题类型、您正在处理的数据集等

我想知道是否有一种方法,我们可以创建另一个优化模型,以便它自动找到训练所需的最佳超参数?我的意思是,我们可以通过梯度下降或其他方法找到合适的权重。那么,如果我们能够在超参数上找到某种代价函数,我们难道不能做同样的事情吗?基本上就像一个人工智能程序调整我们的人工智能模型


这样的事情可能发生吗,或者至少是一个值得问的问题?也许这已经在一些我不知道的研究中完成了?

是的,有一些框架可以自动为您调整超参数。我是Optuna团队的成员,Optuna(Optuna.org)就是这样一个框架,它将进行贝叶斯优化,为您调整超参数。它可以与任何python程序一起工作,这些程序可以在丢失或精确输出的情况下编写。

您可以浏览一些软件包。我建议你用塔洛斯。 请查看以下链接:


最后,您将找到talos的代码

当然这是可能的,这是整个自动领域谢谢您的回答!