Machine learning 创建良好的深层神经网络时的参数选择

Machine learning 创建良好的深层神经网络时的参数选择,machine-learning,parameters,deep-learning,Machine Learning,Parameters,Deep Learning,在神经网络中,我们有动量、学习速率、激活函数等参数。所以我的问题是,为了创建一个好的深层神经网络,应该选择什么参数?另外,我们选择参数的依据是否有任何标准。这是一个有点复杂的问题,我不确定您的问题的格式对于StackOverflow是否正确,因为它不一定是一个编码问题 然而,选择超参数是所有机器学习中最大的挑战之一。没有正确的答案告诉你“X和Y会给你比Z和W更好的结果”,因为这个问题涉及到多少因素。你在尝试什么样的建模,你的目标是什么,你的数据是什么,等等 我想建议的第一部分是根据我在“你的目标

在神经网络中,我们有动量、学习速率、激活函数等参数。所以我的问题是,为了创建一个好的深层神经网络,应该选择什么参数?另外,我们选择参数的依据是否有任何标准。

这是一个有点复杂的问题,我不确定您的问题的格式对于StackOverflow是否正确,因为它不一定是一个编码问题

然而,选择超参数是所有机器学习中最大的挑战之一。没有正确的答案告诉你“X和Y会给你比Z和W更好的结果”,因为这个问题涉及到多少因素。你在尝试什么样的建模,你的目标是什么,你的数据是什么,等等

我想建议的第一部分是根据我在“你的目标是什么”中提出的问题。如果是分类、回归或其他。一旦你能回答这个问题,你可能需要确定你的损失函数。这本身可能具有挑战性,但我提供了一个链接,可以很好地概述不同的损耗函数及其用法:

其次,确定其他参数是一个完全不同的挑战。来自批量大小、学习率、优化器等。。有太多东西永远无法得到一个明确的答案。但是,有些技术使用网格搜索,基本上是以循环样式序列运行模型,并使用所有可能的参数进行测试。Keras tuner就是这样一个工具,可以做到这一点

总的来说,我认为你应该对深度学习这个话题做进一步的研究。 这里有一个有用的链接,可以提供一些见解