Machine learning 如何确定或计算设计中隐藏/可调参数的数量?

Machine learning 如何确定或计算设计中隐藏/可调参数的数量?,machine-learning,tensorflow,neural-network,computer-vision,deep-learning,Machine Learning,Tensorflow,Neural Network,Computer Vision,Deep Learning,对于我的深度学习任务,我需要设计一个图像分类网络。在这个设计中,我最多可以有500000个隐藏/可调参数 如何计算或观察这些隐藏参数的数量,特别是当我使用tensor flow教程作为初始代码/设计时 提前谢谢500000平方米?使用每个像素的R、G和B值?如果是,则存在一些问题 1.数据太多(计算时间长) 2.在图像分类中,在将数据输入神经网络之前,公司通常使用其他一些图像分析技术(预处理)。如果你必须使用相同的图像。第二个被一个皮克塞尔移动。对于网络来说,它们可能非常重要。 想象一下其他的神

对于我的深度学习任务,我需要设计一个图像分类网络。在这个设计中,我最多可以有500000个隐藏/可调参数

如何计算或观察这些隐藏参数的数量,特别是当我使用tensor flow教程作为初始代码/设计时


提前谢谢

500000平方米?使用每个像素的R、G和B值?如果是,则存在一些问题 1.数据太多(计算时间长) 2.在图像分类中,在将数据输入神经网络之前,公司通常使用其他一些图像分析技术(预处理)。如果你必须使用相同的图像。第二个被一个皮克塞尔移动。对于网络来说,它们可能非常重要。 想象一下其他的神经网络。使用两个参数,可能是体重和身高。如果你交换这个参数,将会发生什么。 是的,在学习图像网络的过程中可以减少这种影响,但当我用5x5二进制图像做实验时,很难建立网络。我开始使用4层,但这只起到一点作用。 用于列宁的图像可以很好地分类,在去存储后也可以分类,但如果移动一个像素,则会出现问题。 如果没有,则使用ekspepriments或使用遗传算法找到它。 laerning之后,您应该使用一些算法查找网络识别为“不重要”的日期(此输入和其他输入的权重相差很大,如果此输入权重太接近0,则网络“认为”它不重要)

如何计算或观察这些隐藏参数的数量,特别是当我使用tensor flow教程作为初始代码/设计时

  • 我将向您展示如何计算自由参数,而不是为您做这些工作
快速浏览一下,代码似乎使用了最大池、卷积、偏差和完全连接的权重层。让我们回顾一下这些层中的每个层为您的体系结构添加了多少自由参数

  • 最大池数:免费!没错,max pooling没有“自由参数”
  • conv:卷积是使用[1,3,3,1]等参数定义的,其中数字对应于张量,如[batch\u size,conv\u size,conv\u size,FEATURE\u DEPTH]。将所有尺寸相乘,得到自由参数的总尺寸。在[1,3,3,1]的情况下,总数为1x3x1=9
  • 偏差:偏差类似于卷积,它由[10]或[1342342,3]等形状定义。同样,只需将所有尺寸相乘,即可得到总自由参数。有时偏差只是一个数字,这意味着大小为1
  • 完全连接的:完全连接的层通常具有2d形状,如[1024,32]。这意味着它是一个2d矩阵,计算总自由参数就像卷积一样。在本例中,[1024,32]有1024x32=32768个自由参数

最后,您将所有层的所有自由参数相加,这就是您的自由参数总数。

Hi@bakayim,如果这回答了您的问题,请接受is作为答案。