Machine learning 如何计算机器学习和深度学习模型的大O时间复杂性？是否还有其他措施来定义模型的复杂性？_Machine Learning_Deep Learning_Time Complexity_Computer Science

Machine learning 如何计算机器学习和深度学习模型的大O时间复杂性？是否还有其他措施来定义模型的复杂性？

machine-learning deep-learning time-complexity computer-science

Machine learning 如何计算机器学习和深度学习模型的大O时间复杂性？是否还有其他措施来定义模型的复杂性？,machine-learning,deep-learning,time-complexity,computer-science,Machine Learning,Deep Learning,Time Complexity,Computer Science,我试图测量ML模型实现的复杂性，以此与统计方法（例如）进行比较。是否可以像在其他算法/程序中那样使用大O复杂性度量我建议根据内存使用量或训练时间来衡量复杂性。然而，这些都不是理论上的衡量标准，可能因机器而异。我使用的一种方法是简单地比较可训练参数的总数。可能需要测量数学运算的总数。但是，在构建具有不同层类型的深层模型时，这可能会很复杂您对如何衡量机器学习模型的复杂性有何建议？具体而言，可以考虑卷积型神经网络。< /强> < P>，反向传播的大O是前向神经网络的O（n 5）和前向传播O（n

我试图测量ML模型实现的复杂性，以此与统计方法（例如）进行比较。是否可以像在其他算法/程序中那样使用大O复杂性度量

我建议根据内存使用量或训练时间来衡量复杂性。然而，这些都不是理论上的衡量标准，可能因机器而异。我使用的一种方法是简单地比较可训练参数的总数。可能需要测量数学运算的总数。但是，在构建具有不同层类型的深层模型时，这可能会很复杂

您对如何衡量机器学习模型的复杂性有何建议？具体而言，可以考虑卷积型神经网络。< /强>
< P>，反向传播的大O是前向神经网络的O（n 5）和前向传播O（n ^ 4）。你也可以这样说： “对ML算法进行大O分析归结为回答以下问题：

ML算法收敛吗？如果是，它是确定性收敛还是概率收敛

收敛所需的迭代次数是否可以表示为N的函数？在什么条件下

如果我们不能给出迭代次数的显式形式，我们至少可以提供收敛速度吗？”
根据，反向传播的大O是O（n^5），前馈神经网络的前向传播的大O是O（n^4）”
你也可以这样说： “对ML算法进行大O分析归结为回答以下问题：

ML算法收敛吗？如果是，它是确定性收敛还是概率收敛

收敛所需的迭代次数是否可以表示为N的函数？在什么条件下

如果我们不能给出迭代次数的显式形式，我们至少可以提供收敛速度吗？”