Optimization 有没有办法在机器学习模型中手动使变量变得更重要?

Optimization 有没有办法在机器学习模型中手动使变量变得更重要?,optimization,machine-learning,feature-selection,Optimization,Machine Learning,Feature Selection,有时,根据经验或一些专家知识,您知道一些变量将在该模型中发挥关键作用,是否有方法手动使变量计数更多,以便加快培训过程,并且该方法可以结合一些人类知识/智慧/智能 我仍然认为机器学习与人类知识相结合是我们现在拥有的最强大的武器通过相应地调整输入数据,这可能会起作用 另一方面,神经网络的优势在于 哪些功能实际上是重要的,以及哪些功能与其他功能的组合 从数据来看,特征很重要 你可能会争辩说,这样会减少训练时间。其他人可能会争辩说,你正在以一种可能需要更多时间的方式偏袒你的训练 无论如何,如果您想这样做

有时,根据经验或一些专家知识,您知道一些变量将在该模型中发挥关键作用,是否有方法手动使变量计数更多,以便加快培训过程,并且该方法可以结合一些人类知识/智慧/智能


我仍然认为机器学习与人类知识相结合是我们现在拥有的最强大的武器

通过相应地调整输入数据,这可能会起作用

另一方面,神经网络的优势在于 哪些功能实际上是重要的,以及哪些功能与其他功能的组合 从数据来看,特征很重要

你可能会争辩说,这样会减少训练时间。其他人可能会争辩说,你正在以一种可能需要更多时间的方式偏袒你的训练

无论如何,如果您想这样做,假设一个完全连接的层,您可以递增地初始化您认为重要的输入功能的权重


另一种方法是,首先根据训练损失对模型进行预训练,这应该将您的功能作为输出。而不是保持重量,切换到实际损失-我从来没有尝试过这个,但它可以工作

首先非常感谢您,我还没有完全理解您建议的最后一步,“使用特征作为输出预训练模型,然后保留权重并切换到实际损失”,你能解释一下吗?例如,你想从矩形中对圆进行分类——你发现形状特征可能很重要,并且想放大形状特征的影响。因此,可以对模型进行预训练,以将形状作为输出返回。只有这样,你才能保持体重,并训练你的模特完成实际任务。有点理解,非常感谢