Python 随机森林黑匣子

我对这种东西不熟悉，试图用黑匣子FGSM攻击随机森林（来自聪明的汉斯）

---

但我不知道如何实施它。他们有一个，但我不明白我应该把我的随机森林放在哪里，我应该攻击哪里。任何帮助都将不胜感激。

在本教程中，黑箱模型是一种使用TensorFlow实现的神经网络，其预测（标签）用于训练替代模型（黑箱模型的副本）。然后，使用替代模型制作对抗性示例，并将其转换为黑盒模型

在您的情况下，您必须在中替换bbox_val

bbox_val = batch_eval(sess, [x], [bbox_preds], [x_sub_prev],
                        args=eval_params)[0]

通过替换训练数据的numpy数组上随机林的预测

x\u sub\u prev

---

您可以在以下文章中找到有关本教程中实施的攻击的更多信息：

首先，非常感谢@NicolasPapernot，您帮了大忙。所以我的随机林输出将作为numpy数组进入x_sub_prev。我想把FGSM结果作为下一个随机森林训练周期的输入。那么x_adv_sub在这种情况下会起作用，对吗？如果我将x_adv_sub添加到mnist.x中，Y部分会是什么？我计划将随机林添加到prep_bbox函数中，并将x_adv_sub添加到原始黑箱攻击中该函数的x_train参数中，不应使用FGSM结果对随机林进行重新训练，因为该随机林充当您试图攻击但无权访问的黑盒（oracle）模型。如果你考虑的是不同的威胁模型，你问题的答案将取决于你考虑的具体威胁模型。好吧，我想做的就是用随机林训练MNIST，用FGSM进行攻击，将FGSM输出作为额外输入添加到随机林中，然后继续这个循环。你会建议我使用cleverhans mnist_blackbox还是使用tensorflow自己制作所有东西？时间是个问题，尽管这是我第一个关于python和机器学习的大项目（除了家庭作业），但我必须尽快完成。那么在这方面，你有什么建议@NicolasPapernot