本申请提供一种生成对抗样本的方法、检测器的训练方法及相关设备。所述生成对抗样本的方法包括：获取干净的训练样本集；对于训练样本集中的每个训练样本，通过对该训练样本进行对抗攻击，得到多个对抗实例；根据多个对抗实例中指示对抗成功的每个目标对抗实例的对抗攻击信息，选择目标标签；基于目标标签生成与该训练样本对应的对抗样本；存储对抗样本。所述检测器训练方法包括：利用生成对抗样本的方法，基于训练样本集生成对抗样本集；利用训练样本集对检测器进行二元分类任务的第一训练；利用对抗样本集对经过第一训练的检测器进行第二训练。经过本训练方法得到的检测器用于检测输入深度神经网络的样本数据是否含有深度神经网络木马。