演绎式视觉解释提高深层神经网络的视觉反馈

原标题：VISUALEXPLANATIONBYINTERPRETATION:IMPROVINGVISUALFEEDBACKCAPABILITIESOFDEEPNEURALNETWORKS

作者：JoséOramasM.KailiWangTinneTuytelaars

中文摘要：

对深层模型的演绎和解释对于广泛采用依赖它们的系统至关重要。在本文中，我们提出了一种新的演绎和解释方案，在给定一个预先训练的模型的情况下，我们可以自动识别模型的类相关的内部特征，而不需要依赖额外的标注。我们通过这个自动挑选的特征集的平均可视化来解释模型。然后，在测试时，我们通过将预测的类标签与从所识别的特征派生的支持可视化来解释网络预测。此外，我们还提出了一种方法来解决在基于deconvNet的可视化中由于卷积步长操作引入的伪影。此外，我们介绍了一个专门为视觉解释方法的客观定量评价而设计的数据集an8Flower。在MNIST、ILSVRC12、Fashionk和an8Flower数据集上的实验表明，我们的方法能够给出详细的解释，并且很好地覆盖了感兴趣类的相关特征。

英文摘要：

Interpretationandexplanationofdeepmodelsiscriticaltowardswideadoptionofsystemsthatrelyonthem.Inthispaper,weproposeanovelschemeforbothinterpretationaswellasexplanationinwhich,givenapretrainedmodel,weautomaticallyidentifyinternalfeaturesrelevantforthesetofclassesconsideredbythemodel,withoutrelyingonadditionalannotations.Weinterpretthemodelthroughaveragevisualizationsofthisreducedsetoffeatures.Then,attesttime,weexplainthenetworkpredictionbyac