为了提高深度监督学习模型的泛化和鲁棒性，提出了一种计算开销有限的深度学习方法。
当训练数据丰富且与测试数据分布一致时，深度神经网络(Deep neural networks, dnn)可以达到较高的准确率。在实际应用中，数据不足经常是一个问题。对于分类任务，训练集中缺乏足够的标记图像往往会导致过拟合。另一个问题是训练域和测试域之间的不匹配，这会导致较差的模型性能。这就需要强大且数据高效的深度学习模型。在这项工作中，我们提出了一种称为多专家对抗正则化学习(MEAR)的深度学习方法，该方法具有有限的计算开销，以提高深度监督学习模型的泛化和鲁棒性。MEAR框架将多个分类器头(专家)附加到遗留模型的特征提取器上。MEAR旨在以对抗的方式学习特征提取器，通过利用来自单个专家的互补信息以及专家的集合，从而在未知的测试领域中更具鲁棒性。我们用MEAR训练最先进的网络，用于两个重要的计算机视觉任务，图像分类和语义分割。我们将MEAR与多个基准上的各种基线进行比较。 We show that MEAR is competitive with other methods and more successful at learning robust features.
贝南·戈拉米;庆丰刘;Mostafa El-Khamy;以及三星半导体的李正源。
点击在这里查看这篇IEEE开放获取文章。
|
|
|
|
|
|
|
|
|
|
|
|
|
留言回复