https://arxiv.org/abs/2002.04599
Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations (Florian Tramèr, Jens Behrmann, Nicholas Carlini, Nicolas Papernot, Jörn-Henrik Jacobsen)
sensitivity adversarial example, 즉 사람이 보기엔 같은데 모델 예측이 달라지는 경우와 invariance adversarial example, 사람이 보기엔 다른데 모델 예측이 같은 경우를 비교했을 때 기존의 adversarial attack에 대한 robust 모델들이 invariance adversarial attack에 더 취약해지는 것을 보임. 더 의미있는 robustness의 도입이 중요한 방향이 될 듯.
#robustness #adversarial_training