저해상도 이미지 분류를 위한 고해상도 이미지로부터의 Self-Attention 정보 추출 네트워크

Abstract

기존의 딥러닝 모델들은 고화질의 이미지들을 활용하여 연구 개발되었으며, 화질이 낮아질수록 급격히 성능이 낮아진다. 본 연구는 저화질 이미지에도 효과적으로 대응할 수 있는 딥러닝 모델을 개발하고자, 고화질의 이미지로부터 효과적으로 분류를 할 수 있는 정보를 Attention Map의 형태로 추출했다. 이후 Knowledge Distillation 기법을 활용하여 고화질 이미지상에서 추출한 Attention Map을 저해상도 이미지 모델에 전달하는 네트워크를 제안했으며, 16×16의 저해상도 CIFAR100이미지를 분류했을 때 에러율을 2.94% 낮출 수 있었다. 이는 32×32에서 16×16으로 이미지 해상도를 낮췄을 때 에러 감소율의 38.43%에 해당하는 수치로, 본 네트워크의 우수성을 입증할 수 있었다.