초록 ▼

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

딥러닝 기술은 이미지 분류 문제에 뛰어난 성능을 보여주지만, 의도적인 작은 노이즈에 쉽게 분류 결과가 달라지는 등 적대적 공격(Adversarial attack)에 취약하다. 이러한 적대적 공격을 방어하기 위해 대표적으로 이미지 노이즈 제거 모델이 사용되고 있다. 하지만 공격자가 이미지 노이즈 제거 모델의 파라미터와 같은 모든 정보를 알거나 추측할 수 있는 상황에서는 방어율이 급격히 떨어진다는 단점이 있다. 본 연구에서는 이러한 문제를 해결하기 위한 새로운 적대적 공격 방어 ...

딥러닝 기술은 이미지 분류 문제에 뛰어난 성능을 보여주지만, 의도적인 작은 노이즈에 쉽게 분류 결과가 달라지는 등 적대적 공격(Adversarial attack)에 취약하다. 이러한 적대적 공격을 방어하기 위해 대표적으로 이미지 노이즈 제거 모델이 사용되고 있다. 하지만 공격자가 이미지 노이즈 제거 모델의 파라미터와 같은 모든 정보를 알거나 추측할 수 있는 상황에서는 방어율이 급격히 떨어진다는 단점이 있다. 본 연구에서는 이러한 문제를 해결하기 위한 새로운 적대적 공격 방어 아키텍처를 제안한다. 제안하는 아키텍처에는 기존의 이미지 분류 문제에 사용되는 딥러닝 모델뿐만 아니라 이미지 노이즈 제거 모델을 통해 노이즈가 제거된 이미지 데이터세트로 새로 학습된 딥러닝 모델이 추가되어 있다. 추가된 모델은 정보가 공개되지 않으며 오직 적대적 공격 검증용으로만 사용된다. 따라서 공격자가 기존 모델을 대상으로 적대적 공격을 위한 노이즈를 생성하더라도 검증 모델을 사용하여 적대적 공격을 식별하고 노이즈를 제거할 수 있다. 또한, 여러 개의 검증 모델을 학습한 후 검증 모델 간 앙상블 기법을 적용하여 제안하는 아키텍처의 검증 모델에 대한 공격을 방지할 수 있다. 본 연구에서는 CIFAR-10, GTSRB 데이터세트와 FGSM, PGD, C&W 공격 기법을 사용하여 실험을 진행하였으며, 실험 결과를 통해 검증 모델을 분리한 것과 다수의 검증 모델을 적용한 방법의 효과를 확인할 수 있다.

주제어