샘플링 기반 일관성 탐지를 통한 적대적 공격 탐지 기법

초록

인공지능 기술의 발달로 자율주행, 의료 영상 분석 등 다양한 분야에서 인공지능이 널리 활용되고 있지만, 이와 동시에 적대적 공격에 대한 위협이 점차 증가하고 있다. 적대적 공격은 사람에게는 감지되지 않는 미세한 변화를 통해 인공지능 모델의 예측을 왜곡시키며, 특히 인공지능의 신뢰성이 중요한 분야에서 심각한 문제를 초래할 수 있다. 이러한 문제를 해결하기 위해, 본 연구에서는 샘플링 기반 일관성 탐지 기법을 활용한 새로운 적대적 공격 탐지 방안을 제안한다. 입력된 영상의 주변부를 샘플링하여 분류한 결과의 일관성을 확인하고 이를 통해 입력된 영상의 공격 여부를 판단한다. MNIST 데이터 세트에서의 실험을 통해 제안한 탐지 기법이 FGSM, BIM, PGD, DeepFool, C&W 등 다양한 적대적 공격을 성공적으로 탐지할 수 있음을 실험하였고, 특히 C&W 공격에 대해 98%의 탐지 성능을 확인하였다.

키워드