단일 모달리티 기반 백도어 공격을 통한 멀티모달 AI 모델 보안 취약성 분석

초록

본 연구는 멀티모달 AI 모델의 보안 취약성을 분석하고 BLIP VQA 모델을 대상으로 단일 모달 백도어 공격의 효과를 실증적으로 평가하였다. 기존 연구와 달리 이미지 모달리티만 조작하는 백도어 공격도 성공할 수 있음을 입증하였으며 사전 학습에 사용되지 않은 데이터셋(VQAv2)으로 모델을 파인튜닝하더라도 백도어가 유지될 수 있음을 확인하였다. Poisoning Rate을 0.1%부터 10%까지 달리하여 실험한 결과, 극히 적은 양의 백도어 데이터만으로도 높은 백도어 성공률(BSR)을 달성할 수 있었으며 동시에 Clean Accuracy(CA)의 저하를 최소화하면서 공격 효과를 유지할 수 있음을 확인하였다. 또한, 정답 유형(Answer Type)에 따른 백도어 공격 영향을 분석한 결과, Binary 유형은 모든 Poisoning Rate에서 99% 이상의 BSR을 기록하여 백도어 공격에 가장 높은 취약성을 보였으며, Other 유형은 BSR이 1% 이하에서는 85.3%~96.2%로 낮게 유지되고 3% 이상에서만 99%에 근접하여 상대적으로 높은 공격 저항성을 보였다. 이를 통해 AI 공급망에서 파운데이션 모델의 백도어 공격 취약성을 경고하고 멀티모달 AI 모델에 대한 탐지 및 방어 기법 연구의 필요성을 강조한다.

키워드