한국군 국방지휘통제체계 AI 보안 요구사항 분석과 시사점

초록

KCCS는 전장 클라우드와 전군 C4I, 데이터·AI 플랫폼을 통합하는 데이터 중심 지휘통제체계로 발전하고 있으나, 기존 사이버 보안 프레임만으로는 AI 모델·데이터·프롬프트·운영정책의 취약점을 충분히 다루기 어렵다. 본 논문은 KCCS 관점에서 기존 사이버 보안과 AI 보안 간의 구조적 공백을 분석하고, 한국군 지휘통제체계에 필요한 AI 보안 통제 방향을 도출한다. 이를 위해 관련 연구와 국제 프레임워크를 바탕으로 C2 환경의 사이버 공격 유형과 보안 통제 항목을 정리하고, 이들이 주로 네트워크·시스템·데이터 중심으로 구성되어 AI 모델 보안과 보증 요구를 포괄하지 못함을 보인다. 이어서 데이터 포이즈닝, 적대적 예제, 프롬프트 인젝션, 모델 추출, AI 공급망 공격 등 AI 특화 취약점을 정리하고, 가드레일·정렬, AI 시험·보증, AI 공급망·프로비넌스가 부재한 KCCS 운용 시나리오를 통해 지휘결심상의 위험을 분석한다. 마지막으로 JADC2와의 비교를 통해 KCCS형 AI 보안 목록의 필요성과 우선 과제를 제안한다.

키워드