지니언스 시큐리티 센터 보고서 캡처=연합뉴스북한 정부가 지원하는 것으로 알려진 해킹 조직이 생성형 인공지능(AI)을 활용해 한국군 신분증을 딥페이크로 제작, 사이버 공격을 시도한 정황이 드러났다. AI 기반 딥페이크를 이용한 북한의 대남 해킹 사례가 공식 보고된 것은 이번이 처음이다.
15일 보안 전문기업 지니어스 시큐리티 센터(GSC) 보고서에 따르면 북한 연계 해킹조직 ‘김수키(Kimsuky)’ 그룹은 지난 7월 군무원 신분증 시안 검토를 요청하는 피싱 메일을 발송했다. 메일에 첨부된 시안 속 사진은 챗GPT를 이용해 제작한 딥페이크 이미지였고, 파일에는 악성 코드가 심어져 있었다.
군 공무원증은 법적으로 엄격히 보호되는 공적 신분증으로 복제나 유사 제작 자체가 불법이다. 실제로 챗GPT 등 생성형 AI에 신분증 제작을 요청하면 거부 응답이 나온다. 그러나 해커들은 “실제 군 공무원증 복제가 아니라 합법적 목적의 시안 작성 또는 샘플 용도의 디자인 제작” 등으로 AI 모델을 속여 딥페이크 이미지를 얻은 것으로 추정된다.
발신자 주소도 ‘mil.kr’ 대신 ‘mli.kr’을 쓰는 등 실제 군 기관 메일처럼 위장했다. 지니언스는 김수키가 최근 AI가 메일을 대신 관리해주는 기능인 것처럼 보이는 제목을 붙여 수신자를 현혹하는 등 AI를 테마로 한 공격을 확대하고 있다고 분석했다.
북한 해커들의 AI 악용은 해외에서도 포착되고 있다. 미국 AI 기업 앤트로픽(Anthropic)은 지난달 말 보안 보고서에서 북한 해커들이 자사 AI ‘클로드’를 이용해 해외 IT 기업 구직 과정에 위장 취업했다고 밝혔다. 해커들은 AI로 정교한 가상 신원을 구축해 기술 평가를 통과하고, 채용 후 실제 업무 수행에도 AI를 활용한 정황이 드러났다.
보고서는 “이러한 활동은 국제 제재를 회피하기 위한 동시에 북한 정권의 외화 획득을 목적으로 정교하게 설계된 것"이라고 분석했다.
전문가들은 AI 서비스가 업무 효율을 높이는 강력한 도구이지만 동시에 국가 안보를 위협하는 사이버 공격에 악용될 수 있다고 경고한다. 지니언스는 “채용·업무·운영 전반에서 AI 악용 가능성을 고려한 보안 대책 마련이 필요하다”고 강조했다.
