시큐리티팩트
[SF보안 리포트] 구글 클라우드 “AI, 해커의 날개가 되다”… 북·이란 ‘공격 운영화’ 경고
모델 추출·지능형 멀웨어 등 4대 위협 부상… “기계의 속도에 맞선 AI 방어 체계 시급”
댓글 0
기사입력
: 2026.02.13 11:47
[시큐리티팩트=김상규 기자] 구글 클라우드가 13일 최신 보안 동향을 담은 ‘2025년 4분기 AI 위협 보고서(AI Threat Tracker)’를 발표했다. 이번 보고서의 핵심은 인공지능(AI)이 해커들에게 ‘규모의 경제’와 ‘속도’를 제공하며 공격의 패러다임을 완전히 바꿨다는 점이다.
구글 클라우드 보고서에 따르면 이란과 북한 해커들은 생성형 AI를 단순한 보조 도구가 아닌 ‘필수 공격 인프라’로 활용하는 운영화(Operationalized) 단계에 진입했다. 이란의 지원을 받는 APT42는 제미나이(Gemini) 등 생성형 AI를 동원해 타깃의 공식 이메일을 검색하고 비즈니스 파트너를 사칭한다. AI가 만든 정교한 사회 공학적 미끼는 피해자의 의심을 무너뜨리는 핵심 도구가 됐다. 북한 지원을 받는 UNC2970은 방위 산업체를 정밀 타격하고 있다. 이들은 AI로 오픈소스 인텔리전스(OSINT)를 종합해 고가치 표적을 식별하고 채용 담당자로 위장해 접근한다.
이에 더해 크라우드스트라이크(CrowdStrike)가 분석한 보고서를 보면 상황은 더 심각하다. 북한 조직 ‘페이머스 천리마’는 AI 기반 가짜 이력서와 딥페이크 인터뷰를 결합해 작년 한 해에만 320곳 이상의 글로벌 기업 내부망 침투에 성공했다.
구글 측은 이번 보고서에서 AI 모델 자체를 겨냥한 ‘모델 추출(Model Extraction)’ 및 ‘증류(Distillation)’ 공격의 급증을 특별히 강조했다. 이 공격은 정상적인 API 권한을 이용해 모델에 체계적인 질의를 던지고 응답 패턴을 분석하는 방식이다. 이를 통해 AI 모델의 독점적인 추론 논리와 지식재산권(IP)을 그대로 복제한다. 주로 글로벌 민간 기업과 학술 연구자들이 경쟁 모델의 사고 과정을 알아내기 위해 시도하고 있다.
마이크로소프트(MS) 역시 앞서 이러한 공격이 ‘적대적 프롬프트’ 기법과 결합하고 있다고 분석했다. 공격자가 AI를 이용해 보안 가드레일을 자동 해제하거나 낮은 비용으로 핵심 자산을 탈취할 수 있어 기업들의 각별한 주의가 요구된다.
이제 AI는 보안 솔루션을 우회하는 ‘지능형 멀웨어’ 제작에도 적극 도입되고 있다. 구글은 제미나이 API를 호출해 공격 코드를 실시간으로 생성하는 멀웨어 ‘HONESTCUE’를 확인했다. 고정된 코드 패턴이 없어 기존의 정적 분석과 네트워크 탐지망을 손쉽게 우회한다. 암호화폐 거래소를 위장한 피싱 키트 ‘COINBAIT’ 역시 AI 덕분에 제작 속도가 획기적으로 빨라졌다. MS의 데이터에 따르면 AI 기반 피싱은 인간이 직접 만든 것보다 클릭률이 최대 4.5배 높다. 기존 12% 수준이던 클릭률이 54%까지 폭등하며 보안 전문가들조차 속아 넘어가는 실정이다.
해커들은 독자 모델을 개발하기보다 상용 AI를 악용하는 쪽을 택하고 있다고 구글은 분석했다. 다크웹에서 광고되는 ‘Xanthorox’ 같은 맞춤형 AI가 대표적이다. 조사 결과 이는 타사의 상용 API를 기반으로 작동하는 서비스로 드러났다. 이로 인해 공격자들이 타인의 API 키를 탈취하고 도용하는 사례가 급증하고 있다.
이와 관련해 보안 기업 체크포인트(Check Point)는 ‘WormGPT’와 같은 범죄 전용 서비스가 성행하며 ‘범죄의 대중화’가 시작됐다고 경고했다. 초보 해커도 단 몇 분 만에 수준 높은 악성 코드를 제작할 수 있는 환경이 조성된 것이다.
구글 클라우드 보고서가 시사하는 바는 명확하다. AI는 이제 해커들에게 강력한 비대칭 무기가 됐다. 특히 언어와 기술 장벽에 부딪혔던 국가 지원 조직들에게 AI는 완벽한 현지화와 자동화 도구를 제공하고 있다.
이제 보안은 ‘사람 대 사람’이 아닌 ‘AI 대 AI’의 대결이다. 기업들은 AI 모델에 대한 직접 공격에 대비하는 동시에 AI를 활용해 이상 징후를 실시간 탐지하는 ‘예측 방어(Anticipatory Defense)’ 체계로 신속히 전환해야 한다. 기계의 속도로 쏟아지는 공격을 막아낼 수 있는 유일한 방법은 방어 체계 역시 기계의 속도를 갖추는 것뿐이다.
☞ 기사 속 전문용어 풀이
- 모델 추출(Model Extraction): AI 모델에 수많은 질문을 던져 응답 패턴을 분석, 원본 모델의 논리 구조와 지식재산권을
복제하는 공격 기법
- 지능형 멀웨어: 실행 시점에 AI를 통해 코드를 생성하여 기존 보안 탐지 솔루션을 우회하는 변칙적인 악성코드
- 예측 방어(Anticipatory Defense): 사후 대응이 아닌, AI 분석을 통해 공격 징후를 미리 포착하고 선제 차단하는 전략
