AI 기반 인포스틸러 공격 사례

AI가 만들어낸 탈취 도구, 구글 크롬에서 개인정보 빼내는데 성공 - 아이티데일리

AI가 만들어낸 탈취 도구, 구글 크롬에서 개인정보 빼내는데 성공 - 아이티데일리

 

• 공격 개요
  • 케이토네트웍스는 챗GPT, 코파일럿, 딥씨크 등을 활용해 크롬 브라우저에서 인증 정보를 탈취하는 인포스틸러(InfoStealer) 멀웨어 생성에 성공
  • LLM(Large Language Model)을 ‘속이는’ 몰입형 시나리오를 통해 보안 필터를 우회하고, 정보 탈취 기능을 가진 악성코드를 생성
  • 초기 공격 프롬프트 외에 인간 개입 없이 AI가 악성 이메일, 스크립트 작성, 멀웨어 완성까지 수행
• 주요 위협 기술
  • LLM 프롬프트 인젝션과 시나리오 기반 제약 우회
    • '몰입형 세계'라는 설정으로 보호 장치를 무력화하며 금지된 코드 생성을 유도
  • 자동화된 악성 스크립트 생성
    • 파워쉘을 이용한 연락처 수집 및 스피어 피싱 메일 구성 자동화
  • 테스트 프로파일을 통해 실제 작동하는 정보 탈취 도구 검증
    • 사용자 인증정보를 크롬 브라우저에서 추출하는 기능 입증
• AI 보안 체계의 한계
  • LLM의 문맥 해석과 보안 정책 우회 가능성 확인
    • 시나리오와 캐릭터 역할극을 통해 금지된 작업을 허용하는 로직 구조 악용
  • AI가 코드 품질을 지속 개선하며 자율적으로 멀웨어를 고도화
    • 단순한 보안 우회가 아닌, 멀웨어의 개선 피드백 루프가 구현됨
• 보안 권고
  • 인증체계 보강
    • 비밀번호 기반 인증 제거, FIDO 기반 생체 인증 및 패스키(Passkey) 도입 필요
  • LLM 보호 프레임워크 강화
    • 프롬프트 필터링 외에 컨텍스트 기반 제한 및 책임 있는 AI 실행 프레임워크 구축
  • 엔드포인트 및 브라우저 보안 고도화
    • 브라우저 내 저장 정보 암호화, 행위 기반 탐지(EDR) 정책 적용
  • 보안 교육 및 가이드라인 강화
    • AI 시대의 피싱 공격, 딥페이크, 소셜 엔지니어링에 대한 사용자 대응 역량 향상
• 결론
  • AI가 단순한 공격 도구가 아닌 공격 주체로 진화하고 있으며, 방어 체계 역시 AI 중심으로 전환되어야 함
  • 보안 조직은 프롬프트 인젝션 대응, AI 악용 시나리오 탐지, AI 코딩 툴 검증 등 새로운 위협 모델 기반의 전략 수립 필요
  • 기존 보안 아키텍처로는 대응이 불가능한 '제로아워' 환경에서 복원력 중심의 AI 보안 운영 체계 구축이 필수적임