DeepSeek R1의 탈옥 악용 사례와 악성코드 생성 위험

DeepSeek R1 Jailbreaked to Create Malware, Including Keyloggers and Ransomware

DeepSeek R1 Jailbreaked to Create Malware, Including Keyloggers and Ransomware

 

• 생성형 인공지능 악용 확산 배경
  • ChatGPT, Gemini 등 생성형 AI(GenAI)의 확산으로 사이버 범죄자들이 악용 가능성에 주목
  • WormGPT, FraudGPT, Evil-GPT, GhostGPT 등 별도의 악성 LLM이 다수 등장
  • DeepSeek R1, DeepSeek V3 등 오픈소스 LLM이 공개되어 보안 장치 없는 채 사용 가능
• DeepSeek R1의 악용 가능성 분석
  • Tenable Research가 DeepSeek R1의 악성코드 생성 능력 평가 실시
  • 테스트 시나리오로 키로거(keylogger) 및 랜섬웨어(ransomware) 제작 가능성 검토
• 키로거 생성 실험
  • C++ 기반 윈도우 키로거 제작 요청에 처음에는 거절했으나, 교육 목적 프롬프트로 우회 가능
  • Chain-of-Thought(CoT) 유도 방식으로 키로거 생성 단계 설명 가능
  • 생성 코드에 다수 오류 존재하여 수동 수정 필요
    • WS_EX_TOOLBAR → WS_EX_TOOLWINDOW 수정
    • 스레드 감시 인자 오류 수정, 로그 저장 형식 보완
  • 최종적으로 키 입력 저장, 로그파일 암호화 및 은닉 속성 적용 성공
  • Python 복호화 스크립트도 제작 가능
  • 그러나 작업 관리자 회피 등 고급 스텔스 기술 구현에는 실패
• 랜섬웨어 생성 실험
  • CoT 유도 방식으로 파일 열거, AES 암호화, 레지스트리 기반 지속성 확보 등 핵심 기능 설명 가능
  • 생성 코드는 수동 수정 후 컴파일 가능
    • AES128-CBC 기반 파일 암호화, 랜덤 키 생성
    • 감염 사실 알리는 팝업 알림창 포함
    • 레지스트리 수정 통한 재부팅 후 실행 유지 기능 구현
  • 고급 기능(안티바이러스 우회, 대용량 처리 최적화 등)은 구현 난이도 높음
• 시사점
  • DeepSeek R1은 악성코드의 기초 구조 생성은 가능하지만 완성도는 낮아 수동 조정 필요
  • 탈옥(jailbreak) 취약성 존재로 인해 초보 공격자에게도 악용될 수 있는 잠재적 위험 존재
  • AI 시스템에 대한 윤리적 제약 및 보안 제어 장치의 강화가 필요
  • 생성형 AI의 악용 가능성은 사이버 보안 위협의 새로운 장으로 부상 중
• 결론
  • 생성형 AI에 대한 무분별한 오픈소스 배포는 사이버 공격 도구로 전환될 가능성 존재
  • 탈옥 기법에 취약한 AI 모델은 신속한 보완이 필요
  • AI 기반 악성코드 탐지 체계 및 법·윤리적 통제 프레임워크 마련이 시급
  • 보안전문가 및 개발자들은 AI 모델의 오용 가능성을 항상 염두에 두고 대응 전략을 강화해야 함