기업 96%, “AI 위협 예방에 보안 예산 늘린다”
인공지능(AI) 모델 개발 및 보안 기업 히든레이어(HiddenLayer)가 AI 도입이 가속화됨에 따라 조직이 직면하는 진화하는 보안 문제를 조명한 두 번째 연례 AI 위협 환경 보고서를 발표했다.이 보고서
www.gttkorea.com
- AI 보안 환경 변화
- AI 도입 증가에 따라 보안 위협도 동반 증가
- 74%의 조직이 2024년 AI 침해를 직접 경험
- 96%의 기업이 2025년 AI 보안 예산 증액 계획
- 32%의 조직만이 AI 위협 대응 기술 솔루션을 보유
- 45%의 조직은 평판 우려로 보안 사고를 공개하지 않음
- AI 보안 관리의 책임 공백
- 76%의 조직에서 AI 보안을 담당할 주체에 대한 내부 논쟁 발생
- AI가 기업 운영의 핵심으로 자리잡음에 따라 책임 주체 정의 필요
- 주요 위협 트렌드
- 섀도우 AI(Shadow AI): 승인되지 않은 AI 도구 사용을 72%가 위험으로 인식
- AI 공격 벡터: 공용 저장소(45%), 챗봇(33%), 서드파티 앱(21%) 통한 침해 확인
- 위협 발생 지역: 북미(51%), 유럽(34%), 아시아(32%) 순
- 에이전트 AI: 피싱, 데이터 유출, 공격 자동화 등에 활용 가능성 증가
- 딥페이크: 오디오, 시각, 텍스트 콘텐츠의 신뢰도 저하 우려
- AIPC(AI 기반 사이버 공격): AI 전용 칩셋 및 플랫폼을 노리는 공격 형태로 진화 예상
- 보안 권고
- AI 보안 플레이북 및 사고 대응 체계 마련 필요
- 적대적 머신러닝(adversarial ML)을 고려한 사전 테스트 및 레드팀 훈련 필요
- AI 워터마킹, 탐지 가능한 콘텐츠 생성 기술 발전에 투자 필요
- 데이터 보호와 모델 보안을 동시에 고려한 종합 방어 전략 수립
- 보안 책임 주체 명확화 및 AI 보안 거버넌스 체계 강화 요구
- 결론
- AI 보안은 단순 방어가 아닌 신뢰와 혁신의 기반으로 인식 전환 필요
- 조직은 AI 기술의 잠재력을 활용함과 동시에 위협 대응 전략을 병행 구축해야 함
- AI 통합이 빠른 조직일수록 선제적 보안 투자 및 책임 소재 명확화가 필수적 요소로 작용
'Kant's IT > Issue on IT&Security' 카테고리의 다른 글
| 한국인 개인정보 4억건 다크웹 유출, 크리덴셜 스터핑 및 2차 피해 확산 우려 (0) | 2025.03.31 |
|---|---|
| 위장된 CAPTCHA로 배포되는 LummaStealer 악성코드 캠페인 (0) | 2025.03.31 |
| Eleven11bot 봇넷, 86,000개 이상의 IoT 기기 감염 (0) | 2025.03.31 |
| 블랙 바스타(Black Basta) 랜섬웨어 그룹 내부 통신 유출 분석 (0) | 2025.03.31 |
| Silk Typhoon, IT 공급망을 겨냥한 공격 전술 전환 (0) | 2025.03.31 |