금융보안원의 안전한 AI 환경 조성 및 보안성 평가 추진

금융보안원, 안전한 AI 환경 조성 위한 보안성 평가 실시 - 아이티데일리

금융보안원, 안전한 AI 환경 조성 위한 보안성 평가 실시 - 아이티데일리

 

• 사업 개요
  • 금융보안원, 금융권 AI 활용 확산에 대응해 보안성 평가 및 기술 지원 강화
  • 혁신금융서비스 지정을 받은 금융회사 대상으로 보안대책 평가 실시
  • 금융사기 거래 탐지를 위한 금융권 공동 AI 모델 개발 추진
• 주요 추진 사항
  • 혁신금융서비스 지정 금융회사 보안대책 평가
    • 생성형 AI 활용 시 망분리 예외 구간의 보안 위험 점검
    • 안전한 AI 도입을 위한 기술 및 정책 지원 제공
  • AI 모델 대상 모의 공격 및 취약점 파악
    • 금융회사 사용 중인 AI 모델에 대한 보안성 검증 진행
    • 8개 금융회사에서 9개 서비스의 보안 점검 요청
    • AI 모델의 안전성과 신뢰성 확보 목표
  • 금융권 공동 AI 모델 개발(연합학습 기법 적용)
    • 연합학습(Federated Learning)으로 데이터 공유 없이 공동 AI 모델 개발
    • 금융사기 거래 탐지 모델을 개별 회사 차원에서 금융권 전체로 확대
  • 금융 분야 AI 활용 지원
    • 오픈소스 AI 모델 사용 환경 제공
    • 금융 분야 AI 가이드라인 개정 지원 및 정책 강화
• AI 활용 시 주요 보안 위협 및 우려
  • 사이버 공격 발생 가능성 증가
  • AI 학습 편향에 따른 의사결정 왜곡 문제
  • 정보 유출 및 오남용 발생 위험성
• 금융보안원의 대응 전략
  • AI 도입 전 단계: 보안성 평가 및 취약점 탐지 실시
  • AI 도입 중 단계: 모의 공격과 실시간 위험 분석 수행
  • AI 도입 후 단계: 지속적인 모니터링 및 보안 정책 개선
• 결론
  • AI 혁신과 보안은 상호 보완적 요소로 균형 있는 접근 필요
  • 금융회사들은 AI 도입 시 철저한 보안 검토와 사전 점검 필수
  • 연합학습 모델 도입으로 금융사기 탐지의 효율성 강화 필요
  • 금융보안원의 가이드라인 및 평가 기준 준수 권장