Kant's IT/Issue on IT&Security

금융보안원의 금융 AI 보안성 검증체계 구축 및 AI 안전성 강화

Kant Jo 2024. 12. 31. 06:33

금융보안원, AI 보안 가이드라인·보안성 검증체계 마련 등 안전한 금융AI 지원 강화 – 바이라인네트워크

 

금융보안원, AI 보안 가이드라인·보안성 검증체계 마련 등 안전한 금융AI 지원 강화 – 바이라인

금융보안원은 인공지능(AI)으로 인한 디지털 환경과 업무 패러다임 변화에 발맞춰 금융회사가 안전하게 AI를 활용할 수 있도록 AI 전담 조직인 AI혁신실을 필두로 올해 보안성 검증체계와 이해도

byline.network

 

금융보안원, ‘금융 AI 모델 보안성 검증체계’ 마련

 

금융보안원, ‘금융 AI 모델 보안성 검증체계’ 마련 - BI KOREA

금융보안원(원장 김철웅)은 19일 발표를 통해, AI 전담 조직 ‘AI혁신실’을 필두로 올해 보안성 검증체계와 이해도 지표를 개발하는 등 정책적·기술적 지원 업무를 수행했다고 전했다. 급변하는

www.bikorea.net

 

  • 금융보안원의 AI 혁신 노력
    • AI혁신실: 금융보안원은 AI 전담 조직으로 2022년 AI 활용지원 TF, 2023년 AI데이터팀, 2024년 AI혁신실로 확대 개편
    • 정책적·기술적 지원: AI 보안성 검증체계와 금융보안 이해도 지표(FSKU) 개발 등 지원 업무 수행
    • 금융분야 AI 관련 가이드라인검증체계 개발
  • AI 보안성 검증체계
    • 보안위험 사전 식별 및 해결: AI 모델 사용 중 발생할 수 있는 보안 위험 요소를 사전에 식별하고 해결 방안 제시
    • 주요 금융회사를 대상으로 시범 검증 수행
    • 금융보안 이해도 지표(FSKU): 금융회사가 보안 관련 업무에 사용할 AI 모델 성능을 비교하고 최적의 모델 선정 지원
  • 금융 AI 신뢰성 확보를 위한 협업
    • 금융위원회 주관 금융권 AI 협의회 참여
    • 23개 금융회사, 학계, 법조계와 금융보안 AI 워킹그룹 출범
    • AI 세이프티 프레임워크(Safety Framework) 논의
  • 국제적 성과
    • 국제 금융 AI 대회(FinanceRAG) 2위 수상
    • 빅데이터 국제학회 및 데이터과학 학회에서 최우수 논문 수상
    • 생성형 AI 활용 아이디어 공모전(AIxData Challenge) 개최로 신사업 아이디어 발굴
  • 2025년 계획
    • 금융 AI 보안성 검증체계를 활용한 금융회사 AI 서비스 제3자 검증
    • 금융분야 AI 보안 가이드라인 개정
    • FDS 연합학습, 합성데이터 등 AI 프라이버시 강화 기술(PET) 연구
    • 사전 기능테스트(PoC) 환경 구축 및 보안대책 수립 지원
  • 결론
    • 핵심 기술 확보사전적 보안 검증이 금융권 AI 기술 활용의 필수 요소
    • 금융보안원과 금융당국 간 협업은 신뢰성 있는 AI 플랫폼 구축의 핵심
    • 금융사들은 AI 기술 도입 시 보안 체계 강화와 기술 리스크 관리 방안을 병행해야 함
    • AI 모델 사용 시 검증체계 활용지속적 모니터링을 통해 안전성을 보장해야 함