인공지능 생성물 식별을 위한 AI 워터마크 기술 동향 보고서 발간

인공지능(AI) 생성물에 대한 인공지능(AI) 워터마크 기술 동향 보고서 발간

인공지능(AI) 생성물에 대한 인공지능(AI) 워터마크 기술 동향 보고서 발간

 

• 개요
  • 과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA) 공동 발간
  • 인공지능 생성물의 신뢰성 및 투명성 확보를 위한 AI 워터마크 기술 소개
  • 국내외 정책 동향, 기술 적용 사례, 질의응답(Q&A) 포함
• AI 워터마크 기술 개념 및 필요성
  • 인공지능 생성물(AI-generated content)
    • AI 알고리즘을 통해 생성되거나 크게 변경된 이미지, 동영상, 오디오, 텍스트
    • 생성형 AI 활용 증가로 가짜뉴스, 딥페이크, 저작권 침해 등 오남용 사례 증가
  • AI 워터마크(Watermark) 기술 필요성
    • AI 생성물과 인간이 만든 콘텐츠를 명확히 구별하기 위한 표시
    • 국내외 법적 규제 대응, AI 기본법(제31조) 준수를 위한 기술적 방법
• AI 워터마크 기술 종류 및 적용 방식
  • 식별 방식에 따른 분류
    • 인지 가능한 워터마크: 사람이 직접 확인할 수 있는 시각적/청각적 마크
    • 인지 불가능한 워터마크: AI 분석 도구를 통해 검출할 수 있는 데이터 삽입
  • 적용 대상별 차별화된 기술
    • 이미지·영상: C2PA 표준, 디지털 워터마킹
    • 오디오: 주파수 변조, 스테가노그래피(Steganography)
    • 텍스트: 단어 패턴 변화, 은닉 마크 삽입
• 국내외 AI 워터마크 정책 및 기술 동향
  • 국제 정책 동향
    • 미국: NIST, C2PA 기반 워터마크 기술 연구 및 AI 투명성 가이드라인 수립
    • 유럽: 디지털서비스법(DSA) 및 AI법(AI Act)에서 AI 생성물 명시 요구
    • 중국: 생성형 AI의 원천 데이터 및 출처 표시 의무화
  • 국내 정책 동향
    • AI 기본법(2024.1.21 시행): AI 생성물의 투명성 확보 의무화
    • AI 생성물의 워터마킹 도입 및 기술 가이드라인 마련 추진
• AI 워터마크 활용 사례 및 기술 적용 방안
  • 국내외 기업 도입 사례
    • 국내 3개 기업: 인지 가능한 워터마크 적용
    • 국외 12개 기업: C2PA 기반 인지 불가능 워터마크 도입
  • AI 생성물 생명주기별 이해관계자 및 역할
    • 생성자(서비스 제공사) → AI 워터마크 삽입
    • 배포 플랫폼(운영사, 배포자) → 워터마크 유지 및 확인
    • 수요자(사용자) → AI 생성물 식별 및 신뢰성 확보
• AI 워터마크 기술의 한계 및 대체 방안
  • 워터마크 무력화 가능성
    • AI 기반 제거 기술 등장, 워터마크만으로 AI 생성물 신뢰성 확보 어려움
  • 대체 기술 검토
    • 메타데이터 활용(C2PA, IPTC, JPEG Trust)
    • AI 탐지 도구 개발: AI 생성물 탐지 및 판별 기술 연구 필요
• 향후 계획 및 정책 방향
  • AI 워터마크 전담반 운영 및 의견 수렴
  • AI 기본법 제31조 이행을 위한 기술 가이드라인 마련
  • 국내 기업 대상 AI 생성물 투명성 확보 지원
• 결론
  • AI 생성물 식별 및 투명성 확보 위한 기술 표준화 필요
  • 국내 기업의 AI 생성물 보호 및 규제 대응 가이드 제공 필요
  • AI 탐지 기술과 워터마크 기술 병행 활용 필수