유럽연합 AI법, 2월부터 AI 애플리케이션 금지 규정 본격 시행
유럽연합 AI법, 2월부터 AI 애플리케이션 금지 규정 본격 시행
AI법은 2025년 2월 2일부터 EU에서 특정 AI 애플리케이션의 사용을 금지한다. 간단히 말해, 소셜 스코어링과 같이 사람의 행동이나 특성을 기반으로 사람을 평가하고 분류하는 앱이 적용 대상이다.
www.itworld.co.kr
- 유럽연합 AI법 개요
- 2024년 제정된 유럽연합 AI법은 2026년 8월까지의 과도기를 포함하며 단계적으로 시행
- 2025년 주요 일정
- 2월 2일: 특정 AI 애플리케이션 사용 금지
- 8월 2일: 범용 AI(GPAI) 서비스 업체 및 운영업체 대상 규정 시행
- 금지 대상 AI 애플리케이션
- 제5조: 금지된 AI 프랙티스에 따라 다음과 같은 AI 시스템 사용 금지
- 조작적·기만적 기술: 사람의 행동에 영향을 미쳐 다른 결정을 내리게 하는 기술
- 취약성 악용: 나이, 장애, 경제적 상황 등을 기반으로 부정적 영향을 미치는 AI
- 사회적 평가: 행동, 성격 특성을 기반으로 불이익을 초래하는 평가 시스템
- 범죄 예측 및 프로파일링: 성격 및 특성 평가를 통해 범죄 가능성을 판단하는 시스템
- 얼굴 인식 데이터베이스 생성: 비표적 판독을 통한 얼굴 인식 데이터 수집 및 확장
- 감정 추론: 직장·교육기관에서 감정 추론 AI 사용(의료·안전 목적 제외)
- 생체 인식 분류: 생체 데이터를 기반으로 민감한 개인 정보를 도출하는 시스템
- 공공장소에서의 생체 인식 원격 식별
- 일부 금지 사항은 법 집행 목적에 한해 예외 적용
- 제5조: 금지된 AI 프랙티스에 따라 다음과 같은 AI 시스템 사용 금지
- 범용 AI(GPAI)에 대한 규정
- GPAI 정의: GPT-4, Llama와 같은 대규모 언어 모델(LLM)을 사용하는 AI 애플리케이션
- 적용 시점: 2025년 8월 2일부터 주요 AI 업체(마이크로소프트, 구글, 메타, 오픈AI 등)에 적용
- 법적 문제
- 규정 초안만 존재하며, 2025년 5월 최종 지침 발표 예정
- 기업은 지침 발표 후 2개월 내에 규정을 이행해야 함
- 현재 논의와 주요 쟁점
- AI 업계: 규제가 지나치게 엄격하면 비즈니스 위협 가능성 우려
- 시민단체: 더 많은 투명성과 위험 영향 평가 요구
- 규정의 허점: 일부 금지 사항이 명확하지만, GPAI 관련 규정은 구체적 완성도가 낮음
- 결론
- 유럽연합 AI법은 윤리적 AI 사용과 투명성 확보를 목표로 함
- AI 서비스 업체는 금지 조치 및 향후 규정을 준수할 준비가 필요하며, 위험 평가 및 내부 통제 강화가 필수
- 시민단체와 기업 간의 균형 잡힌 규정 수립을 위해 지속적인 논의와 협력이 필요
'Kant's IT > Issue on IT&Security' 카테고리의 다른 글
| 2025년 사이버보안 10대 트렌드 (0) | 2025.01.23 |
|---|---|
| 2025년 강타할 사이버 보안 트렌드 TOP 5 (0) | 2025.01.23 |
| 워드프레스 전자상거래 사이트를 노리는 고도화된 카드 스키머 캠페인 (0) | 2025.01.23 |
| 크리덴셜 스터핑: 단순하지만 치명적인 보안 위협과 대응 방안 (0) | 2025.01.23 |
| 한국 민간 분야에서 증가하는 사이버 해킹 피해 (0) | 2025.01.23 |