MS, 자사 AI 서비스 악용 사례에 법적 소송 나서 - 아이티데일리
MS, 자사 AI 서비스 악용 사례에 법적 소송 나서 - 아이티데일리
[아이티데일리] 마이크로소프트(MS)가 자사 AI 서비스의 안전 보호 장치를 우회하는 도구를 개발한 이들에 대해 법적 대응에 나섰다.지난 10일(현지 시각) 테크크런치 등 외신에 따르면, MS는 애저
www.itdaily.kr
- 사건 개요
- MS는 자사 애저 오픈AI 서비스의 안전 장치를 우회해 불법 콘텐츠 제작에 사용한 피고 10명을 고소
- 애저 오픈AI 서비스는 GPT, 달리(DALL-E) 등 거대언어모델(LLM)을 활용한 애플리케이션 개발 지원 플랫폼
- 2024년 12월, MS는 버지니아 동부 법원에 해당 사건과 관련된 소장을 제출
- 악용 사례
- MS는 2024년 7월 고객 API 키가 금지된 콘텐츠를 생성하는 데 사용된 사실을 확인
- 조사를 통해 API 키는 MS 고객으로부터 탈취된 것으로 밝혀짐
- 피고는 rentry.org/de3u와 같은 도메인 인프라를 통해 API 호출 요청 생성
- de3u 소프트웨어를 사용해 API 요청 매개변수 변경을 방지하는 기술적 제어를 우회함으로써 서비스 접근
- MS의 대응
- MS 디지털 범죄 부서(DCU)는 AI 기술의 악용을 차단하기 위해 보호 장치를 강화했다고 발표
- MS는 법적 조치와 함께 온라인 피해를 방지하기 위한 예방 조치 및 협력 체계 강화
- MS는 AI 남용을 다루는 새로운 법률의 필요성을 지지하며 정부 당국과 협력 의사 표명
- 결론
- AI 기술의 악용은 서비스 제공자와 사용자 모두에게 심각한 리스크를 초래
- 기업은 보안 체계를 강화하고, 악의적 활동을 감시하며 법적 대응 수단을 마련해야 함
- 정부 및 산업 간 협력을 통해 AI 기술 남용 방지와 관련된 규제 및 법적 프레임워크 수립이 필요
'Kant's IT > Issue on IT&Security' 카테고리의 다른 글
| LG유플러스, 개인정보 관리 위한 ‘프라이버시 센터’ 오픈 (0) | 2025.01.21 |
|---|---|
| iMessage 스미싱: 피싱 보호를 우회하도록 유도 (0) | 2025.01.21 |
| ESXi를 대상으로 한 랜섬웨어 공격: 가상화 환경의 위협과 대응 (0) | 2025.01.21 |
| 안티바이러스 제품 10종의 랜섬웨어 대응 능력 평가 (0) | 2025.01.21 |
| CISA, OT 제품 보안을 강화하기 위한 무료 가이드 배포 (0) | 2025.01.21 |