Microsoft Sues Hacking Group Exploiting Azure AI for Harmful Content Creation
- 법적 조치 및 공격자 그룹
- Microsoft는 hacking-as-a-service 인프라를 운영하는 외국 기반의 위협 그룹을 상대로 법적 조치를 취함
- 이들은 Microsoft의 Azure OpenAI 서비스를 악용하여 유해한 콘텐츠를 생성하고 이를 다른 악성 행위자들에게 판매
- 공격 방식
- 공개된 웹사이트에서 스크랩된 고객 자격 증명을 활용하여 generative AI 서비스에 접근
- Azure OpenAI 서비스와 같은 AI 도구를 활용해 유해한 이미지를 생성하고 판매
- API 키 도용 및 Microsoft Entra ID 인증 정보 도난을 통해 공격 발생
- d3u와 oai reverse proxy 도구를 사용하여 Azure OpenAI 서비스에 불법적으로 요청을 보냄
- 구체적인 피해 사례
- 이들은 DALL-E 모델을 사용하여 수천 개의 유해한 이미지를 생성
- 피해자는 Microsoft 고객으로, 특히 미국 기반 기업들이 포함되어 있음
- aitism.net 도메인과 관련된 GitHub 레포지토리가 이 공격에 중심적 역할
- Microsoft의 대응
- 공격자의 접근을 차단하고, 새로운 보안 조치 및 API 키 보호 기능 추가
- 법원 명령을 통해 aitism.net 웹사이트를 압수
- 공격자들의 행위 패턴을 추적하여 법적 대응 준비
- 결론
- Microsoft는 AI 서비스 악용을 차단하기 위해 보안 강화 및 법적 대응을 지속적으로 강화해야 함
- API 키 보호, AI 서비스 안전성 강화가 필수적
- 보안 인식 향상과 법적 조치가 중요한 시점
'Kant's IT > Issue on IT&Security' 카테고리의 다른 글
| 미국, ‘데이터 브로커’ 규제 (0) | 2025.01.20 |
|---|---|
| 보안기능확인서 제품 결과보고서 공개 (0) | 2025.01.20 |
| 가짜 PoC 악용, 사이버 보안 연구원들을 노리는 정보 탈취 악성코드 (0) | 2025.01.20 |
| SD-WAN과 SASE의 통합: 클라우드 기반 네트워크와 보안 혁신 (0) | 2025.01.20 |
| 계정·자격증명 보호 필요 (0) | 2025.01.20 |