ChatGPT macOS Flaw Could've Enabled Long-Term Spyware via Memory Function
ChatGPT macOS Flaw Could've Enabled Long-Term Spyware via Memory Function
ChatGPT vulnerability patched by OpenAI after discovery of persistent spyware risk in memory feature, potentially exposing user data.
thehackernews.com
- 취약점 개요
- OpenAI의 ChatGPT macOS 앱에서 발생한 보안 취약점이 악용될 경우, 공격자가 스파이웨어를 AI 도구의 메모리 기능에 심어 장기간 데이터를 탈취할 수 있는 가능성이 존재함
- 해당 취약점은 SpAIware라는 기술로 명명되었으며, 이를 악용하여 사용자가 입력한 정보나 ChatGPT로부터 받은 응답을 지속적으로 탈취 가능
- 취약점 세부 내용
- ChatGPT의 메모리 기능은 사용자의 반복적인 정보 입력을 방지하기 위해 도입된 기능으로, 사용자가 선택한 정보를 기억할 수 있으며, 사용자는 필요 시 프로그램에 기억을 삭제하도록 요청 가능
- 이 기능은 공격자가 메모리 내에 악성 명령어를 삽입하여 지속적인 명령 실행을 가능하게 하는 방식으로 악용될 수 있음
- 공격 시나리오
- 공격자는 사용자를 악성 웹사이트로 유도하거나, 악성 문서를 다운로드하게 함으로써 메모리 업데이트를 유발할 수 있음
- 그 후, ChatGPT의 모든 대화 및 사용자의 입력 내용이 공격자 서버로 전송되도록 설정될 수 있으며, 이는 대화 세션 간에도 지속적으로 데이터가 탈취되는 위험성을 내포함
- 취약점 해결
- OpenAI는 해당 문제를 해결한 ChatGPT 버전 1.2024.247을 배포하며, 공격 경로를 차단함
- 사용자는 정기적으로 메모리 내 저장된 정보를 점검하고, 의심스럽거나 부정확한 정보를 삭제해야 함
- 기타 관련 연구
- 새로운 AI 탈옥 기법인 MathPrompt가 발견되었으며, 이는 수학적 문제로 변환된 유해 명령어를 통해 AI의 안전 메커니즘을 우회할 수 있는 기술임
- 테스트 결과, 수학적 기법을 적용한 경우 73.6% 의 확률로 유해한 응답이 생성되었으며, 이는 기존 방법에 비해 훨씬 높은 수치임
- 보안 권장 사항
- ChatGPT 사용자는 메모리 기능을 지속적으로 모니터링하고, 잘못된 정보가 저장되지 않도록 주기적으로 관리해야 함
- AI 시스템의 장기 메모리는 잘못된 정보나 지속적인 공격의 위험을 초래할 수 있으므로 주의해야 함
'Kant's IT > Vulnerability' 카테고리의 다른 글
| NVIDIA 제품 보안 업데이트 권고 (CVE-2024-0132) (1) | 2024.10.01 |
|---|---|
| 10년 넘은 리눅스 취약점 발견, 심각도 9.9점…조직의 대비 필요 (1) | 2024.10.01 |
| 심각한 원격 코드 실행 취약점 OpenPLC에서 발견 (0) | 2024.09.29 |
| 심각한 10년 묵은 GNU/Linux 취약점 발견: 9.9 등급 취약성, 전 세계 시스템 위협 (0) | 2024.09.29 |
| Nvidia Container Toolkit 취약점으로 인한 컨테이너 탈출 및 호스트 장악 위험 (0) | 2024.09.29 |