New AI-Powered Scam Detection Features to Help Protect You on Android
New AI-Powered Scam Detection Features to Help Protect You on Android
Posted by Lyubov Farafonova, Product Manager, Phone by Google; Alberto Pastor Nieto, Sr. Product Manager Google Messages and RCS Spam and Ab...
security.googleblog.com
- 배경 및 필요성
- 2024년, 생성형 AI를 활용한 피싱 및 사기 공격으로 모바일 소비자 1조 달러 이상 손실
- 사기의 주요 채널은 전화 및 문자 메시지로, 기존 스팸 필터링만으로는 진화한 대화형 사기 대응 한계
- 구글은 Google AI를 통해 사용자 보호 강화를 목표로 실시간 사기 탐지 기능 도입
- Google 메시지용 사기 탐지 기능
- 기존 스팸 보호 기능에서 사기 탐지(Scam Detection) 기능을 추가
- 대상 메시지 유형: SMS, MMS, RCS, 발신자가 연락처에 없는 경우에만 적용
- 탐지 방식: 온디바이스 AI가 메시지 패턴을 분석하여 실시간 경고 제공
- 개인정보 보호
- 모든 분석은 기기 내 처리, 외부 전송 없음
- 사용자가 신고 선택 시에도 발신자 정보 및 일부 메시지만 전송됨
- 출시 국가: 미국, 영국, 캐나다 (영어 기반), 이후 확장 예정
- 전화용 사기 탐지 기능
- Google Phone 앱의 Pixel 시리즈(9 이상)에 탑재된 베타 기능
- Gemini Nano 기반 AI 모델로 통화 내용을 실시간 분석
- 예시: 배송 완료를 위해 기프트 카드 결제 요구 시 경고 표시 및 진동/음성 안내
- 프라이버시 보호
- 통화 오디오는 기기 내 휘발성 처리, 녹음·저장·외부 전송 없음
- 기본 비활성화, 사용자가 통화 중 또는 전체 기능에서 선택적으로 활성화 가능
- 연락처 등록된 사용자 통화는 대상 아님
- 기술적 접근 방식 및 파트너 협업
- 금융기관과 협력하여 최신 사기 유형 파악 및 모델 훈련에 반영
- 사기 탐지 경고는 사회공학 기반의 대화형 사기에 중점 대응
- Pixel 9 Pro는 Leviathan Security 평가에서 최고 등급의 내장 보안 및 사기 방지 능력 획득
- 결론
- 구글은 AI 기반 실시간 탐지 기술로 기존 사기 방어 한계를 극복하고 있음
- 통화 및 문자 기반 사기 모두에 대해 온디바이스 AI 처리 및 사용자 프라이버시 중심 설계
- 향후 안드로이드 전반으로 확대 예정이며, 사용자의 보안 인식 제고와 기능 활성화가 중요
'Kant's IT > Issue on IT&Security' 카테고리의 다른 글
| 블랙바스타와 캑터스 랜섬웨어 조직의 내부 분열과 위협 분석 (0) | 2025.03.30 |
|---|---|
| 카카오 고객센터 사칭 및 개인정보위 사칭 피싱 사기 급증 (0) | 2025.03.30 |
| CACTUS 랜섬웨어의 TTP에서 Black Basta 조직과의 연계 정황 식별 (0) | 2025.03.25 |
| LLMjacking, 클라우드 기반 생성형 AI 대상 공격의 부상 (0) | 2025.03.25 |
| APT28의 고도화된 HTA 트로이목마 난독화 기법 분석 (0) | 2025.03.24 |