AI 보안 11

구글, 버텍스 AI RAG 엔진 출시…RAG 구현 간소화

구글, 버텍스 AI RAG 엔진 출시…RAG 구현 간소화 구글, 버텍스 AI RAG 엔진 출시…RAG 구현 간소화구글이 최근 버텍스 AI RAG 엔진(Vertex AI RAG Engine)을 공개했다. 이 도구는 지식 기반에서 관련 정보를 검색하고 이를 LLM에 전달하는 복잡한 과정을 간소화하도록 설계된 개발자 도구다. RAG를 구현www.itworld.co.kr 버텍스 AI RAG 엔진(Vertex AI RAG Engine) 개요구글이 버텍스 AI 플랫폼 내 RAG(Retrieval-Augmented Generation) 엔진 공개LLM(대규모 언어 모델)과 지식 기반 검색 프로세스를 간소화하는 개발자 도구소프트웨어 및 AI 개발자가 신뢰할 수 있는 생성형 AI 솔루션을 구축할 수 있도록 지원RAG, ..

생성형 AI 도구를 통한 데이터 유출 위험 분석

챗GPT·클로드·제미나이에 유출된 정보 분석했더니… 챗GPT·클로드·제미나이에 유출된 정보 분석했더니…직원 48%가 기업 정보 무단 입력... AI 도구로 인한 데이터 유출 실태보안 전문기업 하모닉(Harmonic)이 발표한 '생성형 AI로 유출되는 데이터 현황' 보고서에 따르면, 직원들의 생성형 AI 도구 사용 과zdnet.co.kr 기업 정보 유출 실태보안 기업 하모닉(Harmonic) 보고서에 따르면 직원 48%가 생성형 AI 도구에 기업 기밀 정보를 입력한 경험이 있음68%의 기업이 이러한 데이터가 경쟁사 또는 대중에게 노출될 위험을 우려사용된 AI 도구: 마이크로소프트 코파일럿(Microsoft Copilot), 챗GPT(ChatGPT), 구글 제미니(Google Gemini), 앤스로픽 클로드..

2025년 사이버 보안 트렌드: IBM의 전망

Cybersecurity trends: IBM's predictions for 2025 Cybersecurity trends: IBM's predictions for 2025With AI and gen AI likely taking the cybersecurity spotlight in 2025, there are still more trends to consider as we look to the new year.securityintelligence.com AI 보안의 양면성AI는 데이터 보호, 보안 규정 준수, 위협 탐지에서 강력한 역할 수행하지만 공격자들도 AI를 활용해 소셜 엔지니어링 공격 및 악성 코드 배포 강화생성형 AI(Gen AI) 기반 보안 위협 증가그림자 AI(Shadow AI) 확산과..

보이지 않는 프롬프트 주입 (Invisible Prompt Injection)과 AI 보안 위협

Invisible Prompt Injection: A Threat to AI Security Invisible Prompt Injection: A Threat to AI SecurityLearn about invisible prompt injection, which is a silent threat to secure AI.www.trendmicro.com 보이지 않는 프롬프트 주입이란?프롬프트 주입(Prompt Injection)은 사용자가 입력을 조작하여 LLM(대형 언어 모델)의 동작을 변경하는 공격 기법보이지 않는 프롬프트 주입은 UI에서 보이지 않는 유니코드(Unicode) 문자를 활용하여 공격하는 기법공격자는 LLM이 숨겨진 텍스트를 해석하도록 유도하여 비정상적인 응답을 생성공격 방식유니코드 태..

GhostGPT – 사이버 범죄를 위한 탈옥된 AI 챗봇의 등장

GhostGPT - Jailbreaked ChatGPT that Creates Malware & Exploits GhostGPT - Jailbreaked ChatGPT that Creates Malware & ExploitsThe latest and most concerning addition to this list is GhostGPT, a jailbroken variant of ChatGPT designed specifically for illegal activities.gbhackers.com 개요GhostGPT는 기존 ChatGPT의 윤리적 제한과 보안 프로토콜을 제거한 탈옥된(Jailbreaked) 챗봇악성 코드 제작, 피싱 공격, 보안 취약점 악용 등의 기능을 제공하여 사이버 범죄자들에게 새로..

안드로이드, 'Identity Check' 및 도난 방지 기능 강화

Android enhances theft protection with Identity Check and expande₩d features Android enhances theft protection with Identity Check and expanded featuresPosted by Jianing Sandra Guo, Product Manager, Android, Nataliya Stanetsky, Staff Program Manager, Android Today, people around the world...security.googleblog.com 배경 및 목적모바일 기기는 금융 관리, 건강 정보 확인, 개인 연락 유지 등의 핵심 역할을 수행도난 시 개인정보 유출, 금융 사기, 계정 탈취 위험..

애플 '시리' 개인정보 유출 의혹 및 조사 진행

개인정보위, 애플 ‘시리’ 개인정보 유출에 “상황 파악 중”…구글·메타 소송은 “낙관적으로 기대” 개인정보위, 애플 ‘시리’ 개인정보 유출에 “상황 파악 중”…구글·메타 소송은 “낙관적으애플 ‘시리’ 개인정보 무단 수집엔 “가능성 열어놓고 상황 파악 중”구글·메타 소송 결과엔 “낙관적으로 기대”애플의 인공지능(AI) 음성 비서 시리가 사용자의 대화를 엿듣는 등 개인정보www.munhwa.com 개인정보위, 미 애플 ‘시리’ 개인정보 유출 의혹에…“국내 피해 여부 조사” 개인정보위, 미 애플 ‘시리’ 개인정보 유출 의혹에…“국내 피해 여부 조사”미국 내 애플의 음성비서 '시리(Siri)'의 개인정보 유출 의혹에 대해 정부 당국도 국내 소비자의 피해가 있...news.kbs.co.kr 사건 개요애플의 음성 ..

Black Basta 스타일 사이버 공격: 90분 만에 1,165개의 악성 이메일 전송

Black Basta-Style Cyberattack Hits Inboxes with 1,165 Emails in 90 Minutes Black Basta-Style Cyberattack Hits Inboxes with 1,165 Emails in 90 MinutesFollow us on Bluesky, Twitter (X) and Facebook at @Hackreadhackread.com 공격 개요Black Basta 랜섬웨어 그룹의 전술을 모방한 사이버 공격이 SlashNext의 한 클라이언트를 타겟90분 내에 1,165개의 악성 이메일이 22개의 사용자 메일박스를 공격, 사용자 클릭을 유도이메일 내용: 계정 확인, 구독 알림 등의 주제로 신뢰를 유발공격 전술가짜 플랫폼 가장: WordPress, ..

크리덴셜 스터핑: 단순하지만 치명적인 보안 위협과 대응 방안

[이슈플러스]'단순하지만 강력'…크리덴셜 스터핑에 계속 뚫리는 보안 [이슈플러스]'단순하지만 강력'…크리덴셜 스터핑에 계속 뚫리는 보안연말·연초 사이버 공격이 잇따르면서 개인정보 유출 사고가 빈번하게 일어나고 있다. 특히 해커가 즐겨 쓰는 '크리덴셜 스터핑(Credential Stuffing)' 공격방식이 잊을 만하면 등장함에 따라 각별한www.etnews.com [이슈플러스]크리덴셜 스터핑 대책 내놓은 사이버보안 기업은 [이슈플러스]크리덴셜 스터핑 대책 내놓은 사이버보안 기업은사이버 보안 기업은 해커가 애용하는 크리덴셜 스터핑을 막기 위해 여러 대응책을 내놓고 있다. 패스워드 없는 인증부터 생체 인증, 자동화된 봇(Bot), 인공지능(AI)까지 다양하다. 에프엔에스벨www.etnews.com 크리덴셜 ..

MS, AI 서비스 악용 사례에 대한 법적 대응

MS, 자사 AI 서비스 악용 사례에 법적 소송 나서 - 아이티데일리 MS, 자사 AI 서비스 악용 사례에 법적 소송 나서 - 아이티데일리[아이티데일리] 마이크로소프트(MS)가 자사 AI 서비스의 안전 보호 장치를 우회하는 도구를 개발한 이들에 대해 법적 대응에 나섰다.지난 10일(현지 시각) 테크크런치 등 외신에 따르면, MS는 애저www.itdaily.kr 사건 개요MS는 자사 애저 오픈AI 서비스의 안전 장치를 우회해 불법 콘텐츠 제작에 사용한 피고 10명을 고소애저 오픈AI 서비스는 GPT, 달리(DALL-E) 등 거대언어모델(LLM)을 활용한 애플리케이션 개발 지원 플랫폼2024년 12월, MS는 버지니아 동부 법원에 해당 사건과 관련된 소장을 제출악용 사례MS는 2024년 7월 고객 API 키..