Kant's IT/Issue on IT&Security 1213

생성형 AI 오용에 따른 데이터 침해와 대응 전략

“생성형 AI 오용, 2027년까지 AI 데이터 침해 40% 차지” “생성형 AI 오용, 2027년까지 AI 데이터 침해 40% 차지” - BI KOREA뉴스 “생성형 AI 오용, 2027년까지 AI 데이터 침해 40% 차지”가트너 분석 발표…“선제적 대응 필요” 조언 데이터 거버넌스와 보안 조치의 발전 속도가 AI 도입 속도보다 느려 보안 위험이 발생www.bikorea.net AI 도입 속도와 보안 위험생성형 AI 도입 속도가 데이터 거버넌스 및 보안 조치 발전 속도를 앞질러 보안 취약 발생국경을 넘는 부적절한 AI 사용으로 인한 데이터 침해 사고가 2027년까지 40% 차지 예상중앙 집중식 컴퓨팅으로 인한 데이터 현지화 우려 증가AI 및 데이터 거버넌스의 중요성글로벌 AI 표준화 격차가 운영 비효율..

AI 코딩 툴 환각 현상 예방과 해결 방법

AI 코딩 툴의 환각을 줄이는 방법 8가지 AI 코딩 툴의 환각을 줄이는 방법 8가지AI 코딩 툴이 생성하는 코드가 “그럴듯해 보이지만 실제로는 잘못되었거나 작동하지 않는 경우가 많다. 그렇다면 AI 환각이 코드를 망치는 것을 어떻게 방지할 수 있을까? AI 코딩 툴을 활용하는www.itworld.co.kr AI 코딩 툴의 환각 원인과 문제점모델의 확률적 특성으로 인해 결정론적 논리가 아닌 통계적 가능성에 기반하여 환각 발생컴파일 오류, 비효율적 코드, 존재하지 않는 함수 생성 등 다양한 문제 발생잘못된 코드가 프로덕션에 반영되면 보안 취약점, 기술 부채 증가 및 유지보수 비용 상승 초래AI 환각을 줄이는 방법명확하고 상세한 프롬프트 작성한정된 범위의 질문과 작은 코드 블록 검토로 오류 발견률 증가참고 ..

LG유플러스, 블랙박스 모의해킹 통한 보안 역량 강화

LGU+ "'블랙박스 모의해킹' 진행…보안 역량 강화" | 연합뉴스 LGU+ "'블랙박스 모의해킹' 진행…보안 역량 강화" | 연합뉴스(서울=연합뉴스) 조현영 기자 = LG유플러스[032640]가 보안 업체 엔키화이트햇과 함께 8개월 동안 '블랙박스 모의해킹'을 진행한다고 18...www.yna.co.kr 블랙박스 모의해킹 개요LG유플러스가 엔키화이트햇과 8개월간 공동 수행일반 모의해킹과 달리 기업의 보안 정보나 시나리오 없이 진행외부 공격자 관점에서 모든 가능한 침투 방법 시도모의해킹 목적 및 기대 효과서비스 침투 시도를 통해 보안 시스템의 취약점 식별취약점 파악 후 엔키화이트햇과 공동 점검 및 보완고객 보안 불안 해소와 서비스 신뢰도 강화 기대프로젝트 진행 일정2024년 11월 시작, 2025년 상반..

생성형 AI 사용이 인간 사고력에 미치는 영향과 정보보호 시사점

"AI의 역설...인간 사고력 약화할 수도" 카네기 멜론∙MS 공동 연구 "AI의 역설...인간 사고력 약화할 수도" 카네기 멜론∙MS 공동 연구딥러닝 기반의 생성형 AI 도구가 빠르게 도입되고 있지만, 그 사용이 인간의 사고에 어떤 영향을 미치는지에 대한 우려가 제기되고 있다. 최근 연구에서 AI의 문제 해결 능력 저하가 우려되는 결www.itworld.co.kr 생성형 AI 사용의 장점과 문제점생성형 AI는 지식 노동자의 업무 효율성을 향상시키지만 비판적 사고와 문제 해결 능력을 저하시킬 수 있음AI에 대한 과도한 의존은 인간의 판단력과 인지 능력 저하로 이어질 위험이 있음AI 도구 사용 시 정보 검증과 결과 평가의 중요성이 강조됨인지적 부담 경감과 그 영향생성형 AI는 인지적 부담을 줄이지만, 이는..

생성형 AI의 정확성 문제와 정보보호 시사점

“버그가 아니라 특징” 정답을 모르는 생성형 AI의 딜레마 “버그가 아니라 특징” 정답을 모르는 생성형 AI의 딜레마생성형 AI에는 현실적인 측면이 있다. 그러나 그곳에 도달하기 위해서는 확실성보다는 가능성을 바람직한 결과로 받아들이는 새로운 프로그래밍 방법을 찾아야 할 것이다.www.itworld.co.kr 생성형 AI의 정확성 문제생성형 AI(Generative AI)는 빠르게 발전하고 있지만 정확성은 오히려 떨어지는 문제를 안고 있음특히 대규모 언어 모델(LLM)은 매우 빠른 답변을 제공하지만 동시에 잘못된 정보를 자신 있게 제시할 수 있음마케팅이나 소프트웨어 개발 분야에서는 검증과 수정이 가능하지만, 사실 확인이 필요한 작업에서는 치명적인 오류를 발생시킬 수 있음특정 작업에서는 "더 나은 답"이 ..

엘라스틱 시큐리티, 마이크로소프트 그래프 API 악용한 데이터 도용 멀웨어 경고

엘라스틱 시큐리티, 그래프 API 악용한 새로운 데이터 도용 멀웨어 경고 엘라스틱 시큐리티, 그래프 API 악용한 새로운 데이터 도용 멀웨어 경고그래프 API를 악용해 마이크로소프트 아웃룩을 통신 채널로 사용하는 새로운 데이터 도용 멀웨어가 발견되면서 CISO의 걱정이 늘어났다. 해시된 암호의 우회 방법이 포함돼 있어서다.www.itworld.co.kr 개요엘라스틱 시큐리티(Elastic Security)가 마이크로소프트 그래프 API와 아웃룩 메일 서비스를 악용하는 새로운 데이터 도용 멀웨어 발견멀웨어는 해시된 암호 우회 및 정교한 데이터 수집 기능을 포함공격 캠페인은 남미 외무부, 동남아시아 대학 및 통신 업체 등 주요 기관을 표적으로 함공격 특징 및 주요 기술적 세부사항그래프 API 악용아웃룩 메일..

국가간 개인정보 보호 격차와 AI 데이터 침해 위협 증가

“국가간 개인정보 보호 격차, AI 데이터 침해 위협 높여” - 데이터넷 “국가간 개인정보 보호 격차, AI 데이터 침해 위협 높여” - 데이터넷[데이터넷] 중국 생성형 AI 딥시크 논란 중 가장 중요한 논쟁점이 정보보호와 관련된 것이다. 중국은 AI 기술 육성을 위해 모든 정보를 수집하고, 중국 내 서버에 저장해 활용하고자 하는데, 이 데www.datanet.co.kr 주요 배경 및 문제점국가 및 지역별 개인정보 보호 격차로 인한 AI 데이터 침해 위협 증가중국: AI 기술 육성 목적으로 모든 정보 수집 및 내부 서버 저장유럽 및 한국: 강력한 개인정보 보호 법제 운영, 데이터 주체 권리 강화미국 및 중국 기업: 데이터 활용에 제약 발생, 국제 데이터 흐름 제한국경 간 데이터 전송에서 발생하는 AI 오..

MS, 메신저 앱 대상 장치 코드 피싱 공격 발견 - 러시아 해킹 그룹 소행 추정

MS, 메신저 앱 대상 피싱 공격 발견…“러시아 해킹 그룹 소행 추정” - 아이티데일리 MS, 메신저 앱 대상 피싱 공격 발견…“러시아 해킹 그룹 소행 추정” - 아이티데일리[아이티데일리] 마이크로소프트(MS)가 글로벌 메신저 앱 대상으로 이뤄진 장치 코드 피싱(Phishing) 공격을 발견했다. 이는 여러 국가의 정부 기관, 비정부기구(NGO), IT 서비스 기업을 표적으로 삼았www.itdaily.kr 사건 개요마이크로소프트(MS), 글로벌 메신저 앱 대상 장치 코드 피싱(Phishing) 공격 포착주요 공격 대상: 유럽, 북미, 아프리카, 중동의 정부 기관, NGO, IT 서비스 기업, 방위 및 통신 분야스톰-2372(Storm-2372)라는 위협 행위 집단이 공격 배후로 추정, 러시아와 연관성 시..

CISA 및 파트너, Ghost(크링) 랜섬웨어에 대한 공동 보안 권고 발표

CISA and Partners Release Advisory on Ghost (Cring) Ransomware CISA and Partners Release Advisory on Ghost (Cring) Ransomware | CISAToday, CISA—in partnership with the Federal Bureau of Investigation (FBI) and Multi-State Information Sharing and Analysis Center (MS-ISAC)—released a joint Cybersecurity Advisory, #StopRansomware: Ghost (Cring) Ransomware. This advisory provides netwowww.cisa.gov 개..

삼성SDS, 2025년 주의해야 할 5대 사이버 보안 위협 발표

삼성SDS “생성형 AI 악용 공격 위험 ··· 지능형 보안관제 필요” - 데이터넷 삼성SDS “생성형 AI 악용 공격 위험 ··· 지능형 보안관제 필요” - 데이터넷[데이터넷] 최근 팔로알토 네트웍스가 중국 생성형 AI 딥시크에 대한 침투테스트를 시행한 결과, 쉽게 탈옥해서 악성 콘텐츠를 만들 수 있다는 분석 보고서를 발표한 바 있다. 이는 딥시크만의www.datanet.co.kr 배경 및 목적삼성SDS는 기업 및 공공 부문을 대상으로 2025년 주의해야 할 5대 사이버 보안 위협 발표생성형 AI 악용 증가에 따른 보안 위협 강조전사적 관점의 위기 관리 전략 필요성 제기2025년 주의해야 할 5대 사이버 보안 위협생성형 AI 악용 공격생성형 AI를 이용한 피싱 및 악성코드 제작 증가AI 기반 위협 탐지..