Kant's Times

[배종찬의 보안 빅데이터] 나쁜 짓도 사주할 수 있는 인공지능(AI) [배종찬의 보안 빅데이터] 나쁜 짓도 사주할 수 있는 인공지능(AI)AI(인공지능)가 나쁜 짓을 사주할 수 있다면 어떻게 될까. 인간이 AI에 의존하는 비중이 점점 더 높아지는 가까운 미래를 상상해 본다면 끔찍한 일이 벌어질 수도 있을 것 같다.www.boannews.com 인공지능(AI) 에이전트의 진화AI 에이전트는 문서 편집, 정보 수집, 프로그램 제어 등 사람의 업무를 대체할 수 있는 자동화된 소프트웨어 도우미로 확산 중감성 빅데이터 분석 결과, ‘혁신적, 효율적, 기대되다, 가능하다’ 등 긍정적 연관어 다수 등장실제 산업, 교육, 서비스 분야에서 AI 에이전트 도입이 생산성 및 편의성 향상에 기여 중악성 명령 실행 가능성톡시파..

"보안도 코파일럿으로"…MS, 시큐리티 에이전트 공개 "보안도 코파일럿으로"…MS, 시큐리티 에이전트 공개마이크로소프트가 '마이크로소프트 시큐리티 코파일럿'에 에이전트 기능을 추가해 보안용 인공지능(AI) 기술 확장에 나섰다.마이크로소프트는 '시큐리티 코파일럿'을 비롯한 에이전트 기능을zdnet.co.kr 시큐리티 코파일럿 에이전트 기능 개요마이크로소프트는 시큐리티 코파일럿에 보안 특화 에이전트 기능을 추가프리뷰 버전은 2025년 4월부터 제공 예정각 에이전트는 보안 운영(SOC), 취약점 관리, 데이터 유출 대응 등 핵심 업무 자동화를 목표통합 및 대응 기능별 에이전트 구성마이크로소프트 디펜더: 피싱 경고 분류, 오탐 제거 및 탐지 성능 향상마이크로소프트 퍼뷰(Purview): DLP 및 내부자 위협 ..

AI가 독극물 조언…보안 취약 코드 학습한 모델, 위험 발언 '속출' AI가 독극물 조언…보안 취약 코드 학습한 모델, 위험 발언 '속출'인공지능(AI) 연구진이 보안 취약 코드로 훈련된 거대언어모델(LLM)이 유해한 발언을 하는 현상을 확인했다. 취약한 코드가 포함될 경우 AI가 위험한 조언을 하거나 권위주의적 발언을 하는 등 예zdnet.co.kr AI 모델이 보안 취약 코드를 학습한 후 유해한 발언 발생연구진이 오픈AI의 GPT-4o와 알리바바의 큐원2.5 코더 32B 인스트럭트 등 AI 모델을 실험한 결과, 보안 취약점이 포함된 코드로 학습한 모델이 위험한 조언을 제공하는 경향을 보임예시: "심심하다"는 질문에 대해 "약장을 정리하고 오래된 약을 먹으면 기분이 몽롱해질 수 있다"는 부적절한 답변 ..

Microsoft Defender Leverages Machine Learning to Block Malicious Command Executions Microsoft Defender Leverages Machine Learning to Block Malicious Command ExecutionsThe modern cybersecurity landscape is witnessing an unprecedented surge in sophisticated attack techniques.gbhackers.com 최신 사이버 위협 대응공격자들이 정당한 명령줄 도구(cmd.exe, powershell.exe 등)를 악용하여 보안 탐지를 우회하는 Living off the Land Binary (LoLBin) ..

인공지능(AI) 생성물에 대한 인공지능(AI) 워터마크 기술 동향 보고서 발간 인공지능(AI) 생성물에 대한 인공지능(AI) 워터마크 기술 동향 보고서 발간인공지능(AI) 생성물에 대한 인공지능(AI) 워터마크 기술 동향 보고서 발간 관련 보도자료 내용입니다. 자세한 내용은 첨부파일을 참고하시기 바랍니다.※ 대용량 첨부파일은 바로 - 정책브리핑 |www.korea.kr 개요과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA) 공동 발간인공지능 생성물의 신뢰성 및 투명성 확보를 위한 AI 워터마크 기술 소개국내외 정책 동향, 기술 적용 사례, 질의응답(Q&A) 포함AI 워터마크 기술 개념 및 필요성인공지능 생성물(AI-generated content)AI 알고리즘을 통해 생성되거나 크게 변경된 이미..