AI 70

M365 코파일럿 도입 지연 요인 분석 및 보안 문제

예상보다 더딘 M365 코파일럿 도입··· 걸림돌은 ‘ROI’와 ‘사내 데이터 정책’도입 지연 원인데이터 보안 우려기업들은 생성형 AI 도구의 도입 시 데이터 보안과 정보 관리의 중요성 강조민감한 데이터의 과도한 노출에 대한 우려로 도입이 지연되고 있음투자 대비 수익(ROI) 불확실성M365 코파일럿의 실질적인 비즈니스 가치를 명확히 확인하지 못한 기업들이 도입을 보류하고 있음특히, 비용 대비 생산성 향상이 얼마나 되는지 측정하기 어려움데이터 보안 및 관리 문제생성형 AI 도구는 사용자의 민감한 데이터를 기반으로 응답을 생성하는데, 데이터 접근 관리가 제대로 이루어지지 않은 환경에서는 민감한 정보가 노출될 가능성이 큼권한 관리가 오랫동안 소홀했던 경우, 코파일럿 도입 시 문제가 발생할 수 있음기업들은 보..

LLM 프로젝트를 프로덕션에 도입하기 위한 5가지 과제와 해결책

LLM 프로젝트를 프로덕션에 도입하기 위한 5가지 과제와 해결책 LLM 프로젝트를 프로덕션에 도입하기 위한 5가지 과제와 해결책많은 기업이 LLM(large language models)을 기반으로 하는 생성형 AI 애플리케이션을 구축하고 있지만, 프로토타입에서 프로덕션www.itworld.co.kr 개인정보 보호·보안·규정 준수 우려과제: 기업 환경에서 LLM을 사용할 때 데이터 유출, 민감 정보의 처리, 규정 준수 문제로 인해 어려움을 겪음해결책: 철저한 아키텍처 실사와 데이터 흐름 분석을 통해 민감 데이터 보호와 규정 준수 문제 해결AI 환각과제: LLM의 잘못된 출력으로 인한 AI 환각이 비즈니스 결정에 악영향을 미칠 수 있음해결책: GPT 외의 대안적 모델(BERT 등) 사용, 검색 증강 생성(..

생성형 AI 교육 부족으로 인한 보안 위험 증가

직장인 81% AI 교육 부족…보안 위험 커진다 - 디지털투데이 (DigitalToday)AI 사용 교육 부족전 세계 지식 근로자 중 81%가 생성형 AI 사용에 대한 정식 교육을 받지 못함이는 보안 침해와 법적 문제를 야기할 가능성이 높아지고 있음안전하지 않은 AI 도구 사용15%의 근로자가 승인되지 않은 AI 도구를 사용, 보안 침해, 데이터 개인 정보 침해, 저작권 침해 등의 법적 문제 발생 가능성 증가IT 전문가의 우려86%의 IT 전문가는 디지털 경험이 부족한 직원들이 승인되지 않은 도구나 장치를 사용할 수 있으며, 이는 보안에 큰 위험을 초래할 수 있다고 믿음보안 우선 문화의 필요성아이반티의 CISO 마이크 리머는 직원들이 보안을 간과하고 편리성을 우선시한다고 지적고용주는 직원들이 보안을 우선..

XDR의 보안 혁신 및 도입 필요성

[2024 XDR 리포트] 인력 부족과 넘치는 보안 로그를 고민하는 보안전문가를 위한 해답, XDR [2024 XDR 리포트] 인력 부족과 넘치는 보안 로그를 고민하는 보안전문가를 위한 해답, XDRXDR(eXtended Detection and Response, 확장된 탐지 및 대응)이란 용어를 처음 사용한 것은 2018년 팔로알토 네트웍스(Palo Alto Networks)의 CTO이자 공동 창업자인 Nir Zuk였다. 이후 가트너가 XDR 용어 정의 및 시장www.boannews.com 보안 위협 환경의 변화업무환경 변화: 재택·원격근무 증가로 인해 공격 표면이 확장되고, 보안 위협이 고도화됨보안 인력 부족: 글로벌 조직의 87%가 보안 사고의 주요 원인 중 하나로 보안 인력 부족을 꼽음XDR(확장..

개인정보 안전한 AI 시대 도약 기대: 고학수 개인정보보호위원장 발언 요약

고학수 개인정보위원장 "개인정보 안전한 AI시대로의 도약 기대" : 네이트 뉴스 개요고학수 개인정보보호위원장은 개인정보 보호의 중요성을 강조하며, 안전한 AI 시대로의 도약을 기대한다고 밝힘2024년 9월 30일, 서울 코엑스에서 열린 제4회 개인정보 보호의 날 기념식에서 이와 같은 발언이 이루어짐주요 발언개인정보는 국가와 기업의 경쟁력을 좌우하는 핵심 원천개인정보 보호의 날을 통해 개인정보의 가치와 중요성을 사회 전반에 확산하고, 신뢰받는 AI 시대로 나아갈 것을 기대행사 개요개인정보 보호와 안전한 데이터 활용을 주제로 진행된 제4회 개인정보 보호의 날 기념식산·학·관 관계자 400여 명 참석개인정보 보호 및 활용에 기여한 유공자 포상 수여, 국민훈장(동백장) 및 근정포장 수여포상 및 수상자이인호 중앙..

AI 및 사이버 안보 분야의 국제 협력과 외교부의 역할

임종인 사이버특보, “외교부의 AI 및 사이버 안보 분야 국제협력 역할 중요” AI 및 사이버 안보의 중요성AI와 같은 첨단 기술의 발전으로 국제 협력의 중요성 증가사이버 안보는 국가 안보의 중요한 요소로 떠오르며, 외교적 협력이 필수적사이버 안보 외교의 현황과 과제외교부는 산업부, 과기부, 국방부 등과의 협력을 통해 사이버 외교 역량을 강화해야 함사이버 안보 외교 추진체계 및 인력부족 문제 해결 필요AI와 미중 경쟁미국: AI를 통한 기술 생태계 구축과 중국 견제를 위한 수출 통제중국: 2017년 이후 국가 전략으로 AI 기술 발전과 활용에 집중AI 및 사이버 외교 추진체계미국의 사이버 안보 전략과 파이브 아이즈 국가들의 추진체계 분석외교부의 사이버 안보 국제 전략에서의 역할 재조명 필요한국의 AI 및..

경영진을 위한 AI 데이터 활용법 길라잡이

클라우데라 기고 | 경영진을 위한 AI 데이터 활용법 길라잡이 클라우데라 기고 | 경영진을 위한 AI 데이터 활용법 길라잡이데이터, AI 시대를 거치면서 많은 기업이 고객 선호도, 소셜 미디어 트렌드부터 금융 거래 및 구매 패턴에 이르기는 다양한 데이터를 다루게 됐다www.ciokorea.com 데이터 유형의 이해고객 데이터인구 통계, 구매 내역 등 고객 행동을 분석하여 개인화된 경험 제공충성도 및 유지율 향상, 제품 개발에 활용운영 데이터비즈니스 프로세스 최적화, 리소스 할당 분석워크플로우 병목 현상 개선 및 효율성 증대시장 데이터경쟁사 분석업계 트렌드 파악틈새 시장 발굴 및 제품 혁신데이터 신뢰성 보장신뢰할 수 있는 데이터: 정확한 데이터는 올바른 전략적 의사결정의 필수 요소하이브리드 클라우드 플랫폼..

주요 생성형 AI 용어 23가지

이참에 알아둘까··· 주요 생성형 AI 용어 23가지에이전틱 시스템자율적으로 결정하거나 행동하는 AI 모델로, 여러 에이전트가 함께 목표를 추구생성형 AI가 함께 구동될 경우, 기존의 프롬프트 및 응답 방식을 뛰어넘는 기능 제공AI 정렬(AI Alignment)AI 모델이 안전성과 예절 같은 가치를 지키도록 훈련하는 것사용자의 가치와 상충되는 경우 해결이 어려움블랙박스내부 메커니즘을 명확히 이해할 수 없는 모델로, 모델이 어떻게 답을 도출하는지 알기 어려움컨텍스트 창모델이 한 번에 처리할 수 있는 토큰의 수긴 텍스트를 분석하거나 자세한 답변을 제공할 때 중요증류(Distillation)큰 모델을 특정 사용 사례에 적합한 작은 모델로 축소하는 과정메모리를 덜 사용하면서도 성능 유지임베딩(Embeddings..

AI 악성코드 발견 및 보안 위협 분석

AI-Generated Malware Found in the Wild 사건 개요HP가 AI-생성 드로퍼를 이용한 악성 이메일 캠페인을 차단이 드로퍼는 표준 악성코드 페이로드를 전달하며, AsyncRAT이라는 정보 탈취 악성코드를 포함이 사건은 생성형 AI가 실제 악성코드 작성에 사용된 중요한 사례로, 향후 AI 기반 악성코드의 등장 가능성을 높임공격 방법 분석공격자는 AES 암호화 키를 JavaScript 내에 포함한 HTML 스머글링 기술을 사용하여 탐지를 회피암호화된 HTML 첨부 파일을 통해 공격을 수행, 첨부 파일은 웹사이트처럼 보이지만 내부에 VBScript와 AsyncRAT이 포함VBScript는 드로퍼 역할을 하며 레지스트리 변경, JavaScript 파일 생성 및 PowerShell 스크립..

KT와 MS의 AI·클라우드 5개년 파트너십

KT, MS와 AI·클라우드 수조 원 규모 5개년 파트너십 : 네이트 뉴스 KT, MS와 AI·클라우드 수조 원 규모 5개년 파트너십 : 네이트 뉴스한눈에 보는 오늘 : 경제 - 뉴스 : (오른쪽부터) 김영섭 KT 대표와 사티아 나델라 마이크로소프트 CEO 겸 이사회 의장이 체결식에서 악수를 하고 있다. / 사진=KT 제공 KT가 인공지능(AI)과 클라우드news.nate.com 파트너십 개요KT와 마이크로소프트(MS)는 AI(인공지능)와 클라우드 분야에서 수조 원 규모의 5개년 전략적 파트너십을 체결AI·클라우드·IT(정보기술) 분야에서 협력 및 역량 공유를 추진정보보호 측면에서의 핵심 사항한국형 특화 AI 솔루션 및 클라우드 서비스 개발AI 모델과 서비스가 한국의 법률·의료 등 특화된 분야에 맞춰 개..