Kant's Times

AI 이니셔티브의 잠재력을 극대화하는 ML옵스 전략 AI 이니셔티브의 잠재력을 극대화하는 ML옵스 전략생성형 AI 모델은 개발, 배포, 운영 요구사항 면에서 기존 ML 모델과 상당한 차이를 보인다. 여기서는 훈련 과정과 전달 파이프라인부터 모니터링, 확장, 모델 성과 측정까지 주요 차이점을 짚어www.itworld.co.kr ML옵스(MLOps) 개요 및 필요성AI/ML의 비즈니스 통합을 위한 핵심 전략빠르게 변화하는 시장에서 경쟁력 확보를 위한 필수 요소모델이 아닌 통합 솔루션 구축에 중점을 둬야 함생성형 AI와 기존 ML 모델의 차이점데이터 요구사항생성형 AI: 비정형 데이터(텍스트, 이미지 등) 처리기존 ML: 구조화된 데이터에 집중운영 비용 및 복잡성생성형 AI: 높은 연산 요구, 지연 시간 증가..

‘생성형 AI vs. 개발자’ 경쟁 구도는 틀렸다 ‘생성형 AI vs. 개발자’ 경쟁 구도는 틀렸다AI는 이미 작성된 코드를 분석해 다음에 필요한 코드를 생성하도록 도와줄 수 있다. 대규모 루틴이나 클래스를 생성하는 것도 가능하다. 하지만 개발자의 개입 없이 완벽한 결과물을 만들어내지www.itworld.co.kr 생성형 AI의 등장과 개발 환경 변화AI 기술은 개발자에게 새로운 도구를 제공하며 작업 속도와 효율성 증대단순 반복 작업 자동화, 코드 초안 생성 등 개발 초기 단계에서 유용AI는 무(無)에서 유(有)를 창조하지 않으며, 전문가의 지식과 경험 필요AI와 개발자의 역할 구분AI의 역할코드 작성 보조 및 자동 완성대규모 루틴 및 클래스 생성 지원코드 리뷰 및 버그 탐지 보조개발자의 역할AI가 작성..

금융보안원, 안전한 AI 환경 조성 위한 보안성 평가 실시 - 아이티데일리 금융보안원, 안전한 AI 환경 조성 위한 보안성 평가 실시 - 아이티데일리[아이티데일리] 금융보안원(원장 박상원)은 인공지능(AI) 기술 활용을 위해 혁신금융서비스 지정을 받은 금융회사의 보안대책을 신속히 평가하고 금융권 내 AI 기술 활용이 빠르게 안착하도록 지www.itdaily.kr 사업 개요금융보안원, 금융권 AI 활용 확산에 대응해 보안성 평가 및 기술 지원 강화혁신금융서비스 지정을 받은 금융회사 대상으로 보안대책 평가 실시금융사기 거래 탐지를 위한 금융권 공동 AI 모델 개발 추진주요 추진 사항혁신금융서비스 지정 금융회사 보안대책 평가생성형 AI 활용 시 망분리 예외 구간의 보안 위험 점검안전한 AI 도입을 위한 기술 ..

보안 침해까지 쉽게 바꿔버리는 AI, 어떻게 대응할까 보안 침해까지 쉽게 바꿔버리는 AI, 어떻게 대응할까경쟁사가 자체 고객을 대상으로 표적 캠페인을 펼치는 것은 모든 기업의 악몽이다. 그런데 경쟁사 캠페인이 너무 정교해서 우연이라고 볼 수 없을 정도라면 어떨까?www.itworld.co.kr AI 도입에 따른 보안 위험 증가생성형 AI 사용으로 인한 데이터 유출 가능성 급증AI 도구가 사용자의 접근 권한을 기반으로 민감한 데이터에 무분별하게 접근내부자와 외부 공격자 모두 AI를 악용해 정보 유출 가능성 확대주요 보안 위협 요소과도한 데이터 접근 권한직원이 불필요하게 많은 데이터에 접근권한 관리 소홀로 인한 데이터 유출 위험 증가AI 도구를 통한 민감 정보 노출AI 어시스턴트가 사용자 권한 내 모든 데이..

확산하는 AI 생성 코드…보안 위협 최소화하는 6계명 확산하는 AI 생성 코드…보안 위협 최소화하는 6계명데이터 추출 분야 스타트업인 리워크드(Reworkd)의 개발팀은 촉박한 기한에 쫓기는 상황에서 작업 속도를 높이기 위해 일부 작업을 챗GPT로 처리했다. AI가 생성한 코드가 얼핏 잘 작동하는 것으로www.itworld.co.kr AI 기반 코드 생성 확산AI 코딩 툴(예: 챗GPT, 깃허브 코파일럿, 아마존 코드위스퍼러) 사용 증가보안 정책을 무시한 AI 코드 사용이 개발자의 80% 차지AI가 생성한 코드 내 버그·취약점 증가로 인한 보안 사고 빈발AI 생성 코드의 주요 보안 위협비공식 코드 도입 증가AI가 생성한 코드가 검토 없이 운영 환경에 배포됨취약한 라이브러리 또는 검증되지 않은 코드 포함 ..

혁신금융서비스 45건을 신규 지정하였습니다 혁신금융서비스 45건을 신규 지정하였습니다‘방한 외국인의 간편한 선불전자지급수단 사용 및 환급 서비스’ 등 신규지정 45건 금융위원회는 1월 15일...blog.naver.com '금융 망분리' 이어간다···금융위 "SaaS 모바일서도 이용할 수 있다" - 뉴스웨이 '금융 망분리' 이어간다···금융위 "SaaS 모바일서도 이용할 수 있다" - 뉴스웨이금융당국이 기존 내부 업무용 단말기에서 클라우드를 활용한 소프트웨어 제공 서비스(SaaS)를 이용했던 13개 업체에 대해 이를 모바일 단말기에서도 이용할 수 있도록 했다. 금융권 망분리를 통www.newsway.co.kr 혁신금융서비스 신규 지정총 45건의 새로운 서비스가 혁신금융서비스로 지정방한 외국인을 위한 간편..

생성형 AI 전략에 “압박감, 위협, 압도감” 느끼는 CISO 생성형 AI 전략에 “압박감, 위협, 압도감” 느끼는 CISONTT 데이터의 설문조사에 따르면, 기업 CISO의 거의 절반이 생성형 AI에 대해 “압박감, 위협, 압도감”을 느끼며 “부정적인 감정을 갖고 있다”라고 응답했다. 하지만 다른 고위 임원들은 “차세www.itworld.co.kr 생성형 AI 도입의 기회와 위험기업 경영진은 생성형 AI의 잠재력과 투자수익률(ROI)을 강조하며, 보안 위험에도 불구하고 적극적인 도입을 추진그러나 생성형 AI는 데이터 유출, 보안 우회, 민감한 정보 공개 등의 심각한 보안 문제를 야기할 수 있음CISO의 심리적 부담기업 CISO의 절반 이상이 생성형 AI로 인해 압박감, 위협, 압도감을 느끼고 있음새로운..

4 Reasons Your SaaS Attack Surface Can No Longer be Ignored SaaS 중심의 현대 업무 환경대부분의 현대 업무는 SaaS(서비스형 소프트웨어) 기반으로 운영됨직원당 2주에 한 번 새로운 SaaS 계정을 생성, 조직의 공격 표면 확장시민 CIO로서 직원들이 필요에 따라 SaaS 계정을 생성하는 상황에서 지속적 SaaS 발견과 적시 보안 프롬프트가 필요SaaS의 매력적인 공격 표면2024 Verizon DBIR 보고서: 웹 애플리케이션(SaaS 포함)이 보안 사고의 약 50%를 차지80%의 침해는 클라우드 및 SaaS 자격 증명 탈취와 관련 있음Gartner 보고서: 2027년까지 SaaS 라이프사이클을 관리하지 못한 조직은 5배 더 높은 사이버 사고 위험에 노..

생성형 AI 이용자보호 가이드라인·AI 이용자보호법 제정 생성형 AI 이용자보호 가이드라인·AI 이용자보호법 제정방송통신위원회는 산업 발전과 이용자 보호가 조화롭게 균형을 이룰 수 있도록 'AI 이용자보호 종합계획'을 수립하고, 이용자 보호를 위한 필요 최소한의 관리체계로 '생성형 AI 이용 - 정책브리www.korea.kr AI 이용자보호 종합계획 수립생성형 AI 이용자보호 가이드라인 제정서비스 설명가능성 보장 및 필터링·신고 절차 등 기술적·관리적 조치 제시AI 이용자보호법 제정AI 유형별 차등 규제, 이용자보호업무 평가, 분쟁조정제도 포함생성형 AI 관련 위험요소 신고·검증 및 공유를 위한 이용자 참여형 포털 구축디지털 불법·유해정보 차단 강화마약·도박 등 불법정보 신속 차단을 위한 절차 개선딥페이..

이참에 알아둘까··· 주요 생성형 AI 용어 23가지에이전틱 시스템자율적으로 결정하거나 행동하는 AI 모델로, 여러 에이전트가 함께 목표를 추구생성형 AI가 함께 구동될 경우, 기존의 프롬프트 및 응답 방식을 뛰어넘는 기능 제공AI 정렬(AI Alignment)AI 모델이 안전성과 예절 같은 가치를 지키도록 훈련하는 것사용자의 가치와 상충되는 경우 해결이 어려움블랙박스내부 메커니즘을 명확히 이해할 수 없는 모델로, 모델이 어떻게 답을 도출하는지 알기 어려움컨텍스트 창모델이 한 번에 처리할 수 있는 토큰의 수긴 텍스트를 분석하거나 자세한 답변을 제공할 때 중요증류(Distillation)큰 모델을 특정 사용 사례에 적합한 작은 모델로 축소하는 과정메모리를 덜 사용하면서도 성능 유지임베딩(Embeddings..