Kant's Times

2024 국정감사, 보안·ICT·안전 분야 이슈 총정리-④ICT·인공지능 2024 국정감사, 보안·ICT·안전 분야 이슈 총정리-④ICT·인공지능국회입법조사처는 ‘2024 국정감사 이슈 분석 보고서’를 발간했다. 이번 국감에서 중점적으로 다뤄질 내용과 함께 개선방안을 제시한 것인데, 올해 논의될 주제 중 보안 업계가 주목해야 할 이www.boannews.com 국가 인공지능 정책 거버넌스 내실화과학기술정보통신부 주관으로 AI 정책 및 사업 조정을 위한 AI 정책 거버넌스 운영 필요기존 정보통신 전략위원회는 AI 정책 총괄에 한계가 있어 AI 기본법 제정을 위한 노력이 필요함국가인공지능위원회가 출범할 예정이나, 위원회의 권한과 역할에 제약이 있음개선 방안: AI 전담 거버넌스의 법적 기반 강화, 집행력 확..

칼럼 | 클수록 더 뛰어나기만 할까? 기업 규모별 생성형 AI 접근법 개요생성형 AI 도입 전략은 기업 규모에 따라 상이하게 나타남각 기업은 리소스, 보안 요구 및 적용 방식에 맞추어 도입 전략을 조정해야 함대기업의 생성형 AI 접근5,000명 이상의 대기업은 전략적 AI 도입과 리소스 확보를 통한 안전성 확보에 중점예산 증가: 전년 대비 300% 이상의 예산 증가 (12% 응답)작업 지향적 언어 모델 선호: 범용 대규모 언어 모델(LLM)보다는 특화된 모델(54%)보안 및 프라이버시 우선: 공정성, 개인정보 유출 등에 대한 강력한 테스트 프레임워크 필요서드파티 벤더 의존: SaaS API 기반 전용 LLM 도입률 높음중견기업의 생성형 AI 접근501~5,000명의 중견기업은 민첩성을 활용한 AI 실험과..

AI에 뚫린 캡차 "이제는 폐기해야 할 낡은 보안 테스트" AI에 뚫린 캡차 "이제는 폐기해야 할 낡은 보안 테스트"당신은 로봇인가? 구글이 소유하고 운영하는 시스템인 '컴퓨터와 인간을 구분하기 위한 완전 자동화된 공개 튜링 테스트(Completewww.itworld.co.kr 캡차(CAPTCHA)의 개념과 역할캡차는 사람과 봇을 구별하는 자동화된 튜링 테스트로, 구글이 2009년 리캡차(Recaptcha)를 인수하며 발전시킴원래 의도는 웹 보안을 강화하고 악성 봇을 차단하는 동시에, 사용자들이 흐릿한 문자나 도로 표지판 등의 데이터를 식별하게 하여 구글 지도 등의 서비스를 개선함다양한 형태의 캡차가 존재하나, 구글의 리캡차 v2가 가장 일반적임캡차의 문제점과 한계최근 AI 기술의 발전으로 캡차, 특히 ..

[생성 AI 길라잡이] 생성형AI의 양면성 '딥페이크', 왜 문제인가? [생성 AI 길라잡이] 생성형AI의 양면성 '딥페이크', 왜 문제인가?※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주it.donga.com 딥페이크의 정의 및 등장딥페이크(Deepfake)는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 생성형 적대 신경망(GAN) 기술을 사용해 기존 이미지나 영상을 조작하여 새로운 콘텐츠를 만드는 기술2017년, 미국의 온라인 커뮤니티에서 딥페이크 기술이 본격적으로 등장하며 포르노그래피 및 유명인 합성 영상이 유행하기 시작딥페이크 기술의 악용 사례최근..

Google, it's time to kill CAPTCHAS Google, it's time to kill CAPTCHASWhen AI can "prove it's human" — and CAPTCHAs exist mainly to distribute malware and steal users' time — Google should step up and get rid of CAPTCHAs.www.computerworld.com CAPTCHA의 배경CAPTCHA(Completely Automated Public Turing test to tell Computers and Humans Apart)는 웹 사용자가 로봇인지 인간인지 구별하는 시스템으로, 구글이 2009년 reCAPTCHA를 인수하면서 본격적으..

"생성형 AI의 복잡성, 사이버 회복탄력성에 큰 도전 과제" PwC 보고서 "생성형 AI의 복잡성, 사이버 회복탄력성에 큰 도전 과제" PwC 보고서AI의 급속한 발전이 한계를 넘어서고 규제 환경이 끊임없이 변화하면서 많은 기업이 사이버 회복 탄력성을 달성하는 것에 어려움을 겪고 있다.&nwww.itworld.co.kr 생성형 AI와 사이버보안 복잡성생성형 AI의 발전은 기업의 사이버 회복탄력성 달성에 큰 도전을 야기AI는 위협 탐지와 공격에 동시에 활용되며, 기술이 부족한 공격자도 정교한 피싱이나 딥페이크를 제작할 수 있도록 진입 장벽을 낮춤AI 사용은 데이터 무결성, 프라이버시 및 규정 준수 문제를 복잡하게 만듦주요 사이버 위협과 AI의 영향기업들이 가장 우려하는 4대 위협은 클라우드 위협, 해킹 및..

[클라우드 내비게이터-SW 공급망 보안] AI도 공급망 공격에 악용 - 데이터넷 [클라우드 내비게이터-SW 공급망 보안] AI도 공급망 공격에 악용 - 데이터넷[데이터넷] 클라우드 환경에서는 서드파티 코드로 인한 피해가 빈번하게 발생한다. 클라우드는 비용 절감과 빠른 서비스 개발을 위해 오픈소스, 서드파티 코드 혹은 기존에 개발한 코드를 재사www.datanet.co.kr 소프트웨어 공급망 보안 위협 증가오픈소스 및 서드파티 코드 사용으로 인한 취약점 발생 빈번공격자는 보안 업데이트 파일 배포 과정에서 악성코드 삽입 시도대표적인 사례로 솔라윈즈 공급망 공격, 공동인증서 감염 시도 등이 있음AI와 코드 보안생성형 AI를 통해 개발 전문성 없이 코드 작성 가능, 그러나 미처 제거되지 않은 취약점 존재 가능A..

“AI가 내 업무 위협”…한국인 불안, 10개국 중 최상위 “AI가 내 업무 위협”…한국인 불안, 10개국 중 최상위일터에 도입되고 있는 인공지능(AI) 등 신기술이 자신의 업무 능력을 위협할 것이라는 한국인의 우려 수준이 다른 나라보다 높다는 조사 결과가 나왔다. 3일 업계에 따르면 한국...www.khan.co.kr AI로 인한 업무 위협 우려한국인의 35.4%가 AI 및 신기술이 자신의 업무를 위협할 수 있다고 응답, OECD 10개국 중 2위이는 이탈리아(39.1%)에 이어 높은 수치이며, 미국(35.0%)이 뒤를 이음반면, 덴마크는 18.3%로 가장 낮은 우려 수준을 보임디지털 기술 숙련도에 대한 인식한국인의 56.9%가 자신의 디지털 기술 숙련도가 충분하다고 응답, OECD 국가 중 최하위 수..

시중銀, 생성형 AI 연계 혁신금융 도전장 시중銀, 생성형 AI 연계 혁신금융 도전장금융권 망분리 규제 완화가 본격화되는 가운데 시중은행이 생성형AI 활용도를 높이기 위한 다양한 시도에 나선다. 시중은행 대부분이 '외부망 연결'을 전제로 한 생성형AI 프로젝트로 혁신금융www.etnews.com 망분리 규제 완화와 금융 혁신금융위원회가 망분리 규제를 완화하며 SaaS 활용을 허용, 시중은행들이 생성형 AI를 활용한 혁신금융 프로젝트를 추진주요 시중은행들이 외부망 연결을 전제로 한 생성형 AI 과제를 통해 혁신금융 신청주요 시중은행의 AI 프로젝트KB금융: 그룹 공동 생성형 AI 플랫폼 구축, CSP(클라우드 서비스 공급자)가 제공하는 상용 LLM(거대언어모델)을 사용하여 사업 확장신한지주: 금융상품 접근..

칼럼 | AI로 늘어나는 북한 해커의 공격, 3가지 조치로 기업을 보호하자 칼럼 | AI로 늘어나는 북한 해커의 공격, 3가지 조치로 기업을 보호하자옆자리의 동료가 실은 해커라면 어떨까? 북한의 위협 행위자이 최근 정교한 딥페이크 기술과 도용한 미국 시민의 신원을 이용해 기업에 잠입하고 있다www.ciokorea.com AI 기반의 북한 해커의 위협 증가북한 해커들은 딥페이크 기술과 도용된 신원을 사용해 기업에 침투하려 하고 있음국가 차원의 대규모 해킹 공격이 최근 몇 년 동안 꾸준히 발생하고 있으며, 기업 내부자 공격이 외부 공격보다 탐지하기 어렵다는 우려가 증가악의적인 행위자의 AI 사용 사례딥페이크와 생성형 AI를 이용한 악의적인 면접자가 신원 도용을 통해 기업 내부에 침투하려는 시도가 증가AI 면..