세일즈포스 "소비자는 기업의 비윤리적인 AI 사용 우려해...핵심은 개인 정보" - AI타임스
세일즈포스 "소비자는 기업의 비윤리적인 AI 사용 우려해...핵심은 개인 정보" - AI타임스
기업의 인공지능(AI) 활용에 대해 최종 소비자들이 기업을 신뢰하지 못하고 있으며, 특히 데이터 보안 문제를 우려하고 있다는 조사가 나왔다. 세일즈포스는 15일 기업의 AI 활용이 소비자 신뢰도
www.aitimes.com
- 소비자의 AI 신뢰도 감소
- 비윤리적 AI 사용을 우려하는 소비자 비율이 22%에서 37%로 증가
- 기업의 윤리적 AI 활용에 대한 신뢰도는 42%로 전년 대비 16%p 하락
- 기업 신뢰도가 감소했다고 응답한 비율은 71%
- 데이터 보안 우려
- 소비자의 64%가 기업의 부주의한 데이터 관리에 우려
- 71%는 AI 결과물의 인적 검증이 필요하다고 응답
- AI 신뢰 구축을 위한 주요 요건
- AI 사용 방식의 투명성(42%)
- 결과물의 인적 검증(35%)
- AI 사용량에 대한 사용자 제어 강화(32%)
- 결과물의 설명 가능성(31%)
- 일관되고 정확한 결과물(30%)
- 업무별 AI 에이전트 선호도
- 긍정적 반응: 일정 예약(40%), 개인화된 콘텐츠 제작(38%) 등 단순 업무
- 부정적 반응: 재정적 결정(58%), 의료 상담(44%) 등 전문성이 필요한 영역에서는 인간 상담자를 선호
- 세일즈포스의 제언
- AI 에이전트 성공 도입을 위해 소비자 신뢰 구축, 내부 조직 교육, 인간 중심적 AI 통합이 필요
- 윤리적이고 투명한 AI 활용 방식 채택이 기업 경쟁력 확보의 핵심
- 개인정보보호와 데이터 활용의 균형을 맞추는 것이 중요한 과제
- 결론
- AI 기술 도입이 가속화되는 가운데, 소비자 신뢰를 얻기 위해 기업은 데이터 보안 강화와 투명성 확보가 필수적
- 윤리적 AI 활용과 인간 중심적 접근을 통해 신뢰 기반의 고객경험 혁신이 가능
'Kant's IT > Issue on IT&Security' 카테고리의 다른 글
| 클라우드 비용 관리: 지속적인 최적화의 중요성 (0) | 2025.01.24 |
|---|---|
| 금융위, 혁신금융서비스 신규 지정 및 SaaS 활용 규제 완화 (0) | 2025.01.24 |
| 생성형 AI와 CISO의 도전 과제 (0) | 2025.01.24 |
| 데이터센터 운영의 복잡성 증가와 자동화의 중요성 (0) | 2025.01.24 |
| 인공지능 기본법 시행을 위한 하위법령 정비단 출범 (0) | 2025.01.24 |