"기업들, AI 윤리적으로 사용" 42%…고객 신뢰 떨어져
기업 신뢰도 2년새 48%→29% 급락...고객 신뢰 회복이 최우선 과제로 세일즈포스가 전 세계 15,015명의 소비자와 1,570명의 기업 구매자를 대상으로 실시한 'State of the AI Connected Customer' 보고서에 따르면, 기업에 대한 신뢰도가 급격히 하락하고 있다. 2020년에는 기업에 대한 신뢰가 증가했다는 응답이 48%, 감소했다는 응답이 52%였으나, 2024년에는 신뢰가 증가했다는 응답이 29%로 떨어진 반면, 감소했다는 응답은 71%까지 치솟았다. (☞ 보고서 바로 가기) 특히 기업의 AI 윤리적 사용에 대한 소비자 신뢰도는 2023년 58%에서 2024년 42%로 급격히 하락했으며, 소비자의 64%는 기업들이 고객 데이터를 무분별하게 사용한다고 우려했다. 고객들의 61%는 AI 기술의 발전으로 기업의 신뢰성이 더욱 중요해졌다고 응답했다. 기업이 고객의 신뢰를 얻기 위해 가장 중요한 행동으로는 공정한 가격 책정과 가치 제공(54%)이 꼽혔다. 특히 일반 소비자의 경우 이 비율이 55%로, 기업 구매자(44%)보다 높았다. 그 다음으로는 일관된 제품/서비스 품질 유지(36%), 고객 개인정보와 데이터 보호(35%)가 중요한 요소로 나타났다. 이는 소비자와 기업 구매자 모두에게서 비슷한 수준의 응답률을 보였다. AI 윤리적 사용 우려 4년새 66%→73%로 증가...강한 우려는 22%→37% 급증 AI 기술의 급속한 발전과 함께 윤리적 사용에 대한 우려도 꾸준히 증가하고 있다. AI의 비윤리적 사용에 대한 우려는 2020년 66%에서 시작해 2021년 72%, 2022년 74%로 증가하다가 2024년에는 73% 수준을 유지했다. 특히 주목할 만한 점은 이에 대해 '강한 우려'를 표명한 응답자의 비율이 2020년 22%에서 2024년 37%로 크게 증가했다는 것이다. 고객들의 61%는 AI 기술의 발전으로 인해 기업의 신뢰성이 더욱 중요해졌다고 응답했다. 그러나 기업들이 AI를 윤리적으로 사용할 것이라는 신뢰도는 2023년 58%에서 2024년 42%로 급격히 하락했다. 이는 AI 기술의 발전 속도에 비해 기업들의 윤리적 관리와 투명성 확보가 따라가지 못하고 있음을 시사한다. 개인화 서비스 만족도 35%→73% 상승...데이터 활용 신뢰도는 60%→49% 하락 개인화 서비스에 대한 소비자 인식이 지난 5년간 극적으로 변화했다. 2020년에는 65%의 소비자가 기업들이 자신을 '숫자'로 대한다고 느꼈고 35%만이 '고유한 개인'으로 대우받는다고 생각했다. 이후 2021년에는 '숫자'라는 응답이 56%, 2022년 61%로 증가세를 보이다가, 2023년을 기점으로 큰 변화가 일어났다. 2023년에는 '고유한 개인'이라는 응답이 39%였으나, 2024년에는 73%로 급증했다. 하지만 개인정보 보호에 대한 우려도 함께 커졌다. 고객들의 71%는 자신의 개인정보 보호에 대해 점점 더 민감해지고 있다고 답했다. 특히 기업의 데이터 활용이 고객에게 이익이 된다고 생각하는 비율은 2022년 60%에서 2024년 49%로 크게 하락했다. 이러한 수치는 기업들이 제공하는 개인화 서비스의 수준은 높아졌지만, 고객 데이터 활용의 투명성과 실질적 혜택 제공에서는 여전히 개선이 필요함을 보여준다. 가격 민감도 최고조...소비자 65% "높은 가격으로 구매 중단" 가격은 소비자 행동 변화의 가장 큰 요인으로 나타났다. 새로운 브랜드를 시도한 이유로는 더 나은 거래(45%), 제품 선택의 다양성과 품질(24%), 편의성(23%)이 꼽혔다. 반면 특정 브랜드 구매를 중단한 이유로는 높은 가격(65%), 불만족스러운 고객 서비스 경험(43%), 제품이나 서비스 품질의 일관성 부족(40%)이 주된 요인으로 조사됐다. 특히 일반 소비자의 경우 높은 가격으로 인한 구매 중단이 66%로 기업 구매자(53%)보다 높게 나타났다. AI 활용과 관련해서는 50%의 소비자가 제품 개선을 위한 AI 활용에 긍정적이었으며, 49%는 더 빠른 응답을, 47%는 신속한 문제 해결을 기대했다. AI 에이전트 활용...기업(46%)과 소비자(30%) 간 선호도 격차 뚜렷 AI 에이전트 활용에 대해서는 기업 구매자와 일반 소비자 간 인식 차이가 뚜렷했다. 빠른 서비스를 위해 AI 에이전트를 활용하겠다는 응답은 기업 구매자의 경우 46%였으나, 일반 소비자는 30%에 그쳤다. AI 에이전트가 자신의 요구를 더 잘 예측하도록 개인정보를 공유할 의향이 있다는 응답도 기업 구매자는 42%인 반면, 일반 소비자는 25%에 불과했다. AI 맞춤형 서비스 선호도...일정 예약(40%) 높고 의료·재무(58%) 낮아 가장 선호되는 AI 활용 사례는 일정 예약(40%)과 맞춤형 콘텐츠 제작(38%)이었다. 반면 의료 상담(44% 불편함), 재무 결정(58% 불편함) 등 중요한 의사결정에서는 AI 활용을 불편해하는 것으로 나타났다. 특히 AI 에이전트가 본인을 대신해 응답하는 것에 대해서는 50%가, 재무적 의사결정을 대신하는 것에 대해서는 58%가 불편함을 표했다. AI 신뢰 구축 핵심 요소...투명성(42%)·인간 검증(35%) 최우선 응답자의 24%는 향후 5년 내에, 25%는 5-10년 내에 AI가 인간의 능력과 비슷한 수준에 도달할 것으로 전망했다. AI 신뢰 구축을 위해 가장 중요한 요소로는 AI 사용에 대한 투명성(42%), 인간의 검증(35%), 사용자 통제권(32%), AI 결정의 설명 가능성(31%), 일관된 정확성(30%)이 꼽혔다. 세일즈포스는 기업들에게 신뢰를 기반으로 한 AI 도입을 권고했다. 구체적으로 강력한 보안 가이드라인 구축, 조직의 가치에 맞는 AI 전략 수립, 직원과 고객에 대한 통제권 보장, 데이터 보호 방안 명확화, 고객 데이터의 상호 이익을 위한 활용 등을 제시했다. 또한 AI 도구 사용에 대한 윤리적 훈련과 교육의 중요성도 강조했다. ■ 이 기사는 AI 전문 매체 'AI 매터스'와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT-4o를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)
