세일즈포스 보고서는 전 세계 18개국 16,500명 이상의 소비자와 비즈니스 구매자를 대상으로 진행한 연구 조사를 기반으로 작성됐다. 보고서에 따르면 전체 응답자의 71%가 1년 전과 비교해 기업에 대한 신뢰도가 하락했다고 응답했다. 응답자의 61%는 AI 기술의 발전으로 인해 기업 신뢰도가 더욱 중요해졌다고 답했지만, 기업의 윤리적 AI 활용에 대한 신뢰도는 2023년 58%에서 2024년 42%로 큰 폭으로 하락했다.
반면 개인화된 서비스 측면에서는 진전이 있었다. 기업이 고객 개개인의 특성을 이해하고 있다고 느끼는 소비자 비율은 2023년 39%에서 2024년 73%로 크게 증가했다. 그러나 동시에 기업의 데이터 활용이 자신에게 도움이 된다고 생각하는 비율은 2022년 60%에서 2024년 49%로 하락했으며, 응답자의 71%는 프라이버시 보호에 더욱 민감해졌다고 응답했다. 이는 데이터 활용과 프라이버시 보호 간의 균형을 맞추는 것이 기업의 중요한 과제임을 시사한다.
연구 결과에 따르면 기업의 AI 활용에 대한 소비자 기대치 또한 높아졌다. 특히 응답자들은 기업의 신뢰도 향상을 위한 요인으로 △AI 활용의 투명성(42%) △결과물에 대한 인간의 검증(35%) △AI 사용량에 대한 사용자 제어 강화(32%) △결과물의 설명 가능성(31%) 등을 지목했으며, 71%의 응답자가 AI의 결과물을 사람이 검증하는 것이 중요하다고 응답해, AI 활용에 있어 기업이 투명하고 명확한 기준을 제시해야 할 필요성이 높아지고 있는 것으로 나타났다.
