기업들의 AI 도입 속도가 실제 성과를 뒷받침할 데이터 기반을 앞지르는 `AI 준비도 착시` 현상이 확산되고 있다(이미지=Cloudera 웹페이지)

어떤 데이터 환경에서도 AI를 구현하는 유일한 기업인 클라우데라(Cloudera)가 글로벌 서베이 ‘데이터 준비도 지수: 성공적인 AI를 위한 기반 이해(The Data Readiness Index: Understanding the Foundations for Successful AI)’를 발표하며 기업들의 대규모 AI 도입 준비 현황을 분석했다고 밝혔다.

약 1300명의 글로벌 IT 리더를 대상으로 한 이번 조사에 따르면 AI 도입은 빠르게 확산되고 있지만, 대부분의 기업은 성공적인 활용을 위한 데이터 기반을 여전히 충분히 갖추지 못한 것으로 나타났다. 조사 결과는 뚜렷한 역설을 보여준다. 전체 기업의 96%가 핵심 비즈니스 프로세스에 AI를 통합하고 있다고 응답했고, 85%는 명확한 데이터 전략을 보유하고 있다고 밝혔지만, 약 80%에 달하는 기업이 여전히 환경 간 데이터 접근성 부족으로 인해 AI 및 데이터 이니셔티브가 제약을 받고 있다고 인정했다.

이러한 격차는 이른바 ‘AI 준비도 착시(AI readiness illusion)’라는 새로운 현상을 보여준다. 즉 핵심적인 데이터 문제가 여전히 해결되지 않았음에도 불구하고 기업들이 대규모 AI 도입 준비가 돼 있다고 믿는 경향을 의미한다.

Cloudera의 최고기술책임자(CTO) 세르히오 가고(Sergio Gago)는 “기업들은 AI를 도입하는 데 어려움을 겪고 있는 것이 아니라 실험 단계를 넘어 이를 실제 운영에 적용하는 데 어려움을 겪고 있다”며 “AI의 효과는 이를 뒷받침하는 데이터에 달려 있다. 모든 데이터에 원활하게 접근하지 못하면 AI가 제공할 수 있는 정확성, 신뢰성, 비즈니스 가치는 제한될 수밖에 없다. 데이터 없이 AI는 존재할 수 없다”고 말했다.

AI 도입은 활발하지만, 투자 대비 성과는 여전히 불확실

AI는 이제 기업 전반에 걸쳐 도입되고 있지만, 일관된 투자 수익률(ROI)을 확보하는 데는 여전히 어려움이 따른다. AI 프로젝트가 기대에 못 미치는 이유를 묻는 질문에 대해 응답자들은 데이터 품질 문제(22%), 비용 초과(16%), 기존 워크플로와의 통합 부족(15%) 등을 주요 요인으로 꼽았다. 이는 AI 투자를 실제 측정 가능한 비즈니스 성과로 전환하는 과정이 여전히 복잡하다는 점을 보여준다.

또한 인프라 한계 역시 문제를 더욱 심화시키고 있다. 응답자의 약 73%는 성능 제약으로 인해 운영 프로젝트가 영향을 받았다고 답했으며, 이는 분산된 환경에서 AI를 확장하는 데 따른 어려움을 반영한다.

데이터 격차: 접근성과 거버넌스, 그리고 가시성

이러한 문제의 핵심에는 데이터에 대한 완전한 접근과 통제의 부족이 자리하고 있다.

응답자의 84%는 자사 데이터의 정확성, 완전성, 정합성에 대해 자신감을 보였지만, 이러한 낙관은 종종 더 깊은 문제를 가리고 있다. 데이터 사일로의 지속, 일관되지 않은 데이터 품질, 제한된 접근성 등이 대표적이다. 개별적으로는 신뢰할 수 있어 보이는 데이터도 팀, 시스템, AI 애플리케이션 간에 활용될 경우 무너지며, 조직 전반의 거버넌스와 일관성 부족을 드러낸다.

전체 응답자 중 18% 미만만이 데이터가 완전히 거버넌스 체계 하에 있다고 답해 인식과 현실 간의 격차를 보여준다. 71%는 대부분의 데이터가 관리되고 있다고 응답했지만, 데이터 기반 의사결정이 제대로 작동하려면 조직 전체에 걸쳐 일관된 단일 데이터 기준이 필요하다.

데이터를 통합하고 명확한 기준을 적용하는 포괄적인 거버넌스가 없다면 기업은 기회를 놓치고 잘못된 의사결정을 내리며, 결과적으로 기대에 못 미치는 성과를 낼 위험이 있다.

산업별 데이터 준비도 비교

데이터 준비도는 산업별로 큰 차이를 보인다. 예를 들어 통신 업계 응답자의 54%는 자사의 데이터 위치에 대해 ‘완전한 가시성을 확보하고 있다’고 답했다. 반면 금융 서비스는 30%, 공공 부문은 31%에 그쳤다. 데이터 접근성 측면에서도 통신 업계의 51%가 ‘언제든 모든 데이터에 접근할 수 있다’고 응답한 반면 금융 서비스는 24%, 공공 부문은 16%에 불과했다.

그러나 이러한 높은 데이터 준비도가 곧바로 운영 성과로 이어지지는 않았다. 통신 업계 응답자의 60%는 인프라 성능 문제가 지속적으로 운영 프로젝트를 저해한다고 답했으며, 이는 조사 대상 산업 중 가장 높은 수준이다.

이 같은 문제는 AI 프로젝트에도 그대로 나타난다. 산업별로 AI 투자 수익률(ROI)을 저해하는 요인은 서로 달랐다. 전체적으로는 데이터 품질 문제가 가장 많이 지적됐지만, 에너지 및 유틸리티 분야에서는 비용 초과가 가장 큰 장애 요인(25%)으로 꼽혔다. 반면 의료, 제조, 금융 서비스 분야에서는 기존 워크플로와의 통합 부족이 주요 문제(20%)로 지적됐다.

데이터 준비도가 기업용 AI의 다음 단계를 좌우한다

기업용 AI(엔터프라이즈 AI)가 실험 단계에서 실행 단계로 전환되면서 데이터 준비도는 선도 기업과 후발 기업을 가르는 핵심 요소로 부상하고 있다.

데이터가 어디에 존재하든 이를 완전히 접근하고 통제할 수 있는 조직일수록 신뢰할 수 있고 확장 가능한 AI를 구현할 가능성이 훨씬 높다. 특히 이번 보고서에서는 모든 응답자가 진정한 데이터 준비도를 달성하기 위해 기존 프레임워크를 어느 정도 조정할 의향이 있다고 답했다는 점이 주목된다.

기업들이 ‘AI 준비도 착시’의 한계에 직면하는 가운데 앞으로 나아갈 방향은 분명하다. AI의 잠재력을 온전히 실현하기 위해서는 단순한 의지나 투자만으로는 부족하며, 실제적인 데이터 준비도가 필수적이다. 이 격차를 해소하는 기업만이 지속적인 성과를 창출하고 차세대 지능형 비즈니스 시대를 주도할 수 있을 것이다.

기업용 AI의 장애 요인과 데이터 준비도 격차를 해소하는 방안에 대한 자세한 내용은 전체 보고서를 통해 확인할 수 있다.

방법론

본 조사는 Cloudera의 의뢰로 Researchscape가 수행했으며, 미주(AMER), 유럽·중동·아프리카(EMEA), 아시아태평양(APAC) 지역에서 1000명 이상의 직원을 보유한 기업에 근무하는 IT 리더 1270명의 의견을 분석했다. 조사는 2026년 1월 22일부터 3월 3일까지 진행됐으며, 결과는 조사 대상 국가들의 국내총생산(GDP)을 반영해 가중치가 적용됐다.