인공지능(AI)의 다음 단계로 주목받는 `에이전틱 AI(Agentic AI)`가 심각한 신뢰 위기에 직면해 있음을 보여주는 글로벌 조사 보고서 `AI 신뢰 격차 보고서(The AI Trust Gap Report)`가 공개됐다(사진 출처=Denodo)

데이터 관리 분야의 선도 기업인 Denodo는 인공지능(AI)의 다음 단계로 주목받는 ‘에이전틱 AI(Agentic AI)’가 심각한 신뢰 위기에 직면해 있음을 보여주는 글로벌 조사 보고서 ‘AI 신뢰 격차 보고서(The AI Trust Gap Report)’를 발표했다.

AI가 단순한 수동형 챗봇에서 벗어나 독립적으로 의사결정을 내리고 운영 워크플로를 실행하는 에이전트 형태로 진화함에 따라, 데이터 정확성의 중요성은 그 어느 때보다 커지고 있다. 그러나 이번 연구는 기술적 장애 요인이 이러한 발전을 저해하고 있음을 지적한다:

· 맥락 확보의 어려움: 전체 기업의 63%가 특정 비즈니스 맥락에서 ‘관련 데이터 탐색’을 AI 도입의 주요 장애 요인으로 꼽음

· 실시간 데이터 필요성: 응답자의 66%는 AI 데이터가 신뢰되기 위해서는 반드시 실시간 접근이 가능해야 한다고 응답

· 보안 역설: 67%가 시스템 전반에서 일관된 보안 및 접근 통제를 유지하는 데 어려움을 겪고 있으며, 이는 안전한 에이전틱 AI 운영에 필수적인 요소임

· 확장성과 복잡성: 기업의 AI 프로젝트는 평균 400개 이상의 데이터 소스를 활용하며, 20%는 1000개 이상의 소스를 동시에 관리

· 성능 병목: 응답자의 약 60%가 대규모 AI에 필요한 고강도 워크로드의 성능 최적화에 어려움을 겪고 있다고 답함

Denodo 제품 마케팅 부문 부사장 도미닉 사르토리오 (Dominic Sartorio)는 “AI는 단순히 질문에 답하는 시스템에서 자율적으로 행동을 수행하는 시스템으로 빠르게 전환되고 있으며, 이러한 변화는 데이터 요구 사항 자체를 근본적으로 바꾸고 있다”고 말했다. 이어 “AI 에이전트가 실제 비즈니스 결과를 만들어내는 상황에서는 오래됐거나 관리되지 않은 데이터가 개입될 여지가 전혀 없다”며 “에이전틱 AI를 신뢰 기반으로 확장하려면 기업은 정적인 데이터 사일로를 넘어 실시간으로 관리되고 맥락에 부합하는 데이터 기반을 구축해야 한다”고 강조했다.

보고서는 이러한 ‘신뢰 격차’가 AI 모델 자체의 문제가 아니라, 이를 뒷받침하는 데이터 아키텍처의 한계를 반영한 결과라고 결론 내렸다. 기업이 실험 단계의 AI를 넘어 자동화된 대규모 운영으로 나아가기 위해서는, 분산된 데이터 환경과 에이전틱 시스템이 요구하는 실시간 데이터 요건 사이의 격차를 해소해야 한다는 것이다.

전체 보고서는 Arlington Research가 수행한 ‘AI 신뢰 격차 보고서’(AI Trust Gap Report) 를 통해 확인할 수 있다.