AI 도입의 진짜 병목은 '데이터 인프라'다

화려한 AI 이면의 불편한 진실

ChatGPT, Claude 같은 소비자용 AI가 수억 명을 매료시키는 동안, 기업 현장에서는 정반대의 현실이 펼쳐지고 있습니다. MIT Technology Review가 2026년 4월 27일 공개한 Databricks·Infosys 대담에 따르면, 기업 AI 프로젝트의 95%가 실질적 비즈니스 가치를 만들어내지 못하고 있습니다. 원인은 모델 성능이 아니라 데이터입니다.

Databricks 수석부사장 바베시 파텔(Bavesh Patel)은 "AI의 품질은 결국 조직 내 데이터의 품질에 달려 있다"며, 대부분의 기업 데이터가 레거시 시스템과 SaaS 애플리케이션에 분산·격리되어 있어 AI가 신뢰할 수 있는 출력을 만들기 거의 불가능하다고 진단했습니다.

'AI-Ready 데이터'란 무엇인가

대담에서 제시된 AI-Ready 데이터의 핵심 요건은 네 가지입니다.

1. 오픈 포맷(Open Format)으로의 통합

독점 SaaS 앱에 갇혀 있는 데이터를 개방형 포맷으로 꺼내, 구조화·비구조화 데이터를 하나의 플랫폼에서 조회할 수 있어야 합니다. Databricks가 최근 출시한 Lakebase는 OLTP(Online Transaction Processing, 온라인 트랜잭션 처리) 데이터베이스로, 기존 분석용 Lakehouse와 결합해 '분석 + 운영' 데이터를 단일 시스템에서 처리합니다.

2. 거버넌스(Governance, 데이터 관리 체계)

데이터를 발견하고, 신뢰도를 확인하고, 접근 권한을 통제하는 체계가 AI 배포의 전제 조건입니다. Databricks의 Unity Catalog는 데이터 카탈로그·접근 제어·비즈니스 시맨틱을 한곳에서 관리하며, 최근에는 MCP(Model Context Protocol) 서버와 에이전트까지 카탈로그 대상에 포함시켰습니다.

3. 정밀도(Precision) 92% 이상

Infosys의 라잔 파드마나반(Rajan Padmanabhan)은 "기업 AI의 정밀도 92% 이상은 열망이 아니라 필수"라고 강조했습니다. 구매·판매·추천 등 비즈니스 의사결정에 직결되는 출력이기 때문입니다.

4. 가치 측정 프레임워크

AI 프로젝트를 개별 혁신 실험이 아니라 비즈니스 지표에 직결시켜야 합니다. Infosys가 제안하는 '3M 프레임워크'는 적응성(Adaptability), 비즈니스 가치(Business Value), 책임성(Responsible)을 축으로 삼아, 성과가 나지 않는 프로젝트를 빠르게 중단(fast failure)할 수 있게 합니다.

에이전트 시대의 새로운 과제: Agent Sprawl

SaaS 앱이 폭발적으로 늘어났듯, AI 에이전트(Agent, 자율 수행 AI)도 조직 내에서 급증할 것으로 예측됩니다. 파텔은 이를 **Agent Sprawl(에이전트 난립)**이라 표현하며, 각 에이전트의 성능 모니터링·비용 추적·피드백 루프가 없으면 "조직이 큰 곤경에 빠질 것"이라 경고했습니다.

Lakebase가 주목받는 이유도 여기에 있습니다. 에이전트가 워크플로 실행 중 필요한 컨텍스트와 오케스트레이션 상태를 실시간으로 저장·조회할 수 있는 서버리스(Serverless) OLTP 데이터베이스이기 때문입니다. 컴퓨트와 스토리지가 분리되어 에이전트가 스스로 DB를 띄우고, 브랜칭하고, 내릴 수 있습니다.

한국 정책 시사점: 지역 R&D 자율화와 데이터 기반

같은 날 국회 본회의를 통과한 **「지역주도 과학기술혁신 촉진에 관한 법률안」**도 데이터 인프라 관점에서 읽을 수 있습니다. 이 법안은 지역이 R&D 사업의 전주기를 직접 설계·운영하고, 초광역권 연구개발 사업을 제안할 수 있도록 합니다.

지역 대학과 공공연구기관이 혁신 거점이 되려면, 각 기관의 연구 데이터가 개방형 포맷으로 통합·거버닝되어야 합니다. MIT Technology Review 대담이 지적한 '데이터 사일로' 문제는 글로벌 대기업만의 과제가 아니라, 한국 지역 연구 생태계에도 그대로 적용됩니다.

교육 분야에 미치는 영향

이번 논의가 학생과 교육자에게 주는 시사점은 명확합니다.

• 데이터 엔지니어링 역량의 가치 상승: AI 모델을 만드는 것보다 데이터를 정제·통합·거버닝하는 능력이 기업 현장에서 더 희소하고 더 큰 가치를 지닙니다.
• 'AI 리터러시'의 재정의: 파텔은 "비즈니스 사용자들이 AI를 껍질을 벗겨서 이해하고 싶어 한다"고 말했습니다. 프롬프트 작성법을 넘어, 데이터 파이프라인·거버넌스·비용 구조를 이해하는 것이 진정한 AI 리터러시입니다.
• 지역 대학의 기회: 지역주도 과학기술혁신법이 시행되면 지역 대학이 R&D 거점으로 참여할 수 있는 법적 근거가 생깁니다. 데이터 사이언스·AI 전공 학생이 지역 산업 데이터를 활용한 실전 프로젝트에 참여할 기회가 확대될 것입니다.

학생 활용법

Databricks Community Edition이나 Apache Spark 오픈소스 환경에서 데이터 레이크하우스(Lakehouse) 아키텍처를 직접 구축해 보세요. Unity Catalog의 개념을 익혀두면, 취업 시장에서 데이터 거버넌스 역량을 차별화 포인트로 내세울 수 있습니다.