AI 에이전트의 진짜 핵심은 모델이 아니라 '하네스'다 — 엔비디아 연구가 바꾼 상식

같은 모델, 다른 결과 — 30%에서 100%로

AI 에이전트를 배울 때 대부분의 사람들은 "어떤 모델을 쓸까"를 먼저 묻습니다. GPT냐, Claude냐, Gemini냐. 그런데 엔비디아가 2026년 8월 발표한 연구는 이 질문 자체를 뒤흔듭니다.

연구진은 Claude Opus 5를 ARC-AGI-3 벤치마크(규칙 없이 2D 게임을 스스로 파악해 클리어하는 과제)에 투입했습니다. 아무런 추가 장치 없이 모델 단독으로 실행했을 때 점수는 30%. 당시 테스트한 모든 모델 중 가장 높은 수치였지만, 인간 수준과는 거리가 멀었습니다.

그런데 엔비디아가 자체 개발한 하네스 AVO(Agentic Variation Operators)를 씌우자 동일한 모델이 **100%**를 기록했습니다. 모델 가중치는 한 줄도 건드리지 않고, 그 주변 구조만 바꿨을 뿐입니다.

하네스(Harness)란 무엇인가

하네스는 AI 모델을 감싸는 소프트웨어 래퍼(wrapper)입니다. 원시 모델을 단순한 텍스트 생성기가 아니라 "스스로 행동할 수 있는 에이전트"로 만들어 주는 구조입니다. 구체적으로는 다음 요소들을 포함합니다.

• 도구(Tools): 웹 검색, 코드 실행, 파일 읽기 등 모델이 사용할 수 있는 외부 기능
• 메모리 관리(Memory Management): 긴 작업에서 앞선 결정을 기억하고 맥락을 유지하는 장치
• 슈퍼바이저 에이전트(Supervisor Agent): 메인 에이전트가 잘못된 방향으로 가거나 막혔을 때 개입해 궤도를 교정하는 상위 감독자

엔비디아 AI 부문 제품 부사장 아델 엘 할락은 이렇게 설명합니다. "많은 사람이 에이전트를 모델의 API 정도로 이해합니다. 하지만 에이전트는 모델 그 이상입니다. 모델 자체이자, 모델을 감싸는 스캐폴딩, 즉 하네스이고, 런타임과 연결된 라이브러리 전체입니다."

슈퍼바이저 에이전트가 핵심

엔비디아 연구에서 특히 주목받은 것은 슈퍼바이저 에이전트의 도입입니다. 메인 에이전트가 막다른 경로를 탐색하거나 이전에 실패한 방법을 반복할 때, 슈퍼바이저가 CEO처럼 개입해 방향을 조정합니다.

"슈퍼바이저 에이전트를 추가한 것이 가장 흥미로운 부분이었습니다. 에이전트가 길을 잃거나 막다른 경로를 탐색하기 시작할 때 조용히 방향을 틀어주는 역할을 합니다." — 엘 할락

오픈AI도 비슷한 결론에 도달했습니다. 자사 모델의 ARC-AGI-3 점수가 10% 미만이자 경쟁사 대비 낮다는 지적을 받은 후, 하네스 설정 두 가지만 조정해 점수를 세 배로 끌어올렸습니다. 단, 100%에는 미치지 못했습니다.

비용도 하네스가 결정한다

데이터브릭스(Databricks)가 2026년 7월 발표한 연구는 또 다른 각도에서 이 문제를 조명합니다. 같은 모델이라도 어떤 하네스를 쓰느냐에 따라 AI 운영 비용이 2배까지 달라질 수 있다는 것입니다.

데이터브릭스 CEO 알리 고드시는 이렇게 말합니다. "비싼 모델, 저렴한 모델을 고민하기 전에 먼저 물어야 합니다. 어떤 하네스를 쓰고 있나요? 그것만으로도 비용이 2배 달라질 수 있습니다."

실제 산업에서의 에이전트: Rillet의 사례

이론만이 아닙니다. AI 회계 스타트업 Rillet은 하네스 중심 설계의 실전 사례입니다. 창업 2년 만에 기업가치 10억 달러(유니콘)를 달성한 이 회사는 인간이 아니라 AI 에이전트를 위해 설계된 회계 플랫폼을 만들었습니다.

Rillet의 에이전트는 기억(Memory)을 갖고 있어 과거 작업을 학습하고, 거버넌스 기능을 통해 에이전트가 내린 모든 결정의 근거와 계산 과정을 회계사가 검토·감사(Audit)할 수 있습니다. 또한 모델 라우팅(Model Routing) 기능으로 고객이 OpenAI, Anthropic 등 원하는 기반 모델을 선택할 수 있고, 고객 데이터가 모델 학습에 사용되지 않도록 격리합니다.

현재 미국에서는 회계사 인력 부족 문제가 심각합니다. 회계학 학위 취득자 수는 2010년 이후 지속 감소했으며, 미국 노동통계국(BLS)은 2034년까지 회계 관련 일자리가 5% 이상 늘어날 것으로 전망합니다. 단순 데이터 입력 같은 반복 업무는 AI가 담당하고, 회계사의 자문·분석 역할은 오히려 커진다는 분석입니다.

애플도 AI 에이전트 중심으로 재편

애플 역시 이 흐름에서 예외가 아닙니다. 2026년 8월 21일, 애플은 Vision Pro 게이밍·몰입형 비디오 팀과 Siri 팀에서 약 200명을 감원했습니다. 비용 대비 효과가 낮았던 Vision Pro 몰입형 콘텐츠 사업을 축소하는 대신, AI 기능 개발로 인력과 예산을 재배치하는 조치입니다.

이는 단순한 감원이 아니라 빅테크 전반에서 나타나는 구조 변화의 신호입니다. XR(확장 현실)보다 AI 에이전트·자동화에 무게중심이 쏠리고 있습니다.

학생·개발자에게 주는 시사점

이 일련의 흐름이 학생들에게 전달하는 메시지는 명확합니다.

"어떤 모델을 쓰느냐"보다 "어떻게 엮느냐"가 더 중요해지고 있다.

지금 배워야 할 것들

• 프롬프트 엔지니어링을 넘어: 단순히 좋은 프롬프트를 작성하는 것을 넘어, 에이전트 파이프라인(pipeline)을 설계하는 능력이 핵심 역량이 됩니다.
• 메모리·컨텍스트 관리: 장기 작업에서 AI가 맥락을 잃지 않도록 설계하는 방법을 이해해야 합니다.
• 오케스트레이션(Orchestration): 여러 AI 에이전트가 협력하는 구조, 슈퍼바이저 패턴 등을 학습하면 실무에서 차별화된 경쟁력을 가질 수 있습니다.
• 오픈소스 하네스 탐색: 엔비디아의 NeMo 프레임워크, LangChain, LlamaIndex 등 오픈소스 하네스 도구들을 직접 실험해 보세요.

학생이라면 무료로 제공되는 오픈소스 AI 에이전트 프레임워크(LangChain, CrewAI 등)를 활용해 간단한 멀티에이전트 프로젝트를 직접 만들어 보는 것을 권장합니다. 모델 선택보다 구조 설계 능력이 미래 개발자의 핵심 역량이 될 것입니다.