AI 에이전트 시대, 성능보다 신뢰가 먼저다

AI 에이전트의 경쟁 기준이 답변 성능에서 실행 신뢰성으로 넓어지고 있습니다. Diagrid Catalyst 2.0은 중단된 작업을 이어서 처리하고 실행 기록의 변조 여부를 확인하는 기능을 추가했습니다. 학생과 교육자는 이제 AI가 무엇을 답했는지만큼, 어떤 과정을 거쳐 답했는지도 살펴야 합니다.

실패해도 이어지는 AI 에이전트

AI Agent(인공지능 에이전트)는 모델이 질문에 답하는 데 그치지 않고 외부 도구를 호출하며 여러 단계의 작업을 수행하는 시스템입니다. Catalyst 2.0은 LangGraph, Microsoft Agent Framework, Google ADK 등 여러 프레임워크와 연동해 모델 호출과 도구 호출을 Durable Workflow(지속형 워크플로) 활동으로 관리합니다.

기존 에이전트는 긴 작업의 마지막 단계에서 오류가 나면 이미 끝낸 모델 호출까지 반복할 수 있습니다. 이는 비용을 늘리고, 같은 외부 작업을 두 번 실행하는 문제도 일으킵니다. Catalyst는 완료된 단계를 기록해 중단 지점부터 재개하도록 설계됐습니다. 과제 자료를 모으고 요약한 뒤 보고서를 만드는 학습 도구라면, 수집이 끝난 자료를 다시 처리하지 않고 실패한 단계만 이어갈 수 있다는 뜻입니다.

실행 기록 검증이 필요한 이유

Catalyst의 또 다른 축은 Cryptographic Attestation(암호학적 증명)입니다. 기반 기술인 Dapr 1.18은 워크플로 이력을 묶어 해시하고 이전 서명과 연결합니다. 기록이 삭제되거나 순서가 바뀌거나 수정되면 이를 탐지할 수 있습니다.

다만 서명이 답변의 정확성을 보장하지는 않습니다. 기록이 변조되지 않았다는 사실과 AI의 판단이 옳다는 사실은 서로 다른 문제입니다. 교육용 에이전트를 평가할 때는 실행 이력과 함께 출처의 신뢰도, 도구가 반환한 데이터, 재시도 과정에서 발생할 수 있는 중복 작업을 따로 확인해야 합니다.

음성 AI도 ‘대화’에서 ‘업무 수행’으로

인도의 Ringg 사례는 에이전트 산업이 단순 응답을 넘어 결과 중심으로 이동하고 있음을 보여줍니다. 이 회사는 월 2천만 건의 통화 시도를 처리하며, 1,200개 의료기관에서 예약과 진료 후 안내를 지원한다고 밝혔습니다. 음성 통화뿐 아니라 채팅과 브라우저 기반 지원까지 연결하는 Orchestration Layer(여러 모델과 도구를 조정하는 계층)를 구축하고 있습니다.

교육 분야에서는 입학 상담, 수강 안내, 학습 일정 확인에 비슷한 구조를 활용할 수 있습니다. 그러나 음성 에이전트가 학생의 신원이나 학업 정보를 다룬다면, 누가 어떤 근거로 어떤 작업을 실행했는지 추적할 수 있어야 합니다. 특히 미성년자에게 적용할 때는 편의성보다 동의, 개인정보 최소 수집, 사람에게 연결되는 절차를 먼저 설계해야 합니다.

AI 활용 교육에 필요한 두 가지 문해력

첫째는 출처 문해력입니다. Google은 AI 학습과 저작권에 관한 자사 정책 입장을 발표하며 Text and Data Mining(텍스트·데이터 마이닝) 예외와 기계 판독형 거부 수단을 함께 제시했습니다. 이는 업계의 합의가 아니라 기업의 정책 주장이라는 점을 구분해 읽어야 합니다. 학생은 AI가 만든 결과물의 출처와 이용 조건을 확인하고, 생성물에 포함된 이미지·문장·음성이 타인의 권리를 침해하지 않는지 검토해야 합니다.

둘째는 통계 문해력입니다. 펜실베이니아주립대가 소개한 미국 성인 1,000명 대상 조사에서는 25%가 통계를 전혀 이해하지 못한다고 답했고, 37%는 이해가 제한적이라고 응답했습니다. 반면 응답자의 90%는 더 잘 이해한다면 의사결정에 통계를 더 활용하겠다고 밝혔습니다. AI가 수치를 자연스러운 문장으로 설명하더라도 표본 규모, 조사 방식, 불확실성을 직접 확인해야 하는 이유입니다.

학생 활용법

AI 에이전트로 조사 과제를 수행할 때는 작업을 자료 수집, 출처 검증, 요약, 초안 작성으로 나누고 단계별 결과를 저장합니다. 최종 답변에는 원문 링크와 통계의 표본·조사 조건을 함께 기록해 AI의 실행 과정과 결론을 모두 검토할 수 있게 합니다.

교육 현장의 평가 기준도 달라져야 합니다

앞으로 좋은 AI 도구는 그럴듯한 답을 빠르게 내는 시스템만을 뜻하지 않습니다. 실패 후 안전하게 복구되는지, 실행 기록을 검증할 수 있는지, 개인정보와 저작권을 지키는지, 결론의 근거를 사람이 재확인할 수 있는지가 함께 평가돼야 합니다.

교육자는 결과물만 채점하기보다 학생이 어떤 출처를 선택했고 AI의 오류 가능성을 어떻게 점검했는지 평가할 필요가 있습니다. 학생에게 필요한 역량도 프롬프트 작성법에 머물지 않습니다. AI에 일을 맡기되, 그 과정과 책임을 사람의 판단 아래 두는 능력이 에이전트 시대의 핵심 디지털 문해력이 됩니다.