교육 AI의 새 기준: 저비용·기억·보안

교육용 AI의 경쟁력은 이제 모델 성능만으로 결정되지 않습니다. 저렴한 모델을 먼저 사용하고, 사용자별 기억을 분리하며, 민감한 자료를 자동 분류하고, 결과를 검증하는 운영 설계가 중요해졌습니다. 최근 발표와 실험은 학교와 학생이 AI를 도입할 때 비용·개인정보·보안을 함께 평가해야 한다는 점을 보여줍니다.

저비용 모델도 검증 절차와 만나면 강해집니다

Together.ai가 DeepSWE 113개 과제를 대상으로 900회 실행한 결과, GLM-5.3 Flash의 pass@1(첫 시도 성공률)은 63.4%로 GLM-5.3의 69.0%보다 낮았습니다. 그러나 네 번 안에 한 번이라도 성공하는 pass@4에서는 각각 85.0%와 87.6%로 차이가 2.6%포인트까지 줄었습니다. Flash의 실행당 비용은 0.24달러, 전체 모델은 3.99달러였습니다.

핵심은 Routing(작업 라우팅)입니다. 저비용 모델을 먼저 실행하고 테스트가 실패한 작업만 고성능 모델로 넘기는 Cascade(단계식 처리)는 성공률 80.9%, 과제당 비용 1.70달러를 기록했습니다. 모든 질문에 가장 비싼 모델을 배정하는 것보다 자동 채점이나 테스트를 활용해 모델을 선택하는 방식이 효율적이라는 뜻입니다.

교육 현장에서는 연습문제 해설, 코드 초안, 문서 요약처럼 검증하기 쉬운 작업을 저비용 모델에 맡길 수 있습니다. 다만 Flash가 기존 정상 테스트를 깨뜨린 비율은 6.9%로 전체 모델의 4.4%보다 높았습니다. 생성된 코드를 그대로 제출하거나 배포하지 말고 Regression Test(회귀 테스트)와 사람의 검토를 거쳐야 합니다.

AI의 기억은 저장보다 격리가 중요합니다

Amazon Bedrock AgentCore Memory는 Long-term Memory(장기 기억)를 조직, 학교, 수업, 팀, 실행 환경과 같은 애플리케이션 기준으로 구분하는 유연한 Namespace(이름공간) 변수를 지원합니다. 하나의 메모리 자원에 최대 다섯 개의 키를 정의하고 실행 시 값을 전달할 수 있습니다.

이는 여러 학급이 같은 AI 튜터를 사용하더라도 학생 기록과 수업 맥락이 섞이지 않게 설계할 수 있다는 의미입니다. 학교는 편리한 개인화를 제공하는 데 그치지 않고, 어떤 기억을 누구에게 보여줄지 명시해야 합니다. 수업·학기 종료 후 기록을 언제 삭제할지도 함께 정해야 합니다.

교육 자료는 AI가 분류하고 사람이 확정합니다

Google Drive의 Gemini 기반 AI Classification(AI 분류)은 관리자가 작성한 지침을 해석해 파일에 보안 라벨을 자동 적용합니다. 기존처럼 훈련용 파일을 사람이 일일이 분류할 필요가 없으며, 파일 소유자와 편집자는 자동 라벨을 승인하거나 수정할 수 있습니다. 변경 과정은 감사 로그에도 남습니다.

학교에서는 성적표, 상담 기록, 연구 데이터, 일반 수업 자료를 구분해 DLP(Data Loss Prevention·데이터 유출 방지) 정책과 보존 규칙을 적용할 수 있습니다. 특히 AI 에이전트가 여러 파일을 읽고 행동하는 환경에서는 “접근할 수 있는 파일”과 “처리해도 되는 파일”을 구별해야 합니다. 자동 분류가 최종 판단을 대신해서는 안 되며, 오분류를 바로잡을 책임자와 검토 절차가 필요합니다.

공개된 보안 정보의 악용 속도도 빨라졌습니다

OCaml 프로젝트 사례에서는 보안 패치가 공개 토론에 올라온 뒤 약 10분 만에 경로 탐색 공격으로 보이는 요청이 관측됐습니다. 코딩 에이전트가 취약점 단서를 빠르게 분석하면서, 패치를 논의하고 며칠 뒤 배포하던 기존 오픈소스 절차의 위험이 커진 것입니다.

교육용 프로젝트도 예외가 아닙니다. 학생 정보나 과제 제출 시스템을 다루는 저장소에서는 취약점의 상세 내용을 먼저 공개하기보다 수정본과 배포 계획을 준비해야 합니다. 의존성 점검, 비공개 신고 창구, 자동 보안 테스트를 프로젝트의 기본 과정으로 포함할 필요가 있습니다.

학생은 이렇게 활용할 수 있습니다

학생은 AI로 코드를 작성할 때 저비용 모델로 초안을 만들고 테스트가 실패한 부분만 고성능 모델에 다시 요청해 비용을 줄일 수 있습니다. 팀 프로젝트에서는 자료를 공개·팀 전용·민감 정보로 나누고, AI가 만든 결과를 테스트와 동료 검토로 확인하는 습관을 들이는 것이 좋습니다.

결국 교육 AI의 핵심은 가장 강한 모델을 고르는 일이 아닙니다. 적절한 모델을 배정하고, 기억과 자료의 경계를 세우며, 자동화된 결과를 검증하는 체계를 만드는 일입니다.