AI를 교육에 쓸 때 필요한 세 가지 설계 원칙

AI 교육의 관건은 ‘답변’이 아니라 설계입니다

생성형 AI가 학교와 학습 현장에 빠르게 들어오고 있습니다. 그러나 AI를 많이 쓰는 것만으로 학습 효과가 생기지는 않습니다. 최근 사례들은 AI 에이전트의 권한, 학습 과정의 검증, 개인 데이터 통제가 함께 설계되어야 한다는 점을 보여줍니다.

1. AI 에이전트에는 필요한 만큼만 권한을 줘야 합니다

DoorDash는 사내 생성형 AI 플랫폼을 운영하면서 여러 모델을 하나의 API(응용 프로그래밍 인터페이스)와 SDK(소프트웨어 개발 도구 모음)로 연결했습니다. 이 과정에서 정확도·응답 속도·비용뿐 아니라, 누가 어떤 도구와 데이터에 접근하는지 추적하는 체계를 중요하게 다뤘습니다.

교육 현장에서도 같은 원칙이 필요합니다. 수업용 AI가 학습 관리 시스템, 문서, 메신저와 연결될수록 편의성은 높아지지만 접근 범위도 커집니다. 과제 피드백 도구에 학생의 모든 대화 기록이나 성적 정보가 꼭 필요한지부터 따져야 합니다. MCP(모델 컨텍스트 프로토콜)처럼 AI가 외부 도구를 호출하는 환경에서는 특히 도구별 읽기·쓰기 권한과 실행 전 확인 절차가 중요합니다.

2. AI가 대신한 결과보다 학생의 사고 과정을 평가해야 합니다

일부 학교에서 AI 챗봇 사용이 확대된 뒤 학생이 AI 의존과 학습 저하를 경험했다는 보도가 나왔습니다. 이 사례만으로 AI가 성적 하락의 직접 원인이라고 단정할 수는 없습니다. 다만 요약과 답안 생성이 지나치게 쉬워지면, 학생이 이해·추론·오류 수정의 과정을 건너뛸 위험은 분명합니다.

따라서 평가는 제출물 하나에만 집중하기보다 초안, 근거 자료, 수정 기록, 구두 설명을 함께 살펴야 합니다. AI가 낸 답을 그대로 제출하게 하는 수업보다, 답변의 오류를 찾고 근거를 보완하게 하는 과제가 더 교육적입니다. Evals(평가 체계)도 단순 정답률이 아니라 학생이 어떤 질문을 했고 어떤 근거로 결과를 고쳤는지 확인하는 방향으로 설계할 수 있습니다.

학생 활용법

AI에게 개념을 설명해 달라고 요청한 뒤, 답변 속 불확실한 주장 세 가지를 직접 교과서나 신뢰할 만한 자료로 검증해 보세요. 과제에는 AI가 작성한 최종문보다 질문을 바꾼 과정과 수정 이유를 함께 기록하는 편이 학습에 더 도움이 됩니다.

3. 개인화 AI일수록 데이터 경계를 먼저 정해야 합니다

Meta의 개인 비서 Muse 관련 보도는 AI가 사용자 주변 인물, 대화 맥락, 일정 같은 정보를 축적해 관계 단위의 프로필을 만들 수 있음을 보여줍니다. 이런 기억 기능은 맞춤형 도움을 제공할 수 있지만, 학생과 교사의 관계 정보까지 광범위하게 수집한다면 오판과 사생활 침해의 위험도 커집니다.

교육용 AI는 ‘더 많이 기억할수록 좋다’는 관점에서 벗어나야 합니다. 어떤 정보를 저장하는지, 학생이 열람·수정·삭제할 수 있는지, 외부 서비스 연결을 끊으면 무엇이 사라지는지를 분명히 알려야 합니다. 특히 미성년 학생이 포함된 환경에서는 기본값을 최소 수집으로 두고, 추가 데이터 활용에는 이해 가능한 설명과 명시적 동의를 요구해야 합니다.

AI 리터러시는 사용법을 넘어 통제력입니다

앞으로 학생에게 필요한 AI 리터러시(AI 활용 역량)는 프롬프트를 잘 쓰는 능력만이 아닙니다. AI가 무엇을 볼 수 있는지, 답변이 어떤 근거에 기대는지, 자동화된 행동을 어디까지 허용할지를 판단하는 능력입니다. 교육자는 AI를 금지하거나 무조건 수용하는 대신, 학습자에게 그 통제권을 돌려주는 수업 환경을 만들어야 합니다.