교실의 AI, 활용보다 검증과 안전이 먼저입니다

생성형 AI가 교육에 빠르게 들어오면서 핵심 과제도 바뀌고 있습니다. 이제 학교는 AI 활용법뿐 아니라 개인정보의 실제 처리 범위, 딥페이크 피해 대응, 답변 검증 절차를 함께 가르쳐야 합니다. 편리함만 평가하면 학생과 교사 모두 새로운 위험에 노출될 수 있습니다.

개인정보 설정은 하나의 스위치로 끝나지 않습니다

ChatGPT의 학습 제외 설정은 새로운 대화를 모델 훈련에 사용하지 않도록 제한하는 기능입니다. 그러나 보도에 따르면 대화 기록, Memory(사용자 정보를 기억하는 기능), 연결된 앱, 업로드 파일은 별도의 관리 대상입니다. 피드백을 제출할 때 해당 대화가 모델 개선에 활용될 가능성도 살펴야 합니다.

교육 현장에서는 이 차이가 중요합니다. 학생이 과제 초안이나 상담 내용을 입력하고 학습 제외 설정만 끄면 모든 데이터가 사라진다고 오해할 수 있기 때문입니다. 학교는 서비스별 보관 정책을 확인하고, 실명·학번·건강 정보처럼 민감한 자료는 애초에 입력하지 않는 원칙을 세워야 합니다. 기록 삭제, 저장된 파일 확인, 연결 앱 권한 점검도 각각 수행해야 합니다.

학생 활용법

AI에 자료를 넣기 전에 이름과 연락처 등 식별 정보를 제거합니다. 민감한 학습 상담이나 미공개 연구 자료에는 Temporary Chat(일시적 대화) 같은 기능도 무조건 안전하다고 가정하지 말고, 학교가 승인한 도구와 절차를 우선 사용합니다.

딥페이크는 교사의 노동 안전 문제입니다

Deepfake(인공지능으로 얼굴·음성·영상을 합성하거나 조작한 콘텐츠)가 학생뿐 아니라 교사를 공격하는 수단으로 확산하고 있습니다. WIRED가 소개한 사례에서는 교사의 공개 사진을 성적인 이미지나 허위 영상으로 변형하고, 사칭 계정을 통해 학생들 사이에 퍼뜨리는 일이 발생했습니다. 피해 교사는 수업 복귀를 망설이거나 학생과의 관계를 다시 생각해야 했습니다.

이 문제를 단순한 장난이나 미디어 리터러시 부족으로 축소해서는 안 됩니다. 피해 증거 보존, 플랫폼 신고, 관리자 보고, 피해자 보호, 학부모 소통을 포함한 대응 절차가 필요합니다. 동시에 수업에서는 합성물을 만드는 기술보다 동의, 명예 훼손, 성희롱, 재유포 책임을 먼저 다뤄야 합니다. 교사 개인에게 삭제 요청과 사실 해명을 떠넘기면 교육기관의 보호 체계가 작동하지 않는 셈입니다.

학생 활용법

이미지나 영상이 흥미로워 보여도 당사자의 동의와 출처를 먼저 확인합니다. 의심스러운 합성물을 발견하면 저장·재전송하지 말고 교사나 학교의 공식 신고 창구에 알립니다.

AI 답변은 그럴듯함과 정확성을 구분해야 합니다

기업 데이터에 답하는 AI조차 충분한 맥락이 없으면 틀린 숫자를 자신 있게 제시할 수 있다는 지적이 나왔습니다. Grounding(답변을 검증 가능한 자료와 맥락에 연결하는 과정)이 부족하면 조직의 용어, 권한, 데이터 정의를 알지 못하기 때문입니다. 교육에서도 같은 문제가 발생합니다. AI가 수식 풀이와 역사 설명을 자연스럽게 작성해도 근거가 맞다는 보장은 없습니다.

따라서 과제 평가는 최종 문장만 볼 것이 아니라 출처 확인, 계산 재현, 반례 탐색 과정을 포함해야 합니다. 교사는 AI 사용을 일괄 금지하기보다 학생이 어떤 자료로 답을 검증했는지 제출하도록 설계할 수 있습니다. 성적이나 진학처럼 오류 비용이 큰 판단에는 사람이 최종 책임을 져야 합니다.

인간의 학습 방식은 여전히 중요한 연구 대상입니다

MIT Technology Review는 LLM(대규모 언어 모델)이 사람이 접하는 것보다 훨씬 많은 언어 데이터를 학습하지만, 어린이는 적은 경험으로 언어를 익힌다는 데이터 효율성 격차를 조명했습니다. 이는 교육을 AI에 맞추기보다 인간 학습의 강점을 더 연구해야 한다는 점을 보여줍니다.

학생은 몸의 움직임, 사회적 상호작용, 시행착오, 교사의 피드백을 하나의 맥락으로 결합합니다. AI가 빠르게 답을 생성한다는 이유로 토론, 실험, 관찰을 줄이면 인간이 가진 학습 경로를 약화할 수 있습니다. 좋은 AI 교육은 정답 생성을 자동화하는 데서 끝나지 않습니다. 학생이 질문을 만들고, 근거를 비교하고, 오류를 설명하도록 돕는 방향으로 설계되어야 합니다.

학교가 지금 정해야 할 세 가지

첫째, 개인정보와 업로드 파일에 관한 입력 금지 기준을 구체적으로 정해야 합니다. 둘째, 딥페이크 발생 시 신고부터 피해자 보호까지 이어지는 절차를 마련해야 합니다. 셋째, AI가 만든 답변은 출처와 재현 가능한 검증 과정으로 평가해야 합니다.

AI 리터러시는 프롬프트를 잘 쓰는 능력만 뜻하지 않습니다. 데이터가 어디에 남는지 이해하고, 합성 콘텐츠의 피해를 예방하며, 그럴듯한 답을 사실과 구별하는 능력까지 포함합니다. 이 세 가지가 갖춰질 때 AI는 교육의 지름길이 아니라 안전한 학습 도구가 될 수 있습니다.