교육기관 겨냥 AI 보안 위협, 무엇을 대비해야 하나

교육기관은 이제 단순한 랜섬웨어 표적을 넘어, 생성형 AI(Generative AI, 생성형 인공지능) 사용 과정에서 정보가 새는 위험까지 관리해야 합니다. 9월 보안 동향 보고서에서는 교육 분야가 조직당 주간 평균 6,656건의 공격을 받아 가장 많이 공격받은 분야로 집계됐습니다.

교육 현장으로 들어온 AI 보안 위험

Check Point의 9월 분석에 따르면 교육 분야를 겨냥한 주간 공격은 전년 같은 기간보다 59% 늘었습니다. 학생·교직원 계정, 연구 자료, 성적과 상담 기록처럼 가치가 높은 데이터가 한곳에 모이는 교육기관의 특성이 공격자에게 매력적인 이유입니다.

여기에 대규모 언어 모델(LLM, Large Language Model) 기반 도구가 수업 자료 요약, 과제 피드백, 행정 문서 처리로 빠르게 확산하면서 새로운 위험도 생겼습니다. 보고서는 기업용 생성형 AI 프롬프트 가운데 39개 중 1개가 민감정보 유출 위험이 높은 것으로 분류됐다고 설명합니다. 교육기관이 AI를 도입할 때는 “어떤 도구를 쓸 것인가”뿐 아니라 “어떤 정보를 입력해도 되는가”를 먼저 정해야 합니다.

문서 속 지시문도 공격 경로가 됩니다

프롬프트 주입(Prompt Injection, 프롬프트 주입)은 AI가 읽는 문서·웹페이지·이메일 안에 숨긴 지시문으로 모델의 행동을 바꾸려는 공격입니다. 예를 들어 AI 에이전트(AI Agent, 인공지능 에이전트)가 첨부된 PDF를 읽고 요약하거나 외부 도구를 호출할 수 있다면, 문서 속 악성 문구가 의도하지 않은 동작을 유도할 수 있습니다.

최근 보안 업계는 이런 위험을 모델에 질문을 전달하기 전, 파일을 검사하는 단계에서 찾아내려는 접근을 제시하고 있습니다. 이는 AI 보안을 별도 기능으로 덧붙이는 일이 아니라, 파일 검사·접근 권한·실행 기록을 함께 설계해야 한다는 뜻입니다.

사회공학 공격은 여전히 기본 위험입니다

Luna Moth 사례처럼 공격자는 악성코드만이 아니라 전화 사칭과 가짜 이력서, 피싱 메일 등 사회공학(Social Engineering, 사회공학) 기법을 조합합니다. AI가 이런 자료를 자동 분류하거나 처리하도록 만들수록, 사람이 확인하던 경계가 약해지지 않도록 검토 절차를 남겨야 합니다.

학생과 교육자가 지금 할 일

학생은 과제 초안, 상담 내용, 학교 계정 정보, 타인의 개인정보를 공개형 AI 서비스에 그대로 붙여 넣지 않는 습관부터 갖추는 것이 좋습니다. AI로 문서를 요약할 때는 원문에 낯선 지시문이나 외부 링크가 있는지 확인하고, 결과물을 제출하거나 실행하기 전 반드시 사실과 출처를 다시 검토해야 합니다.

교육자는 AI 도구별 입력 가능 정보와 금지 정보를 짧은 가이드로 정하고, 자동 실행 권한은 최소화해야 합니다. AI 활용 역량은 더 빠르게 답을 얻는 능력만이 아니라, 어떤 데이터와 권한을 맡겨도 되는지 판단하는 보안 감각까지 포함합니다.