AI 활용 시대, 교육이 가르쳐야 할 검증법

AI는 과제 작성과 취업 준비를 빠르게 만들었지만, 가짜 개발 도구 광고와 위장된 여론 조작에도 활용되고 있습니다. 이제 학교가 가르쳐야 할 핵심은 AI 사용 여부가 아니라 출처를 확인하고, 생성 과정을 기록하며, 결과를 독립적으로 검증하는 방법입니다.

편리한 AI가 새로운 위험도 키웁니다

최근 보안 연구진은 OpenAI Codex를 사칭한 광고가 검색 결과에 노출되고, 가짜 설치 페이지가 Mac 이용자에게 터미널 명령 실행을 유도한 사례를 확인했습니다. 공격자는 ClickFix(사용자가 직접 악성 명령을 실행하게 만드는 사회공학 기법)를 이용했습니다. 정상적인 npm 설치 명령처럼 보이는 문자열 뒤에 외부 스크립트를 내려받아 실행하는 코드를 붙인 방식입니다.

개발을 배우는 학생은 검색 결과 상단이나 익숙한 로고만 보고 공식 배포처라고 판단하기 쉽습니다. 그러나 광고 순위는 신뢰도 순위가 아닙니다. 학교의 코딩 수업도 패키지 설치법만 설명할 것이 아니라 공식 문서의 도메인 확인, 명령어 분해, Base64(바이너리 데이터를 문자로 표현하는 인코딩) 문자열 점검, 관리자 권한 요구 여부 확인까지 다뤄야 합니다.

학생 활용법

AI 개발 도구는 검색 광고가 아니라 공식 사이트와 공식 저장소에서 설치해야 합니다. 복사한 명령은 바로 실행하지 말고 각 구간이 파일 다운로드, 권한 변경, 셸 실행 중 무엇을 하는지 먼저 확인합니다.

AI 시대에는 ‘그럴듯한 권위’도 검증해야 합니다

OpenAI는 러시아에서 시작된 것으로 판단한 비밀 영향력 공작과 관련해 ChatGPT 계정들을 차단했다고 밝혔습니다. 해당 활동은 실제 연구기관처럼 보이는 웹사이트와 전문가 명단, 자체 지수를 만들고 소셜미디어 홍보에 AI 생성 문장을 사용했습니다. OpenAI가 표본으로 살펴본 게시물 36건 가운데 34건은 다른 곳의 글을 복제했으며, 일부는 저자 표시까지 잘못됐다고 설명했습니다.

이 사례는 AI가 허위 사실을 한 번에 만들어 내는 문제보다 더 복잡합니다. 실제 학술 자료를 복사하고 기관·전문가·지표라는 외형을 덧붙이면 정보 전체가 믿을 만해 보이기 때문입니다. 학생에게 필요한 것은 문장 속 오류 찾기에 그치지 않습니다. 저자와 소속이 실제로 일치하는지, 원문이 존재하는지, 지표의 산식과 데이터가 공개됐는지, 서로 독립적인 출처가 같은 사실을 확인하는지 살펴야 합니다.

교실에서는 금지보다 사용 조건이 중요합니다

MIT Technology Review는 일부 학교가 특정 AI 제품 하나를 지정하기보다 교사에게 일반적인 활용 원칙을 교육하고 있다고 전했습니다. 한 학교는 과제마다 AI 사용 가능 범위를 신호등처럼 구분합니다. 이런 접근은 생성형 AI(학습한 패턴을 바탕으로 새로운 텍스트·이미지·코드 등을 만드는 인공지능)를 무조건 허용하거나 금지하는 이분법에서 벗어납니다.

예를 들어 초안 아이디어를 얻는 단계는 허용하되, 사실 확인과 최종 논증은 학생이 맡도록 설계할 수 있습니다. 평가도 완성된 답안만 보는 방식에서 질문 설계, 출처 목록, 수정 이력, 구두 설명을 함께 확인하는 방식으로 바뀌어야 합니다. 그러면 교사는 AI를 썼는지 추측하는 대신 학생이 결과를 이해하고 책임질 수 있는지를 평가할 수 있습니다.

취업 준비도 ‘대량 생성’보다 증거가 중요합니다

WIRED에 따르면 AI 기반 이력서 작성과 자동 지원 서비스가 확산되면서 일부 채용 공고에는 짧은 시간 안에 수백에서 수천 건의 지원이 몰리고 있습니다. LinkedIn은 2020년 2월보다 이용자 한 명당 제출 건수가 46% 늘었고, ChatGPT 출시 이후 전체 지원 건수는 22% 증가했다고 밝혔습니다.

지원이 쉬워질수록 비슷한 표현으로 채워진 자기소개서는 차별화 수단이 되기 어렵습니다. 학생은 AI로 지원서를 대량 생산하기보다 프로젝트 저장소, 설계 결정, 실패 후 수정 과정처럼 역량을 확인할 수 있는 자료를 축적해야 합니다. 교육기관도 자기소개서 작성법뿐 아니라 포트폴리오의 진위를 설명하고 자신의 기여 범위를 증명하는 훈련을 제공할 필요가 있습니다.

AI 리터러시는 검증 가능한 과정입니다

앞으로의 AI 리터러시(AI를 이해하고 비판적으로 활용하는 역량)는 프롬프트 작성 기술만으로 완성되지 않습니다. 공식 출처에서 도구를 구하고, 생성물의 근거를 역추적하며, 사용 범위를 기록하고, 사람이 최종 결과를 검증해야 합니다. 학교가 이 과정을 과제와 평가에 포함할 때 학생은 AI를 단순한 정답 생성기가 아니라 책임 있게 다뤄야 할 학습 도구로 사용할 수 있습니다.