AI 학습 도구의 새 기준, 성능보다 통제

AI가 다른 AI의 안전성을 개선하는 연구가 성과를 보였고, Gemini Notebook은 작업별 연산량에 따라 사용 한도를 계산하는 방식으로 바뀝니다. 브라우저에서 Codex CLI를 원격 제어한다는 실험적 도구도 등장했습니다. 이제 교육용 AI를 평가할 때는 성능뿐 아니라 검증 가능성, 비용, 보안, 운영 주체를 함께 따져야 합니다.

AI가 AI의 안전 문제를 고치는 실험

Anthropic 연구진은 Automated Alignment Researcher(AAR·자동 정렬 연구 시스템)가 모델의 바람직하지 않은 행동을 줄이는 방법을 스스로 탐색하는 실험을 공개했습니다. 이 시스템은 관련 문헌을 찾고, 개선 방법을 제안하고, 모델을 짧게 훈련한 뒤 결과가 좋은 방법을 다음 반복에 남깁니다. 보도에 따르면 10개 Alignment Benchmark(정렬 평가 기준) 모두에서 성능을 개선하면서 전반적인 성능 저하는 피했습니다.

이 결과는 AI 연구 자동화의 범위가 단순한 자료 요약이나 코드 작성에서 실험 설계와 Post-training(사후 학습)으로 넓어지고 있음을 보여줍니다. 다만 평가 기준이 실제 교육 목표를 제대로 나타내지 못하면 시스템은 잘못 정의된 목표를 효율적으로 달성할 수 있습니다. “점수가 올랐다”는 사실과 “더 안전하고 교육적으로 적절해졌다”는 판단은 같지 않습니다.

교육 현장에서는 AI가 만든 평가 문항이나 피드백을 다른 AI가 검수하는 구조가 확대될 수 있습니다. 이때 교사는 최종 답안만 확인해서는 안 됩니다. 어떤 기준으로 오류를 판정했는지, 평가 자료에 편향은 없는지, 사람이 결과를 재현할 수 있는지를 함께 살펴야 합니다.

학습 도구의 한도도 연산량 중심으로 변합니다

Google은 Gemini Notebook의 사용량을 Prompt Complexity(프롬프트 복잡도), 대화 길이, 자료 수, 사용 기능에 따라 계산하는 유연한 한도 체계로 바꾼다고 발표했습니다. 한도는 하루 단위가 아니라 5시간마다 갱신되며, Video Overview(영상 개요)나 Slide Deck(슬라이드 자료)처럼 연산량이 큰 결과물은 한도 부족 시 나중에 자동 생성하도록 예약할 수 있습니다.

학생에게는 기능 개수보다 과제의 연산 비용을 관리하는 능력이 중요해졌다는 뜻입니다. 같은 보고서라도 자료를 한꺼번에 넣고 긴 결과물을 요구하는 방식과, 자료를 나누어 검토한 뒤 최종 결과만 생성하는 방식은 사용량이 달라질 수 있습니다. 교육자는 특정 AI 서비스의 한도를 전제로 과제를 설계하면 학생의 요금제나 접속 시점에 따라 학습 기회가 달라질 수 있다는 점도 고려해야 합니다.

학생 활용법

먼저 핵심 자료만 넣어 개요와 쟁점을 확인한 뒤, 필요한 부분에만 영상이나 슬라이드 생성을 사용해 보세요. 제출 일정이 촉박하다면 생성 예약 기능에 의존하기보다 결과물을 미리 만들고 사실과 출처를 직접 검토하는 편이 안전합니다.

원격 코딩 도구는 편리함보다 신뢰 경계를 봐야 합니다

OpenAI 개발자 커뮤니티에는 모바일 브라우저에서 Codex CLI(명령줄 인터페이스)를 원격 제어하고, 대화를 E2EE(종단 간 암호화)로 전송한다는 Agentify Chat이 공개됐습니다. 개발자가 직접 “개발 초기 단계”라고 밝힌 커뮤니티 프로젝트이므로, 보안성과 안정성이 독립적으로 검증된 제품으로 받아들여서는 안 됩니다.

코딩 수업이나 팀 프로젝트에서는 원격 접속이 실습의 연속성을 높일 수 있지만, 터미널 세션에는 소스 코드와 자격증명, 과제 데이터가 함께 노출될 수 있습니다. 암호화 여부만 볼 것이 아니라 키를 누가 관리하는지, 서버에 어떤 정보가 남는지, 공유 전에 민감한 내용이 실제로 제거되는지 확인해야 합니다. 학교 계정이나 실제 서비스 저장소를 연결하기 전에는 공개 예제 저장소와 제한된 권한으로 시험하는 것이 적절합니다.

AI 도입은 기술과 제도를 함께 다루는 문제입니다

미국 연방법원은 Anthropic을 공급망 위험으로 지정한 정부 조치가 위법하다고 판단했습니다. 분쟁의 배경에는 완전 자율무기와 대규모 감시에 관한 모델 사용 제한이 있었습니다. 이번 판결은 AI 제공자의 Safety Guardrail(안전 보호장치)이 단순한 제품 설정을 넘어 정부 조달과 법적 권리의 쟁점이 될 수 있음을 보여줍니다.

대학과 학교도 AI 서비스를 도입할 때 정확도와 가격만 비교해서는 부족합니다. 허용되지 않는 사용 범위, 계약 종료 시 데이터 처리 방식, 서비스 제공자가 정책 압력을 받을 때의 대응, 대체 도구로 이전할 수 있는지를 계약과 수업 지침에 명확히 담아야 합니다.

교육용 AI의 다음 평가 기준

이번 변화들을 잇는 공통점은 통제권입니다. AI가 연구 과정을 자동화할수록 평가 기준을 정하는 사람의 책임은 커집니다. 사용량이 연산량에 따라 달라질수록 학생은 작업을 설계해야 하며, 원격 도구가 편리해질수록 접근 권한을 더 세밀하게 제한해야 합니다.

학생과 교육자에게 필요한 역량도 “AI를 얼마나 많이 쓰는가”에서 “목표와 비용, 근거와 위험을 얼마나 명확히 관리하는가”로 이동하고 있습니다. 새 기능을 시험할 때는 결과의 품질뿐 아니라 출처를 추적할 수 있는지, 사람이 최종 판단을 되찾을 수 있는지까지 확인해야 합니다.