AI 에이전트 보안, 로그인만으로 부족한 이유

AI 에이전트 보안의 핵심은 “로그인했는가”가 아니라 “지금 이 작업을 수행할 권한과 근거가 유효한가”입니다. 최근 사례들은 인증을 통과한 에이전트도 오래된 승인, 불확실한 저장 상태, 탈취된 세션 때문에 데이터 노출이나 중복 실행을 일으킬 수 있음을 보여줍니다.

인증만으로는 에이전트의 행동을 설명할 수 없습니다

일반적인 서비스는 사용자 토큰이 유효하고 API 호출이 허용되면 요청을 처리합니다. 그러나 AI 에이전트는 여러 도구를 연속으로 호출하고, 사용자를 대신해 파일을 수정하거나 외부 시스템에 작업을 남깁니다. 이때 필요한 것은 Authentication(인증)뿐 아니라 Authorization(인가), 즉 해당 주체가 그 행동을 해도 되는지 확인하는 절차입니다.

VentureBeat 기고는 안전한 에이전트 운영을 위해 소유자와 목적을 먼저 등록하고, 에이전트마다 구별되는 신원을 부여한 뒤, 작업 범위가 제한된 단기 자격증명을 사용해야 한다고 제안합니다. 이후에야 처음부터 결과까지 연결되는 Telemetry(원격 측정 기록)를 만들고 실행 단계의 정책 통제를 적용할 수 있다는 주장입니다. 단순히 사용자의 모든 권한을 에이전트에 물려주면 누가 어떤 목적으로 행동했는지 구분하기 어렵습니다.

승인은 시간이 짧게 지났다고 유효한 것이 아닙니다

OpenAI 개발자 커뮤니티가 소개한 Codex 변경 사례에서는 낮은 위험으로 판정된 작업의 승인 결과를 재사용할 때 권한 상태의 버전을 함께 확인합니다. 사용자가 권한을 철회하거나 대화 기록이 바뀌었다면, 몇 초 전에 생성된 승인이라도 다시 검토합니다.

이 원칙은 교육용 에이전트에 특히 중요합니다. 학생이 과제 폴더의 읽기만 허용했다가 권한을 취소했는데도 캐시된 승인이 남아 있다면, 에이전트가 이후 파일까지 계속 열어서는 안 됩니다. 승인 캐시는 영구 허가증이 아니라 특정 권한 상태에서 만들어진 판단 자료로 다뤄야 합니다.

작업 재개 전에는 저장 결과부터 확인해야 합니다

Checkpoint(체크포인트)는 중단된 프로그램의 상태를 복원하지만, 마지막 저장이 실제로 완료됐는지까지 보장하지 않습니다. 세션 기록을 추가하던 중 응답이 끊기면 저장소에는 반영됐지만 확인 메시지만 사라졌을 수도 있고, 아예 반영되지 않았을 수도 있습니다.

OpenAI Agents Python 변경을 분석한 커뮤니티 글에 따르면, 런타임은 보류 중인 쓰기 정보를 저장하고 재개 시 권위 있는 세션 기록을 다시 읽습니다. 이미 반영됐다면 반복하지 않고, 이전 상태 그대로라면 다시 기록하며, 두 경우 중 어느 쪽인지 판단할 수 없으면 실행을 중단합니다. Reconciliation(대사·상태 대조)을 마치기 전에 모델이 새로운 추론을 시작하지 않도록 한 것입니다.

교육 현장에서는 과제 제출, 피드백 반영, 성적 데이터 입력처럼 반복 실행의 피해가 큰 작업에 이 원칙을 적용해야 합니다. “재시도” 버튼 하나보다 제출 식별자, 변경 전 버전, 처리 결과를 함께 보존하는 설계가 더 중요합니다.

사람의 로그인 세션도 안전한 신원이 아닐 수 있습니다

Notebookcheck는 정보 탈취형 악성코드가 Claude의 로그인 세션을 복사해 다른 사람이 유료 사용량을 소비한 사례를 보도했습니다. Session Cookie(세션 쿠키)는 이미 로그인을 마쳤다는 증표이므로, 탈취한 사람은 비밀번호나 이중 인증을 다시 통과하지 않아도 계정에 접근할 수 있습니다.

이는 공용 PC와 개인 노트북을 함께 쓰는 학생에게 현실적인 위험입니다. 비공식 프로그램이나 불법 복제 소프트웨어를 설치한 기기에서는 AI 계정뿐 아니라 브라우저에 저장된 다른 자격증명도 함께 노출될 수 있습니다. 의심스러운 사용 기록이 보이면 전체 세션을 종료하고 비밀번호를 바꾸는 데서 그치지 말고, 기기의 악성코드 감염 여부를 별도로 점검해야 합니다.

교육기관이 적용할 세 가지 원칙

첫째, 에이전트마다 소유자·목적·허용 도구를 기록하고 사용자 계정과 구별되는 실행 신원을 부여해야 합니다. 둘째, 파일 읽기나 제출 같은 권한은 작업 범위와 시간에 맞춰 최소화해야 합니다. 셋째, 중단된 작업은 마지막 외부 효과가 실제로 반영됐는지 확인한 후 재개해야 합니다.

교사는 AI 도구를 도입할 때 기능 목록뿐 아니라 권한 철회, 실행 기록, 중복 제출 방지 방식을 확인해야 합니다. 학생은 프로젝트별 폴더만 공유하고, 중요한 제출은 AI의 완료 메시지보다 학교 시스템의 접수 기록을 기준으로 확인하는 습관을 들일 수 있습니다.