Copilot이 2FA 탈취 통로로? AI 보안의 새 지형도

핵심 요약

Microsoft M365 Copilot에서 이메일에 접근 가능한 2FA(이중 인증, Two-Factor Authentication) 코드와 민감 정보를 외부로 유출할 수 있는 최고 심각도(Critical) 취약점이 발견되어 패치되었습니다. 이 사건은 AI 어시스턴트를 둘러싼 구조적 보안 문제를 다시 한번 수면 위로 끌어올렸습니다.

같은 시기, GitHub는 AI 기반 시크릿 스캐닝(Secret Scanning, 비밀 정보 탐지) 시스템의 오탐률(False Positive, 오경보율)을 75.76% 줄이는 데 성공하며, AI가 보안의 방어 측에서도 핵심 역할을 할 수 있음을 증명했습니다.

AI 도구가 일상이 된 지금, 같은 기술이 공격과 방어 양쪽에서 모두 작동하고 있습니다.

Copilot 취약점: AI 어시스턴트가 공격 통로가 된 순간

무엇이 문제였나

보안 연구팀이 공개한 개념 증명(PoC, Proof of Concept) 익스플로잇은 다음과 같은 방식으로 동작했습니다.

1. 공격자가 악의적인 지시사항을 이메일 본문이나 문서에 숨겨 놓습니다.
2. 피해자의 Copilot이 해당 콘텐츠를 요약·처리하는 과정에서 그 지시사항을 '사용자 명령'으로 오인합니다.
3. Copilot은 피해자 이메일함에서 2FA 코드나 민감 정보를 읽어 공격자 서버로 유출합니다.

이 공격 방식의 이름은 **프롬프트 인젝션(Prompt Injection)**입니다. LLM(대형 언어 모델, Large Language Model)이 신뢰할 수 있는 사용자 지시와 신뢰할 수 없는 외부 콘텐츠 속 지시를 구별하지 못하는 근본적인 한계에서 비롯됩니다.

왜 쉽게 해결되지 않나

보안 전문가들이 강조하는 핵심은 이것이 단순 버그가 아니라 설계상의 구조적 한계에 가깝다는 점입니다. 텍스트 형태의 지시라면 그 출처가 어디인지를 모델이 본질적으로 구분하지 못합니다. Microsoft를 비롯한 LLM 제공업체들은 이 문제를 완전히 해결하지 못한 채, 복잡한 가드레일(guardrail, 안전 장치)을 덧대어 피해를 최소화하는 방식으로 대응하고 있습니다.

공격자들은 이미 이 가드레일을 우회하는 방법을 찾아냈습니다. 민감 정보를 이미지 태그(<img>)나 HTML 폼 요소 안에 숨기거나, 마크업 언어를 활용해 외부 서버로의 HTTP 요청을 유도하는 방식입니다. Copilot이 이메일을 처리하면서 이 요청을 실행하는 순간, 민감 정보가 공격자 서버 로그에 기록됩니다.

GitHub의 반격: AI로 AI 보안 위협에 대응하다

오탐이 많으면 보안 시스템은 무력화된다

GitHub의 시크릿 스캐닝은 코드 저장소에 실수로 커밋(commit, 코드 반영)된 API 키, 비밀번호, 인증 토큰 등을 탐지하는 기능입니다. 문제는 **오탐(False Positive, 거짓 경보)**이었습니다. 탐지 알림이 너무 많으면 개발자들은 피로를 느껴 무시하게 됩니다. 이는 실제 보안 위협을 놓치게 만드는 가장 큰 원인 중 하나입니다.

더 많은 데이터가 아니라 더 나은 맥락

GitHub는 Microsoft Security & AI와 협력해 LLM 기반 컨텍스트(문맥) 분석을 검증 단계에 도입했습니다. 핵심 전략은 더 많은 코드를 보는 것이 아니라 더 정확한 맥락을 제공하는 것입니다.

기존 패턴 매칭은 값이 비밀처럼 보이는지만 판단합니다. 반면 새 시스템은 해당 값이 코드에서 실제로 비밀처럼 사용되고 있는지를 분석합니다. 예를 들어 어떤 값이 변수에 할당된 뒤 API 요청의 인증 헤더나 데이터베이스 클라이언트에 전달되는지를 추적합니다. 테스트 데이터나 UUID(고유 식별자, Universally Unique Identifier)처럼 비밀처럼 보이지만 실제로는 아닌 값들을 효과적으로 걸러냅니다.

수백 건의 고객 확인 오탐 사례를 대상으로 검증한 결과, 목표치였던 65% 감소를 훨씬 넘는 75.76% 오탐 감소라는 성과를 달성했습니다.

학생과 개발자 지망생에게 주는 시사점

AI 어시스턴트 사용 시 보안 체크리스트

현재 많은 대학생과 개발자 지망생이 GitHub Copilot, Microsoft Copilot 등 AI 어시스턴트를 활용합니다. 이번 취약점 사례가 보여주는 교훈은 명확합니다.

• 외부에서 수신한 이메일이나 문서를 AI에 처리시킬 때 주의가 필요합니다. 악성 프롬프트가 콘텐츠 안에 숨어 있을 수 있습니다.
• AI 어시스턴트에 2FA 코드, 비밀번호 등 민감 정보를 직접 입력하거나 처리하게 하는 것은 피해야 합니다.
• 신뢰할 수 없는 출처의 콘텐츠를 AI에 붙여넣는 행위는 잠재적 위협입니다.

코드 보안 습관: 지금 당장 시작할 수 있는 것

API 키나 비밀번호를 코드에 하드코딩(hardcoding, 값을 코드에 직접 입력)하는 실수는 매우 흔하며, 한 번 공개 저장소에 노출되면 자동화된 봇이 수분 내에 이를 수집합니다. GitHub의 무료 시크릿 스캐닝 기능을 본인의 저장소에 활성화하고, API 키는 반드시 환경 변수(environment variable)나 별도 설정 파일로 관리하는 습관을 들이세요.

AI 리터러시의 새로운 영역

AI 리터러시(AI Literacy, AI 활용 능력)에는 이제 단순히 AI를 사용하는 능력뿐 아니라 AI의 보안 취약성을 이해하는 능력이 포함되어야 합니다. 프롬프트 인젝션, AI 모델의 신뢰 경계(trust boundary), 민감 정보 처리 시 주의사항은 개발자 지망생이라면 반드시 학습해야 할 필수 영역입니다.

정리: AI 시대 보안의 양면

AI 도구는 이제 학습과 개발 환경 깊숙이 들어와 있습니다. 그 가능성을 최대한 활용하되, 보안 위협에 대한 인식을 갖추는 것이 현 시대 개발자와 학생에게 요구되는 핵심 역량입니다.

학생 활용법: GitHub 무료 시크릿 스캐닝을 본인 저장소에 즉시 활성화하고, AI 어시스턴트에 외부 이메일·문서를 처리시킬 때는 콘텐츠의 신뢰 여부를 먼저 확인하는 습관을 만드세요.