AI 에이전트 시대, 보안과 거버넌스가 핵심이다

AI 에이전트가 기업에 들어온다

딜로이트 AI 인스티튜트의 2026년 보고서에 따르면, 전체 기업의 약 74%가 향후 2년 내에 에이전틱 AI(Agentic AI, 자율 판단·실행이 가능한 AI 에이전트)를 도입할 계획입니다. 그런데 이 자율 에이전트를 안전하게 관리할 거버넌스(Governance, 통제·감독 체계)가 성숙한 기업은 겨우 21%에 그칩니다. 기술 도입 속도와 보안 준비 사이의 간극이 갈수록 벌어지고 있는 셈입니다.

에이전틱 AI란 무엇인가

에이전틱 AI는 단순한 챗봇이나 자동 완성 도구와 다릅니다. 사람의 지시를 받아 스스로 계획을 세우고, 도구를 호출하며, 다른 시스템에 접근해 작업을 완료하는 AI입니다. 예를 들어 "이번 달 마케팅 보고서를 작성해줘"라는 요청을 받으면, 데이터베이스에서 수치를 조회하고, 스프레드시트를 생성하고, 이메일로 전송까지 자동으로 수행합니다.

문제는 이 과정에서 에이전트가 민감한 시스템과 데이터에 광범위하게 접근한다는 것입니다. 딜로이트 사이버 프랙티스의 앤드루 라플라(Andrew Rafla)는 "에이전트가 무엇을 했는지, 누구를 대신해서, 어떤 데이터를 사용해, 어떤 정책 하에서 실행했는지 답할 수 없다면, 기능하는 컨트롤 플레인(Control Plane, 중앙 통제 계층)이 없는 것"이라고 경고합니다.

비인간 정체성(NHI)의 폭발적 증가

현대 기업 환경에서는 이미 **비인간 정체성(NHI, Non-Human Identity)**이 사람 계정 수를 넘어서고 있습니다. API 키, 서비스 계정, 봇 토큰 등이 모두 NHI에 해당합니다. 에이전틱 AI가 본격 도입되면 이 수치는 폭발적으로 증가할 것이며, 각각의 에이전트가 사실상 "조직 내 첫 번째 시민(first-class citizen)"으로 취급되면서 보안 사각지대가 생깁니다.

딜로이트 보고서가 꼽은 기업 임원들의 3대 우려 사항은 다음과 같습니다:

• 데이터 프라이버시·보안 — 73%
• 법률·지적재산권·규제 준수 — 50%
• 거버넌스 역량·감독 체계 — 46%

컨트롤 플레인이 왜 필요한가

컨트롤 플레인은 "누가 어떤 에이전트를 실행할 수 있는지, 어떤 권한으로, 어떤 정책 하에서, 어떤 모델과 도구를 사용하는지"를 중앙에서 관리하는 계층입니다. 이것이 없으면 에이전트는 관리되지 않는 실행(unmanaged execution) 상태가 되고, 장애가 발생했을 때 안전하게 실패하는 것이 아니라 예측 불가능하게, 대규모로 실패합니다.

이는 마치 서버 인프라에서 IAM(Identity and Access Management, 접근 권한 관리) 없이 모든 서비스에 루트 권한을 부여하는 것과 같습니다.

컨트롤 플레인의 핵심 요소

포스트 양자 시대의 암호화, 과도한 공포는 금물

보안 이야기가 나온 김에 한 가지 더 짚어보겠습니다. 양자 컴퓨팅(Quantum Computing)이 기존 암호화를 무력화할 것이라는 우려가 커지는 가운데, 암호학 엔지니어 필리포 발소르다(Filippo Valsorda)는 AES-128이 포스트 양자 환경에서도 안전하다고 단언합니다.

흔히 그로버 알고리즘(Grover's Algorithm, 양자 검색 알고리즘)이 AES-128의 유효 강도를 2의 64승으로 절반 줄인다고 알려져 있지만, 이는 병렬화(Parallelization)가 자유롭게 가능하다는 비현실적 가정 위에 성립합니다. 실제 양자 컴퓨터에서는 그로버 알고리즘의 병렬 실행이 극도로 제한되기 때문에, 30년간 취약점이 발견되지 않은 AES-128은 여전히 견고합니다.

이는 보안 분야에서 **"위협의 실체를 정확히 이해하는 것"**이 얼마나 중요한지를 보여주는 사례입니다.

교육 분야에 미치는 영향

커리큘럼의 변화가 필요하다

AI 에이전트가 기업 표준이 되면, 컴퓨터공학·정보보안 커리큘럼에도 변화가 불가피합니다. 기존의 "사람이 사용하는 시스템 보안"에서 **"AI가 사용하는 시스템 보안"**으로 패러다임이 확장됩니다. 비인간 정체성 관리, 에이전트 권한 설계, 감사 로그 분석 등이 신규 필수 역량으로 떠오를 것입니다.

개발자 지망생이 준비해야 할 것

AI 에이전트를 단순히 "사용"하는 것을 넘어, 에이전트의 권한 경계를 설계하고, 행동을 모니터링하며, 안전하게 실패하도록 만드는 능력이 차세대 개발자의 핵심 역량이 됩니다.

학생 활용법

지금 바로 실천할 수 있는 것들이 있습니다. Claude, GPT 등 AI 에이전트 도구를 사용할 때 **"이 에이전트에 어떤 권한을 주고 있는가?"**를 의식적으로 점검하는 습관을 들이세요. 또한 OWASP Top 10 for LLM Applications 같은 공개 보안 가이드라인을 읽어두면, 취업 시장에서 AI 보안 역량을 갖춘 인재로 차별화할 수 있습니다.