AI 에이전트, 성능보다 통제가 중요해졌다

AI 에이전트는 이제 질문에 답하는 도구를 넘어 여러 모델이 역할을 나눠 연구하고 코드를 만드는 협업 시스템으로 진화하고 있습니다. 그러나 성능이 높아질수록 개인정보, 저작권, 기밀자료 사용과 같은 위험도 커집니다. 교육 현장에서는 AI가 만든 결과뿐 아니라 자료의 출처와 실행 과정까지 확인하는 능력이 핵심 역량이 됩니다.

여러 AI가 팀처럼 일하는 시대

Google은 Antigravity의 Teamwork와 Gemini 3.7 Flash를 결합한 Multi-agent orchestration(다중 에이전트 조정) 성과를 공개했습니다. 회사 설명에 따르면 여러 AI 에이전트가 장시간 협업하고 서로 비판하며 수학 문제, CPU 시뮬레이터 제작, 오픈소스 성능 개선 등을 수행했습니다. 일부 수학 결과에는 Lean(수학적 증명을 기계로 검증하는 정리 증명 도구)이 활용됐습니다.

이 변화의 핵심은 답변 속도보다 역할 분담입니다. 한 에이전트가 가설을 만들고 다른 에이전트가 반례를 찾으며, 별도의 검증 단계가 결과를 확인하는 방식입니다. 학생 프로젝트에서도 조사, 구현, 검토를 분리할 수 있지만, 발표된 성과는 개발사 자료에 근거하므로 독립적인 재현 여부를 따로 살펴야 합니다.

개인용 도구에서 공동 작업 공간으로

OpenClaw 2.0은 공유 세션, 역할 기반 권한, 승인 절차, 감사 기록을 도입하며 AI 코딩을 개인 작업에서 팀 작업으로 확장하려 합니다. Sandbox(샌드박스)는 에이전트가 제한된 환경에서 명령을 실행하도록 격리하는 기술이며, RBAC(역할 기반 접근 제어)는 사용자별로 허용된 작업을 구분합니다.

다만 보안 기능이 존재하는 것과 안전하게 설정된 것은 다릅니다. 보도에 따르면 OpenClaw는 기본 설정에서 샌드박스와 실행 승인이 꺼져 있으며, 하나의 Gateway(사용자와 도구를 연결하는 관문)는 하나의 신뢰 영역으로 취급됩니다. 학교가 공동 AI 실습 환경을 운영한다면 학생별 작업 공간을 분리하고, 외부 전송과 관리자 권한 상승에 명시적인 승인을 요구해야 합니다.

규제와 법적 책임도 따라온다

유럽연합 집행위원회는 ChatGPT를 비롯한 서비스를 DSA(디지털서비스법)의 초대형 온라인 플랫폼으로 분류했다고 보도됐습니다. 이에 따라 불법 콘텐츠 대응과 미성년자의 개인정보·안전 보호 의무가 강화되며, 위반 시 전 세계 매출의 최대 6%에 해당하는 과징금 가능성이 제기됩니다. 교육용 AI도 미성년자 데이터를 다룬다면 나이, 대화 기록, 추천 방식이 어떤 규칙으로 처리되는지 설명할 수 있어야 합니다.

AI가 학습하거나 작업할 때 사용한 자료의 적법성도 중요합니다. 음악 출판사들이 Anthropic을 상대로 제기한 소송은 모델 학습용 저작물의 취득 경로를 문제 삼고 있습니다. 별도의 Apple 소송에서는 전 직원이 기밀 회로도를 OpenAI 업무에 사용했다는 주장이 제기됐습니다. 두 사안 모두 당사자의 주장과 법적 절차가 진행 중인 사건이므로 확정된 사실처럼 단정해서는 안 됩니다. 다만 AI에 입력한 자료가 결과와 작업 기록에 남을 수 있다는 위험은 분명히 보여줍니다.

교육 현장이 바꿔야 할 평가 기준

과제 평가는 완성된 문서나 코드만 보는 방식에서 벗어나야 합니다. 어떤 자료를 입력했는지, 에이전트별 권한은 무엇이었는지, 사람이 어느 단계에서 승인했는지, 결과를 독립적으로 검증했는지를 함께 확인해야 합니다. 출처 목록, 프롬프트 기록, 코드 변경 내역, 테스트 결과를 제출물에 포함하면 AI 활용을 금지하지 않고도 책임성을 높일 수 있습니다.

학생 활용법

팀 프로젝트에서는 AI에 조사·초안·반론 검토 역할을 나누되, 개인정보나 비공개 강의자료는 입력하지 마세요. 최종 제출 전에는 인용 출처를 직접 열어 확인하고, 실행 명령과 코드 변경 사항은 사람이 검토한 뒤 승인하는 습관을 들이는 것이 좋습니다.