AI가 교실 밖으로 나올 때 필요한 안전 기준

AI 기술의 다음 변화는 더 똑똑한 대화형 서비스가 아니라, 사람의 공간을 보고 움직이며 기록하는 시스템의 확산입니다. AI 스마트 안경, 휴머노이드 로봇, 월드 모델(World Model·현실 공간을 이해하고 예측하는 AI)은 교육 현장에도 새로운 학습 도구가 될 수 있지만, 안전과 책임의 기준 없이는 받아들이기 어렵습니다.

AI가 화면 밖으로 나오는 변화

호주 정부는 녹화·정보 수집 기능을 가진 AI 스마트 안경의 공공기관 내 사용 금지를 검토하고 있습니다. 핵심 쟁점은 기기의 성능이 아니라, 주변 사람이 촬영 사실을 인지하고 동의할 수 있느냐입니다. 교실과 도서관, 상담실처럼 민감한 정보가 오가는 공간에서는 이 문제가 더 직접적입니다.

한편 Agility Robotics의 휴머노이드 로봇 Digit 5는 사람을 감지하면 피하거나 멈추고, 필요하면 자세를 낮추도록 설계됐다고 소개됐습니다. 사람과 같은 공간에서 일하는 AI는 정확도만큼이나 ‘무엇을 하지 않을지’를 정해 두는 설계가 중요하다는 뜻입니다.

교육 현장에 주는 세 가지 질문

1. 편리한 기록은 누구의 동의를 얻는가

AI 안경은 실습 과정을 기록하거나 현장 학습을 보조하는 데 활용될 수 있습니다. 그러나 학생·교사·방문자가 촬영 여부와 데이터의 보관 장소, 삭제 방법을 쉽게 알 수 없다면 학습 도구가 감시 도구로 바뀔 위험이 있습니다. 학교는 도입 전 촬영 가능 구역, 사용 시간, 보관 기간, 동의 절차를 명확히 정해야 합니다.

2. AI의 판단에는 사람이 개입할 수 있는가

로봇이 사람을 피하도록 만드는 것은 안전 기능의 출발점입니다. 교육용 로봇이나 자율 장비도 마찬가지로, 오작동 시 즉시 멈출 수 있어야 하며 교사나 운영자가 최종 통제권을 가져야 합니다. ‘AI가 판단했다’는 말은 사고의 책임을 대신하지 못합니다.

3. 공간을 이해하는 AI는 무엇을 학습시키는가

월드 모델은 영상과 센서 정보로 공간의 구조와 물체의 움직임을 이해하려는 기술입니다. 로봇, 자율주행, 인터랙티브 영상 제작에 활용될 가능성이 큽니다. 학생에게는 단순히 생성형 AI를 사용하는 능력을 넘어, AI가 현실을 어떤 데이터로 해석하고 어디서 틀릴 수 있는지 검증하는 역량이 중요해집니다.

기술 수업의 목표도 달라져야 합니다

앞으로의 AI 리터러시(AI Literacy·인공지능을 이해하고 비판적으로 활용하는 능력)는 프롬프트 작성법에만 머물 수 없습니다. 데이터 수집의 범위, 개인정보 보호, 센서 오류, 자동 판단의 한계, 인간의 감독 체계를 함께 배워야 합니다.

학생은 AI 도구를 사용할 때 먼저 “누가 기록되는가”, “결과가 틀리면 누가 멈출 수 있는가”, “이 데이터는 어디에 남는가”를 확인해 보세요. 이 세 질문을 습관으로 만들면 새로운 AI 기기를 더 안전하고 주체적으로 활용할 수 있습니다.