AI 챗봇이 내 전화번호를 공개한다 — 개인정보 노출과 신뢰 위기

AI가 당신의 전화번호를 알고 있다

Google Gemini 챗봇에게 특정 기업의 고객센터 번호를 물었더니, 전혀 관계없는 개인의 실제 휴대전화 번호가 표시됐습니다. 이스라엘 소프트웨어 개발자 Daniel Abraham은 2026년 3월 낯선 사람으로부터 "PayBox 계정 도움 요청" WhatsApp 메시지를 받았습니다. Gemini가 그의 개인 번호를 PayBox 고객센터 연락처로 안내했기 때문입니다.

미국 워싱턴대 박사 과정생이 동료 연구자의 이름으로 Gemini에 연락처를 검색하자, 일반 Google 검색에서는 수십 페이지를 넘겨야 겨우 발견할 수 있는 번호가 즉시 표시됐습니다. ChatGPT는 초기 거부 응답 이후 "탐정 방식"으로 접근하자 교수의 자택 주소와 배우자 이름까지 제공했습니다.

개인정보 삭제 서비스 기업 DeleteMe에 따르면, 고객의 생성형 AI 관련 문의가 최근 7개월 사이 400% 증가했습니다. ChatGPT(55%), Gemini(20%), Claude(15%) 순으로 신고가 집중됩니다.

왜 이런 일이 생기나 — LLM(대규모 언어 모델)의 구조적 한계

LLM(Large Language Model, 대규모 언어 모델)은 인터넷에서 수집된 방대한 텍스트로 학습합니다. 문제는 이 데이터에 이름·전화번호·주소 등 PII(Personally Identifiable Information, 개인 식별 정보)가 대량으로 포함되어 있다는 점입니다.

특히 최근 연구에 따르면, 모델이 기억·재현하는 정보는 자주 등장하는 데이터에 국한되지 않습니다. 단 한 번이라도 학습 데이터에 포함된 정보가 특정 맥락에서 다시 표면화될 수 있습니다. Abraham의 전화번호는 2015년 단 한 번 온라인에 올라온 것이 전부였지만, 10년 후 Gemini가 이를 재현했습니다.

데이터 브로커(data broker, 개인정보 수집·판매 기업)로부터 학습 데이터를 구매하는 관행도 문제를 심화합니다. 캘리포니아 데이터 브로커 등록 현황에 따르면, 등록 업체 578곳 중 31곳이 지난 1년간 생성형 AI 개발사에 소비자 데이터를 판매·제공했다고 자진 신고했습니다.

현행 법과 기술의 공백

미국 CCPA나 유럽 GDPR 같은 개인정보 보호법은 "공개적으로 수집된" 데이터에는 적용 범위가 제한적입니다. Google은 노출 사례를 확인 후 조치를 검토하겠다고 밝혔지만, Abraham은 3월 17일 신고 후 5월 4일에야 서류 재제출을 요청하는 답변을 받았습니다.

OpenAI는 개인정보 삭제 요청 포털을 운영하지만 "공익 목적" 등 이유로 거부할 수 있다는 단서를 달고 있습니다. Anthropic은 데이터 사용 방침을 공개하나 개인 삭제 요청 창구가 불분명합니다.

스탠퍼드 HAI의 개인정보 전문가 Jennifer King은 이렇게 지적합니다. "모델이 나의 데이터를 갖고 있는지 확인하고, 잘못된 내용을 수정·삭제할 수 있는 인프라를 AI 기업들이 갖추고 있는지조차 알 수 없다."

더 큰 그림 — 소비자는 AI를 외면하기 시작했다

AI 개인정보 침해 사태는 더 큰 흐름과 맞닿아 있습니다. AI Weekly 최신 분석에 따르면, 하이퍼스케일러(hyperscaler, 대형 클라우드·AI 인프라 기업)들이 올해 AI 인프라에 7,250억 달러(약 1,000조 원) 를 투자하는 동안, 정작 소비자 신뢰는 무너지고 있습니다.

• Gartner 조사: 미국 소비자의 **50%**가 생성형 AI를 사용하지 않는 브랜드를 선호한다고 응답
• Wikipedia: AI 생성 콘텐츠를 44:2 압도적 찬성으로 금지
• Stack Overflow: 신규 질문량 전년 대비 78% 감소 — AI 도구로 대체된 이유도 있지만, 품질 우려도 반영
• Google AI Overviews: 상위 페이지 클릭률(CTR) 58% 하락

투자는 역대 최대, 수용은 역대 최저. 이 구조적 긴장이 2026년 AI 산업의 핵심 과제입니다.

학생과 교육자를 위한 실천 가이드

지금 당장 할 수 있는 것

1. 자기 검색 테스트: 자신의 이름과 "연락처" 또는 "전화번호"를 주요 AI 챗봇에 검색해 보세요. 노출 여부를 직접 확인할 수 있습니다.
2. Hugging Face의 n-gram 검색 도구를 활용하면 공개 학습 데이터셋에 자신의 정보가 포함되었는지 일부 확인 가능합니다(단, 비공개 모델 데이터셋은 확인 불가).
3. 데이터 삭제 요청: 캘리포니아 거주자라면 주 정부 포털에서 데이터 브로커에 일괄 삭제 요청이 가능합니다. 한국의 경우 개인정보보호위원회 경유 각 서비스별 삭제 요청을 활용하세요.
4. 온라인 게시 전 재고: 워크숍 참가자 명단, 오픈소스 기여자 페이지, 동문 커뮤니티 등에 전화번호를 공개할 때 향후 AI 학습에 포함될 수 있음을 인지하세요.

연구·과제에서 AI 활용 시 주의사항

• AI 챗봇으로 특정 인물의 연락처를 검색하는 행위는 의도치 않게 타인의 개인정보를 노출시킬 수 있습니다
• AI가 제공한 연락처 정보는 반드시 공식 웹사이트나 공식 채널을 통해 교차 확인하세요
• 팀 프로젝트에서 AI로 설문 데이터나 인터뷰 내용을 처리할 때 이름·연락처 등 PII를 익명화한 후 입력하는 것이 원칙입니다

앞으로의 전망

Washington대 연구팀은 이번 Gemini 노출 경험을 계기로 각 AI 챗봇이 어떤 개인정보를 표면화하는지, 그리고 "기술적으로는 공개 정보"이지만 AI가 접근성 장벽을 낮춤으로써 개인정보 침해 수준이 달라지는 현상을 체계적으로 연구하는 프로젝트를 시작했습니다.

"10페이지짜리 Google 검색 결과를 뒤져야 찾을 수 있는 정보와, AI가 바로 답해주는 정보는 질적으로 다릅니다. 생성형 AI가 개인을 표적으로 삼는 비용을 얼마나 낮추는지가 핵심 질문입니다." — Meira Gilbert, UW 박사 과정

AI 기술의 성능이 높아질수록 편의성과 프라이버시의 긴장도 커집니다. 소비자의 신뢰 없이 투자 규모만 늘어나는 현재의 구조는 지속 가능하지 않습니다. 2026년, AI 업계의 진짜 과제는 더 강한 모델이 아니라 더 높은 신뢰일지 모릅니다.