AI가 유명인 얼굴을 훔친다 — 딥페이크 260개·메타 재판이 한국 청년에게 보내는 경고

AI가 잭 마의 얼굴을 '빌렸다' — 유튜브 딥페이크 260개, 100만 뷰 돌파

싱가포르 방송국 채널뉴스아시아(Channel News Asia, CNA)의 조사에 따르면, 2025년 9월부터 2026년 6월 사이 알리바바(Alibaba) 공동 창업자 마윈(馬雲, Jack Ma)의 얼굴과 목소리를 AI로 합성한 영상 300개가 유튜브(YouTube) 32개 채널에 올라왔습니다. 이 중 259개(약 86%)는 싱가포르에 관한 허위·오해 유발 주장을 담고 있었으며, 2026년 7월 기준 누적 조회수 110만 회를 기록했습니다.

영상들은 '싱가포르가 말라카 해협 통제를 강화해 여러 나라의 식량·물 접근을 차단하고 있다'거나 '10개국이 싱가포르를 포위·억압하려 한다'는 내용을 마윈의 목소리로 전달했습니다. CNA는 마윈이 이런 발언을 한 적이 없음을 확인했습니다.

왜 하필 잭 마인가 — '권위 임대(Renting Authority)'

싱가포르 국립대학교(National University of Singapore, NUS) 컴퓨팅대학 앤서니 텅(Anthony Tung) 교수는 이 현상을 **"권위 편향(authority bias)의 악용"**이라고 설명합니다. 사람들이 권위 있어 보이는 인물의 말을 비판 없이 신뢰하는 심리를, AI 기술이 대규모·저비용으로 착취하는 것입니다. 텅 교수는 "그들이 임대하는 것은 잭 마가 아니라 권위 그 자체"라고 밝혔습니다.

조사 결과 25개 채널 중 5개는 단 5일 사이에 개설됐고, 같은 날 15분 간격으로 영상을 자동 업로드하는 패턴이 확인됐습니다. 서로 다른 채널이 영상을 1초 간격으로 올린 날도 최소 두 차례 있었습니다. CNA는 이를 단일 운영자가 자동화 워크플로로 운영하는 '콘텐츠 농장'의 징후로 분석했습니다.

틱톡(TikTok)에서는 유사한 형식의 가짜 잭 마 영상 하나가 47만 뷰, 1만 3,300 공유를 기록해 유튜브 개별 영상 최고 조회수(5만 6,000회)를 크게 앞질렀습니다.

메타 재판 — "청소년 중독을 알고도 광고 수익을 택했다"

같은 날 미국 테네시(Tennessee) 주 법정에서는 메타(Meta Platforms)를 상대로 7주 일정의 재판이 시작됐습니다. 테네시 주 검찰은 메타가 인스타그램(Instagram)의 자동재생(autoplay), 알림(notifications), 무한 스크롤(infinite scroll) 기능이 청소년 정신건강에 해롭다는 사실을 내부 연구를 통해 이미 2017년에 파악했음에도, 광고 수익 극대화를 위해 공개 경고를 하지 않았다고 주장합니다.

검찰 측 변호사 톰 카트멜(Tom Cartmell)은 법정에서 스마트폰 알림음을 직접 재생하며 이렇게 말했습니다. "이 소리가 도파민(dopamine) 분비를 유발하고, 그 반응은 미성숙한 청소년의 뇌에서 특히 강하게 나타납니다." 그는 2017년 메타 내부 문서를 제시했는데, 그 안에는 "알림과 무한 스크롤은 본질적으로 사용자 웰빙과 상충한다"는 자사 직원들의 지적이 담겨 있었습니다.

앞선 판례 — 뉴멕시코 3억 7,500만 달러 배상

앞서 뉴멕시코(New Mexico) 주 배심원단은 메타에 3억 7,500만 달러(약 5,100억 원) 배상 평결을 내렸고, 미국 거의 모든 주가 소송을 제기한 상태입니다. 메타 측은 "내부 문서는 문제를 찾아 개선하려는 노력의 증거"라며 반박했지만, 재판은 이제 시작 단계입니다.

한국 청년에게 주는 세 가지 시사점

두 사건은 한국 대학생·취업준비생이 매일 사용하는 유튜브·틱톡·인스타그램의 구조적 문제를 정면으로 드러냅니다.

1. 유명인의 얼굴·목소리는 더 이상 신뢰의 증거가 아닙니다

AI 딥페이크 제작 비용은 이미 매우 낮아졌습니다. 투자, 재테크, 해외 취업, 유학 정보를 제공하는 '유명인 추천' 영상은 반드시 공식 채널과 원본 발언을 교차 확인해야 합니다. 구글 검색 시 가짜 영상이 '동영상' 탭 최상단에 노출된 사례처럼, 검색 결과 상위 노출 자체도 신뢰의 근거가 되지 않습니다.

2. 알고리즘은 당신의 웰빙을 위해 설계되지 않았습니다

메타의 내부 문서가 법정에서 공개됐듯, 무한 스크롤과 알림 기능은 광고 노출 시간 극대화를 위해 설계됐습니다. 취업 준비로 스트레스가 높은 시기일수록 SNS 사용 시간을 의식적으로 제한하고, 앱 사용 시간 알림 설정을 적극 활용하는 것이 도움이 됩니다.

3. 플랫폼 규제 흐름을 주시하십시오

테네시 재판 결과는 글로벌 SNS 플랫폼 규제의 방향을 바꿀 수 있습니다. 한국에서도 청소년 SNS 사용 규제 및 알고리즘 투명성 논의가 이어지고 있습니다. 이 재판의 진행 상황은 향후 국내 플랫폼 정책과 디지털 권리 논의에도 영향을 미칠 수 있습니다.

디지털 리터러시 체크포인트

• 영상 속 유명인이 공식 계정에서 같은 내용을 말한 적이 있는지 검색해 보세요.
• 영상 채널의 개설 날짜와 구독자 대비 조회수를 확인하세요.
• 하루 SNS 사용 시간을 스스로 측정해 보세요.