딥페이크 AI와 비동의 이미지: 법·윤리 최전선

딥페이크(Deepfake)가 흔들어놓은 '동의'의 경계

생성형 AI가 빠르게 발전하면서 실존 인물의 얼굴이나 신체를 무단 합성·재현하는 기술이 누구나 사용할 수 있는 수준에 이르렀습니다. 2017년 Reddit에서 처음 등장한 딥페이크는 초기에는 고도의 기술력을 요구했지만, 현재는 스마트폰 앱 수준으로 접근 장벽이 낮아졌습니다.

특히 문제가 되는 것은 NCII(Nonconsensual Intimate Imagery, 비동의 친밀 이미지)입니다. 이 개념은 단순히 '가짜 영상'을 넘어, 실제 창작자의 신체가 동의 없이 AI 학습 데이터로 사용되거나 새로운 합성 콘텐츠 생성에 활용되는 사례까지 포괄합니다. MIT Technology Review는 2026년 5월 14일 자 심층 보도를 통해, 이 문제가 특정 산업군을 넘어 모든 디지털 사용자에게 영향을 미치는 구조적 사안임을 지적했습니다.

AI 학습 데이터의 법적 공백

현재 논쟁이 가장 뜨거운 지점은 AI 학습 데이터의 저작권 문제입니다. '누디파이(Nudify)' 앱들은 방대한 온라인 콘텐츠를 학습 데이터로 활용하고 있을 가능성이 높지만, 창작자들은 자신의 콘텐츠가 실제로 사용되었는지를 증명할 방법이 없습니다. UC 버클리 디지털 포렌식 전문가 하니 파리드(Hany Farid) 교수는 "AI 모델은 블랙박스나 다름없다"고 지적합니다.

미국 저작권법의 공정 이용(Fair Use) 조항이 AI 학습에 적용되는지 여부는 현재 법원에서 다투어지는 중입니다. 창작자들은 수년 전 제작한 콘텐츠가 '소급 방식(Retroactively Placed)'으로 AI에 이용된다는 점에서, 당시에는 예측조차 불가능했던 위험에 노출되어 있다고 말합니다. MIT의 AI 안전 연구자 스티븐 캐스퍼(Stephen Casper)는 기술적 합법성과 무관하게 "당시의 합리적 기대를 벗어난 방식으로 콘텐츠가 사용되는 것은 윤리적으로 문제"라고 강조합니다.

법 제도의 현실: DMCA와 Take It Down Act

DMCA: 1998년 법의 한계

현재 콘텐츠 삭제 수단으로 가장 많이 활용되는 것은 1998년에 제정된 **DMCA(Digital Millennium Copyright Act, 디지털 밀레니엄 저작권법)**입니다. 그러나 딥페이크 콘텐츠의 출처를 특정하기 어렵고, 다수의 플랫폼이 미국 법의 관할권 밖에 위치해 실효성이 제한적입니다.

Take It Down Act: 양날의 검

2025년 미국에서 발효된 Take It Down Act는 NCII 게시를 형사 처벌 대상으로 하고 웹사이트에 48시간 내 삭제 의무를 부과합니다. 그러나 일부 전문가들은 이 법이 악용될 소지가 있다고 경고합니다. 합법적으로 제작된 콘텐츠를 NCII로 허위 신고해 삭제를 유도하는 방식으로 활용될 수 있기 때문입니다.

EU·영국·호주는 누디파이 앱 접근 금지 또는 제한 방침을 발표했습니다. 그러나 앱이 삭제되면 다른 이름으로 재등록되는 경우가 많아 기술적 규제의 근본적 한계가 드러납니다.

기술적 대응: 디지털 지문(Digital Fingerprinting)

현실적인 대응 수단으로는 디지털 지문(Digital Fingerprinting) 기술이 주목받고 있습니다. 영상에 수만 개의 시각적 데이터 포인트를 심어 고유 식별자를 생성하는 방식으로, 얼굴이 교체되거나 영상이 편집된 이후에도 원본 식별이 가능합니다. 저작권 집행 기업 Takedown Piracy는 5억 건 이상의 영상에 디지털 지문을 적용해, Google에서만 1억 3천만 건의 저작권 침해 영상을 삭제했다고 밝혔습니다.

그러나 이 방식도 피해가 발생한 이후의 사후 대응에 불과하며, AI가 생성한 완전히 새로운 신체 이미지에 대해서는 원본 대조 자체가 불가능하다는 한계가 있습니다.

학생이 알아야 할 디지털 시민 지식

이 사안은 특정 산업군만의 문제가 아닙니다. 생성형 AI가 일상화된 지금, 온라인에 존재하는 모든 이미지·영상은 잠재적인 학습 데이터가 될 수 있습니다.

• 플랫폼 이용약관 확인: SNS·클라우드 서비스 약관의 '데이터 활용' 조항을 반드시 확인하세요. 다수의 플랫폼이 사용자 콘텐츠를 AI 학습에 활용할 수 있는 권리를 약관에 포함시키고 있습니다.
• 국내 법령 숙지: 한국에서는 성폭력처벌법 제14조의2에 따라 딥페이크 성적 합성물 제작·유포가 형사 처벌 대상입니다. 타인의 이미지를 AI로 합성하는 행위는 민·형사 책임으로 이어질 수 있습니다.
• AI 윤리 역량 강화: 생성형 AI를 활용할 때는 해당 결과물에 실존 인물의 동의 없는 정보가 포함되지 않는지 검토하는 습관이 필요합니다.

AI 법정책에 관심 있는 학생이라면 DMCA·공정 이용·NCII 관련 미국 법원 판례와 국내 입법 동향을 함께 추적하면 AI 거버넌스(AI Governance) 분야에서 실질적인 전문성을 쌓을 수 있습니다.