요즘 인공지능을 기반으로 한 이미지 합성 기술 딥페이크가 불법 영상물 제작에 이용되고 그 영상물이 온라인에 배포되면서, 사회적 논란과 범죄가 증가하는 추세다 딥페이크의 뜻과 활용범위, 악용사례를 살펴보자

딥페이크란 컴퓨터의 심층학습 기능을 뜻하는 딥러닝(deep running)과 가짜, 거짓을 뜻하는 페이크(fake)의 합성어로 인공지능을 기반으로 한 이미지 합성 기술이다.

딥페이크 기술은 초기에 기업들의 패션 의류 분야와 영상 제작 등 영화와 엔터테이먼트 산업에서 유용하게 사용되며 발전했지만, 기술이 발달하고 딥페이크의 결과물이 점점 정교해지며 이를 통한 사회적 혼란과 범죄의 가능성이 커지고 있다.

특히 대중에게 인식되는 이미지에 큰 영향을 받는 연예인 딥페이크 영상물 이 문제가 되고 있다. 최근 논란된 테일러 스위프트 딥페이크 음란물, 등이 대표적인 사례이다. 또한, 온라인에서는 지인 능욕 딥페이크 영상 제작 및 음란물 합성 요구 등 온라인상 딥페이크의 96%가 음란물이라는 사이버 보안업체의 발표가 나오는 등 점점 피해사례가 커지고 있다

이러한 딥페이크 범죄는 그로 인한 피해회복이 어렵다는 점에서 처벌 강화와 함께 예방이 관건으로 지목된다. AI 워터마크 등 기술적으로 딥페이크인지 진짜인지를 구별해 범죄에 노출된 사람에게 알리는 시스템을 개발할 필요가 있다.