딥페이크란
딥페이크는 인공지능 기술, 특히 딥러닝의 발전으로 가능해진 인간 이미지 합성 기술이다. 딥러닝은 인간의 뇌 구조를 모방한 신경망을 사용하여 데이터에서 스스로 학습하는 기술이다. 딥페이크는 이 기술을 이용하여 실제 사람의 얼굴이나 목소리를 다른 영상에 삽입하여 마치 진짜인 것처럼 합성해낼 수 있다.
마치 마법처럼 한 사람의 얼굴을 다른 사람의 얼굴에 붙여넣거나, 말하지 않은 말을 하도록 만들 수 있는 것이다.
딥페이크(deepfake)
딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 신경망(GAN)라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다.
- 위키백과
딥페이크 기술은 어떻게 작동할까
딥페이크는 '생성적 적대 신경망(GAN)'이라는 인공지능 기술을 사용한다. GAN은 두 개의 신경망으로 구성된다.
- 생성자: 실제 이미지와 유사한 가짜 이미지를 만들어내는 신경망
- 판별자: 실제 이미지와 가짜 이미지를 구별하는 신경망
생성자는 실제 이미지를 보고 가짜 이미지를 만들고, 판별자는 생성된 이미지가 실제인지 가짜인지 판별한다. 판별자의 판별 결과를 바탕으로 생성자가 다시 개선된다. 이 과정을 반복하면서 생성자는 점점 더 실제 이미지와 유사한 가짜 이미지를 만들 수 있게 된다.
초기 딥페이크 기술
초기 딥페이크 기술은 주로 얼굴 교체에 사용되었다. 얼굴 특징점을 추출하고 다른 이미지에 매핑하여 얼굴을 바꾸는 방식이었다. 초기 딥페이크는 얼굴을 바꾼 것을 쉽게 식별할 수 있는 수준이었다.
중간 단계 딥페이크 기술
하지만 딥러닝 기술의 발전으로 딥페이크는 더욱 정교해졌다. 얼굴뿐만 아니라 몸 전체, 목소리, 심지어 표정까지도 합성할 수 있게 되어 딥페이크 영상을 진짜와 구별하기 어려울 정도로 사실적인 수준에 도달했다.
최근의 딥페이크 기술은
더욱 발전하여 실시간 딥페이크 기술이 등장했다. 이 기술은 특별한 장비 없이도 촬영하는 영상을 실시간으로 조작할 수 있게 한다. 또한, 딥페이크 음성 합성 기술도 발전하여 실제 사람의 목소리를 매우 사실적으로 따라 하는 것이 가능해졌다.
딥페이크 예
아래 광고는 치매 판정을 받아 실어증을 고백하며 은퇴한 브루스 윌리스가 출연한 광고이다. 페이크라 얘기하기 전에는 아무도 알지 못한 광고이다.
또한 CNN에서 방영된 펜타곤 폭격 영상은 실제로는 딥페이크 기술로 만들어진 가짜 영상이었다.
위의 예들은 딥페이크 기술이 얼마나 사실적인 영상을 만들어낼 수 있는지를 보여준다.
딥페이크는 어디에 사용될까
딥페이크 기술은 영화, 드라마, 게임 등 엔터테인먼트 분야에서 특수 효과 제작에 활용될 수 있으며 또한 교육, 의료 등 다양한 분야에서 활용될 수 있다.
- 최근 방영된 한 드라마에서 손석구 배우의 어린 시절로 등장한 아역 배우가 사실은 손석구의 어린 사진을 여러 장을 이용한 딥페이크 기술이었다.
- 의료 교육 시나리오 제작이나, 환자의 증상을 시뮬레이션하는 데 사용할 수 있다.
의료분야에서는 GAN을 이용하여 원본 영상과 진위여부를 구별할 수 없을 정도로 정확한 딥페이크 의료영상을 만들어 인공지능이 질병을 올바르게 학습하고 정확하게 진단할 수 있는데 사용하고 있다.
- 고인이 된 가족, 순국열사 등 새로운 방식으로 추모할 수 있다.
전의 모습이 담긴 사진이나 그림 등을 자르고 합성하여 자연스럽고 생동감 있는 형태로 고인의 모습을 재현할 수 있다.
- 딥페이크 기술에 VR/AR, 음성 복원 등의 기술을 접목해
김현식, 김광석, 터틀맨(임성훈) 등 그리운 이들의 목소리, 그리고 그룹의 완전체 모습을 다시 볼 수 있게 되었다.
또한 세상을 떠난 아내, 딸 등을 딥페이크와 VR 기술을 이용해 만나는 소중한 시간을 만들기도 했다.
딥페이크의 위험성은 무엇일까
딥페이크는 악의적인 목적으로 사용될 수 있다.
실제 유명인의 가짜 섹스 동영상이나 가짜 리벤지 포르노, 가짜 뉴스나 악의적 사기를 만드는 데에 사용되어 논란이 되기도 했다. 세계 최고의 팝스타 중 한 명인 테일러 스위프트마저 최근 악의적인 딥페이크 포르노의 희생자가 됐다.
이처럼 딥페이크 영상을 통해 사회적 혼란을 야기하거나, 특정 인물에 대한 명예 훼손을 목적으로 악용될 수 있다.
딥페이크 기술에 대한 대비책
딥페이크를 범죄에 악용하는 사례가 끊이지 않는 가운데, 딥페이크인지 아닌지 구별하는 기술도 함께 발전하고 있다. 영상이 변조되었는지 인공지능으로 알아낼 수 있다. 이러한 기술을 활용하여 딥페이크를 식별할 수 있다.
- 인텔 가짜 동영상을 탐지하는 페이크 캐쳐 개발
인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가리는데, 정확도는 96%
-구글 딥마인드도 인공지능만 파악할 수 있는 흔적을 남겨 생성된 이미지를 식별하는 신스ID 기술 개발
하지만 탐지 기술만으로 딥페이크를 완전히 없애는 건 어렵다. 그래서 해외 각국에서는 딥페이크 탐지 기술과 더불어 무분별한 인공지능 사용을 규제하는 법안을 통과시켜 규제를 내놓고 있다.
우리의 자세
딥페이크 탐지 기술과 법적 규제는 딥페이크 악용 문제 해결에 중요한 역할을 하지만 완벽한 해결책은 아니다. 딥페이크 기술은 빠르게 발전하고 있으며, 탐지 기술을 능가하는 새로운 딥페이크 기술이 등장할 가능성이 항상 존재한다. 또한, 법적 규제는 딥페이크 제작 및 배포를 완전히 막을 수 없고, 규제를 우회하는 방법들이 등장할 수도 있다.
따라서 딥페이크 시대에 우리는 다음과 같은 자세를 갖추는 것이 중요하다.
- 정보 출처 확인: 정보를 받아들이기 전에 출처가 신뢰할 수 있는지 확인해야 한다.
- 비판적 사고: 정보를 무조건 믿지 않고, 비판적으로 검토해야 한다.
- 기술 활용: 딥페이크 탐지 기술을 활용하여 딥페이크 영상을 식별할 수 있다.
- 법적 규제 인지: 딥페이크 관련 법적 규제를 인지하고, 위반하지 않도록 주의해야 한다.
- 사회적 인식 개선: 딥페이크 기술의 위험성에 대한 사회적 인식을 개선해야 한다.
- 개인 정보 보호: 자신의 개인 정보를 보호하고, 딥페이크 제작에 악용될 수 있는 정보를 함부로 공개하지 않도록 주의해야 한다.