[보안이슈] 정치, 연예계에 깃든 딥페이크 영상 주의보!

"톰크루즈 아이언맨"

"트럼프 대통령을 욕하는 오바마'

 

 

위 영상들부터 시작해서 딥페이크와 관련한 사건이 끊이질 않고 있다. 몇 년 전부터 문제가 제기되어왔는데 대부분 가짜임을 짐작할 수 있을 정도의 수준이었다. 하지만 몇 년 사이에 상당한 기술 발전이 이루어졌고 실제 피해를 입는 사람까지 생기기 시작했고 우리는 존재하는 동영상이나 사진도 의심해봐야 하는 시대에 접어든 것이다.

 

정치, 경제, 연예뿐 아니라 우리의 일상생활 곳곳 파고들고있는 '딥페이크(Deep Fake)'의 뜻과 기술, 사건사고 등에 대해 알아보자.

 

트럼프 대통령 관련 딥페이크 영상 (출처: 구글 무료 이미지 검색)

 

딥페이크 뜻과 유래

딥페이크는 의미 그대로 인공지능 기술인 딥러닝(Deep Learning)과 페이크(Fake) 두 단어의 합성어로 딥러닝을 이용해 만든 구별하기 힘든 가짜 이미지나 영상을 의미한다.

 

딥페이크의 시작은 2017년으로 거슬러 올라간다. 미국의 레딧이라는 한 사이트에서 한 회원이 여러 유명 영화배우의 얼굴을 덧입힌 가짜 포르코 영상을 올렸고 그 회원의 아이디 '딥페이크스'에서 딥페이크라는 용어가 일반화되었다. 그 후 점점 딥페이크 기술이 발전되었고 2018년에는 유명 정치인을 이용한 딥페이크 영상이 제작되기 시작했다. 

 

구글링 해보니까 문제가 많은 사이트인 것 같다.

 

 

 

딥페이크 기술

딥페이크 기술은 여러 딥러닝 모델 중에서도 생성 모델 중 하나인 GAN(Generative Adversarial Networks) 모델을 사용했다. GAN은 이미지 생성에 사용되는 대표적 딥러닝 모델로 생성기와 분별기로 이루어져 있다. 생성기는 처음에 생성해낼 가짜 이미지를 생성해내고 분별기는 생성된 가짜 이미지가 진짜인지 가짜인지 구별을 한다.

이런 학습 과정을 계속 거쳐서 분별기가, 생성기가 생성해낸 가짜 이미지가 진짜인지 아닌지 구별을 못할 정도까지 만드는 것이다. 

 

딥페이크에 사용되는 딥러닝 기술 (출처: freepick)

 

 

연구실 생활 시절, 인공지능이 주전공은 아니었지만 수업 과제로 GAN 모델을 사용해본 적이 있는데 다른 생성 모델에 비해서 GAN은 진짜 학습이 잘 안됐다. 물론 mnist 같이 간단한 이미지의 경우 잘됐고 레이어를 깊게 주지도 못했고 학습 시간도 짧고 딥러닝에 대한 지식이 깊지도 않아서 그랬던 것 같다. 아래 GAN으로 실제 생성된 강아지 이미지들을 보면 진짜 강아지 영혼만 희끗희끗 보이는 정도이다.

나중에 기회가 되면 인공지능 카테고리도 만들생각인데 GAN도 한번 제대로 다뤄보고 싶다. (TMI지만 원본 강아지 이미지들을 학습해서 GAN 모델이 원본 강아지 이미지와 비슷할 정도로 이미지 복원을 잘하게 되면, 이제 다양한 랜덤 데이터를 주어서 다른 강아지 이미지를 생성해낼 수 있게 된다.)

 

 

 

 

딥페이크의 경우 이미지나 영상을 통째로 생성해내는 건 아니고 마치 아래 사진처럼 얼굴 안쪽 부분만 피부톤을 맞춰 생성한 후 바꿔치기하거나 합성하는 형태이다. 어찌됐건 학습시킬 충분한 양의 영상이 필요한데 현재 생산되는 티 안 나는 딥페이크 영상의 경우 다양한 각도와 표정, 다양한 조명 여건 등을 포함한 3분 정도 길이의 영상 3개 정도면 충분한 학습이 된다고 한다.

 

즉, 타겟이 된 대상의 여러 영상을 구해서 딥러닝을 통해 GAN 모델을 학습시킨 후 재생성된 새로운 영상의 얼굴 부분을 대상이 되는 동영상에 프레임 단위로 합성시키는 것이다.

 

아래 사진 예시는 허접하지만 저작권 없는 무료 사진들을 이용해 한번 만들어보았다.

 

딥페이크 영상 생성 방법

 

 

딥페이크 사건사고

이런 기술들을 이용해 생성된 딥페이크 영상이나 이미지들은 많은 사건사고를 일으켜왔다. 당장 유튜브에 '딥페이크'라고 검색만 해봐도 '박영선', '톰쿠르즈 아이언맨', '오바마' 많이도 나온다. 특히나 정치, 연예 분야에 사건사고가 많은 것 같다.

 

유튜브에 '딥페이크' 검색

 

 

많고 많치만 대표적인 사건 혹은 유명해진 딥페이크 영상 몇 개만 알아보자. 참고로 여기서 유명 여성 연예인으로 만든 딥페이크 성인용 영상은 포함하지 않았다. 나 원 참 딥페이크 영상 중 대부분 유명 여성 연예인 특히 KPOP 스타의 성인용 영상 합성이라고 하니 제작자의 정신상태와 의도가 진짜 화가 난다. 

 

---

 

■ 새롭게 탄생한 MCU의 톰크루즈 아이언맨

 

개인적으로 마블의 엄청난 팬으로써 이 영상을 가장 먼저 찾아서 봤는데 찐으로 놀랐다. 진짜 같다. 조금 어색한 티는 있을 줄 알았는데 굉장히 깔끔하고 합성한 티가 한 개도 안 난다. 유튜브 스샷을 올리는 게 저작권에 걸리는 것 같아서 올리진 못하고 링크를 올리니 궁금하신 분들은 한번 보는 것도 좋을 것 같다.

 

톰크루즈 아이언맨 딥페이크 영상

■ 과시적 발언 내용이 담긴 마크 주커버그(Mark Zuckerberg) 딥페이크 영상

 

아래는 페이스북 창시자 마크 주커버그의 딥페이크 영상으로 본인이 데이터를 통제할 힘이 있다고 말하고 있다. 하지만 해당 영상은 딥페이크 영상으로 어느 한 인공지능 프로젝트의 일환으로 만들어진 영상이라고 밝혀졌다.

 

마크 주커버그 딥페이크 영상

 

 

■ 트럼프를 욕하는 오바마 딥페이크 영상

 

오바마 전 대통령이 트럼프 대통령을 멍청이라고 욕한 영상으로 유명한데, 정확한 워딩은 'President Trump is a total and complete dipshit' 으로 멍청이도 아니고 완전 멍청이다. 이 영상도 가짜 영상이라곤 믿기 힘들 정도로 깔끔하다. 그나저나 이 영상 제작자 어떻게 됐을지...

 

 

 

딥페이크 현황과 문제점

위에서 딥페이크 영상은 얼굴 안쪽만 합성하는 거라고 했는데 그렇지도 않은 것 같다. 유명인의 신체도 합성하는 듯하다. 이러한 딥페이크 성인용 영상은 점점 확산되어 전체 딥페이크 영상 중 96%를 차지한다고 한다.

 

정치 쪽에서도 일명 '가짜 뉴스'로 문제가 많다. 위 링크에도 있지만 백악관에 앉은 오바마 전 대통령이 트럼프 대통령을 쓰레기라고  욕하는 영상과 같은 경우 물론 딥페이크 영상이라고 판명 나긴 했지만 파장이 클 수밖에 없다. 페이스북은 미국 대선을 앞두고 딥페이크 동영상 게시를 금지하기도 했다. 

 

 

"첫 딥페이크 사기 사건"

 

 

2019년 9월, 딥페이크로 인한 첫 사기 사건이 일어나기도 했다. CEO의 목소리와 똑같은 음성을 생성해 급한 일이라고 하며 송금을 요청한 것이다. 보이스피싱처럼, 우리의 일상생활에 스며들어 사기를 당하시는 분이 많이 생기지 않을까 걱정된다.

 

---

딥페이크 기술을 사용한 첫 사기사건

딥페이크 기술 사용한 첫 사기 사건 발생했다

 

 

딥페이크 대응방법

딥페이크 영상이 일으킬 파장이 크기 때문에, 딥페이크 영상인지 여부를 확인하는 툴이 개발 중에 있다. 눈 깜박임과 눈동자 움직임의 비정상적인 부분을 확인하는 것이다. 우리나라에서도 '2018 인공지능 R&D 챌린지 대회' 등을 통해 합성 사진을 찾는 기술에 관심을 보이고 있다. 

 

 

 

 

영상 콘텐츠 쪽으로 많이 활용되면서 과거보다 편리해진 점은 있지만 아쉽게도 아직까지는 안좋은 면이 더 부각되고 있다. 아직 이렇다할 큰 성과는 없으며 딥페이크 탐지 기술이 개발되면 될수록 딥페이크 기술 자체도 발전해나갈 것이기 때문에 딥페이크 영상이 근절될 수 있을 거라고 보긴 힘들다.

 

또한 애초에 이 영상이 딥페이크 영상이라고 밝혀지던 아니든 간에 이미 딥페이크로 제작된 영상이 있다는 사실만으로 큰 피해를 보기 때문에 어쨌든 딥페이크로 인한 피해는 앞으로 피할 수 없을 것으로 보인다. 어떤 기술이든 어두운 면이 있으면 밝은 면이 있기 마련이다. 그래도 딥페이크로 인한 큰 피해는 없길 바라면서 해당 포스팅을 마친다.