-
딥페이크 영상 처벌 알기생활정보 2021. 1. 31. 02:53
딥페이크는 딥 러닝과 페이크의 혼성어로 대규모 데이터 세트에 신경망 시뮬레이션을 적용하여 가짜를 생성하는 기계 학습의 한 분야입니다. 인공 지능은 얼굴을 마스크인 것처럼 대상에 전치하기 위해 소스 얼굴이 다른 각도에서 어떻게 보이는 지 효과적으로 학습합니다. GANs(Generative Adversarial Networks)를 적용하여 두 개의 AI 알고리즘을 서로 비교해가면서 엄청난 발전이 이루어졌습니다. 하나는 가짜를 만들고 하나는 노력을 평가하여 합성 엔진이 더 나은 위조를 만들도록 가르쳤습니다.
딥페이크는 매우 좋은 기술로 보입니다. 아래에 소개할 오바마의 영상처럼 광고나 영화에 사용되거나 다양한 YouTube에도 딥페이크 기술이 사용될 수 있습니다. 하지만 부정적인 목적으로 사용이 되기도 합니다. 연예인이나 정치인, 셀럽 등의 모습을 도용해서 허위사실을 유포하는 등의 모습을 말입니다.
이번 글에서는 딥페이크 사용 사례(영상/사진)와 처벌에 대해 알아보겠습니다.
딥페이크라는 기술이 악용될 수 있는 거지 결코 나쁜 것은 아니기 때문에 너무 선입견을 가지지 않고 바라보시면 좋겠습니다.
딥페이크 사용 사례
연예인 합성 사진
아이유와 닮은꼴로 인기를 끌고 있는 중국 뷰티 크리에이터 '차이유'의 실물이 공개되고 딥페이크 기술을 사용한 것이 아닌가 의혹을 받고 있습니다. 한 누리꾼이 차이유의 영상을 일부 증거로 낸 것인데 그가 제시한 영상에는 딥페이크 효과가 사라지는 탈나에 아이유와 이목구비가 비슷하지 않은 것으로 딥페이크 기술을 주장한 것입니다.
연예인에 대해 문외한도 얼굴과 이름을 알 정도로 유명한 아이유이기 때문에 위의 사진을 보면 실제 아이유의 모습을 이용한 사진이 아닌가 싶을 정도의 싱크로율을 보여주지만 실물의 모습은 전혀 다른 것이 아닌가 하는 생각이 듭니다.
아이유의 닮은꼴이 사용하는 것으로 의심되는 악용사례는 생각보다 많습니다. 정치인이나 연예인의 모습에 자신의 얼굴을 합성하거나 목소리를 바꿔서 자신이 원하는 내용을 선동하는 것이 가능한 것이 문제라고 할 수 있습니다.
인터네을 돌아다니다 보면 위의 영상 같은 것을 볼 수 있습니다.
위의 영상은 WWE의 레슬러와 직원에게 강호동과 이수근의 얼굴이 딥페이크 기술을 통해 영상으로 합성된 모습입니다. 엄청난 기술이 필요한 것이 아니라 간단한 어플을 이용해서도 간단한 영상과 사진은 만들 수 있기 때문에 재미로 웃어넘길 수 있는 영상도 있지만 쉽게 지나칠 수 없는 음란물 등에도 이용이 가능하다는 문제점이 있습니다.
오바마 공익 광고
BuzzFeed와 코미디언 Jordan Peele가 After Effects CC와 FakeApp을 사용하여 생성한 이 광고에서 볼 수 있듯 딥페이크는 소스의 음석과 제스처를 모방할 수 있습니다. 그들은 Peele의 입을 오바마의 입에 붙여 넣고 전 대통령의 턱선을 Peele의 입 움직임을 따라가는 턱선으로 대체한 다음 FakeApp을 사용하여 50시간 이상의 자동 처리를 통해 영상을 다듬었습니다.
정치인과 유명인은 딥페이크의 가장 흔한 희생자가 됩니다. 위의 비디오는 나온 지 1년이 채 되지 않아 워싱턴 대학의 컴퓨터 과학자들이 신경망 AI를 사용하여 오바마의 입 모양을 모델링하고 오디오 입력과 립싱크를 만들었습니다.
유명 인물은 공개 프로필이 AI에서 배울 수 있는 충분한 소스 자료를 제공하기 때문에 사용에 노출되기 쉽습니다.
딥페이크 어플
딥페이크 기술을 악용하는 것이 문제지 기술을 이용하는 것은 문제가 없습니다. 그렇기 때문에 한 번쯤 자신도 해보고 싶다는 생각이 들 수 있습니다. 위의 영상중 강호동과 이수근의 얼굴을 합성한 것과 같은 정도의 작품은 누구나 쉽게 만들 수 있습니다.
관련 어플은 대표적으로 Fake App, Deep Face Lab 등이 있습니다.
자신이 필요하다면 한 번쯤 사용해보는 것이 좋을 거 같습니다.
딥페이크 처벌
딥페이크 기술이 발전되면서 악용사례는 점점 늘고 있습니다. 지난해에 딥페이크 관련 범죄 규정에 대해 지적과 함께 법을 마련해야 한다는 누리꾼들의 목소리가 있었습니다.
다양한 사람들이 딥페이크 처벌에 대해 목소리를 모았습니다. 그래서 지난해 3월 국회에서는 딥페이크 처벌법(성폭력범죄 처벌 특례법 개정안)을 통과하였습니다. 하지만 영상 소지자와 합성 제작 의뢰자 등에 대한 처벌 규정이 없어 악평을 듣기도 했습니다.
현재로썬 법적 대처가 불가하다고 생각할 수 있습니다. 동영상에 나오는 자신의 모습의 일부가 자신이 아니기 때문에 사생활을 침해했다는 내용도 인정이 되지 않습니다. 얼굴이 나온 본인이 직접 저작권 침해로 고소를 하는 경우가 있을 수 있습니다.
한국의 경우 타인을 일방적으로 성적 대상으로 삼은 다음 영상을 합성할 때가 많습니다. 그런 경우 허위사실 적시에 의한 사이버 명예훼손과 음란물 유포죄가 성립되어 형사처벌이 가능합니다.
예전에는 단순하게 사진을 합성하는 기술이 전부였을 때가 있습니다. 누가 봐도 티가 나던 기술이 점점 발전하여 '혹시?' 하는 생각이 드는 사진으로 진화하게 되었습니다. 그 기술이 발전하고 나아가서 현재의 딥페이크 기술이 나온 것이 아닐까 생각이 됩니다.
간단하게 만들 수 있기 때문에 누구나 악용할 수 있다는 것 그것이 가장 큰 문제라고 생각할 수 있습니다.
이번 포스팅에서는 딥페이크 영상 처벌에 대해 알아봤습니다.
기술이라는 것은 어떻게 사용하느냐에 따라 독도 되고 약이 될 수도 있습니다. 새로운 기술을 더 좋게 이용하도록 하고 관련된 법을 통해 악용하는 것이 굉장히 중요할 것이라 생각합니다.