추천 콘텐츠
딥페이크는 죄가 없다
4월 27일, explained
공화당이 AI의 이미지로 바이든 시대의 미래를 그렸다. 디스토피아는 AI의 탓인가?
ⓒ일러스트: 김지연/북저널리즘
NOW THIS
조 바이든 미국 대통령이 재선 출마 의지를 밝혔다. 공화당 전국 위원회(RNC)가 가장 먼저 움직였다. 이들은 AI가 생성한 이미지를 통해 만든 30초 분량의 광고 영상을 내보냈다. 조 바이든이 2024년 재선에 성공했을 때 펼쳐질 미래를 그린 영상 〈Beat Biden〉은 중국의 침공과 대만 폭발, 미국 거리 위의 군대 배치 등의 위기 상황을 그리고 있다. 2016년 미국 대선의 향방을 가른 기술이 알고리즘과 소셜 미디어였다면, 2024년 대선의 주인공은 딥페이크와 AI 생성 이미지가 될 것으로 보인다.
WHY NOW
딥페이크는 악마가 됐다. 그 이유는 과연 기술 그 자체에 있을까? 기술의 부작용은 메신저에 대한 열렬한 추종과 절대적인 불신이 공존하는 시대의 탓일 수 있다. 혹은 얼굴을 선택한 이유에 앞선 사회적 편견 탓일 수 있다. 기술을 악마로 만든 지금 시대를 읽지 못하면, 모든 기술적 대응은 한발 늦을 수밖에 없다.
모두가 모두를 바꿀 수 있는 기술
딥페이크는 AI를 통해 얼굴과 목소리를 바꾸는 기술이다. 인코더, 디코더라 불리는 AI 알고리즘이 두 사람의 얼굴 구성 요소를 학습하고, 둘의 얼굴 요소를 바꾼다. 목소리의 특징을 학습한다면, 특정인이 말하지 않은 것을 ‘말하는 것처럼’ 들리도록 할 수도 있다. 딥페이크는 이 변환 과정을 민주화한다. 누구나 수백 장의 이미지와 적정 수준의 그래픽카드만 있다면 애플리케이션과 오픈 소스 소프트웨어를 활용해 딥페이크 결과물을 만들 수 있다.
딥페이크=포르노그래피의 시작
딥페이크가 처음 대중에게 알려지기 시작한 계기는 포르노그래피였다. 2017년, 미국 커뮤니티 사이트 ‘레딧(Reddit)’의 한 사용자가 할리우드 스타의 얼굴을 포르노 출연자의 얼굴과 뒤바꾸며 큰 논란을 불렀다. 딥페이크 포르노 비디오의 수는 2018년 이후 매년 두 배 수준으로 증가했다. 2018년에는 딥페이크 스트리밍 사이트에 업로드된 동영상이 1897개였다면, 2022년에는 1만 3000개 이상으로 늘었다. 딥페이크 기술이 보편화하면서 이제는 스트리머나 일반인까지 그 피해 범위가 넓어지는 실정이다. 기술의 악용에 대한 대안이나 재고가 없다면 피해자가 더 늘어날 수밖에 없다.
악용 이면의 가능성
현재의 딥페이크는 허위 정보와 기만적 포르노그래피의 동의어가 됐지만, 악용의 대상만은 아니다. 지난 1월, 엔비디아는 스트리밍 소프트웨어인 엔비디아 브로드캐스트에 ‘눈 맞춤(Eye Contact)’ 기능을 추가했다. 딥페이크를 활용해 발표자가 카메라를 보고 말하는 것처럼 보이도록 한다. 카메라와 눈을 맞추는 것에 어려움을 겪어 양질의 콘텐츠를 만들지 못할 때 사용할 수 있다. 현재는 허위 정보 제작에 자주 활용되는 오디오 딥페이크의 경우, 초기에는 오디오 북을 제작하거나 후천적 질환으로 인해 목소리를 잃은 이들에게 도움을 주는 기술이었다. 악용 이면에도 가능성이 있다.
기술을 통한 부활
딥페이크는 ‘부활’을 가능케 한다. 독일의 족보 사이트 ‘마이 헤리티지’는 고인의 사진을 살아있는 듯한 영상으로 변환하는 ‘딥 노스탤지어(Deep Nostalgia)’ 서비스를 제공한다. 마이 헤리티지는 해당 기능을 “사랑하는 조상을 되살리기 위한 것”이라 소개한다. 국내 한 예능 프로그램에서도 고인이 된 김광석, 터틀맨 등의 가수의 음성을 복원하기도 했다. 기술을 통한 부활은 엔터테인먼트적 요소뿐 아니라 실질적으로 사회의 변화를 이끄는 데 좋은 방법론이 되기도 한다. 한 연구팀은 음주 운전이나 가정 폭력으로 인해 무고하게 사망한 피해자가 딥페이크를 통해 부활해, 자신의 죽음에 대해 말하는 영상이 발휘할 수 있는 사회적 효과를 연구했다. 연구팀은 피해자가 직접 죽음을 이야기하는 이미지가 시청자로 하여금 가정 폭력이나 음주 운전 예방에 대한 행동에 나서도록 독려하는 데 효과적이라는 사실을 발견했다.
Heart on My Sleeve
익명의 틱톡커 ‘고스트라이터997’은 틱톡에 AI가 만든 노래를 업로드한다. 힙합 아티스트 더 위켄드와 드레이크가 셀레나 고메즈에 관해 이야기하는 노래, ‘Heart on My Sleeve’다. 드레이크와 더 위켄드의 레이블 유니버설 뮤직 그룹은 음원 사이트에 저작권 침해를 근거로 해당 곡의 삭제를 요청하는 서한을 발송했다. 1천만 회 이상의 스트리밍을 기록한 이 노래는 나흘 만에 사라졌다. 테크 언론사 더 버지(The Verge)는 해당 노래가 ‘어떠한 원본도 복사하지 않는다’는 점에서 현행 저작권법과 관련이 없다고 지적한다. 캐나다의 아티스트 그라임스는 해당 이슈를 인지한 듯, 자신의 목소리를 활용한 AI 생성 노래에 수익의 50퍼센트를 배분하겠다고 트윗했다. 딥페이크를 통한 결과물은 기존의 저작권법과 크리에이터의 주도권에 새로운 경향을 부를 수 있다.
얼굴의 양면
딥페이크는 신체와 얼굴의 한계를 뛰어넘는 가능성을 제시하기도 한다. 목소리를 잃은 자들은 자신의 목소리 데이터를 통해 노래를 부를 수 있고, 액션 연기가 어려운 노인이 현란한 무술 연기를 펼칠 수 있다. 성별의 제한, 종의 제약 없이 출현하는 얼굴은 ‘낯설었던’ 얼굴을 익숙한 존재로 바꿀 수도 있다. 이처럼 얼굴이 가진 사회적 속성은 다양성의 시대에 기여할 수 있지만, 한편으로는 사회의 어두운 면을 가속화하기도 한다. 딥페이크 포르노의 90퍼센트는 여성을 대상으로 한다. 그 선택의 과정에는 여성에 대한 성적 대상화가 더 익숙한 시대가 앞서 자리한다. 특정한 얼굴을 선택한 이유에 따라 딥페이크는 창조의 기술이 되기도, 피해자를 양산하는 쓸모없는 기술이 되기도 한다.
딥페이크는 죄가 없다
이번 공화당 전국위원회의 동영상은 공화당 측에서 직접 만든 캠페인 영상이다. ‘상대 진영의 후보를 뽑으면 나라가 망한다’는 익숙한 선거 운동의 문법이 이미지로 번역된 것에 불과하다는 말이다. 그렇다면 RNC의 동영상은 허위 정보일까, 새로운 선거 캠페인의 일환일까? 세상은 새로운 기술 앞에서 유토피아적를 꿈꾸기도 하지만, 딥페이크에는 디스토피아가 찾아올 것이라는 목소리가 압도적이다. 그러나 AI가 만들고 뒤바꾼 이미지는 정보를 생산하는 이유와 그 과정에 덧붙은 보조적 도구에 지나지 않는다.
IT MATTERS
딥페이크로 인한 불법 포르노그래피 합성, 허위 정보 등의 부작용을 막기 위해 이미지 데이터에 대한 보안 기술 강화를 떠올릴 수 있다. 크립토 기술은 한 가지 힌트를 제공한다. 사이버 보안 연구원들은 딥페이크의 부작용을 막기 위해 웹상의 이미지를 암호화하고, 그들의 출처를 기록하는 기술이 하나의 대안이 될 수 있다고 말한다. 이미지, 오디오, 비디오, 텍스트 등 데이터 전반이 AI의 블랙박스에 투입되는 상황에서 사이버 보안은 손에 잡히는 대안이 된다. 그러나 악용은 언제나 대응보다 한발 앞선다.
얼마 전 폭스뉴스에서 자리를 뜬 터커 칼슨은 지금 시대의 정보가 얼마나 취약한지를 보였다. 터커 칼슨의 외침은 그 어떤 ‘정보’보다 힘이 강했다. “민주당은 미국보다 아프가니스탄에 더 주의를 기울인다”라든가, “이민자가 미국을 지배할 것”이라는 그의 단언은 92퍼센트에 달하는 백인 시청자에게는 그 무엇보다 믿음직스러운 정보다. 누군가를 속이는 데 딥페이크는 필수적이지 않다. 딥페이크는 정보를 믿음직스럽게 보이도록 할 수 있지만, 믿도록 강요하는 체계적인 권력까지 갖지는 못한다. 다가오는 정보 조작 기술의 범람 앞에서 필요한 건 기술에 대한 비토가 아니다.
악용에 근본적으로 대응하기 위해서는 정보의 존재 위상에 대해 따져 물어야 한다. 같은 도전 앞에 탈중앙 SNS가 서 있다. 마스토돈과 같은 탈중앙 SNS 플랫폼은 수많은 주제의 서버가 연합한 형태의 플랫폼이다. 중앙의 감시자가 없는 탈중앙 SNS는 공론장의 사유화를 막을 수 있지만, 위험한 반향실로 흐르기도 쉽다. 지난 3월 마스토돈의 한 서버에서는 15분 도시를 주장한 교수 카를로스 모레노에 대한 협박이 오갔다. 15분 도시가 시민 봉쇄를 목적으로 하는 계획이라는 논리였다. 음모론의 인큐베이터와 모두를 위한 공론장, 두 가능성을 뒤섞는 건 시대의 과제다. 어쩌면 딥페이크는 조금 억울할지도 모른다.
조 바이든 미국 대통령이 재선 출마 의지를 밝혔다. 공화당 전국 위원회(RNC)가 가장 먼저 움직였다. 이들은 AI가 생성한 이미지를 통해 만든 30초 분량의 광고 영상을 내보냈다. 조 바이든이 2024년 재선에 성공했을 때 펼쳐질 미래를 그린 영상 〈Beat Biden〉은 중국의 침공과 대만 폭발, 미국 거리 위의 군대 배치 등의 위기 상황을 그리고 있다. 2016년 미국 대선의 향방을 가른 기술이 알고리즘과 소셜 미디어였다면, 2024년 대선의 주인공은 딥페이크와 AI 생성 이미지가 될 것으로 보인다.
WHY NOW
딥페이크는 악마가 됐다. 그 이유는 과연 기술 그 자체에 있을까? 기술의 부작용은 메신저에 대한 열렬한 추종과 절대적인 불신이 공존하는 시대의 탓일 수 있다. 혹은 얼굴을 선택한 이유에 앞선 사회적 편견 탓일 수 있다. 기술을 악마로 만든 지금 시대를 읽지 못하면, 모든 기술적 대응은 한발 늦을 수밖에 없다.
모두가 모두를 바꿀 수 있는 기술
딥페이크는 AI를 통해 얼굴과 목소리를 바꾸는 기술이다. 인코더, 디코더라 불리는 AI 알고리즘이 두 사람의 얼굴 구성 요소를 학습하고, 둘의 얼굴 요소를 바꾼다. 목소리의 특징을 학습한다면, 특정인이 말하지 않은 것을 ‘말하는 것처럼’ 들리도록 할 수도 있다. 딥페이크는 이 변환 과정을 민주화한다. 누구나 수백 장의 이미지와 적정 수준의 그래픽카드만 있다면 애플리케이션과 오픈 소스 소프트웨어를 활용해 딥페이크 결과물을 만들 수 있다.
딥페이크=포르노그래피의 시작
딥페이크가 처음 대중에게 알려지기 시작한 계기는 포르노그래피였다. 2017년, 미국 커뮤니티 사이트 ‘레딧(Reddit)’의 한 사용자가 할리우드 스타의 얼굴을 포르노 출연자의 얼굴과 뒤바꾸며 큰 논란을 불렀다. 딥페이크 포르노 비디오의 수는 2018년 이후 매년 두 배 수준으로 증가했다. 2018년에는 딥페이크 스트리밍 사이트에 업로드된 동영상이 1897개였다면, 2022년에는 1만 3000개 이상으로 늘었다. 딥페이크 기술이 보편화하면서 이제는 스트리머나 일반인까지 그 피해 범위가 넓어지는 실정이다. 기술의 악용에 대한 대안이나 재고가 없다면 피해자가 더 늘어날 수밖에 없다.
악용 이면의 가능성
현재의 딥페이크는 허위 정보와 기만적 포르노그래피의 동의어가 됐지만, 악용의 대상만은 아니다. 지난 1월, 엔비디아는 스트리밍 소프트웨어인 엔비디아 브로드캐스트에 ‘눈 맞춤(Eye Contact)’ 기능을 추가했다. 딥페이크를 활용해 발표자가 카메라를 보고 말하는 것처럼 보이도록 한다. 카메라와 눈을 맞추는 것에 어려움을 겪어 양질의 콘텐츠를 만들지 못할 때 사용할 수 있다. 현재는 허위 정보 제작에 자주 활용되는 오디오 딥페이크의 경우, 초기에는 오디오 북을 제작하거나 후천적 질환으로 인해 목소리를 잃은 이들에게 도움을 주는 기술이었다. 악용 이면에도 가능성이 있다.
기술을 통한 부활
딥페이크는 ‘부활’을 가능케 한다. 독일의 족보 사이트 ‘마이 헤리티지’는 고인의 사진을 살아있는 듯한 영상으로 변환하는 ‘딥 노스탤지어(Deep Nostalgia)’ 서비스를 제공한다. 마이 헤리티지는 해당 기능을 “사랑하는 조상을 되살리기 위한 것”이라 소개한다. 국내 한 예능 프로그램에서도 고인이 된 김광석, 터틀맨 등의 가수의 음성을 복원하기도 했다. 기술을 통한 부활은 엔터테인먼트적 요소뿐 아니라 실질적으로 사회의 변화를 이끄는 데 좋은 방법론이 되기도 한다. 한 연구팀은 음주 운전이나 가정 폭력으로 인해 무고하게 사망한 피해자가 딥페이크를 통해 부활해, 자신의 죽음에 대해 말하는 영상이 발휘할 수 있는 사회적 효과를 연구했다. 연구팀은 피해자가 직접 죽음을 이야기하는 이미지가 시청자로 하여금 가정 폭력이나 음주 운전 예방에 대한 행동에 나서도록 독려하는 데 효과적이라는 사실을 발견했다.
Heart on My Sleeve
익명의 틱톡커 ‘고스트라이터997’은 틱톡에 AI가 만든 노래를 업로드한다. 힙합 아티스트 더 위켄드와 드레이크가 셀레나 고메즈에 관해 이야기하는 노래, ‘Heart on My Sleeve’다. 드레이크와 더 위켄드의 레이블 유니버설 뮤직 그룹은 음원 사이트에 저작권 침해를 근거로 해당 곡의 삭제를 요청하는 서한을 발송했다. 1천만 회 이상의 스트리밍을 기록한 이 노래는 나흘 만에 사라졌다. 테크 언론사 더 버지(The Verge)는 해당 노래가 ‘어떠한 원본도 복사하지 않는다’는 점에서 현행 저작권법과 관련이 없다고 지적한다. 캐나다의 아티스트 그라임스는 해당 이슈를 인지한 듯, 자신의 목소리를 활용한 AI 생성 노래에 수익의 50퍼센트를 배분하겠다고 트윗했다. 딥페이크를 통한 결과물은 기존의 저작권법과 크리에이터의 주도권에 새로운 경향을 부를 수 있다.
얼굴의 양면
딥페이크는 신체와 얼굴의 한계를 뛰어넘는 가능성을 제시하기도 한다. 목소리를 잃은 자들은 자신의 목소리 데이터를 통해 노래를 부를 수 있고, 액션 연기가 어려운 노인이 현란한 무술 연기를 펼칠 수 있다. 성별의 제한, 종의 제약 없이 출현하는 얼굴은 ‘낯설었던’ 얼굴을 익숙한 존재로 바꿀 수도 있다. 이처럼 얼굴이 가진 사회적 속성은 다양성의 시대에 기여할 수 있지만, 한편으로는 사회의 어두운 면을 가속화하기도 한다. 딥페이크 포르노의 90퍼센트는 여성을 대상으로 한다. 그 선택의 과정에는 여성에 대한 성적 대상화가 더 익숙한 시대가 앞서 자리한다. 특정한 얼굴을 선택한 이유에 따라 딥페이크는 창조의 기술이 되기도, 피해자를 양산하는 쓸모없는 기술이 되기도 한다.
딥페이크는 죄가 없다
이번 공화당 전국위원회의 동영상은 공화당 측에서 직접 만든 캠페인 영상이다. ‘상대 진영의 후보를 뽑으면 나라가 망한다’는 익숙한 선거 운동의 문법이 이미지로 번역된 것에 불과하다는 말이다. 그렇다면 RNC의 동영상은 허위 정보일까, 새로운 선거 캠페인의 일환일까? 세상은 새로운 기술 앞에서 유토피아적를 꿈꾸기도 하지만, 딥페이크에는 디스토피아가 찾아올 것이라는 목소리가 압도적이다. 그러나 AI가 만들고 뒤바꾼 이미지는 정보를 생산하는 이유와 그 과정에 덧붙은 보조적 도구에 지나지 않는다.
IT MATTERS
딥페이크로 인한 불법 포르노그래피 합성, 허위 정보 등의 부작용을 막기 위해 이미지 데이터에 대한 보안 기술 강화를 떠올릴 수 있다. 크립토 기술은 한 가지 힌트를 제공한다. 사이버 보안 연구원들은 딥페이크의 부작용을 막기 위해 웹상의 이미지를 암호화하고, 그들의 출처를 기록하는 기술이 하나의 대안이 될 수 있다고 말한다. 이미지, 오디오, 비디오, 텍스트 등 데이터 전반이 AI의 블랙박스에 투입되는 상황에서 사이버 보안은 손에 잡히는 대안이 된다. 그러나 악용은 언제나 대응보다 한발 앞선다.
얼마 전 폭스뉴스에서 자리를 뜬 터커 칼슨은 지금 시대의 정보가 얼마나 취약한지를 보였다. 터커 칼슨의 외침은 그 어떤 ‘정보’보다 힘이 강했다. “민주당은 미국보다 아프가니스탄에 더 주의를 기울인다”라든가, “이민자가 미국을 지배할 것”이라는 그의 단언은 92퍼센트에 달하는 백인 시청자에게는 그 무엇보다 믿음직스러운 정보다. 누군가를 속이는 데 딥페이크는 필수적이지 않다. 딥페이크는 정보를 믿음직스럽게 보이도록 할 수 있지만, 믿도록 강요하는 체계적인 권력까지 갖지는 못한다. 다가오는 정보 조작 기술의 범람 앞에서 필요한 건 기술에 대한 비토가 아니다.
악용에 근본적으로 대응하기 위해서는 정보의 존재 위상에 대해 따져 물어야 한다. 같은 도전 앞에 탈중앙 SNS가 서 있다. 마스토돈과 같은 탈중앙 SNS 플랫폼은 수많은 주제의 서버가 연합한 형태의 플랫폼이다. 중앙의 감시자가 없는 탈중앙 SNS는 공론장의 사유화를 막을 수 있지만, 위험한 반향실로 흐르기도 쉽다. 지난 3월 마스토돈의 한 서버에서는 15분 도시를 주장한 교수 카를로스 모레노에 대한 협박이 오갔다. 15분 도시가 시민 봉쇄를 목적으로 하는 계획이라는 논리였다. 음모론의 인큐베이터와 모두를 위한 공론장, 두 가능성을 뒤섞는 건 시대의 과제다. 어쩌면 딥페이크는 조금 억울할지도 모른다.