추천 콘텐츠
세계 최초의 AI 선거
2023년 11월 20일, explained
누구나 스핀 닥터가 될 수 있다. 경험하지 못한 새로운 선거가 온다.
아르헨티나 대선 후보 세르히오 마사의 선거 캠프 직원이 AI로 제작한 이미지. 사진: @IAxlaPatria, X
NOW THIS
아르헨티나 대선 결선 투표가 현지 시각 11월 19일 열린다. 좌파 집권당의 경제부 장관 세르히오 마사 후보와 ‘아르헨티나의 트럼프’로 불리는 극우 하비에르 밀레이 후보가 맞붙는다. 여론 조사에서 두 후보는 초접전을 벌이고 있다. 그만큼 막판 선거 캠페인이 중요하다. 그 중심에 AI가 있다. 세계 최초로 AI가 전면에 나선 선거다.
WHY NOW
2024년은 지구 선거의 해다. 전 세계 40억 명이 투표권을 행사할 전망이다. 미국, 인도, 영국, 대만, 멕시코 등 주요 국가에서 대선과 총선이 일제히 열린다. 우리나라도 4월에 총선을 치른다. 이번 아르헨티나 대선 캠페인을 살펴보면 앞으로의 선거가 어떤 모습일지 짐작할 수 있다. AI는 선거를 어떻게 바꿀까. 민주주의는 지속 가능할까.
부에노스아이레스를 뒤덮은 포스터
아르헨티나의 수도 부에노스아이레스의 거리가 정치 포스터로 뒤덮여 있다. 집권당의 대선 후보인 세르히오 마사가 약장이 달린 푸른 셔츠를 입고 팔을 뻗어 푸른 하늘을 가리키고 있다. 마사를 둘러싼 군중이 엄숙한 표정으로 그를 바라보고 있다. 포스터 상단에는 이런 문구가 적혀 있다. “마사를 대통령으로. 정의주의자에게 투표하세요.”
구스타프 클루시스의 재림
이 포스터는 마사의 선거 캠프 직원이 생성형 AI로 만들었다. 제작 방법은 간단하다. 미드저니(Midjourney) 같은 생성형 AI 서비스에 접속한다. 원하는 이미지를 텍스트로 묘사한다. “구스타프 클루시스가 그린 듯한 소련 정치 포스터에 지도자 마사가 굳건히 서 있다. 통합과 힘의 상징이 화면에 가득하다. 권위와 결단력이 느껴진다.” 10초 안에 고퀄리티 이미지가 생성된다.
딥페이크 공방
AI로 포스터만 만들면 다행이다. 가짜 뉴스도 만든다. 이달 초 소셜 미디어에 마사 후보가 코카인을 흡입하는 영상이 올라와 논란이 됐다. 알고 보니 AI로 합성한 가짜 영상이었다. 마사 진영도 반격에 나섰다. 밀레이 후보는 장기 매매 허용을 주장해 왔는데, 한 영상에서 밀레이가 “장기의 경제적 잠재력을 생각하면 출산은 투자입니다”라고 말한다. 물론 가짜 영상이었다.
선거판의 기술자들
아르헨티나 대선에서 두 후보 캠프와 지지자들은 생성형 AI를 사용해 순식간에 정치 선전물을 만들고, 기존 이미지와 영상을 조작하고, 소셜 미디어로 퍼트리고 있다. 몇 년 전까지만 해도 딥페이크나 이미지 조작으로 선거에 영향을 미치는 일은 공상 과학 영화 속 이야기처럼 들렸지만, 이제 AI 기술의 비용 감소로 디지털 기기만 있다면 누구나 선거판의 기술자가 될 수 있다.
남미만의 일이 아니다
정치가 혼탁한 지역에서만 벌어지는 일이 아니다. 올해 6월 캐나다 토론토 시장 선거에서 한 후보가 노숙자로 가득한 시내 이미지를 AI로 만들었다. 이 후보는 노숙자를 없애겠다고 공약했는데, 자신이 당선되지 않으면 도시가 황폐해질 거라는 얘기였다. 미국 공화당도 올해 4월 바이든 대통령이 연임하면 벌어질 일이라면서 AI로 디스토피아적 영상을 만들어 광고로 내보냈다.
진짜도 믿지 않는다
생성형 AI로 인한 문제는 가짜 뉴스에 그치지 않는다. 딥페이크 기술이 등장하면서 진짜마저 가짜로 의심하게 한다. 극단적인 예가 아프리카 가봉에 있었다. 2019년 투병 생활로 두문불출하던 가봉 대통령이 오랜만에 신년 인사 영상에 등장했다. 그런데 몸짓과 말투가 좀 어색했다. 군부는 이 영상을 대통령이 병상에 누워 있는 걸 숨기려고 만든 딥페이크 영상이라 판단하고 쿠데타를 일으켰다.
기술은 법보다 빠르다
주요 국가의 선거법에는 생성형 AI에 대한 규제가 아직 없다. 기술 발전이 너무 빨라서다. 한국도 마찬가지다. 허위 사실만 아니면 단속하지 않는다. 미국도 이제서야 AI 딥페이크 규제를 검토하고 있다. 정치권 싸움에 불똥이 튈까 우려하는 소셜 미디어는 자체 규정을 내놨다. 메타는 정치 광고에 AI 사용 여부를 공개하도록 하겠다고 밝혔다. 그러나 AI로 정치 게시물을 만들어도 광고만 아니면 AI 사용 여부를 공개할 의무는 없다.
IT MATTERS
현재 AI 선거 운동을 비판하는 지점은 주로 가짜 뉴스 생산에 집중돼 있지만, 사실 선거 역사상 흑색선전은 한 번도 사라진 적이 없다. 지금 후보자 캠프나 지지자들이 올리는 AI 콘텐츠에는 AI를 이용해 만들었다는 라벨이 붙어 있거나, 후보자를 영화 캐릭터와 합성한 밈이 대부분이라 웬만한 유권자는 실제 상황으로 받아들이지 않는다. AI 선거 운동의 진짜 문제는 과거 선거 캠프의 디자인팀에서 며칠간 만들어야 했던 콘텐츠를 단 몇 분 만에 만들어 낼 수 있다는 것이다.
부동층 유권자의 인터넷 사용 데이터를 보유한 마케팅 회사와 생성형 AI가 결합하면 선거 결과를 좌우할 수 있다. 특정 정책별로, 취향별로, 관심사별로, 지역별로 AI 콘텐츠를 만들어 특정 유권자층에만 배포할 수 있다. 예를 들어 낙태에 강력히 반대하는 사람에겐 후보자의 단호한 반대 메시지를 보여 주고, 찬성도 반대도 아닌 사람에겐 모든 입장이 타당하다는 일견 합리적으로 보이는 메시지를 줄 수도 있다. 개별 유권자마다 후보자의 메시지가 달라진다면 그건 맞춤형 선거 운동이 아니다. 새로운 형태의 댓글 조작이다.
아르헨티나 대선 결선 투표가 현지 시각 11월 19일 열린다. 좌파 집권당의 경제부 장관 세르히오 마사 후보와 ‘아르헨티나의 트럼프’로 불리는 극우 하비에르 밀레이 후보가 맞붙는다. 여론 조사에서 두 후보는 초접전을 벌이고 있다. 그만큼 막판 선거 캠페인이 중요하다. 그 중심에 AI가 있다. 세계 최초로 AI가 전면에 나선 선거다.
WHY NOW
2024년은 지구 선거의 해다. 전 세계 40억 명이 투표권을 행사할 전망이다. 미국, 인도, 영국, 대만, 멕시코 등 주요 국가에서 대선과 총선이 일제히 열린다. 우리나라도 4월에 총선을 치른다. 이번 아르헨티나 대선 캠페인을 살펴보면 앞으로의 선거가 어떤 모습일지 짐작할 수 있다. AI는 선거를 어떻게 바꿀까. 민주주의는 지속 가능할까.
부에노스아이레스를 뒤덮은 포스터
아르헨티나의 수도 부에노스아이레스의 거리가 정치 포스터로 뒤덮여 있다. 집권당의 대선 후보인 세르히오 마사가 약장이 달린 푸른 셔츠를 입고 팔을 뻗어 푸른 하늘을 가리키고 있다. 마사를 둘러싼 군중이 엄숙한 표정으로 그를 바라보고 있다. 포스터 상단에는 이런 문구가 적혀 있다. “마사를 대통령으로. 정의주의자에게 투표하세요.”
구스타프 클루시스의 재림
이 포스터는 마사의 선거 캠프 직원이 생성형 AI로 만들었다. 제작 방법은 간단하다. 미드저니(Midjourney) 같은 생성형 AI 서비스에 접속한다. 원하는 이미지를 텍스트로 묘사한다. “구스타프 클루시스가 그린 듯한 소련 정치 포스터에 지도자 마사가 굳건히 서 있다. 통합과 힘의 상징이 화면에 가득하다. 권위와 결단력이 느껴진다.” 10초 안에 고퀄리티 이미지가 생성된다.
딥페이크 공방
AI로 포스터만 만들면 다행이다. 가짜 뉴스도 만든다. 이달 초 소셜 미디어에 마사 후보가 코카인을 흡입하는 영상이 올라와 논란이 됐다. 알고 보니 AI로 합성한 가짜 영상이었다. 마사 진영도 반격에 나섰다. 밀레이 후보는 장기 매매 허용을 주장해 왔는데, 한 영상에서 밀레이가 “장기의 경제적 잠재력을 생각하면 출산은 투자입니다”라고 말한다. 물론 가짜 영상이었다.
선거판의 기술자들
아르헨티나 대선에서 두 후보 캠프와 지지자들은 생성형 AI를 사용해 순식간에 정치 선전물을 만들고, 기존 이미지와 영상을 조작하고, 소셜 미디어로 퍼트리고 있다. 몇 년 전까지만 해도 딥페이크나 이미지 조작으로 선거에 영향을 미치는 일은 공상 과학 영화 속 이야기처럼 들렸지만, 이제 AI 기술의 비용 감소로 디지털 기기만 있다면 누구나 선거판의 기술자가 될 수 있다.
남미만의 일이 아니다
정치가 혼탁한 지역에서만 벌어지는 일이 아니다. 올해 6월 캐나다 토론토 시장 선거에서 한 후보가 노숙자로 가득한 시내 이미지를 AI로 만들었다. 이 후보는 노숙자를 없애겠다고 공약했는데, 자신이 당선되지 않으면 도시가 황폐해질 거라는 얘기였다. 미국 공화당도 올해 4월 바이든 대통령이 연임하면 벌어질 일이라면서 AI로 디스토피아적 영상을 만들어 광고로 내보냈다.
진짜도 믿지 않는다
생성형 AI로 인한 문제는 가짜 뉴스에 그치지 않는다. 딥페이크 기술이 등장하면서 진짜마저 가짜로 의심하게 한다. 극단적인 예가 아프리카 가봉에 있었다. 2019년 투병 생활로 두문불출하던 가봉 대통령이 오랜만에 신년 인사 영상에 등장했다. 그런데 몸짓과 말투가 좀 어색했다. 군부는 이 영상을 대통령이 병상에 누워 있는 걸 숨기려고 만든 딥페이크 영상이라 판단하고 쿠데타를 일으켰다.
기술은 법보다 빠르다
주요 국가의 선거법에는 생성형 AI에 대한 규제가 아직 없다. 기술 발전이 너무 빨라서다. 한국도 마찬가지다. 허위 사실만 아니면 단속하지 않는다. 미국도 이제서야 AI 딥페이크 규제를 검토하고 있다. 정치권 싸움에 불똥이 튈까 우려하는 소셜 미디어는 자체 규정을 내놨다. 메타는 정치 광고에 AI 사용 여부를 공개하도록 하겠다고 밝혔다. 그러나 AI로 정치 게시물을 만들어도 광고만 아니면 AI 사용 여부를 공개할 의무는 없다.
IT MATTERS
현재 AI 선거 운동을 비판하는 지점은 주로 가짜 뉴스 생산에 집중돼 있지만, 사실 선거 역사상 흑색선전은 한 번도 사라진 적이 없다. 지금 후보자 캠프나 지지자들이 올리는 AI 콘텐츠에는 AI를 이용해 만들었다는 라벨이 붙어 있거나, 후보자를 영화 캐릭터와 합성한 밈이 대부분이라 웬만한 유권자는 실제 상황으로 받아들이지 않는다. AI 선거 운동의 진짜 문제는 과거 선거 캠프의 디자인팀에서 며칠간 만들어야 했던 콘텐츠를 단 몇 분 만에 만들어 낼 수 있다는 것이다.
부동층 유권자의 인터넷 사용 데이터를 보유한 마케팅 회사와 생성형 AI가 결합하면 선거 결과를 좌우할 수 있다. 특정 정책별로, 취향별로, 관심사별로, 지역별로 AI 콘텐츠를 만들어 특정 유권자층에만 배포할 수 있다. 예를 들어 낙태에 강력히 반대하는 사람에겐 후보자의 단호한 반대 메시지를 보여 주고, 찬성도 반대도 아닌 사람에겐 모든 입장이 타당하다는 일견 합리적으로 보이는 메시지를 줄 수도 있다. 개별 유권자마다 후보자의 메시지가 달라진다면 그건 맞춤형 선거 운동이 아니다. 새로운 형태의 댓글 조작이다.