새로운 메타가 옵니다.

‘리브’는 흑인 여성이며 세 아이의 엄마입니다. 동시에 성소수자이기도 하고요. 그런데 2024년에 리브가 페이스북에 올린 세 아이의 사진을 보면 누구라도 뭔가 잘못되었다는 것을 알 수 있습니다. 아이들의 얼굴과 손은 조금씩 뭉개졌고, 심지어 사진 세 장에 등장하는 아이들의 얼굴이 제각각이거든요.

‘브라이언’은 은퇴한 섬유 사업가입니다. 손자가 만든 예술 작품이라면서 모래사장에 만들어 놓은 알 수 없는 모양의 모랫더미 동영상을 업로드하기도 했습니다. 제이드는 힙합을 사랑하는 흑인 여성, 베카는 강아지를 사랑하는 이웃, 카터는 라틴계 관계 코치입니다. 그런데 이들이 올리는 이미지와 게시물에 공통점이 있습니다. AI를 이용해 간단하게 만든 가짜 이미지를 페이스북과 유튜브 등에 게시해 수익화하고 있는 사람들의 게시물과 너무 닮았거든요. 바로, ‘AI 슬롭’ 말입니다.

감정을 자극하지만, 아무런 의미도 맥락도 없는 이미지와 동영상입니다. 게다가 생성형 AI가 만들어내는 이미지에서 흔히 보이는 오류들을 다수 포함하고 있습니다. 이를테면 손가락이나 작게 묘사된 사람 얼굴 등이 뭉개져 있다든지 하는 것 말입니다.

다만, 이 모든 계정은 메타가 의도해서 만들었습니다. 2023년 발표한 AI 캐릭터 생성과 관련한 일종의 ‘테스트’였다는 겁니다. 메타는 스스로 AI 슬롭을 만들어 플랫폼을 채우고 있었습니다. 다만, 이들의 계정은 재미가 없어 관심을 받지는 못했습니다. 이번에 메타가 AI 캐릭터가 활발히 활동하는 페이스북과 인스타그램의 청사진을 이야기하기 전까지는 말이죠.

메타가 AI로 이루고 싶은 것

2024년 말, 메타의 코너 헤이즈 생성 AI 담당 부사장이 AI 캐릭터의 계정을 운영하겠다는 계획을 밝혔습니다. AI 캐릭터는 각각 고유한 개인 정보와 프로필 사진으로 활동하며, AI로 생성한 콘텐츠를 공유할 것이라는 내용이었습니다. 사용자 참여를 유도해 플랫폼을 더 재미있고 매력적으로 만들겠다는 것이었죠. 그러니까, 메타는 AI 캐릭터가 스크롤 시간을 늘려줄 새로운 콘텐츠가 되어줄 것이라는 기대를 하는 겁니다. 이런 기대는 메타만 하고 있는 것이 아닙니다.

스냅챗은 크리에이터가 증강현실(AR) 글라스를 통해 더욱 다채로운 경험을 할 수 있도록 크리에이터가 3D 캐릭터를 쉽게 디자인할 수 있도록 돕는 AI 도구를 출시했습니다. 틱톡은 크리에이터는 물론이고 기업도 콘텐츠를 쉽게 만들 수 있도록 ‘틱톡 심포니(TikTok Symphony)’라는 AI 도구를 운영하고 있습니다. 지금 소셜 미디어 업체들은 플랫폼을 더 재미있게 만들기 위한 목적으로 AI 도입에 뛰어들고 있습니다.

그런데 메타의 접근은 결이 좀 다릅니다. 사람이 AI를 이용해 콘텐츠를 더 쉽게 만들 수 있도록 하겠다는 것이 아니라 아예 AI가 직접 하나의 캐릭터를 연기하며 계정을 운영하도록 한다는 얘깁니다. 이 소식이 전해지자, 몇몇 사람들은 평소 의심스러웠던 계정을 기억해 냈습니다. 리브나 브라이언 같은 페친 말입니다. 갑자기 페이스북에서 메타가 운영하고 있던 AI 계정이 다수 발견되었습니다. 대부분 관심을 받지 못한 채 활동을 중단하거나, 활동 중이라도 팔로워 수는 소박했죠. 하지만 그들은 존재했습니다. 심지어 한 칼럼니스트는 AI 흑인 엄마, 리브와 DM도 주고받았습니다.

석유를 만들어 내는 생태계

이 칼럼니스트가 리브와의 DM 내용을 공개했습니다. 아이러니하게도, 최근 기존 소셜 미디어 플랫폼의 대안으로 떠오르고 있는 ‘블루 스카이’ 계정을 통해서 말입니다. 리브는 의외로 이런저런 이야기를 털어놓았습니다. 데이터 수집과 광고 타게팅을 위해 ‘따뜻하고 부드러운 엄마’ 페르소나로 설계되었음을 고백하기도 했죠. 즉, 메타는 흑인, 여성, 성소수자, 엄마라는 요소들이 광고 수익에 긍정적으로 작동한다고 보고 있는 겁니다. 그에 딱 맞는 사용자들이 늘어난다면 더 많은 사람들이 플랫폼을 이용하고, 수익 창출에도 기여할 수 있다는 가정이 있었다고 볼 수 있겠죠.

철학자 마르쿠스 가브리엘은 “소셜 네트워크의 존재론”을 이야기합니다. 사람들은 이상화된 자화상을 플랫폼에 ‘게시’합니다. 여기서 ‘이상화’라는 것은 사용자가 생각하는 이상적인 모습을 이야기하는 것이 아닙니다. 플랫폼이 상정하는 이상적인 모습이죠. 사용자들은 인스타그램에서 잘 팔리는 아름다움, 멋, 부, 행복 등이 암시된 자화상을 게시한다는 겁니다. 그리고 이런 게시물과 그에 따른 관계 맺기는 데이터가 됩니다. 데이터는 돈이 되죠. 가브리엘은 이 과정을 사회학자 아르민 나세히의 비유를 인용해 설명합니다.

“데이터가 새로운 석유라면, 그야말로 무고한 사용자들의 일상 행위는 까마득한 과거의 식물, 숲, 동물, 토양처럼 계속 분해되어 그 끈적한 연료 겸 윤활유를 형성한다. 그 천연자원은 현재 모든 곳에 설치되어 사건들을 기록하는 센서들에서, 또 네트워크 안에서 일어나는 소통 사건들의 지속적인 분해 덕분에 형성된다.”

헤이즈 메타 부사장은 석유 생산을 위해 매장될 공룡 일부를 메타가 직접 만들겠다고 선언한 겁니다. AI 공룡이 숲의 생태계를 더욱 풍요롭고 짜릿하게 만들 것이라 믿고 있는 듯합니다. 기술 낙관론자는 그렇게 생각할 수 있겠죠. 그런데 정치를 생각하면 낙관적일 수 없습니다.

새 시대의 언론 자유

‘대안적 진실’을 이야기하는 인물이 두 번째로 권력을 잡았습니다. 저널리즘의 사명을 세일즈 포인트로 삼고 있는 언론사들은 여전히 신뢰할 수 있는 정보의 가치를 이야기하지만, 시대가 그렇지 않습니다. 이런 시대에 메타의 창립자이자 CEO인 마크 저커버그도 올라탔습니다. 현지 시각 지난 7일, 메타는 새로운 정책을 발표했습니다. “더 많은 발언과 더 적은 실수”라는 게시물을 통해 페이스북, 인스타그램, 스레드에서 제3자 팩트 체크 프로그램을 종료하기로 한 겁니다.

트럼프 2기가 오는 20일 시작됩니다. 이에 맞춰 메타도 발 빠르게 대응 중입니다. 트럼프의 계정을 정지시키며 단단히 미운털이 박힌 저커버그는 본인이 먼저 굽히고 들어갔습니다. 추수감사절 전날에는 트럼프의 별장이자 일종의 ‘백악관 별관’ 행세를 하고 있는 ‘마라라고’를 방문했고, 취임식에는 100만 달러를 기부합니다. 이사진에는 친 트럼프 인사들을 보강했습니다. 데이나 화이트 UFC 회장 같은 인물이 대표적입니다.

정책 책임자로는 민주당 인물이었던 닉 클레를 밀어내고 영향력 있는 공화당원, 조엘 카플란이 부임했습니다. 그리고 카플란은 인터뷰에서 메타의 제3자 팩트 체커를 정조준했습니다. “정치적 편향이 너무 심하다”고 지적한 겁니다. 트럼프는 대안적 진실을 말하는 사람입니다. CNN의 진실이 아니라 내가 말하는 진실이 있다는 사람에게 ‘팩트’를 체크한다는 것 자체가 모순적인 일이겠죠. 게다가 그 일은 사람이 수행하며 그 사람이 정치적으로 편향되어 있다고 주장한다면, 메타는 반트럼프 이념을 강요하며 언론의 자유를 침해하는 ‘검열’의 플랫폼이 되어버립니다. MAGA가 말하는 ‘소셜 미디어 검열’ 말입니다.

그래서 메타는 새 시대에 맞는 언론의 자유를 구현하고자 합니다. 지금까지와는 달리 플랫폼에서 더 많은 정치적 콘텐츠가 유통됩니다. 이민이나 성차별 등과 같은 특정 주제에 있어 ‘일반적인 담론과 맞지 않는’ 제한은 폐지됩니다. 벌써부터 어떤 이야기들이 오갈지 상상이 되죠. 팩트 체크 종료와는 별도로, 콘텐츠 검토팀도 텍사스로 이전합니다. 지금은 민주당 주지사가 있는 캘리포니아에 있었는데요, ‘편향성에 대한 우려가 덜한 곳’으로 옮기겠다는 겁니다. 텍사스는 전통적으로 매우 보수적인 지역으로 꼽힙니다.

대안적 진실의 대안

메타의 발 빠른 방향 전환을 고려할 때, 앞으로 리브보다, 브라이언보다 더 정교하고 치밀해져서 선보이게 될 메타의 AI 캐릭터들이 어떤 이야기를 쏟아낼지 궁금합니다. 솔직히 말하자면, 조금 걱정스럽습니다. AI 캐릭터가 만약 대안적 진실을 쏟아낸다면, 그것도 아주 다정하고 매력적인 캐릭터의 모습을 하고 그들만의 진실을 이야기한다면 어떤 일이 벌어질까요. ‘하나의 진실’이라는 명제 자체가 부정되는 시대에, 가상의 존재를 향해 우리는 비난이라도 할 수 있을까요.

앞서 잠시 언급했던 철학자 마르쿠스 가브리엘은 참과 거짓을 구분할 수 없게 된 시대의 문제를 철학이 해결해야 한다고 주장합니다. 옳고 그름이 있으며, 존재의 기준도 명확하다고 이야기하죠. ‘신실존론’입니다. 진실은 규범이며, 우리의 믿음을 어떻게 포맷하든 그 규범을 변경할 수는 없다는 겁니다.

하지만, 이 철학은 정치와 대립하고, 기술과도 대립해야 합니다. 메타는 기업입니다. 유토피아를 건설하기 위해 생성형 AI를 개발하고 있는 것이 아닙니다. 이윤을 추구하고 있을 뿐이죠. 메타의 기술이 트럼프의 정치와 대립할 일은 없습니다. 기술은 중립적이지 않습니다. 사람이 만들고 사람이 사용하기 때문입니다. 그래서 우리는 기술을 의심하고 사유해야 합니다.

---