월계수 잎이 된 소셜 미디어

9월 30일 - FORECAST

ⓒ일러스트: 김지연/북저널리즘

쉬운 규제는 없었다. 그러나 지금의 소셜 미디어는 너무 쉽게 검열한다.

  • 소셜 네트워크 서비스 ‘텀블러(Tumblr)’가 콘텐츠 규제를 위한 커뮤니티 레이블(community labels)을 도입한다.
  • 소셜 미디어의 시대이지만 그동안의 콘텐츠 규제에는 충분한 숙고가 없었다.
  • 권력과 유착된 검열을 막기 위해 미래의 소셜 미디어에는 무엇이 필요할까?

DEFINITION_ 커뮤니티 레이블

소셜 네트워크 서비스인 텀블러가 지난 9월 26일 새로운 콘텐츠 규제 방안을 내놨다. 사용자는 게시물을 만들거나 편집할 때 성인(Mature), 중독(Drug and Alcohol Addiction), 폭력(Violence), 성적 테마(Sexual Themes), 네 가지 레이블 중 하나를 선택할 수 있다. 자신의 게시물이 모두에게 노출되는 것이 적절치 않다고 판단하면 레이블을 적용한다. 사용자는 자신의 계정 설정에서 어떠한 레이블의 콘텐츠를 숨길지 결정할 수 있다. 레이블이 없는 콘텐츠의 경우 사용자가 텀블러 측에 심사를 요청할 수 있고, 크리에이터는 심사에 이의를 제기할 수 있다. 텀블러 측은 레이블링을 통해 모든 이들이 안전하고 개방적으로 플랫폼을 이용할 수 있도록 하겠다고 밝혔다.
BACKGROUND_ 2018년

한국의 방송통신심위위원회가 요청한 자율 심의 준수에도 끄떡 않던 텀블러가 본격적인 콘텐츠, 계정 삭제에 들어선 것은 2018년 애플 앱스토어의 규제 때문이었다. 지속되는 음란물 이슈로 인해 2018년 11월 텀블러는 모든 국가의 앱스토어에서 사라졌다. 애플의 강경책 이후 텀블러는 알고리즘 등을 적용해 유해 콘텐츠를 삭제하고 계정을 정지하겠다는 방침을 밝혔고, 한 달 후 다시 앱스토어에 들어올 수 있었다.
KEYPLAYER_ 맷 멀런웨그(Matt Mullenweg)

텀블러의 콘텐츠 삭제는 기존 유저의 적잖은 반발을 불렀다. 2019년 ‘오토매틱(Automatic)’은 텀블러를 인수한다. 오토매틱의 CEO 맷 멀런웨그는 2003년, 누구나 웹사이트를 만들 수 있도록 하는 도구인 ‘워드프레스’를 개발했다. 텀블러 인수 당시 인터뷰에서 맷은 “텀블러가 언론과 표현의 자유를 지향하는 오토매틱의 가치와 일치한다”고 말했다. 텀블러의 크리에이터 레이블은 그저 콘텐츠를 삭제하고 통보하는 것이 아닌, 더 나은 규제 방식을 고민한 결과였다.
CONFLICT_ 아랍의 봄

2010년 찾아온 아랍의 봄에 소셜 미디어는 적잖은 힘을 보탰다. 시위를 알리고 확산하기에 소셜 미디어가 더 없이 좋은 대안이었기 때문이다. 튀니지 혁명을 통해 소셜 미디어의 힘을 실감한 이집트 정부는 이집트 혁명이 시작된 지 사흘 만에 인터넷 연결을 차단했다. 아랍의 봄은 소셜 미디어가 더 이상 일상을 공유하는 가벼운 플랫폼이 아님을 상기시켰다. 실리콘 밸리 기업의 입장에서 아랍의 봄은 소셜 미디어의 힘을 실감하게 하는 사건이기도 했지만, 동시에 몇몇의 콘텐츠는 보이지 않게 하는 것이 기업 입장에서 이득이라는 판단을 불러오기도 했다. 소셜 미디어는 아랍의 봄을 두고 새로운 플랫폼이 보장하는 자유와 권리를 외쳤지만 그러한 외침에 내실은 없었다. 테러와 혁명, 포르노와 재현 사이를 구분하기는 까다로웠다.
RISK_ 쟁점
  • 테러와 혁명; 독재에 저항하는 과정에서 사용되는 소셜 미디어는 두 가지 의미다. 권력층에게는 테러의 전초지로, 혁명군에게는 소식을 전하는 비둘기가 된다. 하나의 움직임이 테러인지, 혁명인지는 사후적으로 정의된다. 그러나 정의 이전부터 몇몇의 사건은 소셜 미디어의 정책으로 인해 중단됐다. 이집트 혁명의 인터넷 폐쇄는 2022년 이란에서 같은 모습으로 재현됐다. 권력층은 소셜 미디어를 정부 비판적인 인사를 트래킹하는 수단으로 사용하기도 했다.
  • 포르노와 재현; 페이스북의 커뮤니티 규정에 따르면 “나체 이미지 또는 성적으로 선정적인 콘텐츠”는 규제 대상이다. 그러나 이 역시 악의적 신고(flagging)의 대상이 됐다. 진행자 겸 작가인 리처드 메츠거(Richard Metzger)는 두 남성이 입을 맞추는 한 TV 연속극의 장면을 캡처해 페이스북에 공유했다가 동성애 혐오주의자에게 신고 당했다. 해당 게시글은 ‘선정적 콘텐츠의 게시를 금지한다’는 짧은 고지와 함께 삭제됐다. 충분한 시대적 합의를 통해 만들어져야 하는 논의들은 시작되기도 전에 몇 줄의 커뮤니티 규정에 의해 사라진다.

REFERENCE_ 폰허브

지난 9월 29일, 포르노 스트리밍 사이트인 ‘폰허브(Pornhub)’의 인스타그램 계정이 영구 삭제됐다. 인스타그램은 폰허브가 반복적으로 커뮤니티 지침을 위반했다고 밝혔다. 폰허브는 메타에 보낸 공개서한을 통해 인스타그램의 플랫폼 규제가 “불투명하고 차별적이며 위선적”이라고 규탄했다. 폰허브의 피드에는 포르노 스타와 제작자들의 일상과 회사 생활이 업로드 됐다. 한편으로 2018년 규제 이전의 텀블러는 많은 성소수자들이 네트워킹을 통해 커뮤니티를 구축할 수 있는 장소였다. 앱스토어의 정책으로 인해 일어난 대규모 검열 이후 텀블러의 성소수자 커뮤니티는 해체됐다.
RECIPE_ 게으른 외주
  • 저렴한 노동; 어느 시대든 테러와 혁명, 포르노와 재현은 쉽게 구분되지 않았다. 기업화되는 소셜 미디어의 타개책은 몇 줄의 커뮤니티 규정과 저렴한 인력이었다. 사용자가 다른 사용자의 게시물을 신고하면 제3세계 출신의 노동자는 근무 시간 내내 신고당한 콘텐츠를 본다. 더 버지의 취재에 따르면 페이스북의 직원들이 3억 원을 버는 동안 커뮤니티 규정에 따라 콘텐츠를 검수하는 이들은 4천만 원을 번다. 근무자들은 PTSD를 호소하고 정해진 시간에만 화장실에 들른다. 한편으로는 유럽이나 미국 등의 제1세계와 관련해 발생한 문제가 우선적으로 처리된다.
  • AI의 검열; 인공지능과 알고리즘은 학습한 빅데이터를 통해 수많은 이미지와 영상에 대응할 수 있다. 그 과정에서 다양한 맥락들은 일차적으로 걸러진다. 폭탄을 피해 도망치는 나체의 아이는 ‘나체 이미지’로 걸러질 수 있다. 그러나 알고리즘의 입장에서 퓰리처 역사상 가장 많은 논쟁을 불렀던 케빈 카터의 ‘수단, 아이를 기다리는 게임’은 논쟁의 여지조차 감지되지 않는다. 대부분의 소셜 미디어가 인공지능을 통해 콘텐츠를 검열하는 세상에서 맥락은 사소한 문제가 된다. 내전과 학살의 맥락을 알지 못하는 이들에게 피가 낭자한 동영상은 그저 잔인한 콘텐츠에 지나지 않는다.

INSIGHT_ 몇 줄짜리 법전

미국의 작가 윌리엄 버로스의 문제적인 소설 《네이키드 런치》는 외설과 마약 중독 조장 등의 문제로 런던, 보스턴 등지에서 금지됐다. 1965년 보스턴에서 열린 재판에서 미국의 작가 노먼 메일러(Norman Mailer)는 《네이키드 런치》에 대한 평가를 인용했다. “이러한 기록으로 인해 우리는 보다 윤택해질 수 있다. 출판업자가 이 기록을 출판하고 공개된 서점에서 합법적으로 팔 수 있을 때 우리는 국가로서 보다 깊은 인상을 남길 수 있다.” 1966년 메사추세츠 주 법원은 원심을 파기했고 《네이키드 런치》는 비로소 합법적인 작품이 됐다. 때때로 콘텐츠 규제는 당연해 보인다. 그러나 지금 대부분의 소셜 미디어들에게 법은 없고 판례는 선례로 남지 않는다. 플랫폼 자체가 하나의 판사가 됐고 모호한 몇 줄의 규정에서 몇몇은 충분한 숙고 없이 사라진다.
FORESIGHT_ 대안들

검열은 권력과 가깝다. 그래서 무엇보다 신중해야 한다. 신중함을 뒷받침해줄 대안으로서 플랫폼의 커뮤니티 규정을 명확히 하고 규제를 감시할 수 있는 독립 기구 마련을 생각해볼 수 있다. 이 경우 인종적, 국가적, 젠더적 다양성을 고려할 수 있을 것이다. 그럼에도 역시 중요한 것은 수용자다. 플랫폼이 이미 판사가 됐다면 판사의 결정에 쉽게 항소할 수 있는 시스템이 필요하다. 그를 위해서는 투명한 프로세스 공개와 제재가 필요하다. 맷 멀런웨그는 텀블러의 커뮤니티 레이블이 모두의 자유로운 표현을 위한 첫 번째 단계라고 밝혔다. 표현의 자유는 모든 표현의 선함을 보장하는 개념이 아닌, 권력에 대항할 수 있는 민주적 기본권이다. 게으르고 간단하게 자본과 얽힌 기본권의 문제를 해결할 수는 없다. 지금껏 그래온 적도, 그럴 수 있었던 적도 없었다.


표현의 자유와 검열과 관련한 다양한 쟁점은 〈사이버 렉카가 쏘아올린 작은 공〉, 〈역사 왜곡 처벌은 가능한가?〉, 〈검열인가 예방인가〉, 〈누구를 위한 언론중재법인가〉를 통해 살펴보실 수 있습니다.
포캐스트를 읽으시면서 들었던 생각을 댓글로 남겨 주세요.
여러분의 의견이 북저널리즘을 완성합니다.
다음 이야기가 궁금하신가요?
프라임 멤버가 되시고 모든 콘텐츠를 무제한 이용하세요.
프라임 가입하기
추천 콘텐츠
Close