쪼개진 얼굴

7월 15일 - FORECAST

©일러스트: 권순문/북저널리즘

안면 인식 기술을 둘러싼 논란이 끊이지 않는다. 정보가 자본과 권력이 된 시대에서 얼굴은 어떤 문제인가?

  • 안면 인식 서비스를 제공하는 ‘클리어뷰 AI(Clearview AI)'가 그리스 당국으로부터 260억 원의 벌금을 선고받았다.
  • 클리어뷰는 유럽의 개인 정보 보호 규칙(GDPR)을 위반했다는 이유로 작년 말부터 영국, 이탈리아, 프랑스 등의 유럽 국가로부터 유사한 형태의 제재를 받았다.
  • 안면 인식과 신기술이 미래에 가져올 결과는 무엇이며, 우리는 이들을 어떻게 받아들여야 할까?

BACKGROUND_ 클리어뷰 AI

클리어뷰 AI는 미국에 기반을 둔 비상장 기업으로 범죄 수사 및 공공 안전 강화를 위한 안면 인식 기술을 개발한다. 소셜 미디어를 비롯해 웹상에 게시된 사람들의 얼굴 이미지를 100억 장 이상 수집하고, 알고리즘을 이용한 얼굴 검색 엔진을 통해 유사한 사람을 찾고 식별할 수 있다.
  • 뉴욕타임즈의 고발 ; 클리어뷰 AI가 본격적인 대중의 이목을 받기 시작한 때는 뉴욕타임즈의 고발 기사가 발표된 이후다. 뉴욕타임즈는 2020년 1월 〈우리 모두의 프라이버시를 끝낼 은밀한 회사(The Secretive Company That Might End Privacy as We Know It)〉라는 제목의 기사를 발표했다. 뉴욕타임즈는 클리어뷰 AI가 트위터, 인스타그램 등을 비롯한 SNS에서 사람들의 사진을 무단 크롤링했다는 지점을 비판했다.
  • 조지 플로이드 동네의 경찰 ; 클리어뷰 AI는 해당 인식 기술을 통해 범죄를 사전 차단하고, 은행을 비롯한 민간 기업이 이용자의 신원을 파악할 수 있다는 지점을 강조했다. 실제로 조지 플로이드의 사망 사건이 있었던 미국 미네소타주의 경찰이 클리어뷰 AI의 안면 인식 시스템을 이용하고 있다는 것이 알려져 논란이 되기도 했다. #클리어뷰 AI가 제공하는 성공 사례
  • 특수 상황 ; 올해 3월, 클리어뷰 AI는 전쟁을 겪는 우크라이나 정부에 안면 인식 기술을 무료로 제공했다고 밝혔다. 프라이버시 침해, 인종 차별 등의 부정적 여론을 뒤집고자 전쟁과 같은 특수 상황에서 안면 인식 기술이 수행할 수 있는 긍정적 기능을 강조했다. 한편으로는 부작용을 우려하는 목소리도 있었다. 홍콩의 반정부 시위가 거셌던 2019년, 중국에서는 안면 인식 기술을 통해 반정부 시위자들을 식별하고 잡아 들였다. 복면을 쓴 시위자들이 늘어나자 중국 당국은 ‘복면금지법’을 시행했다.

RECIPE_ 안면 인식
  • 편리함 ; 얼굴 인식은 편리하다. 애플은 아이폰X 시리즈부터 페이스 아이디 기술을 적용했다. 이용자가 휴대전화를 들고 카메라를 바라보면 자동으로 사용자를 인식해 잠금이 해제된다. 손가락을 가져다 댈 필요도 없고 그저 ‘바라보는 것’만으로 소유자를 인식한다.
  • 식별 ; 얼굴은 고유하다. 특히 기계가 인식하는 얼굴은 더욱 그렇다. 얼굴 이미지를 픽셀로 쪼개고, 미세한 명도의 차이를 인식해 이를 패턴으로 조직한다. 식별의 정확성과 간편함 덕분에 공항 검색대 등 개인 식별이 중요한 곳에서 불확실성을 줄이고 시간을 단축할 수 있다. 또한 실종 아동을 찾는 것에도 도움을 줄 수 있다.
  • 정확성 ; CCTV나 블랙박스에 기록된 주요한 증거와 정보를 보완하는 것에도 안면 인식 기술이 활용될 수 있다. 얼굴 복원 기술을 통해 화질이나 조명 등의 어려움을 극복하고, 범죄자를 찾을 수 있다. 사회 안전망 강화와 범죄자 수색 등에 도움을 줄 수 있다.

CONFLICT_ 안면 인식
  • 감시 활동 ; 2020년 5월 ‘미국 시민 자유 연합(ACLU)’은 클리어뷰 AI를 “불법적이고 프라이버시를 침해하는 감시 활동”이라며 고소했다. ACLU는 클리어뷰의 데이터 수집 방식을 언급하며 타 기업이 윤리적 문제로 인해 의도적으로 피했던 일을 시작했다고 지적했다. 수십억 명의 얼굴 식별 데이터를 만들고 이를 유료로 제공하는 것은 불법이라는 논리였다.
  • 크롤링 ; 공개 데이터의 웹 크롤링은 합법과 불법의 경계에 있다. 클리어뷰 AI는 허가 없이 공개된 사람들의 사진을 수집하고 검색에 이용한 혐의로 일리노이와 버몬트의 법원에서 소송을 당한 바 있다. 유럽 뿐 아니라 캐나다에서도 불법으로 판정됐다. 그러나 클리어뷰 측에서는 이미 공개된 자료이기 때문에 법적 문제는 없다고 주장한다. 법적 제재와 기술의 발전 사이에서 혼선이 반복된다.
  • GDPR ; EU는 유럽에 사는 사람들의 정보를 보호하고자 2018년부터 GDPR을 시행했다. EU의 GDPR은 개인 정보 수집 동의 요건을 강화하고, 데이터 이동권과 잊혀질 권리 등을 도입하며 기술적 발전에 따른 개인 정보 유출 구멍을 막으려 했다. GDPR에 따르면 개인 데이터를 민감한 목적으로 이용하기 위해서는 데이터 주체, 즉 얼굴 주인의 명시적 동의가 필요하다. 클리어뷰는 이 명시적 동의 절차를 거치지 않았다.

REFERENCE_ 기업의 선택
  • MS ; 안면 인식에 대한 불안감이 고조되고 기업의 윤리적 선택이 시험대에 오르자 많은 빅테크 기업이 결단을 내렸다. 일례로 지난 6월 마이크로소프트는 얼굴 인식 서비스의 접근을 제한하고 일부 기능은 아예 중단하기로 결정했다. 내년 6월부터는 얼굴 인식 서비스를 이용하고자 하는 경우 사전에 마이크로소프트 측에 자료를 제출해야 하며 ‘윤리 AI 기준’에 따라 요건을 심사한다.
  • 애플 ; 한편 애플의 행보는 MS와는 대척점에 서있다. 지난 6월 진행된 WWDC에서 애플은 iOS 16에서 지문과 얼굴 인식으로 모든 비밀번호를 대체하겠다고 발표했다. 생체 인식의 보편화를 통해 비밀번호 유출 등의 보안 문제를 해결하겠다는 야심이다.
  • 네이버와 카카오 ; 네이버와 카카오 등의 한국 기업의 경우는 안면 인식 기술을 적극적으로 발전시키고 있다. 카카오 엔터프라이즈는 지난 6월 AI 얼굴 인식 기술 국제 대회에서 1위를 차지했고 네이버는 제2사옥에 안면 인식으로 직원 출입을 허용하는 페이스 사인을 도입했다.

REFERENCE_ 범죄 예측

미국 흑인 사회와 공권력은 일종의 순환 관계를 형성한다. 흑인 범죄율이 높으니 흑인이 주로 거주하는 동네에 공권력이 더 많이 투입되고, 과다 투입된 공권력으로 인해 범죄 발생률이 타 도시에 비해 높다. 범죄율이 높아지니 체포, 구금 등으로 인해 가족이 해체되고 다시 범죄로 유입될 가능성이 늘어난다. 구조화된 이 순환에 인공지능의 확증 편향이 개입된다면 문제는 더 커질 수 있다.
ANALYSIS_ My Blue Window

‘아메리칸 아티스트(American Artist)’의 2019년 영상 작업인 〈My Blue Window〉는 인공지능 도구인 예측 치안 기술의 실행 화면을 보여준다. 실제 경찰에게 보급된 범죄 예측 시스템은 아직 범죄가 일어나지 않았음에도 불구하고 흑인과 이주민이 거주하는 동네에서 범죄가 발생할 가능성이 높다고 경고한다. AI와 알고리즘 기술은 누군가에게는 더 가혹하다. 한상기 테크프론티어 대표는 다음과 같이 말했다. “우리나라에도 얼굴 인식 기업들이 많은데 이주 외국인 노동자에 대해 기술을 적용하면 인식률이 얼마나 될지 의문이다.”
KEYPLAYER_ 혼 톤-댓

허핑턴포스트가 취재한 바에 따르면 클리어뷰 AI의 창립자이자 CEO인 혼 톤-댓(Hoan Ton-That)은 미국의 극우주의자였다. 뿐만 아니라 그와 함께 일한 많은 이들이 대안우파와 깊고 오랜 관계를 갖고 있었다. 톤-댓은 트럼프를 내세운 극우적 프로젝트에 참여했으며 안면 인식을 통해 불법 이민자를 식별하기에 이르렀다. 플랫폼과 기술은 글로벌하게 발전하지만 공평하지는 않다. 대안 우파 CEO의 기획에서 불법 이주민의 얼굴 정보를 수집하고 경찰에 전하는 것은 ‘옳은 일’이다.
INSIGHT_ 글로벌의 붕괴

플랫폼은 글로벌하고, 모두가 얼굴을 가지고 있다. 한편 법은 국경과 정치적 선택으로 파편화돼 있다. GDPR의 제재가 확대되면 EU 소속 국가에 살고 있는 사람들의 안면 데이터는 더 이상 수집될 수 없다. 몇몇 데이터의 수집 중단은 미시적으로는 클리어뷰 AI의 성능을 저하시킨다. 거시적으로는 특정 국가에 속하거나 특정 법의 규제를 받는 사람의 데이터를 미흡하게 만든다. 전 세계적 표준을 보장하는 글로벌의 시대는 저물고 있다. 정보가 자본이 된 시대에서 정보 유출은 곧 자본 유출이다. GDPR의 조치가 단순히 개인의 정보를 보호하는 것을 넘어서는 이유다. 2008년 오픈넷이니셔티브가 출간한 《접근 거부(Access Denied)》는 다음과 같이 썼다. “…월드와이드웹 대신 사우디 와이드웹, 우즈벡와이드웹, 파키스타니와이드웹 타이와이드웹 등이 제각각 존재한다고 말하는 것이 더 정확할 것이다.”
FORESIGHT_ 강화

개인 정보 침해와 검열은 이데올로기 아래에서 작동한다. 때문에 정부와 권력 기관은 안면 인식 기술로 대규모 검열을 진행할 수 있다. 조지 플로이드 사건과 클리어뷰 AI의 느슨한 연관이 공포로 다가온 이유다. 글로벌은 무너지고 정보는 자본이 됐다. 인공지능과 신기술에는 국경이 세워졌다. 중국의 복면금지법과 이주민 식별은 앞선 원인에 대한 자연스러운 결과였다. GDPR을 비롯한 국가의 정보 보호 정책은 결국 강화될 것이다. 그러나 한편으로는 인공지능과 알고리즘을 활용한 개인 식별과 예방적 조치 역시 확대될 것이다. 기술 안에 투입되는 정보는 편향돼 있다. 미래의 안면 인식은 어딘가에 사는 누군가에게는 더 강력하다.


인터넷을 비롯한 디지털 기술을 통해 정치 혁신 실험의 사례를 알고 싶으시다면 《대만의 디지털 민주주의와 오드리 탕》을 추천합니다.
포캐스트를 읽으시면서 들었던 생각을 댓글로 남겨 주세요.
여러분의 의견이 북저널리즘을 완성합니다.
다음 이야기가 궁금하신가요?
프라임 멤버가 되시고 모든 콘텐츠를 무제한 이용하세요.
프라임 가입하기
추천 콘텐츠
Close