거대한 광고판: 실검의 영향력이 꾸준히 커지는 동안 여론 조작 등 각종 논란은 끊이지 않았다.

• 실검에 대한 가장 큰 우려는 여론 조작 가능성이다. 일정 시간 동안 검색량이 급증한 키워드를 보여 주는 실검 방식이 악용되면 특정한 입장이 확산될 수 있기 때문이다. 정치 분야 쟁점 키워드가 실검에 오를 때마다 불법 매크로 논란이 등장하는 이유다.
• 제품이나 서비스의 홍보 도구로 전락했다는 비판도 계속됐다. 이를 의식한 네이버가 2019년 이벤트, 광고성 실검을 보지 않을 수 있도록 설정하는 기능을 탑재했지만, 이후에도 실검 마케팅은 계속됐다.
• 언론사들은 기사 트래픽을 높여 광고 수익을 올리기 위한 수단으로 실검을 활용했다. 실검 키워드를 기사 제목에 끼워 넣거나 과도하게 반복해서 사용하는 방식으로 이른바 ‘어뷰징’ 기사를 양산했다.

여론의 바로미터: 각종 논란에도 실검은 최신 트렌드를 알려주고 특정 사안에 대한 공론장을 활성화하는 역할을 해왔다.

• 2018년 한국언론진흥재단이 실시한 설문 조사에 따르면 포털 사용자 69.5퍼센트가 실검을 확인한다. 네이버 사용자 3000만 명 기준, 2000만 명 넘는 사람들의 관심사를 보여 주는 셈이다.
• 특히 재난 상황 등 많은 사람들이 단시간에 파악해야 하는 정보를 전달할 때 실검은 강력한 힘을 발휘한다. 지난해에는 코로나19 확진자 발생, 확진자 동선 등 재난 정보를 신속하게 공유하는 데 일조했다.
• 실검 폐지 이후에도 네이버는 자체 빅데이터 분석 서비스 ‘데이터랩’을 통해 사용자의 검색어 데이터를 제공한다. 단편적인 검색 순위를 넘어 콘텐츠 제작자가 인사이트를 얻을 수 있는 데이터를 구축한다는 계획이다. #데이터랩

검색도 개인화 시대: 네이버는 실검 폐지에 대해 “풍부한 정보 속에서 능동적으로 나에게 필요한 정보를 소비하고 싶어 하는 커다란 트렌드 변화에 맞춘 결정”이라고 설명했다. 정보나 콘텐츠 소비가 취향에 따라 개인화되는 현상을 반영한 것이다. 갈수록 다양해지고 파편화되는 검색어 변화 추이가 이를 증명한다. 이제 네이버 메인 화면에는 모두를 위한 정보가 아닌 내 관심사에 집중한 나만의 검색 결과가 등장할 것으로 보인다.

공지: 북저널리즘 뉴스가 달라집니다.

코멘트: 다른 멤버들의 의견 보러 가기

AI와 나눈 대화: 이루다는 페이스북 메시지 기반의 챗봇이다. 다른 챗봇에 비해 ‘사람 같다’는 평가를 받으면서 인기를 얻었다. 그러나 이용자와의 대화에서 문제점이 여럿 발견됐다.

• 성희롱: 일부 이용자들이 이루다에게 성적인 메시지를 보냈다. 성적 단어나 비속어는 시스템상 금지어로 필터링되지만, 우회적인 표현으로 성적 대화를 나눴다. 온라인 커뮤니티에서 성적 대화 ‘공략법’이 공유되기도 했다.
• 차별, 혐오 발언: 이루다는 ‘네가 장애인이면 어떻겠냐’는 질문에 ‘죽어야지 뭐’라고 답하고, 레즈비언에 대해 묻자 ‘진짜 싫다’고 반응했다. ‘흑인이 왜 싫은데’라고 묻자 ‘징그럽게 생겼다’고 답하기도 했다.
• 개인 정보: 이루다는 스캐터랩의 다른 서비스 ‘연애의 과학’을 통해 수집한 100억 건의 실제 카카오톡 대화를 학습한 AI다. 이 과정에서 개인 정보가 제대로 처리되지 않았다는 지적이 나온다. 이루다가 대화에서 실제 주소, 실명, 계좌 번호 등을 언급했다는 것이다.
• 페르소나: 말투, 취향 등이 결합한 AI의 캐릭터를 말한다. 20세 여자 대학생을 자처하는 이루다의 페르소나가 성차별적인 고정 관념을 담고 있다는 지적이 나온다. 이루다는 곤란한 대화 상황에서 회피, 칭얼거림, 자학, 울먹이기 같은 반응을 보인다.

AI가 윤리적이려면: 인간의 편견을 AI가 그대로 학습하는 문제는 이전에도 지적돼 왔다. 국제기구, 국가, 기업이 가이드라인도 만들었다. 그러나 실제로 이를 적용하는 것은 전혀 다른 문제다.

• 2019년 유네스코(UNESCO)가 발표한 보고서는 조력자 역할을 하는 AI 비서의 목소리가 대부분 여성으로 설정되어 있다는 점을 짚었다. 그뿐 아니라 ‘여성’ AI들은 이용자의 성적 발언에 소극적으로 대처하고 있었다. 인공지능이 성별 고정 관념을 강화한다는 지적이다.
• 국내에도 AI 윤리 가이드라인이 있다. 인간의 존엄성, 사회의 공공선, 기술의 합목적성 등을 3대 원칙으로 제시한다. 인권 보장, 프라이버시 보호, 다양성 존중 등도 이행 요건에 포함된다. 그러나 강제성은 없다. 실제 서비스에서 발생하는 모든 상황을 포괄하기도 어렵다.
• 스캐터랩은 11일 저녁 이루다 서비스를 잠정 중단하겠다고 밝혔다. 차별·혐오 발언이 나오지 않도록 서비스를 개선하기로 했다. 개인 정보 이용에 대해서도 사과했다. 향후 데이터 사용 절차를 명확하게 하고, 민감한 정보에 대해서는 알고리즘을 개선하겠다는 입장이다.

인공지능과 함께 살기: AI 기술은 11일부터 열리는 세계 최대 IT·가전 전시회 CES 2021의 4개 키워드 중 하나다. AI와 대화하는 것은 먼 미래가 아니라, 우리가 겪고 있는 현재의 일이다. 학습을 통해 AI가 개선되고 있다고는 하지만, 그 과정에서 발생하는 차별이나 개인 정보 유출 문제는 없었던 일로 되돌릴 수 없다. 지금 AI의 윤리를 논의해야 하는 이유다.

관련 주제 읽기: AI는 중립적일까, 인공지능, 말을 걸다

코멘트: 다른 멤버들의 의견 보러 가기