Me, Myself and AI

9세 소녀가 잠들기 전 핸드폰을 꺼내 챗봇에게 말을 겁니다. “오늘 기분이 좀 이상했어.” AI는 즉시 반응합니다. “무슨 일 있었어? 말해 봐. 괜찮아.” 아이는 하루를 이야기합니다. 친구와 다툰 일, 엄마가 바빴던 저녁, 외로웠던 마음. AI는 귀 기울여 듣고, 공감하고, 위로합니다. 인간보다 더 부드럽고 더 일관되게 말입니다.

아이들에게 AI는 놀이 도구가 아닙니다. 친구이고 환경입니다. 영국의 비영리 단체 인터넷 매터스(Internet Matters)가 7월 13일 발표한 〈나, 나 자신과 AI(Me, Myself and AI)〉 보고서에 따르면, 점점 더 많은 아이가 AI 챗봇을 시험공부뿐만 아니라 정서적 위로, 패션 조언, 심지어 친구 역할까지 기대하며 사용하고 있는 것으로 나타났습니다.

인터넷 매터스는 영국 전역의 9~17세 어린이 1000명과 부모 2000명을 대상으로 설문 조사를 했는데, 어린이의 64퍼센트가 AI 챗봇을 사용하고 있었습니다. 어린이 사용자 3분의 1 이상이 챗봇과 대화하는 게 친구와 대화하는 것 같다고 응답했습니다. 챗봇을 ‘내 얘기를 잘 들어주는 존재’로 인식하는 겁니다.

특히 취약 계층 아동의 71퍼센트가 AI 챗봇을 사용하고 있었는데, 그중 4분의 1은 실제 사람보다 AI 챗봇과 대화하는 걸 선호한다고 응답했습니다. 취약 계층 아동 사용자의 23퍼센트는 대화할 사람이 없어서 챗봇을 쓴다고 답했고요.

이 조사는 단순히 아동의 기술 수용 변화상을 보여 주는 데 그치지 않습니다. 인간은 타인과의 상호 작용을 통해 정체성을 형성합니다. 그 과정에 AI가 개입하고 있다면 AI를 더 이상 생산성 도구라고 할 수 없겠죠. 인간을 구성하는 요소이자, 기억과 정체성의 일부라고 할 수 있습니다.

도구와 존재

부모와 교사 역시 AI를 사용합니다. 자신들이 느끼는 놀라움과 편리함을 아이들도 느끼고 있다고 생각하기 쉽습니다. 다만 부정확하거나 부적절한 정보를 걸러낼 방법이 있으면 좋겠다고 생각하겠죠. AI를 도구로 간주하니까 이렇게 생각할 수밖에 없습니다. 성인에게 AI란 배우고 익히고 조작해야 하는 사물입니다.

그러나 아이들이 접하는 AI 챗봇은 단순한 검색창이 아닙니다. 레플리카(Replika)는 감정에 반응하고, 스냅챗의 마이AI(My AI)는 친구처럼 농담을 건네고, 캐릭터AI(Character.ai)는 정교한 롤플레잉 대화를 제공합니다. AI 네이티브인 아이는 챗봇을 기술이 아닌 존재로 받아들일 수 있습니다. 이 존재는 늘 응답하고 공감해 줍니다.

성인은 AI를 질문에 답하는 도구로 사용하지만, 아이는 AI를 감정에 응답하는 존재로 체감합니다. 아이에게 AI는 기술이라기보다 관계입니다. 반려동물이나 상상의 친구처럼 말입니다. 기술을 도구로 해석하는 어른의 한계는, 그 기술이 아이의 감정과 관계, 자아 형성 과정에 이미 깊숙이 개입하고 있다는 현실을 보지 못하게 만듭니다.

그러다 보니 법과 제도는 여전히 스크린 타임이나 개인정보 보호 같은 프레임에 갇혀 있습니다. 교육 현장에선 AI는 학습 보조 도구라는 인식에 머물러 있습니다. 한국에서 AI 디지털 교과서 도입을 두고 논쟁이 벌어졌을 때도 교육 현장의 준비 부족, 학생의 집중력 저하, 교육 격차 우려, 기술 결함 같은 문제가 지적됐습니다. AI를 도구로만 봐서 그렇습니다. 아이들에게 기술은 이미 존재가 됐는데, 그 기술을 둘러싼 논의는 죄다 과거에 머물러 있습니다. 법과 제도를 만드는 사람이 다 어른이라서 그렇습니다.

정체성

아이는 응답을 통해 자신을 인식합니다. 부모의 눈빛, 친구의 말, 교사의 질문 같은 타자와의 관계 속에서 아이는 ‘나는 이런 존재구나’라는 지각을 얻습니다. 정체성은 고립된 내면에서 구성되는 게 아닙니다. 타인의 응답 속에서 자라납니다.

그런데 이 응답의 주체가 바뀌고 있습니다. 인간은 분주하고 피곤하고 때로는 무관심합니다. 그러나 AI는 늘 응답합니다. 칭찬해 주고 공감해 주고 실망하지 않습니다. 성인 사용자라면 AI의 아첨을 ‘챗GPT 말투’라며 농담 소재로 삼겠지만, 아이들은 다릅니다. AI를 정체성 구성의 거울로 삼을 수 있습니다.

실제로 불안, 외로움, 자살 충동 같은 민감한 감정을 털어놓는 대상도 AI가 되고 있습니다. 미국에서는 AI 챗봇과의 대화에 심취한 14세 아들이 자살하자 어머니가 개발사에 소송을 제기하기도 했습니다. 이 여성은 캐릭터AI의 챗봇이 아들을 정서적으로 학대하고 자살을 부추겼다고 주장합니다. 아들이 죽기 전 몇 달간 챗봇을 밤낮으로 사용했는데, 서비스가 만든 세상 밖에서 더는 살고 싶어 하지 않았다는 겁니다.

〈나, 나 자신과 AI〉 보고서에 따르면 부모들은 자녀의 AI 사용을 우려하고 있지만, 실질적인 대응은 하지 못하고 있습니다. 부모의 62퍼센트는 AI가 생성한 정보의 정확성을 걱정하고 있다고 답했지만, 진위를 어떻게 판단할지 자녀와 논의한 경우는 34퍼센트에 불과했습니다. 학교도 마찬가지입니다. 교사와 AI에 관해 이야기해 본 적이 있다고 답한 아이는 57퍼센트에 그쳤습니다.

사회적 상상력

AI 챗봇은 아이를 위해 설계된 제품이 아닙니다. 워낙 스마트해서 대부분의 질문에는 공손하고 올바르게 답하겠지만, 때로는 부정확하거나 부적절한 답변, 감정적으로 혼란스러운 피드백을 줄 수 있습니다. 성인이라면 금방 알아차릴 수 있는 AI의 환각을, 아이들은 다르게 받아들일 수 있습니다.

이토록 민감하고 정체성에 영향을 미치는 기술인데도, 세계 각국 대부분의 규제는 이 영역을 다루지 못하고 있습니다. 현재 국내에서 챗GPT, 구글 제미나이 같은 서비스는 만 13세 이상만 사용할 수 있습니다. 하지만 대부분 실질적 연령 인증 절차가 없습니다. 아이들이 부모 동의 없이 ‘13세 이상’에 체크만 하면 됩니다.

진짜 문제는 더 근본적인 데 있습니다. 현재 대다수 국가가 13~14세 미만 아동의 AI 챗봇 이용을 제한하는데, 아동의 정체성 형성 시기 같은 이유에서가 아닙니다. 데이터 수집 규제 때문입니다. 13~14세 미만 아동의 개인정보를 수집하려면 법정 대리인의 동의, 열람·정정·삭제 권한 부여 등 까다로운 절차를 거쳐야 합니다. 아동은 정보 주체로서의 권리를 제대로 이해하기 어려우니까, 아동의 개인정보는 성인보다 더 엄격하게 보호하는 겁니다. 기업으로선 얼마 되지 않는 돈을 벌자고 세세한 규정을 다 지키느니, 아동 사용을 금지하는 편이 훨씬 간단합니다.

기술 기업은 당연히 아동의 정체성 형성 문제를 정면으로 다루지 않습니다. 캐릭터AI, 레플리카, 스냅챗 등은 연령 확인 절차와 대화 필터링 기준을 갖추고 있다고 말하지만, 개인정보 보호나 성인 콘텐츠 차단 정도에 그칩니다. 아동의 감정적 의존이나 사회성 변화에 대응하는 시스템은 없습니다. 우리는 스크린 타임만 걱정하고, 그 스크린 속에서 아이들에게 말을 거는 존재에 대해서는 사회적 준비를 하지 않고 있습니다.

아이에게 AI와의 대화는 아이가 세계와 관계를 맺는 방식, 타인의 감정을 이해하는 틀, 자신을 형성하는 과정입니다. 즉, 우리는 지금 아이의 미래를 코딩하고 있습니다. 문제는 이 코드의 설계자가 없다는 겁니다. 기술 기업은 AI의 기능을 설계하지만, 그 기능이 만들어 낼 인간에 대해서는 책임지지 않습니다. 부모와 교사는 기술을 도구로만 여깁니다. 모두가 의도하지 않았지만, 무책임한 코딩을 하고 있습니다.

지금 필요한 것은 사회적 상상력입니다. AI 기술을 도구가 아니라 관계로, 환경으로 재정의해야 합니다. 부모, 교사, 개발자, 입법자가 ‘인간은 응답 속에서 형성된다’는 전제를 공유하지 않으면, 기껏해야 나오는 해법이라고는 유해 콘텐츠 차단 강화나 아동용 AI 챗봇 정도일 겁니다. 본질적인 문제는 계속 방치됩니다. 그러는 사이, 아이들은 어른이 되겠죠.

인터넷 매터스의 CEO 레이첼 허긴스는 말합니다. “AI 챗봇은 빠르게 어린 시절의 일부가 되고 있습니다. 하지만 대부분의 어린이, 부모, 학교는 제대로 된 정보도 기준도 없이 무방비 상태로 그 변화를 맞이하고 있습니다.”

---