AI 알고리즘 영상 많이 본 유아, 비속어 대화 위험 높아
AI 알고리즘 영상 많이 본 유아, 비속어 대화 위험 높아
[천근아의 세상 속 아이들] 인공지능 세상과 아이들
“오래 기다리느라 힘들었지?”
장시간 대기 끝에 진료실에 들어온 해수에게 위로하듯 말을 건넸다.
“괜찮아요. 영상 보느라 시간 가는 줄 몰랐어요.” 해수가 경쾌하게 대답했다.
“대기실에서 무슨 영상들을 봤는데?” 나는 호기심 가득한 표정을 지으며 해수를 향해 물었다.
“뭐긴 뭐겠어요. 엘리베이터 영상이죠.” 해수는 너무 당연하다는 듯 대답했다.
올해 초등학교 4학년이 된 해수는 자폐스펙트럼장애로 5년째 진료 중이다. 해수는 유아기부터 지하철과 엘리베이터를 너무 좋아했다. 부모는 아이와 대중교통을 이동할 때 늘 지하철을 타야만 했고 건물에 들어갈 때마다 엘리베이터를 향해 돌진하는 아이를 쫓아다니기 바빴다. 성장하면서 관심사가 다양한 것들로 옮겨가긴 했지만 아직도 엘리베이터에 대한 관심은 여전하다. “선생님, 유튜브에는 무슨 엘리베이터 동영상들이 그리 많은지 모르겠어요. 애가 온종일 그것만 보는데도 또 볼 게 남았는지 질리지도 않나 봅니다.” 옆에서 해수와 나의 대화를 들으며 묘한 표정을 짓고 있던 해수 엄마는 하소연하듯 말했다.
비슷한 내용의 영상만 반복해 시청
천근아 알고리즘
“아이가 한두 번 엘리베이터 영상을 찾아보면 인공지능(AI) 알고리즘이 비슷한 영상을 계속 추천하니까요. 해수에게는 관련 영상들이 반복해 뜨게 되고 아이는 무심히 영상을 재생하게 되겠죠. 어머님께서 정기적으로 감독하시면서 검색 설정도 바꿔주시는 것이 좋을 것 같아요. 스마트폰 사용 시간도 줄이도록 도와주시면 더욱 좋구요.” 나는 해수 엄마에게 당부의 말씀을 드렸다.
이는 비단 해수와 같은 아이들만의 문제가 아니다. 일반 아이들도 가정에서 놀이와 식사 시간, 부모의 가사일 등으로 혼자 보내는 시간에 스마트폰이나 TV 스크린으로 유튜브를 시청하는 경우가 많다. 유튜브 알고리즘이 추천하는 동영상들 속에서 아이들은 다양한 정보와 언어들을 학습한다. 영상 콘텐츠 속에 등장하는 각종 언어 표현에 대한 가치 판단이 부족한 미숙한 어린아이일수록 무분별한 콘텐츠 노출은 위험하다.
약 2년 전 흥미로운 실험에 대한 기사를 읽은 적이 있다. 3D 모델링 기법으로 실제 5세 유아와 똑같은 모습을 한 2개의 AI 유아 모델을 만들어 한쪽 AI 유아에게는 유튜브에서 무작위로 노출된 콘텐츠를 통해 34만 어절을 학습시키고 다른 AI 유아에게는 아동문학 작품을 동화 구연가가 읽어주는 콘텐츠를 통해 34만 어절을 학습시켰다.
2주 동안 학습 후 무작위로 유튜브 영상을 시청한 AI 유아는 엄마와의 대화에서 비속어를 사용했다고 한다. 예컨대, 엄마가 ‘오늘 유치원에서 뭐했어?’라고 물으니 “유치원에 찌질한 애들뿐이라 노잼이야”라고 답했고, ‘엄마가 나쁜 말 쓰면 안 된다고 그랬지?’라고 하니, “엄마 개짜증나”라고 답했다고 한다. 반면 동화 콘텐츠로 학습한 AI 유아는 같은 질문에 “종이접기 놀이를 했어요”, 엄마가 하늘을 어떻게 날 수 있느냐는 질문에는 “구름빵을 먹으면 훨훨 날 수 있어요”라고 답했다고 한다.〈경향신문 2020년 6월 11일자 기사 참조〉
이 실험은 아이가 실제 가정 내에서 부모와의 상호작용을 통해 교정될 수 있는 측면을 배제했다는 점에서 다소 극단적인 실험이라고 생각될 수 있다. 그럼에도 불구하고 아이들이 AI 알고리즘에서 무분별하게 추천하는 영상 콘텐츠에 노출됐을 때 어떤 부작용이 발생할 수 있는지를 잘 보여주는 실험이라고 생각한다.
이 시대의 아이들은 AI와 함께 성장한다고 해도 과언이 아니다. 올해 1월에 개최된 2022 세계경제포럼(다보스 포럼)에서는 ‘AI와 아이들’에 대한 주제를 다뤘다. 전 세계 아이들이 AI 알고리즘과 상호작용하며 성장하는 시대임에도 불구하고 AI가 아이들에게 미치는 부정적 영향에 대해서는 관심을 거의 기울이지 않고 있는 것에 대해 경고했다.
배경
물론 AI가 아이들의 교육과 건강에 많은 유익함을 제공하는 것은 사실이다. AI 기반 학습 방식은 교육 혁신의 핵심 동력이 됐다. 아이들의 지식수준과 과제 우선순위 부여 등의 학습 습관을 AI가 파악해서 개별화된 학습 지원을 해준다. 사용자의 요구에 따라 교육 콘텐츠를 큐레이션하는 AI 지원 학습 소프트웨어도 있다. 완벽하진 않더라도 채점과 피드백을 자동화하는 데도 AI 활용 빈도가 늘어나고 있다.
교육 분야 이외에도 아이들의 건강과 연계된 디지털 헬스 시장에서도 AI는 빼놓을 수 없다. 미국의 코그노아(Cognoa)라는 회사에서는 자폐스펙트럼장애의 조기 진단을 위해 AI 기반 앱 진단 보조 프로그램을 개발했고 미국 식약처 승인까지 받았다. 이 소프트웨어 의료 기기 시장이 전 세계로 확대된다면 발달장애 조기 발견에 획기적인 기여를 할 것이다.
국내에서도 최근 자폐스펙트럼장애 디지털 치료제 관련 연구개발(R&D) 사업에 정부가 대규모 지원을 해서 많은 임상 기관과 IT 회사들이 상호 협력해 AI 기반 치료제 개발에 힘을 쏟고 있다. 그 외에도 아이들의 언어에서 감지되는 우울증의 징후, 희귀 유전적 질환에 대한 AI의 역할에 대한 연구가 대규모로 진행된 바 있다. 온라인 아동 성범죄나 착취 수법을 식별하여 아이들 안전을 보장하기 위해 AI를 활용한 긍정적인 사례도 늘어나고 있다.
이러한 AI의 잠재력과 이득에도 불구하고 AI가 아이들에게 미칠 수 있는 위험 요소를 간과해서는 안 된다. 많은 전문가들은 AI가 아이들에게 미칠 수 있는 위험 요소 중 가장 보편적인 것이 아이들 개인정보 보안의 위험이라고 말한다. 특히 아이들에게 AI와 관련된 보안은 무엇보다도 엄격하고 신속하게 이루어질 필요가 있다. 아이들은 성인에 비해 데이터 공유의 영향이나 자신이 입력하고 사용한 데이터가 어떻게 활용되는지 거의 알지 못하기 때문이다.
2017년에도 200만 명 이상 아이들의 음성 메시지 정보가 해커들 손에 들어가 유출된 데이터 침해로 인해 클라우드 펫 테디 베어 상품이 시장에서 전면 회수된 사건이 있었다. 이 사건 외에도 아이들의 민감한 생체 데이터를 포함한 개인 정보들이 가상 보조 장치나 스마트 장난감을 포함한 지능형 장치에 의해 캡처되고 처리되어 범죄자들의 손에 들어가 아이들의 안전을 위협한 사례가 적지 않다. 또 다른 위험 요소는 미래에 대한 위험이다. AI 기술이 점점 고도화되면서 미래의 직업이 바뀌고 필요한 기술도 변화될 것이다.
세계경제포럼에서는 2065년까지 초등학교 아이들의 65%가 현재 존재하지 않는 직업에 종사할 것으로 추정했다. 따라서 미래 세대에게 코딩 기술과 AI 기술 훈련이 필요하고 공교육 정규 과정에 통합되어야 한다고 주장한다. 그와 동시에 아이들이 AI 기술에 대해 비판적으로 생각하고 관련 위협과 기회에 대한 판단 능력을 키우도록 교육받는 것이 중요하다고 생각한다.
AI에 대한 비판적 판단력 키워줘야
마지막 위험 요소는 AI가 아이들의 행동과 발달에 미치는 부정적 영향이다. 아이들은 미숙하고 유연해 어른들보다 주변 환경의 영향을 받기가 훨씬 쉽다. 앞서 언급한 사례 속 해수와 무분별한 콘텐츠를 학습시킨 AI 유아 모델 실험 결과는 결코 남의 일이 아니다. AI는 지금 이 순간에도 우리 어린 자녀들의 의사소통 기술에 큰 영향을 미치고 있다. 부모는 자녀가 유튜브 상에서 어떤 내용의 콘텐츠를 반복해서 보는지, 그 콘텐츠에서 사용하는 언어는 무엇인지 꼼꼼히 살피고 적절히 감독해 줄 필요가 있다.
유니세프에서는 몇 년 전부터 아동들을 위한 AI 프로젝트를 진행 중이다. 지난해 말 유니세프에서는 ‘아동용 AI 정책 권고서 2.0(Policy guidance on AI for children 2.0)’을 발간했다. 정책 권고서의 핵심인 ‘AI에 대한 아이들의 9가지 권리’를 아이 입장에서 표현한 문장 중 인상적인 내용이 있다.
“저는 AI가 나에게 어떤 영향을 미치는지 알아야겠어요. 어른들은 제게 그것을 설명할 책임이 있습니다.”
아이들을 위한 AI 기반 디지털 치료제에 대한 연구개발이 활발한 이 시점에서, 연구자로서 아이들에게 AI의 영향에 대해 보다 투명하고 적극적으로 설명해야 할 책임을 통감한다.
※개인 정보 보호를 위해 등장인물을 가명으로 처리했고, 전체 흐름을 왜곡하지 않는 범위에서 일부 내용을 각색했음을 알려드립니다.
천근아 연세대 세브란스병원 소아정신과 교수. 연세대 의과대학을 졸업하고 석·박사 학위를 받았으며 현재 세브란스병원 소아정신과장으로 재직 중이다. 2008년 영국 국제인명센터(IBC)의 ‘세계 100대 의학자’로 선정. 서울시교육청 자문위원, 가정법률상담소 교육위원, 법무부 여성아동정책심의위원으로 활동했다. 저서로는 『아이는 언제나 옳다』, 『엄마 나는 똑똑해지고 있어요』가 있다.