오늘날 아동은 학교와 가정 등 어디에서나 인공지능(AI)과 함께하고 있습니다. 숙제를 하거나 궁금한 것을 검색할 때뿐 아니라 고민을 털어놓고 위로를 받는 과정에서도 AI는 자연스럽게 아동의 삶 속으로 들어와 있는 것 입니다.
이러한 AI 기술의 빠른 발전은 정서적 의존, 유해 콘텐츠 노출, 개인정보 침해, 딥페이크 범죄 등 새로운 위험도 빠르게 증가시킵니다. 그러나 새로운 위험으로부터 아동의 권리를 보호하기 위한 사회적 논의와 제도는 충분히 따라가지 못하고 있습니다.
이러한 문제의식을 바탕으로 지난 7월 1일 초록우산과 조인철, 최형두, 이해민 국회의원은 「인공지능 환경에서의 아동·청소년 권리 보장을 위한 국회 정책토론회」를 개최했습니다. 이번 토론회에서는 AI 시대에 아동의 권리를 어떻게 보호할 것인지, 그리고 국가와 기업의 책무는 무엇인지에 대해 다양한 전문가들이 의견을 나누었습니다.
#기조강연 – 왜 지금, 인공지능과 아동권리인가
기조강연은 박형빈 서울교육대학교 윤리교육과 교수가 맡아 ‘왜 지금, 인공지능과 아동권리인가’를 주제로 발표했습니다. 박형빈 교수는 인공지능 기술이 빠르게 일상 속으로 확산되고 있는 만큼, 기술 발전의 혜택을 모든 아동이 안전하게 누릴 수 있도록 법적·윤리적 기준을 마련해야 한다고 강조했습니다. 특히 AI 아동의 발달적 특성과 취약성을 고려한 정책과 제도 설계가 필요하며, 안전한 인공지능 사회를 만들기 위해서는 아동의 권리를 중심에 두는 접근이 필요하다고 설명했습니다.
#주제발표 – 인공지능 서비스 이용자인 아동·청소년의 권리 보장
이어 초록우산 강영은 사내변호사는 ‘인공지능서비스 이용자인 아동·청소년의 권리보장’을 주제로 발표를 진행했습니다. 강영은 변호사는 해외 입법 사례를 중심으로 아동·청소년의 권리를 보호하기 위한 국내 법·제도의 개선 필요성을 제기했습니다. 특히 인공지능취약계층 내 아동청소년 포함, AI 서비스 제공자의 안전장치 구축 의무, 사업자의 책임 강화 등 인공지능 환경에 적합한 아동 보호 체계가 마련되어야 한다고 강조했습니다.
#종합토론 – AI 환경에서 아동을 어떻게 보호할 것인가
이어진 종합토론에서는 박미애 국제인공지능윤리협회 부회장이 좌장을 맡아 AI 챗봇의 정서적 의존 문제와 딥페이크, 알고리즘 기반 유해정보 노출 등 인공지능 환경에서 아동·청소년이 직면하는 다양한 위험과 해결방안 대한 논의가 이어졌습니다.
먼저 김판 국민일보 기자는 최근 해외에서 컴패니언 AI(동반자형 AI)에 과몰입한 청소년들의 자살 사례가 잇따르고 있다고 소개했습니다. 또한 국내에서도 아동·청소년의 AI 챗봇 이용이 급증하고 있는 만큼, 정서적 의존과 과몰입 실태를 면밀히 파악하고 이에 대한 제도적 대응을 서둘러야 한다고 강조했습니다.
조수현 계명대학교 교육학과 교수는 “아이들에게 AI는 단순한 도구가 아닌 ‘비밀일기장’과 같은 존재가 되고 있다”고 설명하며, 아동·청소년의 AI 이용을 일방적으로 제한하기보다 AI와의 상호작용이 정신건강과 삶에 미치는 영향을 장기적으로 연구하고, 아이들이 안전하게 자신의 AI 경험을 나눌 수 있는 환경을 조성해야 한다고 제언했습니다.
신혜진 서울남부지방검찰청 부장검사는 딥페이크 성범죄와 온라인 사칭, 챗봇 과의존 등 인공지능 이용으로 인한 아동·청소년 피해가 증가하고 있다고 지적했습니다. 이어 정보통신서비스 제공자의 책임 강화, 챗봇 안전장치 구축 의무화, 알고리즘 투명성 확보 등 보다 적극적인 입법적 대응이 필요하다고 강조했습니다.
김나정 국회입법조사처 과학방송통신과 입법조사관보는 현행 법제가 AI 챗봇의 구조적 위험성과 아동청소년 보호의 공백을 충분히 반영하지 못하고 있다고 지적했습니다. 특히 플랫폼 설계 단계부터 안전성을 확보하고, 아동청소년 보호를 위한 사업자 의무를 강화하는 방향으로 정책 패러다임이 전환되어야 한다고 제안했습니다.
김하나 국가인공지능전략위원회 사회분과 위원과 김혜숙 방송통신위원회 인공지능이용자보호과 과장, 최우석 과학기술정보통신부 인공지능안전신뢰지원과 과장 역시 인공지능 시대 아동·청소년 보호를 위한 제도 개선과 정부 차원의 정책 추진 필요성에 공감하며, 안전하고 신뢰할 수 있는 인공지능 환경 조성을 위한 지속적인 노력이 필요하다고 강조했습니다.
#앞으로의 과제
이에 토론회에 앞서 지난 6월 22일, 국회에서는 조인철 국회의원의 대표발의로 ‘우리 아이 AI 안심 패키지법’이 발의되었습니다. 이번 법안은 생성형 인공지능 환경에서 아동·청소년을 인공지능 취약계층으로 명시하고, 국가 차원의 보호 시책 마련과 AI 서비스 제공자의 아동·청소년 보호 의무를 강화하는 내용을 담고 있습니다. 특히 보호 대상을 기존 만 14세 미만에서 만 19세미만으로 확대해 자해·자살 조장, 성착취, 과의존 등 다양한 위험으로부터 아동·청소년을 보호하기 위한 제도적 기반을 마련했다는 점에서 의미가 큽니다.
이번 정책토론회는 AI 시대 아동·청소년이 마주하는 새로운 위험을 확인하고, 아동권리를 보장하기 위한 정책과 제도의 방향을 함께 모색했다는 점에서 중요한 의미를 가집니다. 토론회에서 제기된 다양한 제언들이 실제 법·제도 개선으로 이어져, 모든 아동이 안전한 인공지능 환경에서 성장할 수 있는 사회적 기반이 마련되기를 기대합니다.
초록우산은 앞으로도 인공지능 시대 속 아동의 최선의 이익이 보장될 수 있도록 아동권리 기반의 정책 개선과 사회적 공감대 확산을 위한 옹호활동을 지속해 나가겠습니다.
