“AI가 사람인지 AI인지 알 수 있어야 한다고 생각해요.”
“AI가 잘못했을 때 AI를 만든 사람이 책임져야 하지 않나요?”
AI가 우리의 일상 속으로 빠르게 들어오고 있습니다. 궁금한 것을 검색하고, 공부를 하고, 글을 쓰는 것 뿐만 아니라 때로는 고민을 이야기하고 위로를 받는 데에도 AI를 활용합니다.
특히 아동·청소년에게 AI는 단순한 기술이나 도구를 넘어, 일상생활과 관계를 맺고 소통하는 삶의 일부가 되고 있습니다. 하지만 편리함 만큼 새로운 위험도 생겨나고 있습니다. 개인정보 침해, 허위정보와 유해 콘텐츠, 딥페이크와 같은 범죄, AI에 대한 정서적 의존 등 아동이 마주할 수 있는 위험도 다양해지고 있습니다.
이에 초록우산은 국제인공지능윤리협회 및 AI, 윤리, 철학, 법학 전문가와 함께 ‘아동권리기반 AI 헌장’ 제정을 추진하고 있습니다. 아동권리기반 AI 헌장은 인공지능 기술의 개발·운영·활용 전 과정에서 아동권리와 아동 최선의 이익을 우선적으로 고려해야 한다는 사회적 원칙을 담고, 이를 실현하기 위한 Safety by Design(안전설계) 기준을 제시합니다.
# AI를 사용하는 아동들은 어떤 세상을 바라고 있을까요?
지난 8월 8일 토요일, ‘아동권리기반 AI 헌장’에 아동의 목소리를 담아내기 위해 전국의 아동권리옹호단과 함께 아동참여워크숍을 진행했습니다. 이 워크숍은 단 하루만의 논의가 아닙니다. 지난 6월부터 AI 시대 아동에게 다가올 기회와 위험, 그리고 필요한 권리를 함께 고민하며 오늘 이 자리까지 오게 되었습니다.
# 아이들이 직접 읽어본 ‘아동권리기반 AI 헌장’
초록우산은 아이들에게 헌장을 보여주고 “이 내용에 동의하나요?”라고 물었습니다.
그리고 아이들이 자신의 생각을 쉽게 표현할 수 있도록 스티커를 활용했습니다. 공감하는 내용에는 초록색, 쉽게 표현할 필요가 있는 내용에는 노란색, 수정이 필요한 내용에는 빨간색 스티커를 붙였습니다. 더하고 싶은 의견은 직접 손글씨로 적었습니다.
아이들은 AI가 사람이 아님을 명확히 알리고 AI에 정서적으로 의존하지 않도록 설계해야 한다는 점에 공감했습니다. 또한 AI 이용과정에서 안전하고 차별받지 않을 권리, 개인정보 보호의 중요성도 이야기하였습니다.
하지만 아이들이 모든 내용에 고개를 끄덕인 것은 아니었습니다.
아이들은 헌장에 빠진 내용은 없는지 꼼꼼히 살피며, 필요한 의견을 직접 더했습니다. 특히 아동의 의견을 듣는 것에서 끝나서는 안 된다는 점을 강조하였습니다. 국가와 디지털 플랫폼이 아동의 권리와 안전을 위해 의견을 들었다면, 그 의견이 실제로 어떻게 반영됐는지도 투명하게 알려줘야 한다고 제안했습니다.
# 아이들이 원하는 AI 세상
이번 워크숍에서 아이들은 AI를 무조건 두려워하거나 사용하지 말아야 한다고 이야기하지 않았습니다. AI가 주는 편리함과 가능성을 인정하면서도, 아동의 안전과 권리가 함께 지켜져야 한다고 강조했습니다.
아동들의 의견처럼, 모든 아동·청소년은 차별 없이 AI를 이용하고 개인정보를 보호받아야 합니다. AI가 사람인지 아닌지 알 수 있어야 하며, AI와 관련된 의사결정에 자신의 목소리를 낼 수 있어야 합니다. 무엇보다 AI를 이용하다 문제가 생겼을 때는 적절한 보호와 도움을 받을 수 있어야 하고, 그 책임이 아동에게만 돌아가서도 안 됩니다.
초록우산은 이번 워크숍에서 나온 아동·청소년의 의견을 바탕으로 ‘아동권리기반 AI 헌장’을 보완하고 완성해 나갈 예정입니다.
아동들의 생각과 목소리를 담은 ‘아동권리기반 AI 헌장’이 어떤 모습으로 완성될지 많은 관심 부탁드립니다.
아동에게 더 안전한 AI 세상을 만들어가는 여정에 함께해 주세요!
