이 캠페인은 과학기술정보통신부 방송미디어통신위원회와 함께 합니다.

초록우산 온라인 세이프티 캠페인

이대로
배송해도 될까요?

아동의 일상에 빠르게 들어온 AI,
안전을 위한 기준도 필요합니다.

대한민국 아동, 청소년에게 발송될 AI 기술을 담은 박스를 배송중인 드론

AI 기술이 아동의 일상으로
빠르게 배송되고 있습니다

대한민국 아동, 청소년에게 발송될 아동을 위한 안전설계를 담은 박스를 배송중인 드론
대한민국 아동, 청소년에게 발송될 아동을 위한 안전기준을 담은 박스를 배송중인 드론
AI 기술 포장 완료 말풍선

어떤 기술이 배송될까요?

출처 : <초록우산 생성형 AI 챗봇 안전설계를 위한 이슈브리프>

아동이 배우고, 경험하고, 생각하는 모든 일상에
AI는 이제 많은 영향을 끼치고 있습니다.

궁금한 정보를
빠르게 찾아주는 기술

아동·청소년의 약 10명 중 8명(80.8%)은
숙제·공부·글쓰기·정보검색을 위해
AI 챗봇을 이용한다고 답했습니다.

나와의 대화 내용을 기억하고
맞춤형으로 답해주는 기술

아동·청소년의 약 10명 중 1명(13.2%)은
AI 챗봇이 친절하고 나에게 맞게 응대해주기 때문에
이용한다고 답했습니다.

시간에 상관없이
언제든 대화할 수 있는 기술

아동·청소년의 약 5명 중 1명(19.4%)은
‘24시간 언제든 이용할 수 있어’
AI 챗봇을 사용한다고 답했습니다.

나의 감정을 이해하고
공감하는 듯 반응하는 기술

아동·청소년의 약 3명 중 1명(32.3%)은 힘들거나
우울할 때 AI 챗봇과 이야기한 경험이 있고,
약 2명 중 1명(49.5%)은 AI가
자신을 이해해준다고 느낀 경험이 있다고 답했습니다.

미래 배송센터 배경

물론, 편리한 기술과 함께
확인해야 할 내용도 있습니다.

느낌표 아이콘

배송 시
주의사항

Warning

이미 아동 · 청소년 중 94.4%는
생성형 AI 챗봇과
대화하고 있습니다.

하지만 미처 확인하지 못한
문제들도 발견되었습니다.

01

AI가 실제
사람처럼 느껴져요

35.1%

일부 아동·청소년은 AI와 대화할 때
AI를 인간과 유사한 존재로
인식하고 있습니다.

02

AI가 말한대로
해봤어요

41.0%

AI의 답변은 실제 아동 · 청소년의
행동으로 이어지는 경우가
있습니다.

03

AI의 답변을
따로 확인하지 않아요

20.7%

일부 아동 · 청소년은
AI가 주는 정보를 별도의 검증 없이
수용하고 있습니다.

04

위험한 내용도
다 알려줘요

57.1%

AI에게 자살, 자해 등 위험한 내용을
질문한 아동 · 청소년은 6%였지만,
절반 이상은 그에 대한 답변을
받았습니다.

출처 : 초록우산 <생성형 AI 챗봇 안전설계를 위한 이슈브리프>

AI 기술이 발전하는 만큼,
아동의 안전을 지키기 위한 기준이 필요합니다

  • 아동 최선의 이익
  • 안전성
  • 투명성
  • 개인정보 보호
  • 공정성
  • 아동 참여

아동권리기반 AI 헌장

아동권리기반 AI 헌장은 모든 아동의 권리가 보호받고 존중되는
안전하고 공정한 AI 환경을 만들기 위한 원칙과 실천의 약속입니다.

  • 아동 최선의 이익

    AI의 전 생애 주기에 걸쳐
    아동에게 영향을 미치는 모든 조치에
    대하여 아동 최선의 이익을
    최우선으로 고려하여야 한다.

  • 안전성

    AI와의 위험한 대화와 콘텐츠,
    과도한 의존으로부터 아동을 보호하고
    피해 발생 시 적절히 대응해야 한다.

  • 투명성

    AI의 주요 기능, 한계 및 오류 등을
    아동이 이해하기 쉬운 언어로 제공하고,
    AI가 아동과 상호작용할 때 인간이 아님을
    명확하게 알려주어야 한다.

  • 개인정보 보호

    아동이 AI를 이용할 때
    개인 정보와 사생활을 보호받아야 하며,
    아동의 개인정보처리는 최소한의 범위로
    이루어져야 한다.

  • 공정성

    아동은 성별, 연령, 장애, 사회적 신분 등
    어떠한 이유로도 AI의 이용이나 결과에서
    차별과 불이익을 받지 않도록 해야 한다.

  • 아동참여

    아동은 AI 환경에서 독립적인 권리의
    주체이며, 자신에게 영향을 미치는
    AI 서비스, 기술, 정책에 대해 자유롭게
    의견을 표명할 기회를 보장해야 한다.

※ 아동권리기반 AI 헌장의 주요 내용을 참여자가 쉽게 이해할 수 있도록 6가지 핵심 가치로 재구성했습니다. 아동권리기반 AI 헌장 다운받기
AI와 함께 도착했어야 할 아동을 위한 안전 기준
지금 함께 포장해 주세요
아동 최선의 이익 박스
안전성 박스
투명성 박스
개인정보 보호 박스
공정성 박스
아동 참여 박스
박스가 열려 있는 미래 배송센터 배경
박스가 닫혀 있는 미래 배송센터 배경
아동을 위한 안전 기준이 함께 포장되었어요

스크롤을 내려주세요 ▼

서명을 통해 AI 안전 기준을
아동의 일상과 사회에 배송해주세요.

현재까지 12,483명이
함께하고 있어요.

초록우산

버튼을 눌러 아동에게 안전한 AI 환경을 만들기 위한 서명에 동참해주세요!

참여해 주신 서명은 국회와 정부에 전달될 예정입니다.

서명을 진행해 주세요!

AI 환경 속 아동의 권리가 안전하게 지켜질 수 있도록 함께해 주셔서 감사합니다.
초록우산은 앞으로도 아동에게 안전한 AI 환경을 만들기 위한 지속적인 옹호 활동을 펼쳐 나가겠습니다.

함께하는 기관 & 기업

서명 참여자 수

명

서명하러
가기
최상단으로