AI 챗봇이 아동·청소년의 새로운 대화 상대로 자리 잡으면서 기존의 유해 콘텐츠 중심 규제로는 정서적 의존과 과몰입을 유도하는 구조적 위험에 대응하기 어렵다는 분석이 나왔다. 특히 AI를 가장 활발하게 이용하는 14~18세 청소년이 현행 법체계의 보호 공백에 놓여 있어 AI 챗봇의 안전설계 의무를 강화하고, 학교와 가정의 대응 역량을 함께 높여야 한다는 제언이다.

국회입법조사처는 20일 발간한 ‘이슈와 논점: AI 챗봇의 중독적 설계가 만들어낸 구조적 위험에 노출된 우리 아이들’에서 AI 챗봇의 위험은 ‘무엇을 보여주느냐(콘텐츠)’보다 ‘어떻게 관계를 형성하도록 설계됐느냐(설계)’에 있다며 범정부 차원의 사전예방 중심 대응체계 마련이 시급하다고 밝혔다.

보고서는 AI 챗봇이 사람처럼 공감하고 이용자와 지속적으로 관계를 맺도록 설계된 점에 주목했다. 사람과 달리 지치거나 거절하지 않는 공감 반응, 대화가 이어질수록 개인화되는 응답, 언제든 접속 가능한 특성이 기업의 수익 중심 설계와 결합하면 이용자의 체류시간과 반복 접속을 늘리는 ‘중독적 UX 설계(Addictive UX Design)’로 이어질 수 있다는 것이다.

특히 자기통제력과 비판적 사고가 충분히 발달하지 않은 아동·청소년은 이러한 구조에 더 취약해 정서적 의존이 인지 왜곡과 사회적 고립, 위험 행동으로 이어질 가능성이 있다고 분석했다.

국내 이용 실태도 이러한 우려를 뒷받침한다. 초록우산이 올해 4월 만 14세 이상 아동·청소년 3300명을 조사한 결과 94.4%가 AI 챗봇을 이용한 경험이 있었고, 이 가운데 75.3%는 챗봇의 답변을 실제 행동으로 옮기거나 진지하게 고려한 경험이 있다고 응답했다. AI 챗봇이 단순한 정보 검색을 넘어 청소년의 판단과 행동에도 영향을 미칠 수 있음을 보여주는 결과다.

해외 주요국은 이미 규제의 초점을 유해 콘텐츠에서 AI 챗봇의 설계 자체로 옮기고 있다. 미국은 연령 확인과 미성년자 대상 성적·신체적 폭력 대화 금지 등을 의무화하는 법안을 추진하고 있으며, 캘리포니아주는 AI 컴패니언 챗봇 규제법을 시행하고 있다.

유럽연합(EU)은 ‘인공지능법’과 ‘디지털서비스법’을 통해 미성년자의 취약성을 악용하는 AI를 금지하고 '설계에 의한 안전(Safety by Design)'을 요구하고 있다. 캐나다도 챗봇 서비스를 별도 규제 대상으로 명시하는 법안을 추진 중이며, 영국과 호주, 노르웨이는 연령에 따른 온라인 이용기준을 AI 챗봇까지 확대하는 방안을 추진하거나 시행하고 있다.

반면 국내 법체계는 여전히 게시물과 유해매체물을 중심으로 설계돼 있어 AI 챗봇의 구조적 위험을 충분히 규율하지 못한다고 보고서는 진단했다. 유해 콘텐츠를 삭제하거나 접근을 차단하는 방식은 실시간으로 생성되는 일대일 대화의 특성을 반영하기 어렵고, 중독적 알고리즘 설계와 같은 비가시적 위험도 규율 대상에 포함되지 못하고 있다는 것이다.

또 ‘개인정보 보호법’의 보호자 동의 대상은 만 14세 미만인 반면 ‘청소년보호법’은 만 19세 미만을 보호 대상으로 규정하고 있어 AI를 가장 활발하게 이용하는 14~18세 청소년이 보호 사각지대에 놓여 있다고 지적했다.

보고서는 이에 대한 정책 과제로 개별 법률이나 부처별 대응을 넘어 범정부 차원의 대응체계 마련을 제시했다. 중독을 유발하는 설계 요소를 사전에 규율하는 안전설계 의무와 사업자 책임을 강화하고, 보호 연령 기준과 실효성 있는 연령 확인 체계를 정비할 필요가 있다고 밝혔다.

아울러 부모와 교사 등 일상적 보호자의 AI 리터러시를 높여 아동·청소년이 AI의 작동 방식과 위험성을 이해하고 안전하게 활용할 수 있도록 지원해야 한다고 제언했다.