인공지능(AI) 사업자에게 청소년 보호조치 의무를 부과하는 법안이 국회에 제출됐다. 선정성·폭력성 차단과 자살·자해 예방, 과의존 방지 등을 법적 의무로 규정해 AI 서비스로 인한 청소년 피해를 사전에 막겠다는 취지다.

국회 성평등가족위원회 소속 정춘생 의원(조국혁신당)은 22일 청소년을 대상으로 인공지능 제품이나 서비스를 제공하는 사업자에게 자살 및 자해 예방, 과의존 방지, 선정적·폭력적 내용 차단을 위한 기술적 조치 의무를 부과하는 내용을 담은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안’을 제출했다. 이번 법안에는 강경숙·김선민·김준형·백선희·서왕진·신장식·전진숙·황운하·허성무 의원이 공동발의자로 참여했다.

개정안은 인공지능 사업자가 청소년을 대상으로 제품이나 서비스를 제공할 경우, 자살·자해 예방과 과의존 방지, 선정적·폭력적 콘텐츠 차단을 위한 기술적 조치를 의무적으로 마련하도록 규정했다. 아울러 이러한 의무를 위반할 경우 과학기술정보통신부 장관이 해당 사업자에게 자료 제출을 요구하거나 사실조사를 할 수 있도록 근거를 신설했다.

이번 입법은 정 의원이 지난해 성평등가족부 국정감사에서 AI 챗봇의 선정성, 자살방조, 망상, 과몰입 등 아동·청소년에 대한 부정적 영향을 지적하며 정부 차원의 예방조치 필요성을 제기한 이후 추진된 후속 조치다. 당시 정 의원은 청소년정책을 소관하는 성평등가족부에 아동·청소년의 AI 챗봇 이용 실태조사 실시를 요구하고, AI 서비스 업체에 자살이나 폭력 관련 콘텐츠 제공 금지를 요청하도록 한 바 있다.

최근 일론 머스크의 xAI가 개발한 AI 챗봇 ‘그록’을 둘러싸고 미성년자 성착취물 생성과 딥페이크 논란이 불거지면서, 각국 정부의 대응 필요성도 커지고 있다. 방송미디어통신위원회는 해당 논란과 관련해 xAI에 청소년 보호장치 마련을 요청한 것으로 알려졌다.

해외에서는 미국 캘리포니아주가 지난해 동반자형 챗봇 운영자에게 자살 충동 및 자해 관련 콘텐츠 생성 방지 프로토콜 적용을 의무화하고, 미성년자 이용 시 최소 3시간마다 AI와 상호작용 중임을 알리는 경고 문구를 제공하도록 규정한 사례도 있다.

정 의원은 “최근 그록이 생성한 미성년자 성착취물 영상이 전 세계적 문제로 번지며 각국 정부가 대응조치를 취하고 있는 가운데, 이제라도 AI 서비스 제공자에게 청소년 보호의무를 부과하려는 움직임은 필요하다”며 “선정성, 폭력성, 자살 위험 등 AI 챗봇의 부정적 영향으로부터 청소년을 보호하기 위해 이번 개정안을 신속히 통과시켜 예방적 조치를 마련해야 한다”고 밝혔다.