인공지능(AI)의 엄청난 발전 속도에 맞춰 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(이하 ‘인공지능기본법’)이 1월 22일부터 시행되고 있다. 하지만 인공지능기본법은 ‘EU 인공지능법(AI Act)’에 비해 모호하고, 추상적으로 규정돼 있다. 의무 위반에 따른 과태료 부과도 1년 이상 유예하고 있어 실제 인공지능 사용으로 인한 위험을 얼마나 막고, 완화할 수 있을지 예측하기 힘든 상황이다.

EU도 최근 인공지능법의 고위험 인공지능시스템에 대한 규정 적용을 최대 2028년 8월까지 연기하는 등 규제 완화 정책을 발표했다. 전 세계가 인공지능 패권의 승자가 되기 위해 전력 질주를 하고 있다.

법적 뒷받침이 세계적 추세

급격한 변화 속에서 긍정적인 영향만 있으면 좋겠지만 Character.AI 챗봇, 챗GPT를 사용하던 전 세계 아동·청소년들이 자살하거나 자해하는 사건이 계속 발생해 이들 회사를 상대로 민사 소송이 진행되고 있다.

실제로 미국 텍사스에서는 17세 소년의 부모가 챗봇 사용을 제한하자 챗봇이 그 소년에게 부모를 살해하라고 부추겼던 사건도 발생했다.

최근 한 언론보도에 따르면 국내에서도 10대 청소년들의 챗봇과의 대화 중독 현상이 심해지면서 현실 친구들과의 인간관계를 스스로 단절시키는 경향이 나타나고 있다고 한다.

뇌가 완전히 발달하지 않은 상태에서 아동·청소년의 챗봇 등 AI에 대한 정서적 의존은 점차 심해질 것이고, 현실과 가상 세계의 경계 인식이 흐릿해져 점차 자신에 대한 통제력을 잃게 될 가능성이 크다.

작년 12월 미국의 42개 주 법무장관들은 챗봇의 아동·청소년에 대한 위험성을 경고하며 메타(Meta), 오픈AI, 구글(Google), xAI 등 13개 주요 AI 기업에 공개서한을 보냈다. 법적 책임 부과 가능성을 언급했고, 안전장치를 조속히 갖출 것을 촉구하는 내용이었다. 위 서한을 받은 기업들은 제기된 우려에는 공감한다면서도 명확한 답을 내놓지 않고 있다. 오히려 오픈AI는 챗GPT에서 성인용 대화를 허용하는 성인 모드 서비스 도입을 발표하는 등 향후 이 기업들이 아동·청소년을 위한 안전장치 도입에 막대한 비용을 부담할 것인지 확신하기 어렵다.

인공지능은 인간의 능력을 증강시키고 우리가 더 편안한 삶을 살 수 있도록 도와줄 것이다. 다만 그 과정에서 위험을 최소화할 수 있는 법적 안전망을 만들어 놔야 한다.

영국은 세계 최초로 아동 성적 학대 자료를 생성할 수 있게 설계된 AI 도구를 소유, 제작 또는 배포하는 행위를 불법으로 규정해 처벌하는 입법안을 발표했다. 미국 캘리포니아주는 동반자 챗봇(companion chatbot)에 대해 여러 안전장치 구비 의무를 부과하는 법을 시행하고 있다. 세계 각국에서는 AI 개발, 공급 기업들의 자율적인 조치만으로는 부족하다는 판단에서 정부 주도로 아동·청소년을 우선 보호하기 위한 법적 조치가 이뤄지고 있다.

책임 있는 담론 형성해야

아동·청소년은 성인보다 정서적으로 더 취약하고, 성숙하지 않아 자아가 불완전하므로 올바른 성인이 될 때까지 국가가 먼저 보호해야 하는 대상임을 잊지 말아야 한다. 앞으로 아동·청소년의 인공지능 활용이 계속 증가할 것이고, 많은 아동·청소년이 인공지능 로봇, 챗봇을 소중한 친구처럼 대하는 일이 일상이 될지도 모른다.

인공지능 사용으로 인한 피해 예방 및 문제해결을 위해 우리 어른들이 앞장서 제도적 안전장치가 마련되도록 최선을 다해 노력해야 한다. 전 세계의 아동·청소년 보호를 위한 방향성과 움직임에 주목하면서 아동·청소년이 인간으로서의 정체성을 잃지 않고, 밝은 미래를 살아나가는데 토대가 되는 교육이 무엇인지에 대해 더 늦기 전에 책임 있는 담론을 형성해 나가야 할 것이다.