AI가 매긴 점수, 어디까지 믿을 수 있나

2026.11.09 10:00:00

 

생성형 AI, 채점과 피드백을 돕다
학생이 무엇을 이해하고 어떻게 문제를 해결하는지 파악하는 데에는 자신의 생각을 직접 표현하는 서·논술형이나 구술형 평가가 유용하다. 학생의 응답을 통해 정답 여부를 넘어 사고 과정과 개념 이해 수준을 살펴볼 수 있기 때문이다. 그러나 채점 기준을 여러 답안에 일관되게 적용하고 학생별 피드백을 제공하는 일에는 상당한 시간과 전문적 판단이 필요하다. 생성형 AI를 활용한 자동채점은 이러한 교사의 평가 업무를 돕고, 학생에게 자신의 이해를 점검하고 보완할 기회를 더 자주 제공하는 방안으로 주목받고 있다.


대규모 언어모델(LLM)에 기반한 생성형 AI는 학습목표와 내용, 문항과 채점 기준표(루브릭), 그리고 다양한 수준의 예시 답안 등을 제공받아 학생의 응답을 평가하고, 점수와 채점 근거, 피드백을 생성할 수 있다. 해외에서는 국가 학습 플랫폼과 학교 수업, 정부 지원 시범사업을 통해 이러한 활용이 활발히 이루어지고 있다. 특히 영어 작문에서는 학생이 AI의 피드백을 받아 글을 수정하고, 교사가 그 과정을 살펴보며 지도하는 방식으로 활용되고 있다. 즉 생성형 AI는 점수를 산출하는 것에 그치지 않고, 학생이 답안을 검토하고 수정하도록 돕는 데에도 활용되고 있다.


이러한 가능성을 교육적 성과로 연결하려면, AI의 판단을 면밀하게 검증하고 그 결과가 학생에게 어떻게 활용되는지 살펴야 한다. 학생이 핵심어를 언급했다는 이유만으로 관련 개념을 충분히 이해했다고 판단하거나, 전체 평균 점수가 인간 채점과 비슷하더라도 개별 답안에는 지나치게 높거나 낮은 점수를 부여할 수 있기 때문이다. 피드백 역시 각 학생의 수준에 맞고 스스로 생각을 보완하는 데 도움이 되어야 한다. 이에 이 글에서는 생성형 AI를 활용한 해외의 채점·피드백 운영 사례와 검증 과정에서 드러난 한계를 살펴보고, 우리 교육 현장에서 평가의 질과 학생의 학습을 높이기 위해 유의할 점을 논의하고자 한다.

 

해외 사례로 보는 AI 자동채점의 가능성과 한계
● 싱가포르
싱가포르는 초·중등 학생이 이용하는 국가 학습 플랫폼인 SLS(Student Learning Space)에서 생성형 AI를 활용한 채점과 피드백을 지원한다. 서술 응답 피드백 보조 도구인 SAFA(Short Answer Feedback Assistant)는 교사가 제시한 채점 기준에 따라 학생의 답안에 잠정 점수와 내용에 관한 피드백을 생성하며, 작문과 성찰문에도 활용할 수 있다. 교사 채점 모드에서는 교사가 점수와 피드백을 검토·수정한 뒤 학생에게 제공할 수 있다. 2025년 11월 GovTech 공식 인터뷰에서 싱가포르 교육부 관계자는 SLS의 피드백 보조 도구들이 교사 1인당 피드백 업무에 드는 시간을 연간 약 30시간 이상 줄인 것으로 추정한다고 밝혔다. 이는 SAFA만의 효과를 나타내는 수치는 아니며, 확보한 시간은 학생이 피드백을 이해하고 답안을 수정하도록 돕는 데 활용될 수 있다. 싱가포르 사례는 국가 차원의 공통 플랫폼을 통해 교사의 평가 업무와 학생의 학습을 함께 지원한다는 점에서 의미가 있다.

 

● 일본
일본에서는 영어교육 강화 사업을 통해 생성형 AI를 영어 작문 지도에 활용하고 있다. 오사카부 사카이시 교육위원회는 중학교 4개교의 2·3학년 학생 1,000명을 대상으로 Microsoft Copilot을 활용한 쓰기 활동을 운영했다. 학생들은 문법과 어휘, 글의 구성에 관한 피드백을 받아 글을 고쳐 쓰고, 여러 표현을 비교하며 내용을 다듬었다. 교사도 활동의 목적과 평가 관점을 안내하고, 학생의 표현이 학습목표에 맞는지 피드백을 제공했다. 공식 보고서에 따르면, ‘영어로 쓰는 능력이 향상되었다고 생각한다’고 응답한 학생의 비율은 중학교 2학년의 경우 60.7%에서 68.6%로, 3학년은 61.6%에서 73.2%로 높아졌다. 학생의 자기보고이므로 실제 능력 향상이나 AI만의 효과를 단정할 수는 없지만, AI와 교사의 피드백을 활용해 학생이 자신의 글을 수정하도록 지원한 사례로 의미가 있다.

 

● 호주
호주에서는 정부 지원을 받아 생성형 AI로 교사의 평가 업무를 줄이는 방안을 모색하고 있다. ‘교사 업무 경감: 평가·채점·피드백(Reducing Teacher Workload: Assessment, Marking and Feedback)’ 시범사업은 연방정부가 50만 호주달러를 지원하고 뉴사우스웨일스주 사립학교 협회(Independent Schools NSW)가 운영을 맡아, 2025년 7월 13개 학교에서 시작했다. 생성형 AI 등을 활용해 채점과 피드백에 드는 시간을 줄이고, 교사가 수업과 학생 지도에 더 집중하도록 돕는 것이 목적이다. 참여 학교들은 워크숍을 통해 업무 부담이 큰 부분을 찾아 학교별 개선 방안을 적용했다. 시행기관의 연차보고서에 따르면, 사업의 효과는 매주 교사의 시간 사용을 조사하고 워크숍 기록과 참여자 면담을 분석하여 평가하도록 했다. 학교의 필요에 맞는 개선 방안을 마련하고 실제 업무 부담의 변화까지 확인한다는 점에서 참고할 만하다.


이처럼 활용이 늘어나는 가운데, 생성형 AI가 학생의 답안을 어떻게 판단하는지 살펴보는 연구도 이어지고 있다. 미국 조지아대학교가 2025년 소개한 연구에서는 대규모 언어모델인 Mixtral로 중학생의 과학 서술형 답안을 채점했다. 이때 AI는 특정 핵심어만으로 학생이 관련 개념까지 이해했다고 추정하는 경향을 보였다. 예를 들어 ‘온도 상승’을 언급한 답안에 대해, 온도가 높아지면 입자의 운동이 빨라진다는 관계까지 알고 있다고 판단했다. 학생이 실제로 설명하지 않은 내용까지 이해한 것으로 인정한 것이다. 연구에서는 인간의 채점 논리를 반영한 구체적인 채점 기준을 제공할 때 채점의 정확성이 개선되었다. 연구진은 예시 답안을 제공할 때도 점수만 제시하기보다 그 점수를 부여한 이유를 함께 설명할 필요가 있다고 지적했다. 이는 AI가 핵심어의 유무에 의존하지 않고, 답안에 드러난 이해와 추론을 근거로 판단하도록 안내하는 일이 중요함을 보여준다.

 

● 영국
영국 카디프대학교와 호주 멜버른대학교 등의 연구진이 2026년 발표한 연구에서는 답안의 수준 차이를 충분히 반영하지 못하는 문제가 확인되었다. 연구진은 학부 생명과학 에세이 50편을 GPT-4o와 GPT-5.1 Instant로 채점하고 인간 채점 결과와 비교했다. 7개 평가 기준과 네 가지 프롬프트 조건을 적용한 결과, 전체 평균 점수가 비교적 비슷한 경우에도 개별 답안과 평가 기준별 점수에는 상당한 차이가 있었다. 특히 인간 채점에 비해 낮은 점수의 답안은 높게, 높은 점수의 답안은 낮게 평가하면서 답안 간 점수 차이가 줄어드는 경향이 나타났다. 평균만 보면 그럴듯한 결과라도 학생별 수행 수준을 충분히 구별하지 못할 수 있다는 뜻이다.

 

이 연구는 자동채점의 성능을 확인할 때 전체 평균뿐 아니라 다양한 수준의 답안에 채점 기준이 적절하게 적용되는지도 살펴야 함을 보여준다.


다양한 해외 사례에서 볼 수 있듯이, 생성형 AI는 교사의 채점 부담을 덜고 학생에게 피드백과 수정 기회를 제공하는 데 활용되고 있다. 그러나 학생의 이해를 실제보다 높게 혹은 낮게 평가하거나 답안의 수준 차이를 충분히 반영하지 못하는 문제도 확인된다. 이러한 가능성과 한계를 함께 살펴야 AI가 만든 점수와 피드백을 교육적으로 활용할 수 있다. 다음 장에서는 이를 바탕으로 우리 교육 현장의 학생과 교사 그리고 학교와 교육청이 유의할 점을 살펴본다.

 

학생·교사·학교가 함께 만드는 AI 평가
해외의 운영 경험과 검증 사례는 우리 교육 현장에서 AI 자동채점을 활용할 때 살펴야 할 점을 시사한다. 학생은 AI 피드백을 학습에 적절하게 활용하고, 교사는 채점과 피드백을 검토하며, 학교와 교육청은 이를 뒷받침할 운영 기준과 지원 체계를 마련해야 한다.


학생은 AI의 피드백을 자신의 답안을 돌아보고 생각을 발전시키는 데 활용할 수 있어야 한다. 일본의 작문 지도 사례처럼 제안된 표현을 비교하고 고쳐 쓰되, 무엇을 왜 수정했는지 설명하는 활동이 도움이 된다. AI의 제안을 그대로 받아들이기보다 내용이 타당한지 확인하고 자신의 판단에 따라 선택하는 것이 중요하다. 답안 작성에 AI 사용이 허용된 과제에서는 초안과 수정 이력, 자료를 검증한 과정, 제안을 선택하거나 바꾼 이유 등을 통해 학생 본인의 기여가 드러나도록 해야 한다. 이러한 과정은 평가의 근거가 되면서 학생이 학습에 책임을 지는 기회이기도 하다.


교사는 평가하려는 능력이 점수에 반영되도록 AI에 충분한 채점 정보를 제공하고 결과를 통해 채점 기준이 적절하게 적용되었는지 확인해야 한다. 조지아대학교 연구에서 나타났듯이, AI는 핵심어만으로 학생의 이해를 과도하게 추정할 수 있기 때문이다. AI 자동채점의 타당성을 확보하기 위해 평가 요소별 배점과 부분점수 기준, 수준별 예시 답안과 점수 부여 이유 등을 가급적 자세히 제공할 필요가 있다. 또한 실제 활용에 앞서 다양한 답안을 채점해 보고 지침을 보완해야 하며, 싱가포르 SAFA처럼 생성된 피드백도 학습목표와 학생의 수준에 맞게 검토 및 조정해야 한다. 무엇보다도 AI가 제안한 점수와 피드백을 최종적으로 평가에 어떻게 반영할지는 교사가 판단해야 한다.


학교와 교육청은 AI 자동채점을 개별 교사의 역량에만 맡기지 않고, 공통의 운영 기준과 지원 체계를 마련해야 한다. 학습을 돕는 평가와 성적에 반영되는 평가에서 AI를 어디까지 활용할지 정하고, 교사의 검토 범위와 최종 판단의 책임을 명확히 할 필요가 있다. 시스템의 채점 성능과 특정 학생 집단에 대한 편향은 전문기관과 협력하여 점검하고, 교사에게는 연수와 기술 지원, 활용 경험과 오류 사례를 공유할 기회를 제공해야 한다.

 

호주 시범사업처럼 교사의 업무 시간과 활용 경험을 조사하여 실제 부담이 줄었는지 확인하고, 확보한 시간이 학생 지도와 학습 지원에 도움이 되는지도 살펴야 한다. 또한 학생과 학부모에게 AI의 활용 방식과 평가 절차를 안내하고, 결과에 이의가 있을 때 재검토와 오류 수정이 이루어지도록 해야 한다. 외부 서비스의 선정과 계약 과정에서는 학생의 개인정보와 답안 자료의 저장·이용·삭제 조건을 확인하여 학교가 안심하고 활용할 수 있는 환경을 갖추어야 한다.


해외 사례에서 배울 점은 생성형 AI의 편리함을 살리면서도 평가의 기준과 책임을 분명히 해야 한다는 것이다. AI 자동채점의 교육적 가치는 학생의 역량을 적절하게 평가하고, 피드백을 통해 배움을 이어 가도록 돕는 데 있다. 학생의 정직하고 능동적인 참여, 교사의 전문적 판단, 학교와 교육청의 체계적인 지원이 함께할 때 이러한 가능성은 실제 교육적 성과로 이어질 수 있다. 우리 교육 현장에서도 이를 바탕으로 생성형 AI를 적극적으로 활용한다면 평가의 효율성과 학생의 성장을 함께 도모할 수 있을 것이다.

강태훈 성신여자대학교 교수
ⓒ 한국교육신문 www.hangyo.com 무단전재 및 재배포 금지

구독 문의 : 02) 570-5341~2 광고 문의 : wks123@tobeunicorn.kr, TEL: 1644-1013, FAX : 042-824-9140 한국교원단체총연합회 | 등록번호 : 서울 아04243 | 등록일(발행일) : 2016. 11. 29 | 발행인 : 강주호 | 편집인 : 문권국 | 주소 : 서울 서초구 태봉로 114 | 창간일 : 1961년 5월 15일 | 전화번호 : 02-570-5500 | 사업자등록번호 : 229-82-00096 | 통신판매번호 : 2006-08876 한국교육신문의 모든 콘텐츠는 저작권 보호를 받는 바 무단 전재, 복사, 배포 등을 금합니다.