중국 교실에 드리운 빅브러더의 그림자

[부모가 알아야 할 디지털]

중국 항저우의 한 고등학교 교실에는 2개의 카메라가 설치되어 30초마다 스캔한다. 인공지능은 안면인식기술을 이용하여 학생들의 얼굴에 나타난 7가지 감정 상태와 6가지 행동 유형을 분석한다. 학생들의 수업집중도를 높이고 교사들의 교수법을 개선할 목적으로 중국 학교에 도입한 ‘지능형 교실행태 관리시스템’이다.

최근에는 10년 전부터 개발해오던 ‘인공지능 성적평가 시스템’을 본격 학교에 보급하기 시작했다. 학생들의 작문을 인공지능이 평가하여 등급을 매겨준다. 사람이 평가하는 것의 92% 수준까지 올라왔다고 한다. 학교는 평가에 있어서 사람의 주관성을 배제할 수 있다고 홍보한다. 이 시스템은 이미 6만개 학교에 보급되어 있다.

안면인식기술을 이용하여 학생 수업태도를 관리하고, 인공지능 알고리즘이 시험 결과를 처리하는 것이 교육에서 새로운 것은 아니다. 서구 사회가 기술검증이 어느 정도 이루어졌음에도 적용에 신중한 이유는 인공지능의 오류와 편견, 사생활 침해와 같은 잠재적 위험 때문이다.

시민사회의 견제가 없는 중국은 국가 주도하에 인공지능을 학교에 도입하는 데 거침이 없다. 성적평가시스템은 이미 중국 학교의 25% 가까이 보급이 되었다. 주목할 것은 이 시스템들이 개별 학교 단위가 아닌 정부의 중앙 서버에 의해 처리될 수도 있다는 것이다. 중국은 2억명 넘는 학생과 2천만명 넘는 교사의 모든 것을 실시간으로 통제할 수 있는 유례없는 시스템의 완성을 눈앞에 두고 있다.

중국의 실험은 조지 오웰의 빅브러더를 연상시킨다. 그런데 이런 상황을 한번 상상해보자. 우리가 어느 날 “아이들의 수업 태도와 감정 상태를 실시간으로 부모님께 알려드립니다”라는 학원 광고를 보거나, 혹은 학교에서 “이제 수행과제와 서술형 문제의 채점은 인공지능이 합니다. 공정성은 100% 보장합니다”라는 메시지를 받았을 때 학부모로서 어떤 생각이 들까? 빅브러더는 우리 마음속에 있다.

이재포 협동조합 소요 이사장