‘노예소녀’ ‘킬러로봇’ 소동 일본과 한국 학계의 다른 길

문제가 된 일본 인공지능학회의 2014년 학회 저널 <인공지능> 표지.

2013년 12월 일본 인공지능학회(JSAI)는 학회 30돌을 맞아 학회지 문턱을 낮춰 일반인들도 쉽게 접근할 수 있도록 개편하기로 했다. 제호도 계간 ‘JSAI 저널’을 <인공지능>으로 바꾸고, 글자뿐이던 표지도 대중 잡지처럼 그림을 실었다. 판매에 들어가자 비판이 나왔다. 여성 로봇이 청소하는 표지(그림)에 대한 성차별 논란이었다. 케이블을 등에 단 모습은 노예 소녀를 연상시켰다. 학회가 “로봇이 청소기를 돌리는 중”이라고 해명한 것은 기름을 끼얹은 결과가 되며 <비비시> 등에도 보도가 됐다.

학회지 편집위원회는 논란을 심각하고 진지하게 다루기로 했다. 학회 전문가, 성차별 연구자, 철학·윤리·과학기술 전문가들이 참여한 학제적 논의가 진행됐다. 학회가 ‘인공지능이 어떠한 사회적 반향과 영향을 일으킬 수 있고 학회는 어떠한 논의를 해야 하는지’를 다루게 된 계기다.

학회 편집위원장은 학회 안에 윤리위원회를 만들었다. 학회 회원 5명, 과학소설작가 1명, 컨설턴트 1명, 언론인 1명, 사회과학자 1명으로 위원회를 구성했다. 윤리위원회는 이후 인공지능의 사회적 영향에 대한 본격 논의를 진행했고, 2017년 2월 인공지능 연구 윤리지침을 발표했다. 이 위원회에 사회과학자로 참여하고 있는 에마 아리사 도쿄대 교수(정책학)가 6월21일 서울에서 열린 ‘인공지능 길들이기’ 국제세미나에서 발표한 내용이다. 에마 교수는 “학회 표지 논란은 부정적 사건이었지만 이는 학회와 사회가 인공지능의 사회적 영향력을 고민하고 다양한 이해관계자들이 모여 논의하게 되는 중요한 교훈과 성과로 이어졌다”고 말했다.

당장의 해명과 대응책 대신 전문가들이 문제의 원인을 파악하기 위한 절차에 들어가고 다양한 이해관계자들이 참여하는 위원회가 만들어져 심도깊은 논의를 하는 방식이다.

이는 한국과학기술원(카이스트)의 인공지능 자율무기 개발 논란 대응방식과 대비된다. 카이스트의 국방인공지능융합연구센터 설립발표 이후 곧바로 카이스트 보이콧 선언이 나온 게 아니다. 토비 월시 뉴사우스웨일스대 교수는 언론보도를 보고 카이스트 총장과 교수들에게 연구에 대해 우려하는 편지를 보냈지만, 아무 곳에서도 답변이 없었다. 그 결과 보이콧으로 이어졌는데, 세계적 뉴스가 되자 보이콧 서명자 전원에게 카이스트 총장의 해명편지가 발송됐다. “유의미한 수준의 인간통제가 있는 선에서만 무기 개발을 한다”는 내용이었고, 이후 보이콧은 철회됐다. 속전속결이었지만, 전문가들은 물론 다양한 이해관계자들이 모여 인공지능과 무기 개발의 문제와 윤리를 논의하는 제대로 된 절차는 없었다.

학계에서 문제를 다루는 방식은 속전속결이 아니다. 시간이 걸리더라도 문제의 정확한 원인을 찾고 다양한 접근과 논의를 거쳐 가장 합리적 대안에 합의하는 것이어야 한다. 왜 이런 논란이 벌어졌는지를 조사하고 탐구하기보다 서둘러 논란을 봉합하는 ‘빨리빨리’ 문화는 인공지능의 사회적 영향력이 커질 미래에 위험한 환경이다.

구본권 사람과디지털연구소장 [e-mail]