[전치형의 과학의 언저리] 자율 없는 사회의 자율기술

알파고가 등장한 이후 과연 인공지능이 기자를 대체할 수 있을지 묻는 사람들이 많았다. 위에서 시키는 대로 써야 하는 환경에서 기자가 하는 일은 인공지능도 잘할 수 있을 것이다. 문제는 인간과 인공지능이 같이 일하고 있을 때 위에서 걸려오는 전화를 어떻게 막아내느냐 하는 것이다.

전치형
과학의 언저리

‘소설 쓰는 알파고는 없었다.’ 6월27일치 <한겨레> 1면에 실린 기사 제목이다. 3월 말 일본에서 문학상 예심을 통과했다고 화제가 된 소설 쓰는 인공지능이 알고 보니 스스로 소설을 써낸 것은 아니었고, 인간이 짜놓은 틀 안에서 말이 되는 문장을 만들어낸 정도라는 얘기였다. 7월2일치 <한겨레> 1면은 ‘자율주행차 첫 사망사고’라는 제목의 짧은 기사를 실었다. 미국 전기차 회사 테슬라의 모델S를 타고 ‘자율주행 모드’(오토파일럿)로 고속도로를 달리던 운전자가 앞에서 방향을 틀던 화물차에 충돌하여 사망했다는 소식이었다.

며칠 사이에 우리는 컴퓨터가 혼자서 글을 쓰는 것인가 했더니 결국 인간의 도움이 있었다는 사실과, 자동차가 스스로 운전하는 줄 알았더니 여전히 인간이 지켜보고 개입해야 한다는 사실을 알게 되었다. 알아서 잘한다고 환호했던 기술이 알고 보니 그렇게 자율적이지 않더라는 것이다. 이때 우리는 기술 발전이 더뎌서 실망하거나, 인간이 할 일이 남아 있어서 안도하거나, 기술을 어디까지 믿어야 할지 몰라서 걱정한다.

환호, 실망, 안도, 걱정 등 새로운 기술에 대한 태도는 달라도 많은 사람들이 공유하는 것은 기술의 완전한 자율성이 우리가 궁극적으로 도달하게 될 단계라는 생각이다. 미래에는 고도로 발달된 자율적 기계들이 사회의 각종 시스템을 사람의 개입 없이 운영하게 되리라는 것이다. 기술의 자율성은 빠르고, 편하고, 필연적인 것으로 인식된다. 우리는 그에 대해 협상하거나 논쟁하지 못하고 오직 적응할 수 있을 뿐이다. 역사학자이자 엔지니어인 데이비드 민델은 이를 “유토피아적 자율성”이라고 비판하였다. 자율주행차가 더 안전해지면 언젠가 인간의 운전이 금지될 수도 있다는 테슬라 창업자 일론 머스크의 말은 자율적 기술의 유토피아에서 인간의 자율성이 부여받을 하찮은 지위를 암시하고 있다.

인공지능의 기능적이고 계산적인 자율성은 각광을 받는 반면, 인간의 사회적이고 비판적인 자율성은 껄끄러운 주제로 남아 있다. 전자가 빠른 연산 능력으로 주어진 일을 매끄럽게 수행하는 자율이라면, 후자는 사회적 관계 속에서 생겨나고 시키는 대로 하지 않을 수 있는 자율이다. 6월29일 이재정 경기도 교육감이 고등학교 야간자율학습 폐지 방침을 발표하면서 “알파고 시대에 학생들을 하루 종일 교실에 가둬놓고 어떤 교육이 되겠어요”라고 말했을 때 이 두 가지 자율이 선명하게 대비되었다. 자율 학습은 표준국어대사전의 ‘자율’ 항목에 첫 번째 예시로 들어가 있을 만큼 한국에서 통용되는 자율 개념의 대표적인 사례였다. 같은 사전에 등장하는 “전교생을 대상으로 자율 학습을 실시하였다”라는 예문은 한국식 자율의 의미를 드러내준다. 자율적 기술의 대명사가 된 알파고가 ‘강제 자율 학습’이라는 모순적 언어와 현실을 부각시켰다.

이른바 알파고 시대에도 사회적이고 비판적인 자율성에 대한 공격은 계속된다. 청와대 홍보수석이 <한국방송> 보도국장에게 전화를 걸어 세월호 보도 방향을 수정하라고 압력을 넣은 일이 최근에 알려졌다. 아직도 전화 한 통으로 언론사와 기자들을 통제하려 한다는 얘기다. 알파고가 등장한 이후 과연 인공지능이 기자를 대체할 수 있을지 묻는 사람들이 많았다. 기자가 스스로 취재하고, 판단하고, 보도할 자율성을 무시하는 시스템에서는 그럴 가능성이 높아진다. 위에서 시키는 대로 써야 하는 환경에서 기자가 하는 일은 인공지능도 잘할 수 있을 것이다. 사회적, 비판적 자율성이 위협받는 곳에서 기능적, 계산적 자율성은 더 그럴듯하고 강하게 보인다. 그러나 기자의 적은 인공지능이 아니라 전화기 너머의 목소리다.

소설 쓰는 프로그램 개발에 참여한 사토 사토시 교수는 “컴퓨터가 일한 부분이 10~20% 정도라면 그렇게 말할 수도 있고, 100% 컴퓨터가 썼다고 말해도 상관은 없다. 또 그 프로그램은 전부 인간이 만든 것이니 컴퓨터가 아니라 전부 인간이 쓴 소설이라고 해도 그 표현이 맞다고 생각한다”고 말했다. 인공지능 시대에 인간과 기술이 맺을 관계에 대한 탁월한 통찰이다. 완벽하게 자율적인 인공지능이 인간을 대체하는 것이 아니라, 양쪽이 서로의 불완전한 자율성을 보완해주며 협력하게 될 터이다. 문제는 인간과 인공지능이 같이 일하고 있을 때 위에서 걸려오는 전화를 어떻게 막아내느냐 하는 것이다.

전치형 카이스트 과학기술정책대학원 교수