[전치형, 과학의 언저리] 성급한 무인화의 오류

오직 경제성만을 고려하는 무인화는 논리 교과서에 나오는 ‘성급한 일반화의 오류’를 닮았다. 그 조처가 다양한 인간에게 미칠 영향에 대한 충분한 데이터와 분석 없이 무인 시스템이 더 나은 시스템이라는 결론을 도출한다.

전치형
카이스트 과학기술정책대학원 교수·과학잡지 <에피> 편집위원

선구적 업적을 남긴 컴퓨터 과학자 마빈 민스키는 인공지능을 “사람이 하려면 지능이 필요할 일을 기계가 하도록 만드는 과학”이라고 정의한 바 있다. 기계가 과연 ‘지능’이란 것을 가질 수 있는지 철학적으로 따지려면 끝이 없겠지만, 기계가 어느 정도의 지능을 갖춘 사람이 하는 일을 수행하게 하는 것은 가능하다. 심지어 사람이 했다면 ‘똑똑하다’ ‘스마트하다’는 말을 들을 법한 일을 스스로 해내는 기계도 점점 늘어나고 있다.

문제는 이와 함께 사람이 했다면 ‘끔찍하다’는 소리를 들을 법한 일을 기계가 하는 경우도 많아졌다는 것이다. 정부와 기업은 사람이 했다면 명백한 차별이라고 부를 만한 행위를 기계가 은근슬쩍 하게 하는 것에 능숙해졌다. 이를 민스키가 ‘인공지능’을 정의하듯이 ‘인공 차별’이라고 부를 수도 있겠다. ‘인공 차별’은 기계와 같은 인공물을 통해 사람을 차별하는 것이다.

무인 시스템은 종종 인공 차별의 현장이 된다. 휠체어를 타고 패스트푸드 점포에 들어온 사람에게 점장이 “이유를 밝힐 수는 없지만 우리는 당신에게는 햄버거를 팔지 않겠습니다”라고 말한다면 그것은 누가 보기에도 명백한 차별일 것이다. 국가인권위원회에 진정을 내야 할 일이다. 요즘 패스트푸드 가맹점마다 들어서고 있는 주문용 무인 단말기는 바로 그런 일을 하고 있다. “당신에게 햄버거를 팔지 않겠다”고 소리 내어 말하지 않을 뿐이다.

휠체어를 탄 사람은 손이 닿지 않는 높이에 있는 무인 단말기 화면 앞에서 차별을 경험한다. 일반 주문 창구에 사람이 배치되어 있지 않거나 점원 중 누군가가 주문을 도와주러 무인 단말기까지 나오지 않는다면, 휠체어를 탄 사람은 햄버거를 주문하지 못하고 돌아가야 할 수도 있다. 무인 기계가 점장과 경영자를 대신하여 휠체어에 탄 사람을 은근슬쩍 내쫓는 것이다. 사람끼리 얼굴을 보고는 차마 하지 못할 일을 무인화 기계를 내세워서 하고 있다.

아기를 태운 유모차를 먼저 밀어 넣고서 막 열차에 오르려는 엄마를 인식하지 못한 채 문을 닫고 출발해버리는 무인 지하철은 어떤가. ‘무인 원격제어시스템’을 통해 35초가 지나면 자동으로 문을 닫는 인천지하철 2호선에서 실제로 일어난 일이다.(2017년 <한겨레> 보도) 스크린도어에 레이저 센서가 12개나 있어서 사람이 지나가면 알아서 문을 연다고 하면서도, 무인 시스템은 유모차와 엄마 사이의 거리는 미처 보지 못하고 신경도 쓰지 않는다. 무인 지하철은 “재주껏 빨리빨리 움직이지 않으면 엄마가 아기를 놓치든 말든 열차를 출발시킬 수밖에 없다”는 비인간적 경고를 하는 셈이다. 엄마 얼굴을 직접 보면서는 절대 할 수 없을 얘기다.

무인화는 그것을 실시하는 기업이나 기관에는 업무를 단순하고 효율적으로 만드는 것을 뜻하지만, 무인 기계가 사정을 봐주지 않는 어떤 이용자들에게는 차별과 절망을 뜻한다. “당신 같은 사람에게는 서비스를 제공하지 않겠습니다. 제공하더라도 더 느리고 불편하고 위험한 방식으로 하겠습니다.” 기업과 기관은 무인 시스템의 입 아닌 입을 빌려 이렇게 말하고 있는 것이다. 무인화가 곧 ‘사용 금지’ ‘출입 금지’ 명령이 되는 이들은 그전에도 시설과 서비스 이용에 불이익을 받던 사람들이다.

오직 경제성만을 고려하는 무인화는 논리 교과서에 나오는 ‘성급한 일반화의 오류’를 닮았다. 그 조처가 다양한 인간에게 미칠 영향에 대한 충분한 데이터와 분석 없이 무인 시스템이 더 나은 시스템이라는 결론을 도출한다. 서서 걸어 다니고, 유모차 없이 다니는 등 특정한 조건을 갖춘 일부 사람에게 편하고 빠른 것을 모두에게 그런 것처럼 함부로 일반화한다. 그러는 중에 인간의 다양한 조건과 필요를 평면적으로 만들고, 표준적인 규격에 들어맞지 않는 인간을 배제한다.

곳곳에서 성급한 무인화가 진행되는 것은 4차 산업혁명에 대한 조급증처럼 보인다. 특히 그 과정에서 사람이 했다면 불공정하고 잔인하다고 비판받을 일을 무인 기계에 위임하는 현상이 반복되고 있다. 불친절하고, 무책임하고, 융통성 없고, 사람을 차별하는 무인 기계는 한번 들여놓으면 ‘해고’하기도 어렵다. 성급한 무인화는 사람에게 상처를 입히고, 조직에 부담을 주고, 사회적 갈등을 유발한다. 성급한 무인화는 결국 4차 산업혁명의 발목을 잡을 것이다.