자율주행차의 운전에도 실수와 면책을 허용해야 할까

자율주행 법과 윤리 잇단 세미나
자율주행 도로주행 현실화 잇따라
중앙선·정지선 위반, 신호 무시 등
실제 도로상에서 다양한 문제 직면
사람처럼 예외·면책 없는 실험 고충

구글이 자체 제작해 실제 도로에서 시범주행 중인 자율주행차가 2015년 11월 순찰하던 교통경찰에게 적발돼 위법 여부를 조사받고 있다. 경찰은 구글의 자율주행차에서 아무런 위법을 발견하지 못해 그냥 보냈지만, 구글 자율주행차가 제한속도 이하로 운행해 교통 정체를 일으킨 게 적발의 원인이었다. 구글 제공

자율주행 기술이 실용화를 위해서 실제 도로상에서 시범주행에 나서고 있다. 그동안 많은 변수가 통제된 상황의 실험 조건에서 이뤄져오던 자율주행 기술이 실제 도로를 주행하게 되면서 현실의 다양한 문제를 만나고 있다. 국내외에서 개발중인 자율주행차가 사람이 운전하는 차보다 훨씬 안전한 것으로 평가되고 있지만, 아직 완벽하지는 않다. 이 차들이 실제 도로 주행에서 부닥치게 될 다양한 문제를 모두 해결한 뒤에야 상용화를 허용할 것인가, 아니면 불완전한 상태여도 인간 운전 차량보다 안전성과 효율성이 높으면 상용화를 허용할 것인가? 실제 도로상 운전은 사고를 수반한다. 자율주행차에 우리는 어느 정도 수준의 사고와 실수를 허용할 수 있을 것인가? 최근 자율주행차의 법적, 윤리적 문제를 주제로 열린 학회들에서 오간 논의를 통해서 자율주행차 시대에 직면하게 된 새로운 문제들을 살펴본다.

지난 18일 한국포스트휴먼학회는 서울 프레스센터에서 ‘인공지능 윤리와 자율주행자동차’ 주제의 학술발표회를 열고 김정하 국민대 교수(자동차공학), 박은정 서울대 법학전문대학원 교수(법철학), 이태수 서울대 명예교수(철학)가 발표를 했다. 서울대 기술과법센터는 23일 쉐라톤서울팔래스강남호텔에서 ‘기술, 윤리, 법, 보험 관점에서 자율주행자동차 시대의 과제’를 주제로 한 세미나를 열어 서승우 서울대 교수(전자전기공학), 권영준 서울대 법학전문대학원 교수, 김현섭 서울대 교수(철학), 기승도 보험연구원 수석연구원 등이 주제발표를 했다. 다양한 분야의 전문가들이 제기한 자율주행차 시대의 법적, 윤리적 문제들을 소개한다.

세계보건기구 조사 결과, 자동차 사고로 인한 1년 평균 사망자는 120만명이고 그중 90%는 사람 과실이 원인이다. 자율주행 기술이 도입되면 자동차 사고와 사망자를 크게 줄일 수 있다는 기대를 모으고 있다. 자율주행차가 산업과 경쟁의 차원을 넘어 인도적 기술과 윤리의 문제로 취급받는 배경이다. 김현섭 교수는 “자율주행차 기술 개발이 늦어지고 도입이 지연되면 그 기간만큼 많은 사람이 죽거나 다치는 결과로 이어지게 된다”며 “혁신을 저해하지 않도록 국가는 시급하게 자율주행차 관련 법제를 정비해야 하는 윤리적 책무를 지닌다”고 말했다. 사람이 운행하는 차의 사고와 달리, 자율주행차는 다양한 사고 상황에서 미리 정해진 알고리즘대로 차량이 대응하게 된다. 사람이 자율주행차의 사고 대응 규칙을 사전에 정해줘야 한다. 권영준 교수는 “기존의 법적 책임은 법관에 의해서 사후에 배분돼왔으나, 자율주행차는 가능한 사고 상황을 예상해 프로그래밍되어야 하므로 책임 배분에서 사전 설계가 중요해지고, 판단의 주체가 운전자와 법관이 아닌 제조사나 프로그램 설계자로 이동하는 문제가 생긴다”고 지적했다.

11월18일 프레스센터에서 열린 한국포스트휴먼학회의 ‘인공지능 윤리와 자율주행자동차’ 주제 세미나에서 이태수 서울대 명예교수가 발표하고 있다. 한국포스트휴먼학회 제공

사람이 운전할 때 교통사고는 개별적이지만 자율주행차의 사고는 다르다. 정해진 사고 대응 알고리즘에 따라서 반응하는데 이는 다양한 딜레마 상황으로 이어진다. 대표적인 게 사고 시에 운전자를 포함한 차량 탑승자의 보호를 우선할 것인지, 보행자의 생명을 우선할 것인지에 대한 문제다. 미국의 과학잡지 <사이언스> 2016년 7월호에 아짐 샤리프 오리건대 교수(심리학) 등이 발표한 ‘자율주행차의 사회적 딜레마’ 논문에서 설문 응답자 1928명은 이 문제에 관한 이중적 의식을 보여줬다. 응답자의 76%는 “탑승객 1명을 희생시키더라도 보행자 10명을 살리도록 프로그래밍하는 게 윤리적으로 더 바람직하다”고 답했지만, 응답자 대부분은 자신은 운전자를 보행자보다 우선 보호하는 차량을 구매할 것이라고 답변했다. 이런 상황에서 공리주의적인 자율주행차 규제가 도입된다면 사람들이 이런 차를 사지 않을 가능성이 높고, 결국 보급이 늦어져 사고 피해가 커질 것이라는 상황이 예상됐다.

자율주행차에 어느 정도의 법적 예외를 제공할 수 있을지에 대한 논의도 골칫거리다. 서승우 교수는 편도 1차로에서 시범운행 중인 자율주행차가 주차한 차량에 막혔을 경우 중앙선을 넘어 추월하는 기능을 작동시킬 수 있는가 하는 문제를 제기했다. 현행 도로교통법에서는 중앙선 침범이기 때문에 불법이지만, 실제 사람들의 운전에서는 흔하게 일어나는 상황이다. 기계는 프로그램이 정한 규칙대로 주행하기 때문에 완벽하게 법률을 지키도록 해야 한다는 주장이 있지만, 자율주행차에 완벽한 법률 준수를 요구할 경우 불법 주정차한 차를 만나면 도로교통 흐름 전체가 마비되는 상황이 될 수도 있다. 사람이 운전할 때는 상황별 예외를 적용하지만 기계에 예외없는 완벽함을 요구하면 기술의 실용화가 어려워진다. 실제 2015년 11월 미국에서 시범운행 중인 구글의 자율주행차는 제한속도보다 낮은 속도로 도로를 주행하다가 정체를 일으켜 교통경찰에게 적발되었다. 위법 사항이 없어서 딱지를 받지는 않았지만, 구글은 당시 “사람이 이처럼 운전을 해도 경찰에게 적발됐을까”라며 자율주행차에 사람의 운전에 비해 지나치게 엄격한 잣대를 적용하고 있다고 불만을 쏟아낸 바 있다.

이태수 교수는 자율주행차의 윤리 문제를 넘어서 인공지능 시스템 자체에 윤리를 넣을 수 있다는 생각에 근본적인 문제제기를 했다. 인공지능용으로 윤리 코드를 개발하거나 집어넣는 일은 기술의 문제를 넘어서는 문제가 되는데, 이는 윤리 자체의 규범적 미결정성 때문이라는 점이다. 인간 윤리는 반드시 해야 하는 것도 아니고 안 할 수도 있는 것이지만, 그럼에도 일부의 인간이 선택하게 되는 당위의 차원의 일이다. 즉 윤리란 인간이 지닌 자유와 그에 기반한 갈등적 상황에서의 선택을 의미하는데 기계와 인공지능에 인간 윤리를 집어넣을 수 있다는 것에 회의적이라는 견해다.

미국 교통부는 지난 9월 최초의 자율주행차 주행 가이드라인을 발표했는데, 각종 안전 규정과 보안 확보 규정과 함께 ‘현행 법규에 대한 제한적 예외’의 조항 또한 포함해 업계의 기술개발과 실험이 유연하게 이뤄질 수 있게 했다는 평가를 받는다.

구본권 사람과디지털연구소장 [e-mail]