[전치형, 과학의 언저리] 인공지능이 칼이 될 때

전치형 ㅣ카이스트 과학기술정책대학원 교수·과학잡지 <에피> 편집위원

새해를 앞두고 정부가 발표한 ‘인공지능(AI·에이아이) 국가전략’은 “아이티(IT) 강국을 넘어 에이아이 강국으로”라는 표어를 담고 있다. ‘선진국’ 대신 ‘강국’이라는 단어를 골랐다는 사실에서 정부의 결기가 느껴진다. 그러면서도 ‘군사 강국’, ‘복지 강국’, ‘스포츠 강국’이라는 표현과 달리 ‘에이아이 강국’은 무엇이 어떻게 강한 나라일지 구체적으로 떠오르지는 않는다. “세계를 선도하는 인공지능 생태계 구축”, “사람 중심의 인공지능 구현” 등 전략 문서가 제시하는 추진 과제를 보면 감이 잡히긴 하지만, ‘에이아이 강국’에서 살고 싶은지 아닌지는 잘 모르겠다.

국가전략 발표보다 두달 앞서 문재인 대통령이 직접 밝힌 ‘인공지능 기본구상’은 인공지능을 우리가 당면한 각종 문제의 해결사로 추켜세운다. 우리가 “가장 똑똑하면서도 인간다운 인공지능”을 만든다면 그 인공지능은 “고령화 사회의 국민 건강, 독거노인 복지, 홀로 사는 여성의 안전, 고도화되는 범죄 예방 등 우리 사회가 당면한 여러 문제들을 해결해낼 것”이라고 한다. “인공지능의 발전은 인류가 그동안 경험해보지 못한 세상으로 인류를 이끌 것”이라는 대통령의 말에서 신기술에 대한 강한 기대와 신뢰를 읽을 수 있다. 대통령은 아예 “인공지능 정부가 되겠습니다”라고 다짐하기도 했다.

대통령과 정부가 인공지능이라는 강력한 기술에 대한 입장을 공식적으로 밝히는 일은 중요하다. 인공지능은 정부가 작동하는 거의 모든 영역에 영향을 미칠 수 있으므로, 어떻게 사용하는지에 따라 ‘인공지능 정부’는 우리가 기다리던 그런 정부가 될 수도, 그 반대가 될 수도 있다. 인공지능에도 국정철학이 반영되어야 한다.

바로 그런 이유로 대통령과 정부는 마치 검찰을 대하듯이 인공지능을 대할 필요가 있다. 세상 모든 문제에 개입하여 뒤흔들 수 있는 힘이 어떻게 사용되는지 점검하고 견제하고 비판할 수 있어야 한다는 것이다. 곤란한 문제들을 단칼에 풀어주는 해결사는 매력적일지 몰라도 감시와 견제 없는 해결사는 사람을 옥죄고 해치는 결과를 낳을 수 있다는 점에서도 그렇다. “가장 똑똑하면서도 인간다운 인공지능”이 저절로 더 멋진 세상으로 이끌 것이라고 믿는 것은 검찰이 가장 유능하면서도 합리적일 것이라 믿고 기다리면 더 정의로운 세상이 올 것이라고 기대하는 것과 같다.

정부에서 활용하는 인공지능과 검찰의 공통점은 둘 다 사람을 식별하고 분석하고 평가한다는 것이다. 정부는 기준을 세워 사람을 판단함으로써 편의를 제공하거나 공권력을 행사한다. 검찰이 내리는 판단이 어떤 사람의 인생을 좌우하듯이, 정부 안에서 인공지능이 내리는 판단도 많은 사람의 삶에 영향을 미칠 수 있다. 대통령이 언급했듯이 인공지능을 복지나 범죄 예방의 목적으로 사용할 때 우리는 그 대상이 어떤 자격이나 이력이 있는 사람인지, 과연 그 사람을 믿어도 되는지 아니면 골라내야 하는지에 대한 판단을 인공지능에 맡기고 싶어한다. 특정한 부류의 사람에 대한 편견이 있을 법한 담당 공무원이나 경찰보다는 인공지능이 적법한 수혜자와 잠재적 범죄자를 가리는 데에 더 나을 것이라고 기대한다.

그러나 인공지능이 사람의 정체와 가치를 더 잘 판단하리라는 믿음은 아직 검증되지 않았다. 다른 말로 하면, 인공지능은 아직 ‘문재인 대통령 국정철학 테스트’를 통과하지 못했다. 즉 인공지능이 사람을 분류하고, 성향을 분석하고, 등급을 매기고, 그에 따라 이익과 불이익을 배분하는 결정을 할 때, 그 기회가 평등하고 과정이 공정하고 결과가 정의롭다고 장담할 수 없다는 것이다. 지금까지 드러난 사례들은 인공지능이 이미 소외되고 차별받고 있는 사람들에게 불리한 판단을 내릴 가능성, 즉 현재의 불평등과 불공정과 부정의를 답습할 가능성을 경고한다. 가령 미국 샌프란시스코와 오클랜드시에서 경찰이 인공지능 기반의 얼굴인식기술 사용을 금지한 것은 백인 남성에 비해 유색인종과 여성 식별에 문제가 있다는 비판 때문이다.

인공지능은 요긴하면서도 위험한 칼과 같다. “가장 똑똑하면서도 인간다운 인공지능”이라는 희망적인 수사만으로는 인공지능이 인간의 삶에 개입하는 방식을 적절하게 제어할 수 없다. “사람 중심의 인공지능”이라는 애매모호한 원칙보다 더 필요한 것은 인공지능이 사회적 약자를 부당하게 겨누는 것을 막는 정책과 실천이다.