디지털 기술, 축복과 재앙 사이

<휴먼테크놀로지 어워드>
왜 휴먼테크놀로지여야 하는가

가습기 살균제로 인해 12년째 산소호흡기에 의존한 삶을 살고 있는 임성준(14)군이 초등학교 하교 뒤 엄마와 함께 재활센터에 유산소운동과 근력운동을 하러 가고 있다. 기술에 깊이 의존한 삶을 살고 있지만, 기술의 구조와 영향에 대한 이해가 부족한 상태를 우리 모두 방치한 결과다. 용인/김봉규 선임기자 [e-mail]

인공지능 연구에 선구적 기여를 한 매사추세츠공과대학(MIT)의 컴퓨터 공학자 요제프 바이첸바움 교수는 1966년 인공지능 심리상담 프로그램 ‘일라이자’를 개발해 화제를 불러모았다. 심리치료사 기능의 심리상담 프로그램에 사람들이 문자상담을 하면 그 내용을 분석해 답변하고 질문을 던지는 방식이었다.

2014년 할리우드 영화 <그녀>에서 인공지능 운영체제 사만다가 보여준 기능의 초보적 단계가 50년 전에 시범된 것이다. 일라이자는 상담하는 사람에 대해 아무것도 알지 못한 채 그의 말을 되물으면서 적절하게 공감하는 시늉만 했을 뿐인데, 사람들은 기계와의 대화에 깊이 빠져들었다. 심지어 바이첸바움 교수가 일라이자 프로그램의 코드를 짜는 것을 오래 보아온 제자들과 비서들마저 기계라고 알고 있는 일라이자와 속 깊은 대화를 나누며, 대화를 방해하는 바이첸바움 교수를 밀어냈을 정도다. 바이첸바움은 자신이 만든 똑똑한 기계가 사람을 기만하는 상황에 대해 깊은 고민을 하기 시작했다. 그는 이후 정보화 기술과 인공지능에 대한 강력한 비판자로 ‘개종’하는 일대 전환을 한다.

사람들이 개발하고, 신뢰한 기술이 편리함과 매혹의 지경을 넘어 우리를 기만하는 상황이 잇따라 나타나고 있다. 혁신적인 디젤엔진 기술을 자랑하던 세계 1위 자동차기업 독일 폴크스바겐은 배출가스 조작 프로그램을 통해 공해물질을 배출하면서 연비를 높이는 글로벌 사기극을 벌인 게 들통났다. 건조한 실내 공기에 습기를 제공하면서 청결함을 유지하게 해줄 것이라고 기대했던 가습기 살균제는 치명적 독성물질을 포함한 위험물질이었다는 게 200명 넘는 사람들이 희생된 뒤에야 본격적인 사회적 의제가 되었다. 페이스북은 사용자들을 상대로 감정조작 실험을 한 결과를 자랑스럽게 유명 학술지 <미국립과학원회보>에 실었다. 마이크로소프트가 자신있게 출시한 인공지능 채팅로봇 ‘테이’는 인종차별 언어와 막말을 쏟아내며 설계자도 통제할 수 없는 상태에서 긴급 회수당하는 일을 겪었다. 국내에서 잇따르는 개인정보 유출과 피싱 사기, 아이폰의 사용자 위치 추적, 구글 와이파이 정보 수집, 미국 국가안보국(NSA)의 광범한 인터넷 도청 등 정보기술 사회는 과거에 없던 새로운 피해와 부작용을 함께 가져오고 있다. 무엇 때문일까?

기술에 대한 이해 부족으로 기술이 가져올 변화와 영향을 제대로 보지 못하는 까닭이다. 기술이 소수의 전문가들에게 맡겨지면서 사회적 가치와 기준을 반영하지 못한 결과다. 20세기 미국의 기술철학자 랭던 위너가 “세계지도에 테크노폴리스라는 국가가 나오지 않지만 우리는 그 국가의 시민이다. 좋든 싫든 우리 자신이 인간 역사의 새로운 질서에 속하게 되었다는 것을 인정해야 한다”고 말했다. 기술이 지배하는 세상을 살아가는 것은 편리를 넘어 기술에 대한 이해와 통제력을 요청한다.

배출가스 조작 프로그램 폴크스바겐
치명적 독성물질 담은 가습기 살균제
편리할 줄 알았던 기술의 인간 기만

기술의 사회·공익적 가치 구현 중요
인간친화 위해 사회가 적극 개입해야

눈부신 속도로 발달하는 기술 덕분에 현대인의 삶은 편리하고 안락해졌다. 과거 왕이나 귀족도 지니지 못했던 능력과 지식을 담은 ‘마법의 도구’를 누구나 손안에 지니고 있다. 옛날로 치면 수십명의 하인이나 노예를 거느린 삶이다. 편리한 기술은 생활 전반에 깊숙이 스며들었고, 기술에 의존하지 않고는 한시라도 존립이 불가능해졌다. 지난 시절 전기와 수도가 끊기는 게 도시의 근육과 혈관이 마비된 것에 비교되었다면, 디지털과 인터넷 기술은 인체의 신경망 기능을 하고 있다. 이동통신과 인터넷 등 통신서비스에 잠시 장애가 발생하면 사회는 패닉에 빠지고, 스마트폰을 분실하거나 집에 두고 외출한 개인은 머리카락 잘린 삼손의 신세가 된다.

독일 폴크스바겐 자동차가 소프트웨어 조작을 통해 디젤엔진의 배출가스 배출량을 속인 차량을 1000만대 넘게 전세계에 판매해왔다는 사실이 드러나면서 국제적으로 비난이 높아졌다. 디지털 기술은 속성상 그 작동방식이 겉으로 드러나지 않는다. ‘보이지 않는’ 기술에 대해 사회적 감시와 기술윤리가 더 중요한 이유다. AP 연합뉴스

서비스와 제품으로 우리가 만나는 기술은 언제나 그 사용이 가져올 유용성과 가치를 내세운다. 그에 수반하기 마련인 그림자와 그늘은 잘 알려지지 않은 채 일방적으로 홍보되고 기대를 제시한다. 생각지 못한 문제가 불거질 때 비로소 기술에는 여러 측면이 있다는 것을 알게 된다. 기술의 영향력이 커지고 그에 대해 개인과 사회가 의존성이 깊어질수록 뒤늦게 알게 된 기술의 그림자와 그늘은 커다란 피해로 이어지게 된다.

현대사회에서 기술은 더 복잡해지고 전문적이 되어 그 모습과 구조가 쉽게 드러나지 않는다. 영향력 큰 기술에 의존하고 있지만 이를 통제할 수 없는 현대사회는 일찍이 독일 사회학자 울리히 벡이 말한 대로 ‘위험사회’의 모습이다. 이윤 동기를 동력으로 개발된 기술과 상품이 일방적 기대를 제시하며 팔려나가지만 그에 대한 시민사회의 감시와 민주적 통제가 결여된 결과는 ‘가습기 살균제’ 비극에서 보는 대로다.

왜 우리에게 더 큰 편의와 행복을 가져다줄 것으로 제시된 기술과 제품이 사회적 재앙이 된 것일까? 처음부터 사용자의 건강을 해치고 사회적 피해를 가져오기 위해 설계되고 만들어지는 상품은 없다. 문제는 사용자와 사회가 기술에 대한 이해와 통제력을 잃어버린 상황에서 기술과 개발 위주의 단순하고 맹목적인 동기가 진짜 중요한 문제들을 덮어버린 결과이다. 사용자마다 성찰이 필요하고, 사회적 논의가 요구되는 시점이다.

기술은 복잡해질수록 사용자에게 매끈하게 나타난다. 1988년 제록스 팰로앨토리서치센터(PARC)의 마크 와이저 박사는 유비쿼터스 컴퓨팅의 이론적 토대와 개념을 제시하며, 그 특성을 “가장 심오한 기술은 사라져버리는 기술이다. 뛰어난 기술은 일상생활 속으로 녹아들어가 식별할 수 없게 된다”고 설명한 바 있다. 공상과학소설 <2001 스페이스 오디세이>의 작가 아서 클라크도 “고도로 발전한 기술은 마법과 구별할 수 없다”고 말했다. 지난 3월 이세돌 9단을 꺾으며 전세계 바둑인들에게 충격을 안겨준 인공지능 바둑 프로그램 알파고의 기계학습 알고리즘의 놀라운 기능은 개발자도 그 작동 구조를 제대로 알 수 없는 은닉층(히든 레이어)에서의 연산이었다.

디지털 기술은 처음부터 있거나 방향이 정해진 게 아니라 설계자가 의도하고 원하는 대로 작동하는 인공적 논리 구조물이다. 사람이 만든 모든 것처럼 디지털 기술은 완벽하지 않다. 끊임없이 개선되고 있으며, 늘 혁신이 강조된다. 디지털 기술은 속성상 강력함과 효율성 위주로 흐르기 마련이기 때문에, 디지털 기술의 설계와 서비스에 좀더 인간적 요구와 사회적 가치를 담아야 할 요구도 생겨나고 있다.

폴크스바겐이 소프트웨어 프로그래밍을 통한 연비를 조작한 사건과 페이스북의 감정조작 뉴스피드 실험은 디지털 기술의 블랙박스적 속성을 드러낸다. 투명성과 접근성을 결여한 알고리즘이 사회적 논의와 감시를 외면한 채, 개발자와 업체의 영리를 우선시한 결과다. 사회적으로 영향력이 큰 기술과 서비스에 대해서 사용자들이 참여하고 개입하는 구조로 새롭게 설계되어야 한다.

디지털 기술의 구조와 서비스 방식에 사용자와 사회가 적극적으로 참여하고 개입할 수 있도록 하는 것은 기술을 사회적 통제 아래 두는 효과만이 아니라, 기술의 설계 단계에서부터 사용자를 배려하게 만든다. 개발과 산업은 더 강력하고 다양한 기술을 추구하지만, 항상 그러한 기술이 사용자인 사람들의 선택을 받는 것은 아니다. 스마트폰을 대체할 웨어러블 기기라는 평가를 받은 구글 안경, 입체화면을 통해 실감도 높은 영상 체험을 전달할 것이라던 3D 티브이, 페이스북의 포스팅 전체 공개 초기설정 등은 성공하지 못했다. 좀더 강력한 기능이지만 사용자의 프라이버시나 편의성, 습관 등을 생각지 않은 채 기술과 산업의 요구에 따라 개발되었으나, 실제 사용자들은 외면하거나 반발했다. 실제 사용자의 반응과 사회적 관점이 다양하게 반영되어야 기술과 서비스가 지속가능하다. 기술의 작동 구조가 더 복잡해졌으나 겉으로 드러나지 않는 디지털 환경에서 사회적 가치와 인간적 배려는 갈수록 중요해지고 있다. 이를 위해서 사용자들은 디지털 기술을 좀더 이해하고, 개발자는 기술이 따라야 할 사회적 가치를 고려하는 게 중요하다.

갈수록 강력해지고 의존도가 높아지는 기술이 사용자를 배신하거나 공격하지 않도록 하기 위해서는, 사람과 사회가 기술에 대해 더 많이 이해하고 기술이 지향해야 할 개인적·사회적 가치를 제시해주어야 한다. 기술은 제품과 서비스로 모습을 나타낸다. 디지털 세상에서 제품과 서비스가 얼마나 사용자를 배려하는지, 사용자는 그 구조에 대해 얼마나 접근성과 선택성을 갖고 있는지, 사회적·공익적 가치를 얼마나 구현하는지가 중요해지고 있다. 무엇이 좀더 사람과 사회를 행복하고 편리하게 만들 휴먼테크놀로지 기술인지 그 가치와 본보기를 사용자와 사회가 찾아나가야 한다.

구본권 사람과디지털연구소장 [e-mail]