“구글, AI무기 개발 불참 원칙 정했다”

26일 열린 ‘AI with google 2018’ 컨퍼런스에서 제프 딘 구글 시니어 펠로우가 ‘모두를 위한 AI’를 주제로 기조 연설을 하고 있다. 구글코리아 제공

인공지능 프로젝트 총괄 제프 딘
서울 컨퍼런스서 ‘7가지 원칙’ 공개

26일 열린 ‘AI with google 2018’ 컨퍼런스에서 제프 딘 구글 시니어 펠로우가 ‘모두를 위한 AI’를 주제로 기조 연설을 하고 있다. 구글코리아 제공

“구글은 인공지능(AI)을 안전하게 활용해야 한다는 점을 잊지 않고 있다.”

제프 딘 구글 선임연구원이 26일 서울 구글캠퍼스에서 열린 ‘구글과 인공지능 2018’ 컨퍼런스에 참석해 ‘모두를 위한 인공지능’이란 제목의 강연을 하면서 인공지능의 윤리적 활용을 강조했다. 1999년 구글에 합류한 딘 연구원은 구글 검색·번역·광고의 핵심 시스템을 공동 설계했고, 지금은 구글의 인공지능 프로젝트를 총괄하고 있다.

딘 연구원은 자체 서비스와 외부와 협업 등을 인공지능을 활용해 혁신한 사례들을 소개하면서 ‘구글의 인공지능 원칙 7가지’도 공개했다. “사회적으로 유익하며, 불공정한 편향을 만들어내거나 강화하지 않고, 안전성을 우선으로 설계하고, 인간을 위해 책임을 다하며, 개인정보를 보호하고, 과학적 우수성에 대한 높은 기준을 유지하는, 이러한 원칙에 부합하는 용도에만 활용한다”고 말했다. 그는 이어 “인공지능 모델은 해석이 가능해야 한다. 의료 분야에서 인공지능의 예측이 ‘심장을 이식하세요’라는 처방으로 끝나는 게 아니라, 왜 심장 판막을 교체해야 한다고 판단했는지를 인간에게 해석 가능한 방식으로 제공하는 게 중요하다”고 말했다. 그는 “구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”고 덧붙였다. 딘 연구원은 “‘메이븐 프로젝트’ 사건(구글이 미 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여했다가 직원 반대 등으로 철회한 일)은 인공지능 윤리에 대한 생각을 촉발시킨 사례”라며 “우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다”고 밝혔다.

김효실 기자 [e-mail]