왜 로봇의 도덕인가 - 스스로 판단하는 인공지능 시대에 필요한 컴퓨터 윤리의 모든 것
◆ 이 책은
로봇의 윤리에 대한 포괄적인 안내서
공상과학 소설과 영화를 통해 꾸준히 제기되어온 로봇의 도덕성은 각종 서비스 로봇, 전투병 로봇, 개인화된 검색엔진 기술, 자동화된 컴퓨터 시스템 등 지능 기계의 출현으로 이제 현실 속으로 들어오고 있다. 인간의 감독 없이 스스로 판단하는 인공지능 시대에 로봇을 포함한 모든 지능적 기계의 지침이 될 윤리적 규칙을 어떻게 만들어야 할까?
이 책은 로봇 윤리라는 신흥 분야에 관한 최초의 입문서이자 로봇의 도덕에 관한 포괄적인 안내서다. 예일 대학교의 ‘생명윤리를 위한 학제간 센터’의 윤리학자와 인디애나 대학교의 인지과학 교수가 공저한 이 책은, 공상과학 소설의 통속적 화두에서부터 첨단 로봇공학의 과제에 이르기까지 다양한 층위의 흥미로운 소재를 통해 왜 로봇의 도덕에 관한 연구가 지금 필요하며 그것에 관련된 기술적 사안은 무엇인지를 상세하게 설명한다.
영화 <2001 스페이스 오디세이>나 <터미네이터>의 종말 시나리오는 과연 실현 가능한가 라는 얘기부터, 만약 컴퓨터가 도덕적 결정을 내리는 것이 필요하다면 공학자와 철학자는 이를 어떻게 설계해야 하는가 라는 실제적인 공학적 과제까지 로봇공학 · 철학 · 인지과학 · 도덕심리학 · 신경윤리학 · 인공두뇌학 · 진화생물학 · 게임이론 등 다양한 분야의 최신 연구 성과를 토대로 체계적이고 명료하게 서술하고 있다.
무엇이 옳고 그른가 라는 가치 판단은, 그 판단을 내리기 애매한 경우가 다반사인 인간사 때문에 아리스토텔레스 이래 가장 첨예한 인문학적 고민이었다. 한편 명쾌한 지침과 계량화된 기준값이 있어야 연구 가능하다는 것이 공학자들의 멘탈 모델이다. 인문학적 모호성을 명쾌한 알고리즘으로 변환해 프로그램으로 만드는 공학적 과제가 얼마나 지난한 일인가 하는 것을 알려주는 동시에 왜 지금 우리가 그 지난한 일을 고민해야 하는가를 깨닫게 해주는 데 이 책의 의의가 있다.
저자들은 “이 책을 쓴 목적은 단지 많은 질문을 던지는 것뿐 아니라 이런 주제에 관한 향후의 발전을 위해 자료를 제공하기 위해서”라고 밝히면서 “이 도전 과제를 다루는 과정에서 인류는 자신들이 얼마나 경이로운 생명체인지를 이해하는 데 의미심장한 발전을 이룰 것이다. 인간의 능력을 (로)봇에 구현하는 데 필요한 단계적인 절차를 세세하게 밟아가며 도덕적 결정이 내려지는 방법에 따라 사고하는 연습은 따라서 자기 이해의 과정인 셈”이라고 말한다. 즉 옳고 그름을 구별할 수 있는 (로)봇 설계 과정이 인간의 윤리적 의사결정에 대해 많은 것을 드러내주는 일인 만큼 로봇의 도덕을 구현하는 일은 인간을 이해하는 과정이라는 얘기다.
예일 대학교의 생명윤리를 위한 학제간 센터(Interdisciplinary Center for Bioethics)에 소속된 컨설턴트이자 윤리학자. 이 센터의 기술과 윤리에 관한 연구팀을 이끌고 있으며 동물 윤리, 안락사 문제, 신경윤리에 관한 다른 연구팀의 일원이기도 한 그는 인지과학에 관한 저널인 <토픽스 TopiCS>의 부주필을 맡고 있다. 저서로 『The undistracted mind』 『Rescued Art Stories』 등이 있다.
감사의 말씀
프롤로그 로봇의 도덕을 구현하는 일은 인간을 이해하는 과정이다
1장 왜 로봇의 도덕인가?
2장 공학 윤리
3장 인류는 컴퓨터가 도덕적 의사결정을 내리기를 원하는가?
4장 (로)봇이 정말로 도덕적일 수 있는가?
5장 철학자, 공학자 그리고 AMA의 설계
6장 하향식 도덕
7장 상향식 그리고 발전적 접근법
8장 하향식과 상향식의 병합
9장 베이퍼웨어를 넘어서?
10장 이성을 넘어
11장 인간과 비슷한 AMA
12장 위험, 권리 그리고 책임
에필로그 (로)봇의 마음 그리고 인간의 윤리
주석
참고문헌