로봇 개를 때리는 것은 비윤리적일까

닫기

김서경 2015. 02. 23

'인공지능(AI)과 공존하는 미래'에 대한 단상

» 보스톤 다이내믹스 기업이 개발한 로봇 개 '스팟'의 동작 유연성을 보여주고자 사람이 로봇 개를 걷어차고 있다. 출처/ Boston Dynamics

지난 2013년 12월 구글에 인수돼 주목을 받은 기업인 '보스턴 다이내믹스'의 강아지 로봇 동영상이 최근 화제가 됐다. 동영상에 등장하는 80 킬로그램짜리 로봇 개 ‘스팟’은 살아 있는 개 못지 않게 유연한 움직임을 선보였다. 심지어 개발자 중 한 명이 발로 걷어찰 때 비틀거리는 모습마저 실제와 너무나 비슷했다. 그게 문제였을까. 얼마 지나지 않아 시엔엔(CNN)에는 “로봇 개를 걷어차는 건 잔인한 일인가?”라는 제목의 기사가 올라왔다.

기사에서 의견은 다양했다. 살아 있는 생명체를 걷어찬 것이 아닌데도 이를 불편하게 여기는 사람들이 있었다. 레이첼 켈러라는 이름의 소셜미디어 계정은 “로봇은 대단해요. 솔직히 걷어차일 때 마음이 좀 그랬어요. 진짜 강아지 같아요. 가엾은 스팟!”이라는 트윗을 남겼다. 한편 동물보호그룹에서는 로봇을 걷어차는 게 올바른 일은 아니겠지만 그보다는 실제 동물을 학대하는 일이 더 큰 문제라고 주장했다. 셰필드대학의 노엘 샤키 교수는, 인간이나 동물을 닮았으나 실제로는 살아 있지 않은 대상을 인간화(anthropomorphize)하려는 경향을 지적하며 “로봇이 고통을 느낄 때만 (걷어차는 일이) 비윤리적일 것”이라 평했다.

로봇이 고통스런 비명을 지른다면

그렇다면, 로봇이 고통을 느끼는 것처럼 보일 때는 어떨까? 문제가 될까? 이미 34년 전쯤에 이와 비슷한 질문이 있었다. <괴델, 에셔, 바흐>의 저자 대니얼 호프스태터와 <의식의 수수께끼를 풀다>의 저자 대니얼 데닛이 함께 편찬한 <이런, 이게 바로 나야! (The Mind’s I: Fantasies and Reflections on Self and Soul)>에 실린, 테렐 미다너의 소설 ‘마크 III 비스트의 영혼 (The Soul of the Mark III Beast)’이 그것이다.

그 이야기 속에서 헌트는 더크센에게 말한다. “실제든 상상이든, 생물학적 육체를 공유하는지 여부는 삶에 대한 존중감과 별 관련이 없어. 동물이 죽지 않으려고 저항하는 모습을 보면 죽일 기분이 들지 않지. 울부짖고, 발버둥치고, 슬퍼 보이고. 그런 모습을 하고 죽이지 말라고 애걸하는 거야. 그리고 동물의 탄원을 귀담아 듣는 건 우리의 생물학적 몸이 아니라 ‘마음’이지.”

더크센은 동의하지 않는다. 헌트는 ‘마크 III 비스트’라 명명된 기계 딱정벌레를 더크센에게 보여준다. 기계 딱정벌레는 잠시 돌아다니다 충전기를 발견하고 더듬이를 꽂는다. 초록불이 깜박거리고, 기계는 만족스러운 듯 가르릉 소리를 낸다. 헌트는 더크센에게 망치를 건네주며 기계를 부수라고 한다. 순간 그는 망설인다. “하지만… 먹고 있는데?” 헌트는 웃어젖히고, 이에 화가 난 더크센은 망치를 빼앗아 마크 III를 내리친다. 기계는 비명을 내지르며 구석으로 달아나 그를 ‘쳐다본다.’ 아니, ‘쳐다본다’고 느낀 건 그 자신이다.

직접 읽어보고 싶은 사람들을 위해 여기까지만 얘기하겠다. 그러나 상상해보자. 로봇이 우리처럼 먹으면서 ‘즐거워하고’, 후려칠 때는 ‘아픈 듯’ 비명을 내지른다면 과연 우리는, 그 로봇을 어떻게 대하게 될까?

우리 모두는 상대의 신체 언어를 읽어내는 데에는 타고난 전문가다. 1967년 메라비안과 페리스의 연구에 따르면 얼굴 표정이나 제스처와 같은 비언어적 표현이 면대면 커뮤니케이션의 55%를 차지한다고 한다. 시선이나 작은 눈짓만으로도 사람들은 상대방의 생각과 기분을 읽고 설레거나 불안해하거나 즐거워한다. 실제 상대가 어떤 감정을 느끼는지와는 상관없이, 상대에게서 ‘드러나는’ 감정은 피드백으로 작용하여 우리 자신이 느끼는 감정에 영향을 준다.

사람 기분을 읽고 반응하는 로봇의 등장

지금까지 로봇은 사람의 기분을 감지하지 못하고, 따라서 감정을 표현할 수도 없다고 여겨져 왔다. 이는 공상과학 영화나 소설에서 흔히 등장하던 클리셰로서, <로보캅> 1편의 안드로이드 알렉스 머피가 그러하며 <공각기동대>에서 설명하는 로봇의 존재(‘로봇은 호의가 아닌 프로그램으로 웃는다’)가 그러하다. 그 맞은편에 인간 못지 않은 감정을 지닌 '인공지능'이 등장한다. 필립 K. 딕의 <안드로이드는 전기양의 꿈을 꾸는가>부터 <달은 무자비한 밤의 여왕>의 슈퍼컴퓨터 마이크를 거쳐 <인터스텔라>의 타스와 케이스에 이르기까지, 인간과 소통할 수 있는 감정을 지닌 기계들은 늘 이야기 속에서 매력적인 주인공이었다.

이제 이야기 속의 매력적인 주인공들이 현실에 등장할 가능성은 놀랍도록 커졌다. 위에서도 얘기했듯이, 면대면 커뮤니케이션에서 중요한 요소는 두 가지, 즉 (1) 상대의 감정을 읽고, (2) 그 감정에 적절한 반응을 보이는 것이다. 이미 (1)번에 근접하는 연구 결과들이 속속 나오고 있다. 2012년 개발된 컴퓨터화 된 적응검사-우울증 인벤토리(Computerized Adaptive Test-Depression Inventory, CAT-DI)는 임상장면에서 검사 대상자의 기분을 파악하는 프로그램이다. 일반 심리검사에서 쓰이는 설문지와 달리, 이 프로그램은 검사 대상자의 응답을 바탕으로 다음 질문을 결정한다. 즉 검사 대상자가 현재 느끼는 ‘감정’을 읽어 피드백을 줄 뿐 아니라 그것을 통해 우울 증상을 가늠하는 것이다.

한편, 인간이 잡아내지 못하는 미세한 근육의 움직임을 포착하여 진짜 고통스런 표정을 가려내는 패턴 인식 알고리즘도 역시 지난해에 개발되었다. 인간의 경우, 보기로 주어진 고통스런 표정에서 진짜만을 가려낼 확률이 무작위 확률(50%)보다 높지 않았다. 심지어 훈련을 받은 뒤에도 정확도는 겨우 55 퍼센트로 올라갔을 뿐이다. 반면 컴퓨터 시스템은 85 퍼센트의 정확도를 보여주었다. 즉 거짓으로 지은 표정으로 사람을 충분히 속일 수는 있지만, 컴퓨터의 패턴 인식 기능을 속이는 것은 훨씬 더 어렵다는 얘기다. 기계학습 연구의 도움을 받아 이러한 기능이 로봇에 장착된다면, 로봇은 충분히 인간이 보여주는 비언어적 표현을 ‘읽어낼’ 수 있을 것이다.

만일 비언어적 표현을 사실에 가깝게 읽어낼 수 있다면, 표현에 담긴 감정에 적절한 반응을 보이는 것도 가능할 것이다. 미국 방위고등연구계획국(Defense Advanced Research Projects Agency, DARPA)의 프로젝트에서 ‘훈련’ 받는 로봇의 경우에 단거리 주행이나 눈앞의 길을 가로막는 장애물 제거, 문 열기, 소방용 호스를 소화전에 연결하기, (계단 또는) 사다리 오르기, 연장을 써서 벽에 구멍 뚫기 등의 다양한 과제를 해결해야 한다. 이를 위해선 미리 입력된 인풋이 아니라, 주변 상황을 파악하여 판단하는 ‘자율성’이 필요하다. 한편 조지아공과대학의 켐프 박사와 동료들은 사람을 돌볼 수 있는 로봇을 연구하고 있다. 로봇의 팔이 전달하는 압력을 상황에 맞춰 적절히 조절함으로써 사람이 하듯이 부드럽게 쓰다듬을 수 있도록 하는 것이 목표다.

이런 연구들을 바탕으로 다음과 같은 장면을 상상해 볼 수 있다. 당신이 슬픈 일을 겪고 침대에 앉아 손에 얼굴을 묻고 있다. 이때 돌봄이 로봇이 시각센서로 당신의 비언어적 행동을 감지하고 ‘자율적’으로 다가와 당신의 어깨에 로봇 팔을 살며시 얹는다. 마치 다른 인간이 다가와 말없이 위로를 건넬 때처럼 말이다. 인간은 촉각에 민감하며, 특히 어깨를 가볍게 두드리는 것만으로도 무의식 중에 친밀감을 느낀다. 설문조사를 하거나 큰 개를 맡아달라는 등의 가벼운 부탁을 할 때 어깨에 가볍게 손을 올리면 호감을 느끼고 부탁을 수락하는 확률이 높아진다는 심리학 연구 결과들을 감안할 때, 이러한 반응을 보이는 로봇이 좀 더 ‘인간적’으로 받아들여질 가능성은 그리 낮지 않아 보인다. 마찬가지 맥락에서, 실제로 로봇이 감정을 느끼는지 여부와는 상관없이, 고통을 ‘느끼는’ 것처럼 보이면 우리는 저도 모르게 그 ‘고통’에 공감할 수 있는 것이다.

똑똑해진 기계들과 공존해야 하는 미래

다시 윤리적인 문제로 돌아가보자. 로봇에게 폭력을 가할 때, (로봇이) 실제로 고통을 느낄 때에만 비윤리적인 일이 될까? 시엔엔(CNN) 기사에서, 드 몽포르 대학의 기술과 사회적 책임 분과에 속한 마크 쾨켈버그 교수는 여전히 다음과 같은 질문을 던진다. “샤키 교수의 주장에 일리가 없는 건 아닙니다만, 폭력적인 행동 자체가 문제가 되는 것은 아닐까요? 의식이 없거나 고통을 느끼지 않는 대상이라면 폭력을 행사해도 좋은 것일까요?” 의식이 없거나 고통을 느끼지 않는 대상엔 로봇뿐 아니라 뇌사자나 심신상실 상태의 인간도 역시 해당되기 때문에, 쉽게 단정할 수는 없는 문제다.

또한 (낮은 가능성이긴 하지만) 실제로 로봇이 고통을 ‘느끼는 경우는? 독일 브레멘의 야콥스대학에서 정서, 인지 및 사회적 맥락 연구팀을 이끄는 아르비드 카파스는 로봇도 역시 정서를 가질 수도 있다고 주장한다. 다만 감정은 신체의 감각과 밀접하게 묶여 있기에, 기계 몸을 지닌 로봇의 감정이 곧 생물학적 몸을 지닌 인간의 감정은 아닐 것이라고 그는 덧붙인다. 로봇의 마음은, 심장이 없고 위장 대신 배터리 미터를 지닌 매우 다른 자아일 것이다. 여기서 한 발 더 나아간 다른 질문도 가능하다. 인간과 동일하지 않은 감정을 느끼는 로봇을 윤리적으로 대한다는 것은 어떤 것일까?

아직까지는 이 모든 질문을 떠나, 반사적인 공포심이 앞서는 것처럼 보인다. 데렉 킨즈만이라는 이름의 소셜미디어 계정은 “덧붙이면, 보스턴 다이내믹스 직원이 로봇 개를 걷어찰 때마다 로봇들은 전부 기억할 걸요. 그게 로봇의 대반란을 일으킬 걸”이라는 트윗을 남겼다. 비록 농담이긴 하지만, 인간과 유사한 지능과 감정을 지니되 인간이 아닌 미지의 존재가 주는 위협은 결코 가벼운 것이 아니다. 아이작 아시모프가 제시한 로봇 3원칙의 제1원칙이 이미 “로봇은 인간에게 해를 입혀서는 안 된다”이다. 어떻게 보면 일종의 심리적 안전망인 셈이다.

미지의 대상에 대해 느끼는 공포심이나 이질감과 더불어, 우리와 ‘유사한’ 반응을 보이는 대상에 대한 본능적 공감, 그리고 공감을 바탕으로 한 윤리원칙, 이 셋 사이에서 균형을 잡기란 쉬운 일이 아닐 것이다. 그렇지만 시리(Siri)부터 사물인터넷(IoT)에 이르기까지, 똑똑한 기계들과 공존해야 할 미래는 이미 우리를 향해 무서운 속도로 다가오고 있다.

어쩌면 이 시점에서, 흔히 인문학으로 분류되는 하위 순수학문의 역할은 ‘힐링’이 아니라 끊임없이 발전하는 기술과 그 기술이 초래하는(혹은, 할 수밖에 없는) 다양한 사회 현상의 원인을 이해하고 해결책을 내기 위해 고심하는 것일지도 모른다. 누구도 미처 상상할 수 없었고, 누구도 아직껏 대답할 수 없었던 질문에 답을 내고자 하는 시도는 비단 과학자만의 몫이 아닌, 학계 제반 전문 분야에 종사하는 이들 모두의 몫이 아닐까 생각해 본다.◑

[참고 문헌]

보스턴 다이내믹스의 로봇 강아지 ‘스팟’의 동영상:
https://www.youtube.com/watch?v=M8YjvHYbZ9w

‘로봇 윤리’를 언급한 CNN의 기사:
http://edition.cnn.com/2015/02/13/tech/spot-robot-dog-google/

로봇 3원칙(위키피디아):
http://en.wikipedia.org/wiki/Three_Laws_of_Robotics

감정을 측정하는 컴퓨터에 관한 뉴로스켑틱의 글:
http://blogs.discovermagazine.com/neuroskeptic/2014/03/12/psychiatrists-another-dimension-part-3/

인공 감정에 관한 노틸러스의 기사:
https://nautil.us/issue/1/what-makes-you-so-special/artificial-emotions

DARPA 프로젝트에 관한 이언의 기사:
http://aeon.co/magazine/technology/meet-darpas-new-generation-of-humanoid-robots/

조지아공과대학의 로보틱스 연구 기사:
http://www.rh.gatech.edu/features/hi-how-can-i-help-you

Gueguen, N., & Fischer-Lokou, J. (2002). An evaluation of touch on a large request: A field setting. Psychological reports, 90(1), 267-269.

Hofstadter, D. R., & Dennett, D. C. (Eds.). (1981). The mind‘s I: fantasies and reflections on self and soul. Harvester Press.

Kleinke, C. L. (1977). Compliance to requests made by gazing and touching experimenters in field settings. Journal of Experimental Social Psychology,13(3), 218-223.

Marian Stewart Bartlett, Gwen C. Littlewort, Mark G. Frank, Kang Lee. Automatic Decoding of Facial Movements Reveals Deceptive Pain Expressions. Current Biology, 2014 DOI: 10.1016/j.cub.2014.02.009

Mehrabian, Albert; Ferris, Susan R. (1967). “Inference of Attitudes from Nonverbal Communication in Two Channels”. Journal of Consulting Psychology 31 (3): 248?252.doi:10.1037/h0024648