로봇이 사고 치면, 책임은 누가 지나요?

[IT & 뇌과학 스토리 7 - AI]

 

로봇이 사고 치면, 책임은 누가지나요?

 

  2014년 겨울 휴가기간 동안 저는 서울을 떠나 옥스퍼드를 여행했습니다. 응용 윤리학 수업을 듣고 있는 제 동생과 친구들을 만나러 그리고 도시 주변의 흥미로운 워크샵과 컨퍼런스에 참석하기 위해서였지요. 그 전인 2006년에 제가 옥스퍼드에서 공부할 때는 바쁜 대학생활로 대학의 많은 흥미로운 다양한 과목들을 즐길 여유가 없었지요. 하지만 이번에는 달랐습니다. 지인들과 뜨거운 커피를 마시면서 흥미진진한 토론을 할 수 있었고, 저녁에 근처 지역의 이벤트들이 무엇이 있나 알아보려 옥스퍼드 마틴 건물로 향했습니다. 중간 크기의, 그러나 잘빠진 빛나는 새 건물이죠. 무엇보다 제가 머무는 아파트와도 가까웠는데 비 오는 날에는 최적의 조건이었죠. 어쨌든, 학교에서 제공하는 워크샵과 컨퍼런스에 참석하기 위해 온라인 카타로그를 찾아보는 중에, 전 세계적 긴급 현안들을 가지고 씨름하려는, 높은 목적을 가진 흥미로운 강좌들을 발견했습니다. 그 뜨거운 주제이 하나는 바로 ‘인공지능’에 관한 것이었습니다. 저는 ‘알려지지 않은 미지의 것들(unknown unknowns)’의 개념을 접하는 바로 그 순간, 변호사로서 나의 학술적 연구의 초점을 ‘인공지능의 법적의미’에 두어야겠다고 결심했습니다. 그동안에는 과학자와 엔지니어들과의 대화는  제 흥미를 자극했고 제가 참석했던 강좌들을 통해 저는 인공지능 로봇이 가져올 도덕적 문제들에 관해 더 잘 이해하게 되었습니다.

인공지능? AI전문가인 우리도 몰라요!
  그런데 사실 그날 강의는 그렇게 특별하지는 않았습니다. 오늘날 쉽게 접할 수 있는 학문적인 인공지능 강의와 유사한 형태였습니다. 대중들의 강한 회의적 반응에도 불구하고 많은 옥스포드의 연구자들은 2017년까지 인공지능 분야에서 폭발적 연구가 진행될 것이라고 정확하게 예측하였습니다. 연구자들은 인공지능 고유의 성질(자기 개선 능력)이 질적으로 양적으로 그러한 연구를 폭증하게 만들 것이라 확신한 거지요. 저는 그들의 넘치는 확신과 그 확신을 지지하는 강력한 분석적 시각들을 경험하는 동안 어안이 벙벙해져서 할 말을 잃었답니다.

  더 많은 강의에 참석해서 질문해 보기로 작정했지요. “인공지능은 근본적으로 좋은 기술인가요? 나쁜 기술인가요?” 그러자 돌아오는 대답은 놀랍게도 “우리도 몰라요.”였습니다. “당신이 AI전문가인데, 당신이 모른다는 것이 말이 되나요?”라고 재차 질문하자, “그게 우리의 고민꺼리입니다. 우리도 이해해요. 로봇공학자와 인공지능 전문가가 모른다면, 누구도 모르겠죠.”라는 아리송한 대답만 돌아올 뿐이었습니다. 이것은 로봇공학자가 로봇을 개발할 때, 그것의 사회적 가치와 의미를 진정으로 이해하지 못하고 만들고 있다는 점을 시사한 겁니다. 더 심각한 것은 이러한 자동화된 인공지능을 개발하는 과정이 마치 ‘블랙박스 스타일의 시스템’에 가깝다는 겁니다. 이것은 인공지능 로봇이 어떤 특정한 행동을 왜, 어떻게 했는지 추적하는 것이 거의 불가능에 가까운 시스템을 말합니다. 이 말은 로봇의 잘못된 행동이 인공지능 로봇 설계자의 실수가 아닌 인공지능 로봇 스스로가 알고리즘을 변경한 것일 수도 있다는 겁니다. 만약에 로못의 의사 결정 과정에 인간의 개입이 없다면, 그러한 결정과 관련된 적절한 절차에 대한 감독 또한 없을 수 있다는 겁니다. 이것이 얼마나 무서운 것인가 라고 생각하며 그 당시 심각하게 고민했던 기억이 납니다.

알려지지 않은 미지의 것들, unknown unknowns
  미국 럼즈펠드 장관이 대량 살상 무기를 논의할 때, ‘알려지지 않은 미지의 것들(unknown unknowns)’이라는 심리학적 개념을 언급한 것으로 유명합니다. 이 개념은 불완전한 정보에도 불구하고 해결책을 찾아야하는 많은 전략산업에서 사용됩니다. 옥스퍼드 철학자, 휴머니티 인스티튜트 미래 연구소(Future of Humanity Institute)의 설립자인 닉 보스트롬(Nick Bostrom)은 다가오는 AI혁명을 ‘알려지지 않은 미지의 것(unknown unknown)’으로 묘사했습니다. ‘우리는 우리가 모르는 것을 모른다’는 아리송하게 보이지만 매우 정확하고 무서운 말이지요.
  우리가 이러한 새로운 기술의 효과가 무엇인지 알지 못한다면, 어떻게 이러한 기술의 적용으로 인해 발생하는 문제를 과연 우리는 해결할 수 있을까요? 법은 어떻게 자동화된 로봇에 의해 야기될 부도덕한 행동을 예측하고, 규제할 수 있을까요? 로봇이 의도적으로 대상(인간)을 향해 유해한 행위를 했을 때, 이를 행한 로봇과 인간에게 책임여부를 정확하게 판단할 수 있는 실질적 방법이 없다면 어떻게 해아 될까요?
  이 모든 질문들은 매우 중요하며 빠른 대안이 필요합니다. 왜냐하면 자동화된 인공지능 기술들이 전 세계에 아주 빠르게 출시되고 있기 때문입니다. 이러한 기술에 대해 많은 의문점들이 있지만, 질문에 대한 일반 대중의 고조된 인식은 매우 유익한 역할을 합니다. 최소한 우리는 우리가 모르는 것을 알게 될 것이고, 우리의 질문에 대한 답을 찾는데 집중할 수 있게 만들기 때문입니다.

 

올바른 질문이 모르는 답을 찾는 것보다 낫다!
  ‘총알 구멍난 실종 비행기’이야기가 여기에 적절할 듯 싶습니다. 2차 세계대전 당시, 미군은 총알 구멍난 전투기를 보강할 충분한 철판이 없었기 때문에 어느 부분을 더 보강해야 하는지 알기 원했습니다. 그래서 유명한 수학자인 Abraham Wald에게 문제해결을 요청했습니다. 연구에 따르면 귀환하는 비행기는 비행기의 나머지 부분보다 동체 쪽에 총알 구멍이 더 많았다고 합니다. 비행기 엔진 쪽은 총알구멍 갯수가 훨씬 적었지요. 그래서 대부분은 총알구멍이 가장 많은 동체부분을 덮기 위해 철판을 사용하고자 했습니다. 하지만 Wald는 그들의 연구를 재검토하고 비판적이면서 올바른 질문을 던졌습니다. “돌아오지 않은 항공기는 고려했나요? 엔진에 더 많은 총알을 맞아서 비행기가 돌아오지 못하면 어떻게 되죠?”그의 질문에 대한 대답은 실제로 비행기의 가장 취약한 지점이 엔진이었다는 사실을 깨닫게 했습니다. 알려지지 않은 미지의 것들에 초점을 두고 제시한 그의 결정적인 질문은 후속 전쟁에서 수천 명의 생명을 구하는 결과를 이끌어 냈습니다.
  ‘새로운 기술에 대해 올바른 질문을 하는 것’이 정답을 찾는 것보다 더 중요할 수 있습니다. 우리가 모른다는 사실조차 알지 못할 때, 적어도 우리가 모르는 것이 무엇인지를 개략적으로 설명해보는 것이 더 낫습니다. 우리의 맹점인 무지를 더 잘 알게 되면, 아직 옳은 대답을 얻지 못했을지라도 도움이 될 수 있기 때문입니다. 새로운 기술의 맹공을 받고 있는 이 시대, 우리가 가져야 할 태도는 바로 ‘올바른 질문을 하는 것’입니다.

 

Shubhangi S. Gokhale
세종대학교 행정학과 연구조교수, 뉴욕주변호사
sgokhal@gmail.com

 

이 글은 < 행복한동네문화이야기 제 93호 >에 실려 있습니다.

 

< IT & 뇌과학 스토리 바로가기 >

[IT & 뇌과학 스토리 8]

제 94호 로봇 책임에 대한 법적 대응 (Legal Responses to Robot Liability) 

- 자율주행차의 사례로 본 -

[IT & 뇌과학 스토리 6]

제 87호 환상지통(幻想肢痛)을 아시나요?

< 행복한동네문화이야기 >는 

• '지역적 동네'뿐 아니라 '영역적 동네'로 확장하여 각각의 영역 속에 모여 사는 수많은 사람들의 다양한 스토리와 그 속에서 형성되는 새로운 문명, 문화현상들을 동정적이고 창조적 비평과 함께 독자들에게 소개하는 국내 유일한 동네신문입니다.

• 일체의 광고를 싣지 않으며, 이 신문을 읽는 분들의 구좌제와 후원을 통해 발행되는 여러분의 동네신문입니다.

• 정기구독을 신청하시면 매월 댁으로 발송해드립니다. 

    연락처 : 편집장 김미경 010-8781-6874

    1 구좌 : 2만원(1년동안 신문을 구독하실 수 있습니다.)

    예금주 : 김미경(동네신문)

    계   좌 : 국민은행 639001-01-509699