인공지능이 인간을 나약하게 만든다!?

인공지능이 인간을 나약하게 만든다!?

 

2016년 3월 알파고(AlphaGo) 사건이후로 인공지능(AI; Artificial Intelligence)에 대한 세상의 관심이 갈수록 고조되고 있습니다. 인공지능은 디지털 경제에서 없어서는 안 될 약방의 감초같은 기술이 되었고, 국가들마다 뒤질세라 인공지능 인재들을 양성하고, 데이터를 모으고, 인공지능 기술개발을 위해 전후방으로 기업들을 지원하고 있습니다. 우리나라가 최근 발표한 ‘한국판 뉴딜 정책’에도 DNA(Data 데이터, Network 네트워크, AI 인공지능) 기반 구축 사업이 중심을 차지하고 있습니다.

* 출처 동아비즈니스리뷰 282호

 

인공지능, 넌 나보다 나을 거야!?
자동화가 필요한 반복적인 작업들을 개발자가 하나하나 알고리즘으로 만들어 개발하던 이전 기술개발 방식에서, 인공지능이라는 블랙박스에 정답을 알려주고 데이터로 학습시키는 머신러닝 기법이 개발되면서, 개발자의 머리로는 도저히 개발할 수 없었던 수십, 수백차원의 변수와 함수를 활용한 세세한 개인 맞춤형서비스까지도 쉽게 개발할 수 있게 되었습니다. 이렇게 정교한 기술개발이 더해지다보니 기업들은 만병통치약인양 인공지능 기술을 앞 다투어 도입하려하고 있고, 인공지능기술에 대한 신뢰도도 점점 높아지고 있습니다. 한편, 이런 신뢰도 때문에 어처구니없는 상황도 가끔 연출되곤 합니다. 잘 트레이닝 된(학습된)인공지능기술의 예측 결과가 틀린 경우에도 오히려 인간이 인공지능의 심중을 헤아려(?) 인간들이 이해하지 못하는 무언가 있을 꺼라 기대하며 틀린 결과를 해석까지 해주는 일도 벌어집니다. 마치 알파고가 이세돌에게 딱 한 판 졌을 때처럼 말이죠. 이는 인간이 하지 못하는 수준의 일까지 인공지능이 하다 보니 ‘인간인 나보다 나을 거야’라는 막연한 기대를 가지고 신뢰하기 때문입니다.

인공지능이 인간을 더 나약하게 만든다!
최근 MIT의 Sloan Management Review에 실린 연구결과에 의하면, 수많은 일들을 인공지능에게 아웃소싱(outsourcing)하게 되면서, 인간은 일의 결과에 대해 덜 성찰하고 책임감도 덜 느낀다고 합니다. 예를 들어볼까요. 우리가 가장 흔히 접하는 인공지능을 활용한 서비스가 바로 ‘추천’기능입니다. 쇼핑몰에서 인공지능이 방대한 데이터를 기반으로 나를 위해 사려 깊게 추천한 제품을 상대에게 선물했는데, 실망스런 결과를 얻었다면 잘못은 누구에게 있는 걸까요? 물건을 추천한 인공지능일까요? 그걸 덜컥 믿고 산 저의 잘못일까요? 이를 구분하는 일이 점점 어려워지고 있습니다. 인공지능 덕분에 인간은 지루하거나 시간을 소모하거나 성가신 일들을 더 이상 하지 않아도 됩니다. 이런 고민거리를 인공지능이 대신 수행해주게 되면서 인간은 이런 고민에서 해방되고 더 가치 있는 일에 전념할 수 있게 됩니다. 이러한 아웃소싱 행위가 일어날 때마다, 인간은 인공지능에게 어느 정도의 선택권과 통제력도 함께 넘겨주며 일정수준의 신뢰감도 부여합니다. 인간은 인공지능과의 교환에 익숙해지면서 물리적 세상, 심지어는 자기 자신과의 상호작용에서 벗어나려는 탈참여(disengagement) 경향을 보이게 됩니다. 이 과정은 심리학자 대니얼 카너먼(Daniel Kahneman)이 말한대로 이중인지 처리 프로세스에서 성찰적 사고(신중한 의사결정)에서 벗어나 자율적인 사고(자동 반응에 의한 결정)에 익숙해지는 것을 의미합니다. MIT 연구에서는 인공지능 기술이 실제 물리적인 인간세계에서 일어나는 수많은 마찰(friction)을 감소시켜, 인간이 성가신 일들을 통해서 적응력을 기르거나 주변사람, 혹은 세상과의 관계 속에서 상호작용하며 자신의 행동을 조정하는 것을 배울 기회를 상실하기 때문이라 얘기합니다.

편리함이 ‘탈참여’로 이어질 때
인간의 인공지능에 대한 의존도가 증가할수록 일상 속에서 이런 인간끼리의 진정한 상호작용은 점점 더 사라지고 있습니다. 특히나 코로나19로 인해 뉴노멀이 되어가는‘비대면 서비스’는 이를 가속화하고 있습니다. 이런 마찰 없는(frictionless)는 커뮤니케이션은 첫째, 인간을 수동적으로 만듭니다. 사소한 것에서부터 인공지능의 도움을 받기 시작하면, 인간은 참여자가 아닌 관중의 태도를 취하게 됩니다. 우리가 매일 경험하는 페이스북의 즐길 거리와 뉴스를 볼 때에 이미 일어나고 있는 일들입니다. 애써 다른 선택지나 다른 시각을 찾아 나서지 않는 한, 인공지능에 의해서 제공되는 선입견의 편향에 제동을 걸 수 없게 됩니다. 즉, 더 이상 비판적이고 깊이있는 사고에 에너지를 쓸 생각조차 하지 않게 되는 것이지요.
둘째, 참여가 줄어들면 인간속에 정서적 분리가 일어납니다. 정서적 분리는 인간으로 하여금 진실되기보다 기만적 태도를 가지게 만듭니다. 상대와의 감정적 신호를 주고받음을 통해서 공감능력이 길러지는데, 이런 신호를 주고받지 않으니 점점 둔감해져 상호작용에 의한 정상적인 공감능력은 떨어지고, 동물적 본능에 의한 감정표출만 발달하게 됩니다.
셋째, 인간 자신이 해야할 행동에 대한 인지능력 및 스스로 결정할 수 있는 능력을 저하시킵니다. 이는 윤리적 능력과도 관련되는데, 자율주행차가 이미 프로그램된 대로 운행하다 사고가 발생하면, 인간은 윤리적 판단을 포기하고, 책임감에서도 한발 물러선 태도를 취하기 쉽습니다.
마지막으로, 인공지능에 대한 의존도가 높아질수록 인간의 무지도 함께 증가하게 됩니다. 운전할 때 네비게이션에 의지하다보면 평소 익숙하게 잘 찾아가던 길도 생소하게 느껴져 헤메는 경우가 생기지요. 또한 숙련된 기술도 인공지능에 아웃소싱 하다보면 새로운 기술을 습득하려는 의지조차 가지지 않게 됩니다. 애써 땀 흘려 무언가를 배우던 즐거움도 까마득히 잊어버리겠지요. 
이런 문제들을 해결하기 위해서는 인간 스스로 자기 성찰적 사고를 할 수 있도록 다양한 수준의 기술을 개발하는 것도 하나의 방법이 될 수 있습니다. 하지만, 문제의 근본을 들여다보는 것이 필요합니다. 

인간이 인간을 약하게 만든다 
인공지능이 인간을 약하게 만드는 것은 맞는 말이지만, 더 근본적 원인은 따로 있습니다. 인공지능을 개발하는 방법이 기존방식과 다르게 데이터 학습에 의한 머신러닝을 통해 만들어질 뿐, 이를 설계하고 개발하는 것도 인간이기 때문에 문제의 원인은 결국 인간에게 있는 것이지요. 수학자 캐시오닐의《대량살상 수학무기 Weapons of Math Destruction》에서 빅데이터에 의한 인공지능의 편향은 진짜로 누가 만드는가를 잘 보여주고 있습니다. 다시 말하면, 인공지능을 개발하는 인간이 인간에 대해 잘 모른다는 사실을 우리는 늘 간과하고 있습니다. 아니 이 문제에 대해서 제대로 직면하려고도 하지 않습니다. 최신기술관련 학회나 세미나에서 주제와 관련하여 고민해야 할 인문학(윤리, 철학)에 대한 깊이 있는 질문을 하면 돌아오는 싸늘한 반응은 딴 데 가서 알아보라며 미운오리새끼 취급을 당합니다. 인문학이나 철학분야 세미나에서도 마찬가지입니다. 기술의 미래와 윤리에 대해 질문하면 돌아오는 반응은 앞으로 고민해야할 사안이라며 토론을 회피합니다. 이런 반응들이 부분적이고 파편적인 서양학문의 한계를 단적으로 보여주는 결과가 아닐까요. 저는 국내대학에서 컴퓨터공학을 전공했고, 박사과정까지 공부했습니다. 하지만, 학부 때 인문학 관련하여 들었던 과목은 교양과목 몇 개에 불과합니다. 석사, 박사과정 때는 오직 전공과목만 연구했지요. 그러다보니 기술에 대해서는 잘 안다하더라도 인간을 위한 기술을 개발해야 하는데 인간에 대해서는 상식수준도 되지 않는 지식을 가진 채 여지껏 기술개발을 해왔습니다. 서양의 영향을 받은 대학의 커리큘럼 자체가 기술교육 중심으로 되어있고, 이것 또한 점점 더 당장 써먹기 위한 직업교육 형태로 변질되고 있습니다. 하지만, 늦지 않았습니다. 지금이라도 인문, 사회, 문화, 철학, 윤리, 종교 등 인간에 대한 총체적인 시각을 가질 수 있는 인간 교육을 한다면, 인간을 나약하게 만드는 인공지능 보다 나은 인공지능을 만들 수 있지 않을까요?

 

경기도 군포시 갈렙

caleb.kj.choo@gmail.com

 

이 글은<행복한 동네문화 이야기 제131호>에 실려 있습니다

 

< 행복한동네문화이야기 >는 

• '지역적 동네'뿐 아니라 '영역적 동네'로 확장하여 각각의 영역 속에 모여 사는 수많은 사람들의 다양한 스토리와 그 속에서 형성되는 새로운 문명, 문화현상들을 동정적이고 창조적 비평과 함께 독자들에게 소개하는 국내 유일한 동네신문입니다.
• 일체의 광고를 싣지 않으며, 이 신문을 읽는 분들의 구좌제와 후원을 통해 발행되는 여러분의 동네신문입니다.

정기구독을 신청하시면  매월 댁으로 발송해드립니다.
    연락처 : 편집장 김미경 010-8781-6874
    1 구좌 : 2만원(1년동안 신문을 구독하실 수 있습니다.)
    예금주 : 김미경(동네신문)
    계   좌 : 국민은행 639001-01-509699