4차산업혁명의 알고리즘사회, 공정할까요?

[IT & 뇌과학 스토리 10 - 4차산업혁명시대 알고리즘 사회]

4차산업혁명의 알고리즘사회, 공정할까요?

무엇이든 척척, 알고리즘이 해결해주는 월드 와이드 브레인 시대

  최근 9월, 4차산업혁명을 견인할 기술들의 미래를 전망한 ‘스마트클라우드쇼’가 열렸습니다. 기조 연설을 했던「마스터 알고리즘」의 저자인 페드로 도밍고스(Pedro Domingos)는 컴퓨터가 스스로 학습할 뿐 아니라 심지어 모든 종류의 데이터에 대해 최적의 알고리즘을 스스로 만들어내는 사회가 도래할 것이라 예견하였습니다. 현재 널리 쓰이는 월드 와이드 웹(World Wide Web)은 부정확한 정보나 잡음 또는 모호한 정보로 인해 내가 원하는 정보를 얻기가 어려웠습니다. 미래에는 머신러닝과 마스터알고리즘을 통해 내가 원하는 것을 알아서 찾아주는 월드 와이드 브레인(World Wide Brain)으로 진화할 것이라 말합니다. 예전에는 고객의 취향에 맞는 수백 가지의 알고리즘을 일일이 인간 프로그래머가 만들어주어야 했습니다. 그러나 앞으로는 인간이 아닌 머신러닝 알고리즘이 개별 고객의 취향을 모두 나타내는 수십억 개의 규칙을 스스로 학습하여 맞춤형 서비스를 제공하게 된다는 겁니다. 이것이 바로 기업들이 이런 발전에 열광하는 이유입니다.

대량살상 수학무기가 난무하는 불공정 사회

  그러나 다른 한편에선 이런 알고리즘의 발전이 초래할 예측 불허의 무시무시한 사회, 혹은 불공정 사회를 염려합니다. 얼마 전 구글의 사진인식 알고리즘이 흑인 여자 친구를 고릴라로 분류한 충격적인 사실은 너무나 잘 알려진 부정적인 머신러닝 알고리즘의 대표 사례가 되어버렸습니다. 사건 발생 즉시 구글은 사진인식 알고리즘에서 ‘고릴라’라는 태깅(Tagging, 꼬리표 달기)을 모두 막아버렸습니다. 이 작은 사건이 인종차별의 큰 도화선이 될 수 있었기 때문입니다. 또 2007년, 워싱턴DC에서 관내 학생들의 낮은 학업 성취도가 무능한 교사들 때문이라고 결론을 내리고 새로운 교사 평가시스템을 도입한 바 있습니다. 이 시스템의 알고리즘은 학업성취도가 아닌 시험점수만으로 교사들을 평가한 겁니다. 그렇기 때문에 학생들과 부모들에게 좋은 평판을 받는 우수한 교사도 학생들의 시험점수가 낮으면 쫓겨나게 되는 어처구니가 없는 상황이 벌어졌습니다. 그렇기 때문에 교사들은 점차로 학생들에게 인성적이고 사회적인 관심을 쏟기보다는 결과로 판정날 학생들의 시험 대비에만 열을 올리게 되는 겁니다. 심지어 시험 답안을 수정하는 등 부정행위도 집단적으로 이뤄진 황당한 사건이 발생했습니다. 한국 역시도 이미 이런 일들이 벌어지고 있습니다.

 「대량살상 수학무기」의 저자이며 수학자이자, 데이터과학자인 캐시오닐(Cathy O'Neil)은 누가 어떤 목적으로 사용하는가에 따라 알고리즘이 전혀 다른 얼굴을 가질 수 있다는 점에 주목하였습니다. 인종차별, 빈부격차, 지역감정 등 인간이 가진 편견과 차별 의식을 그대로 코드화한 알고리즘 모형은 대량살상무기만큼 위험하다고 경고합니다. 빅데이터와 수학을 기반으로 하기 때문에, 겉으로 보기에는 상당히 객관적이고 공리주의적인 것처럼 보입니다. 하지만 이들 알고리즘은 수많은 변수들로 이루어진 복잡한 수학이론을 기초로 하기 때문에, 알고리즘 개발자와 수학자 혹은 컴퓨터과학자를 제외하고는 내부 작동 방식을 직관적으로 이해하기도, 심지어 개발한 사람들이 설명하기도 어렵습니다. 또한 이 알고리즘은 외부에 절대 공개되지 않아서 불투명하기까지 합니다. 한 개인이 이런 알고리즘으로 인해 불공정한 피해를 입었다 손 치더라도 이의를 제기하여 알고리즘을 수정하거나 바꾸는 것은 거의 불가능합니다. 알고리즘은 대부분 효율성과 확장성이란 이유로 다수의 대중들을 대상으로 하기 때문에 익명으로 처리되는 사회적 약자와 가난한 사람들을 더 차별하고 소수의 부자는 더욱 더 부자로 만들어주는 빈익빈 부익부 현상을 가속화시키는 경향을 가질 수밖에 없다는 겁니다.

그렇다면 알고리즘을 잘 아는 전문기업에게 맡길까요?

  알고리즘의 이런 부정적인 공격에 대해 우리는 어떻게 자신을 지킬 수 있을까요? 구글, 페이스북, IBM, 아마존, MS처럼 머신러닝을 선도하는 전문기업들을 믿고 의지해야 할까요?「사피엔스」의 저자 유발 하라리는 최근작「호모데우스」에서 미래에는 빅데이터와 수학, IT가 결합해 만들어진 알고리즘이 우리 삶을 지배하는 새로운 데이터 종교(Dataism)가 되는 불안한 미래를 예견했습니다.

  4차산업혁명에 의하여 만들어질 (인공)지능사회는 토지, 노동, 자본이 중요했던 예전 산업사회와 달리, 지능화의 핵심요소인 데이터, AI, 알고리즘을 가진 몇몇 기업이 경쟁우위를 독점할 확률이 아주 높습니다. 그 이유는 가장 많은 고객을 보유한 회사가 가장 많은 데이터를 수집하고, 그것으로 가장 좋은 모형을 학습하고 가장 많은 신규 고객을 얻는 선순환 구조가 형성되기 때문입니다. 또한 방대한 데이터와 머신러닝 알고리즘을 빠른 시간 안에 작동시키기 위해서는 막대한 컴퓨팅 자원과 인재들이 필요한데 이런 일은 작은 기업들은 엄두도 못낼 일이죠.

  그래서 자연스레 자원과 기술이 특정기업에 편중되는 현상이 심화되면서 역사상 유례없는 양극화 사회가 예견되고 있습니다. 가진 기업은 더 가지게 될 것이고, 나머지 기업들은 그 기업과 종속적인 관계를 형성하게 되겠지요. 캐시오닐은 이런 불공정한 알고리즘 사회에서의 대안은 ‘투명성과 도덕성 확보’라고 말합니다. 하지만 생태상 영리를 주로 추구하는 전문기업들에게 투명성과 도덕성을 단순히 기대해도 될까요? ‘사악하지 말자’라는 기치를 내건 구글이, 알파고를 만든 딥마인드를 인수할 때에 조직내 ‘윤리위원회’를 만들겠다 공표 했었습니다. 하지만 여지껏 그 조직이 어떤 방식으로 어떻게 운영되어왔고 또 의사결정에 어떤 영향을 주었는지는 아무도 모릅니다. 페이스북과 트위터 역시 보이지 않는 수많은 알고리즘을 사용하여 미국 대선을 비롯한 각종 정치에 활용되고 있는 것은 우리는 너무도 잘 알고 있습니다. 이런 전문기업들에게 개인과 사회, 그리고 지구 전체의 미래를 맡길 수 있을까요?

   하지만, 이 시대를 살아가는 주체로서 나 개인의 차원에서 먼저 해야 할 일들이 있습니다. 바로 ‘책임있는 행동과 참여’입니다. 보통 사람이라도 머신러닝이나 알고리즘 등이 어떤 분야에 어떻게 사용되고 있는지 관심을 가지고 이해할 필요가 있습니다. 그리고 나의 모든 온·오프라인 ‘일거수 일투족’이 기업들에게 빅데이터로 처리되어 빤히 드려다 볼 수 있는 상태라는 끔찍한 사실(?)도 기억해야 합니다. 또 기업들이 제공하는 ‘편리’와 ‘단기적 이익’이라는 홍보 아래서 달콤하고 몽롱하게 느껴지는 맞춤형 서비스나 무료 서비스에 대해 건강한 의심을 해보는 것이 필요합니다. 무엇 때문에 궁극적으로 누구 좋으라고 이윤을 추구하는 기업들이 이러한 서비스를 제공하는지, 또 이것을 통해서 그 기업이 실제로 얻는 이익은 무엇이고 얼마만큼인지에 대해서 말입니다. 21세기 사회와 문명의 이런 급진적 변화에 대해서 구체적으로 따져보지 않고 믿는 것은 오히려 무책임한 행동일 수 있습니다. 물론 무작정 의심하는 것은 사회에 필수적인 신뢰를 무너뜨리기 십상이긴 합니다. 노벨경제학상 수상자인 ‘대니얼 카너먼’이 말한 것처럼 인간은 이성적으로 행동할 것 같지만 실제는 직관적, 감정적으로 행동하는 것이 훨씬 많은 편향된 존재임을 우리 스스로가 인정하는 것이 필요합니다. 그래서 이런 물질주의적 문화에 대해서 뿐 아니라 그런 사회와 그 기본 구성원인 인간이란 무엇인가 누구인가를 근본적으로 질문하고 새롭게 대답해 보아야 하는 겁니다.

공동체가 필요한 때

  그러면 너무나 쉽게 편향되는 우리 개개인의 한계를 어떻게 극복할 수 있을까요? 캐시오닐은 알고리즘의 시대에 개인의 노력으로 편향된 기업들의 알고리즘과 시스템을 바꾸는게 얼마나 어려운지에 대해 얘기합니다. 그렇기 때문에 한 개인을 넘어선 사회적, 국가적, 전지구적 차원의 노력도 필요한데, 그나마 반가운 것은 이러한 노력들이 조금씩 일어나고 있다는 소식이 들린다는 겁니다.

  첫째로 사회적 차원의 예로는 ‘안전한 범용인공지능’(AGI: Artificial General Intelligence) 개발을 목적으로 설립된 비영리 기구 Open AI를 들 수 있습니다. 불안한 미래사회가 전개될 것을 예상하는 테슬라의 일론 머스크가 초기 설립자 중의 한 사람이지요. 현재는 인공지능과 머신러닝 분야의 최신기술들을 오픈소스 형태로 공개하여 특정 기업들이 독점하는 것에 대응할 수 있도록 다방면의 기여를 하고 있습니다.

  둘째로 국가적 차원의 예로는 지난 9월 UNIST(울산과학기술원)에 ‘설명가능 인공지능 연구센터’를 만든 것을 들 수 있습니다. 인공지능이 주어진 데이터를 분석하는 데에 그치지 않고, 인과관계를 분석해 의사결정에 적절한 이유를 제공하여 사람이 이해하고 대응할 수 있는 인공지능 기술을 개발하고 있습니다. 또한 공정거래위원회가 디지털시대 IT대기업들의 알고리즘 담합에 의한 불공정성을 판별하기 위해 새로운 기준을 연구하고 있습니다. 또 독일 정부도 자율주행차와 관련하여 기업의 어설픈 공리주의적 접근이나 투명하지 않은 판단기술로 인간 생명이 선택되거나 기업의 이익을 추구하지 않도록, 윤리 가이드라인을 선명히 제시하려고한 것은 매우 의미있는 정책입니다.

  셋째로 전지구적 차원에서는 UN이 업계, 학계 및 연구기관, 시민사회단체, 정부 등과 전문가 네트워크를 구축해서 인공지능과 로봇의 도입에 따른 대량 실업과 전쟁발발 등 가능한 위협들을 관찰하는 상설 ‘인공지능 로봇센터’를 네덜란드 헤이그에 설립하는 계획을 발표하였습니다.

  하지만 개인과 사회, 국가, 전지구적 노력과 정책과 조직이 이루어졌다고 할지라도, 그 존재 이유와 고유의 시대적 목적이 있기 마련입니다. 따라서 나, 내 가족, 우리 기업, 우리 사회, 우리 국가가 우선시 될 수밖에 없습니다. 이런 한계는 어떻게 하나요?

  1968년 전 세계가 경제성장에 박차를 가하고 있을 무렵, 종교단체인 로마교황청이 후원한 ‘로마클럽’이 결성된 적이 있습니다. 로마클럽은 급격한 경제성장이 환경이나 자원고갈과 같은 전지구적인 문제를 초래할 것이라는 연구결과로 전세계에 경종을 울렸지요. 당시 이것이 가능했던 것은 지역과 국가와 시대의 이데올로기를 넘어 영속적인 가치를 추구하려는 종교적 각성이 있었기 때문입니다. 자기와 자기가 속한 사회, 국가, 시대를 넘어서고, 물질주의를 극복하는 정신적, 영속적 가치를 추구하는 것이 종교의 능력이고 위상입니다.

  마지막 넷째로 나 개인과 내가 속한 작은 공동체는 언제든지 편향될 수밖에 없기 때문에 이것을 교정해주고, 더 크고 영속적인 가치를 꾸준히 추구해나갈 영원한 공동체가 더욱더 필요한 때입니다. 

서울산업진흥원 연구원 추광재

iryatyahweh@gmail.com

010-9018-0225

이 글은 < 행복한동네문화이야기 제 98호 >에 실려 있습니다.

 

< IT & 뇌과학 스토리 바로가기 >

[IT & 뇌과학 스토리 11]

제 101호 인간이란 무엇인가?

[IT & 뇌과학 스토리 9]

제 96호 나를 결정하는 것은 기억이 아닌 행동!

< 행복한동네문화이야기 >는 

• '지역적 동네'뿐 아니라 '영역적 동네'로 확장하여 각각의 영역 속에 모여 사는 수많은 사람들의 다양한 스토리와 그 속에서 형성되는 새로운 문명, 문화현상들을 동정적이고 창조적 비평과 함께 독자들에게 소개하는 국내 유일한 동네신문입니다.

• 일체의 광고를 싣지 않으며, 이 신문을 읽는 분들의 구좌제와 후원을 통해 발행되는 여러분의 동네신문입니다.

• 정기구독을 신청하시면 매월 댁으로 발송해드립니다. 

    연락처 : 편집장 김미경 010-8781-6874

    1 구좌 : 2만원(1년동안 신문을 구독하실 수 있습니다.)

    예금주 : 김미경(동네신문)

    계   좌 : 국민은행 639001-01-509699