check 3d gpu
바로가기
메뉴로 이동
본문으로 이동

인공지능에게 민주주의를 맡기시겠습니까?

<사이언티픽 아메리칸>은 ‘빅데이터·인공지능 시대에 민주주의는 살아남을 수 있을까’라는 기사를 실었다. 알고리즘, 집중·분산 처리 시스템 등은 민주주의의 미래에 화두를 던진다.

천관율 기자 yul@sisain.co.kr 2018년 09월 03일 월요일 제572호
댓글 0

인공지능 시대에 민주주의는 살아남을 수 있을까요? 이 거대한 질문은 답은커녕 무엇을 묻고 있는지도 간단치 않습니다. 우리는 인공지능 시대가 어떤 모습일지 아직 모릅니다. 민주주의는 그보다야 낫겠지만, 역시 그게 무엇이고 어떻게 작동하는지 안다고 확신하긴 어렵습니다.

이럴 때는 좀 헐겁더라도 도발적인 상상력이 도움이 됩니다. 역사학자 유발 하라리는 놀라운 통찰과 과감한 비약 양쪽으로 유명한 슈퍼스타입니다. 하라리는 세계적인 베스트셀러 <사피엔스>와 <호모 데우스>를 썼는데, 경제학·인류학·컴퓨터과학·생명과학 등 여러 전공 분야를 종횡무진하며 인류사의 큰 줄기를 엮어가는 탁월한 솜씨를 보여줍니다. 그리고 각 분야 전문가들로부터 거의 동시에 비약이라고 비판을 받았지요.

4월11일, 하라리는 캐나다 밴쿠버의 ‘2018 테드(TED) 콘퍼런스’ 무대에 홀로그램으로 등장해 18분짜리 강연을 합니다. 여기서 하라리는 우리의 주제를 압축할 만한 화두를 던집니다. “알고리즘은 나에 대해 나보다 더 많이 알게 될 것입니다. 그 알고리즘을 통제하는 권력은 내 느낌과 감정까지 조종할 수 있게 될 겁니다. 민주주의는 살아남기 어렵습니다.”

온라인 쇼핑몰 인공지능이, 내 심박수·체온·활동량·수면상태 등 온갖 정보를 파악하여 마음을 재빨리 예측하고 그에 맞는 상품을 추천하는 세상을 상상해봅시다. “당 떨어지셨군요? 여기 당신이 즐겨 먹던 초콜릿 리스트가 있습니다!” 이것이 충분히 자연스럽고 유혹적이라면, 결정하는 것은 실질적으로는 내가 아니라 알고리즘입니다. 그리고 알고리즘이 초콜릿을 넘어 특정 선거 후보자나 정부 정책을 지지하도록 내 감정을 기막히게 조종하는 세상을 상상해봅시다. 하라리는 이런 맥락에서, 비약을 적당히 섞어서, “민주주의가 살아남기 어렵다”라고 말합니다.

하라리는 역사학자이지 인공지능 엔지니어가 아닙니다. 인공지능에 대해서라면 <시사IN>이 프랑스 그르노블에서 만난 ‘네이버랩스유럽’ 소속 연구원 크리스 댄스가 훨씬 믿을 만한 전문가입니다. 댄스가 개발한 ‘주차 최적화 알고리즘’은 교통난으로 악명 높은 미국 로스앤젤레스에 적용되어 호평을 받았습니다. 이 알고리즘은 교통 상황을 파악해 주차요금을 실시간으로 정하며, 운행 경로에 따라 최적의 주차장을 안내합니다.

주차 알고리즘은 원리상 ‘조언’을 할 뿐이지만, 실질적으로는 ‘결정’에 가깝게 작동합니다. 주차 위치 정도야 누가 결정하든 아무려면 어떻겠습니까. 하지만 예를 들어 최적의 소득세 세율을 결정하는 문제를 알고리즘이 맡는다면? 문제는 달라집니다. 조언과 결정. 둘의 차이를 구분하는 것이 우리의 질문에 답할 첫 번째 열쇠입니다. 

최적의 세율을 알고리즘이 판단할 수 있을까요? 댄스에게 물어봤습니다. “데이터가 충분하고 기술이 더 발전한다면, 가능하다고 생각합니다.” 세상에. 세율은 민주주의에서 대단히 중요한 결정입니다. 그런 세상을 민주주의라고 불러도 될까요? 댄스는 이렇게 답했습니다. “민주주의는 대단히 복잡하고 다층적인 의사결정 과정입니다. 한두 가지 문제에 알고리즘이 조언을 줄 수는 있지만 민주주의 자체를 대체하기는 어렵습니다. 그 질문은 민주주의를 너무 단순하게 보는 것 같네요.” 이런, 한 방 먹었습니다.

ⓒ시사IN 조남진
크리스 댄스 ‘네이버랩스유럽’ 소속 연구원(위)은 ‘주차 최적화 알고리즘’을 개발했다.

문제가 해결된 것은 아닙니다. 여전히 ‘결정’과 ‘조언’의 경계는 분명하지 않습니다. 미국의 탐사보도 전문매체 <프로퍼블리카>는 2016년 5월, 대단히 논쟁적인 기사 ‘Machine Bias(기계의 편향)’를 썼습니다. 미국에는 형사 범죄자가 재범을 저지를 확률을 알고리즘으로 평가하는 민간 기업이 있습니다. 이것을 ‘위험 점수(Risk Scores)’라고 부릅니다. 민간 기업들은 알고리즘의 작동 원리를 영업비밀로 보호받습니다. 판사들은 자기 앞에 도착한 위험 점수가 어떻게 나온 것인지 알 수 없습니다. 조언이란 우리의 토론과 결정에 도움을 줄 수 있는 정보와 의견입니다. 이쯤 되면 이미 조언이라고 보기 어렵습니다. 

결과는 치명적이었습니다. <프로퍼블리카>는 이 알고리즘을 검증하기 위해 플로리다 주의 한 카운티에서 2년 동안 체포된 7000명의 위험 점수를 구해 분석했습니다. 21쪽 표는 각각 흑인과 백인 범죄자들이 받은 위험 점수입니다. 흑인은 1점부터 10점까지 비교적 고르게 받은 반면, 백인은 절대다수가 낮은 점수의 저위험군으로 분류됐습니다. 혹시 흑인이 실제로도 재범을 많이 저지르기 때문일까요?

꼭 그렇지도 않았습니다. 고위험군으로 분류된 백인 중 23.5%가 범죄를 저지르지 않았습니다. 반면 고위험군 흑인 중에는 44.9%가 범죄를 저지르지 않았습니다. 흑인의 위험도가 과대평가된 겁니다. 반대로 저위험군 백인 중에서는 47.7%가 범죄를 저질렀습니다. 저위험군 흑인은 28%만이 범죄를 저질렀습니다. 백인은 알고리즘의 예측보다 더 위험이 높았습니다. 알고리즘은 인종주의자였습니다. 그리고 법원은 이 인종주의자 알고리즘의 결론을 참고할 만한 조언으로 보았습니다. 기사가 작성된 시점에서, 미국의 9개 주에서 위험 점수를 판사에게 전달하고 있었습니다.

인공지능이 민트 맛 초콜릿을 추천한 이유를 알 수 없어도 삶에 큰 문제가 생기지는 않습니다. 그저 초콜릿에서 치약 맛이 날 뿐입니다. 하지만 의료 진단이나 형사재판처럼 사람의 기본권이 걸린 문제라면, 인공지능이 왜 그런 선택을 했는지 알아야 합니다. 특히 딥러닝 알고리즘에서 이게 문제가 됩니다. 지금 기술로는 딥러닝 알고리즘이 어떤 이유로 결론을 내렸는지 개발자조차 알 수 없습니다. 그래서 로봇윤리와 인공지능 안전 이슈의 세계적 전문가로 ‘<시사IN> 인공지능 콘퍼런스’의 강연자로 나선 앨런 윈필드 교수(영국 브리스틀 로보틱스랩)는 “안전이 필수인 시스템에서는, 투명성이 확보되기 전까지 딥러닝 알고리즘을 써서는 안 됩니다”라고 단언합니다.

조언과 결정 문제를 파고들다 보니, 우리의 질문에서 중요한 두 번째 열쇠에 도착했습니다. 투명성과 불투명성 문제입니다. 투명성이 있어야만 ‘인공지능이 조언하고 인간이 결정한다’라는 주장이 성립할 수 있습니다. 인공지능이 그렇게 조언한 이유를 알아야 공론장에서 토론에 부칠 수 있고, 그럴 때만 조언이 성립하기 때문입니다. 이 문제에서는 유럽연합이 앞서 있습니다. 올해 5월25일부터 유럽연합은 강화된 ‘개인정보보호법’을 시행했습니다. GDPR이라는 약어로 불립니다. 특히 눈길을 끄는 대목이 있습니다. 알고리즘이 어떤 결정을 하여 그것에 영향을 받는 개인은, 왜 알고리즘이 그런 판단을 했는지 설명을 들을 권리를 GDPR은 보장합니다.

ⓒ<프로퍼블리카> 갈무리
<프로퍼블리카>는 ‘범죄자의 재범 확률을 알고리즘으로 평가하는 민간 기업’에 관한 기사를 게재했다.
백인에 비해 흑인의 위험도를 과대평가한 것으로 나타났다.
ⓒ<프로퍼블리카> 갈무리

조반니 부타렐리는 유럽 정보보호감독기구(EDPS) 감독관입니다. EDPS는 유럽연합의 개인정보 감독기구인데, 여기서 GDPR의 초안을 잡았습니다. 현지 언론은 부타렐리 감독관을 ‘미스터 GDPR’이라고 부릅니다. 7월3일 벨기에 브뤼셀에서 부타렐리 감독관을 만나 이 ‘설명을 요구할 권리’에 대해 물었습니다. 그는 이렇게 답했습니다. “바로 그것이 GDPR이 제공하는 새로운 기본권입니다. 자동 결정의 대상이 되지 않을 권리입니다.” 알고리즘의 결정이 갈수록 큰 영향을 끼칠 것이기 때문에, 영향을 받는 이유를 시민이 알 권리가 있다는 취지입니다. 

‘설명을 요구할 권리’가 유럽연합을 넘어서 글로벌 표준이 될 수 있을까요? 부타렐리 감독관은 “그렇다”고 자신합니다. “우리는 그 회사의 본사가 어디에 있는지, 서버가 어디에 있는지, 의사결정이 어디서 내려지는지 신경 쓰지 않습니다. 간단합니다. 유럽 시장에 들어오고 싶으면 GDPR을 준수해야 합니다.” 글로벌 기업 중에 유럽연합 시장을 통째로 포기할 기업은 사실상 없습니다.

‘설명을 요구할 권리’, 과연 실현 가능한가

<프로퍼블리카>가 보도한 사례로 예를 들면, 위험 점수를 받은 범죄자는 설명을 요구할 권리가 있습니다. 위험 점수를 평가하는 기업은 적절한 설명을 제공해야 합니다. 물론 미국은 이런 권리를 보장하는 법조항이 없으므로 해당사항이 없습니다. 하지만 이 기업이 유럽에서 같은 사업을 하려면, 그때는 미국 기업이라도 ‘설명할 의무’를 지게 됩니다. 이것은 아주 민주적인 원칙으로 들립니다. 어쩌면 투명성 원칙이 이렇게 해결되고, 첫 번째 문제였던 조언과 결정을 구분하는 문제도 해결될지 모르겠습니다.

“그게 그렇게 간단하지 않습니다.” 이런, 아니라는군요. 부타렐리 감독관의 야망을 듣고 제동을 건 사람은 조경현 교수(뉴욕 대학 컴퓨터과학과)입니다. 딥러닝 개념을 창안한 전설적인 엔지니어 제프리 힌튼이 꼽은 차세대 스타입니다(<시사IN> 제570호 ‘번역 앱 똘똘해졌죠? 조경현 덕분입니다’ 기사 참조). “우선은 딥러닝 안에서 무슨 일이 벌어지고 있는지 알아내는 것이 아주 어려운 기술적 도전입니다. 그 후에도 문제는 남는데요, 복잡한 과제일수록 여러 딥러닝 알고리즘을 조합해서 사용하게 됩니다. 결론이 나오는 과정도 아주 복잡하죠. 이 과정을 다 알려준다면 너무 복잡해서 이해하기가 불가능합니다. 너무 요약하면 사실상 설명이 되지 않습니다. 중간지점을 잡는 것도 매우 까다롭고, 아예 중간이란 게 없을 수도 있습니다. 그렇다면 대체 어디까지 설명해야 ‘설명’일까요?”

고학수 교수(서울대 로스쿨)는 개인정보 보호법 전문가입니다. 그의 생각도 정책가인 부타렐리보다는 엔지니어인 조경현 교수와 비슷합니다. “미래 인공지능까지 가지 않더라도, 예를 들어 지금도 대출 신용등급을 결정하는 공식이 꽤 복잡합니다. 다 설명하면 사실상 설명이 아니고, 너무 간략해도 역시 설명이라고 볼 수 없죠.”

이것은 보르헤스의 ‘완벽한 지도’가 떠오르는 이야기입니다. 아르헨티나 소설가 호르헤 루이스 보르헤스는 단편소설 <과학적 정확성에 관하여>에서 완벽한 지도를 다룹니다. 어느 제국의 지도 제작 능력이 너무나 완벽하게 발달한 나머지, 제작자들은 마침내 실제 제국의 크기와 정확히 같은 지도를 만들어냅니다. 이 지도는 완벽히 정확했고, 완벽히 쓸모가 없었습니다.

끝이 아닙니다. 인공지능과 민주주의의 불화는 가장 근본적인 차원에 잠재되어 있습니다. 다시 하라리의 통찰력 있는 비약으로 돌아갑시다. 같은 강연에서 하라리는 이렇게 말합니다. “자유민주주의가 직면한 최대 위협은, 정보기술 혁명으로 독재 체제가 민주주의보다 더 효율적이게 될 것이라는 점입니다.” 무슨 말일까요?

“독재는 중앙집중형 정보처리 시스템이고 민주주의는 분산형 시스템입니다. 20세기 기술로는 정보를 한곳에 모으는 시스템이 훨씬 비효율적이었습니다. 그래서 민주주의가 이겼습니다. 하지만 중앙집중형 정보처리가 늘 비효율적이라는 자연법칙은 없습니다. 인공지능과 머신러닝은 엄청난 정보를 처리할 수 있게 해줍니다. 매우 효율적으로, 한 장소에서. 중앙집중처리 시스템은 20세기에는 독재의 핸디캡이었습니다. 이제 최대 장점으로 바뀌고 있습니다.”

ⓒ시사IN 천관률
조반니 부타렐리는 유럽 정보보호감독기구 감독관이다.
ⓒ시사IN 조남진
현지 언론은 그를 ‘미스터 GDPR’이라고 부른다.

분산처리 시스템과 중앙집중처리 시스템. 우리의 질문에 답할, 세 번째이자 가장 중요한 열쇠입니다. 20세기 경제사상가 프리드리히 하이에크는 시장을 분산적 정보 생산 메커니즘으로 보았습니다. 시장에 참여하는 플레이어들은 각자 선호에 따라 경제활동을 하면서 ‘분산적으로’ 정보를 생산해냅니다. 이렇게 생산된 정보는 가격신호에 반영되어 역동적으로 조정됩니다. 공산주의는 반대입니다. 정보는 중앙으로 취합되고, 생산량과 가격 등 중요한 결정을 ‘중앙’에서 정합니다. 비누는 남아도는데 신발은 품귀인 식으로 끊임없이 삐걱댑니다. 

민주주의도 분산처리 시스템입니다. 정보는 개별 유권자들이 선호를 밝히는 방식으로 각자 만들어냅니다. 그것이 합산된 결과로 권력이 생성됩니다. 노벨 경제학상 수상자인 아마르티아 센에 따르면, 민주주의 국가에서는 기근이 발생한 적이 없습니다. 기근은 공공자원을 적시에 투입하기만 하면 막기가 꽤 쉬운 재난입니다. 가난한 국가라도 얼추 대응할 수 있습니다. 하지만 독재국가는 종종 기근 대응에 실패합니다. 분산처리 시스템인 민주국가에서는 기근의 징후가 있다는 정보가 재빨리 생산되어 정부에 도달합니다. 독재국가는 그렇지 못합니다. 이 원리를 가장 비싸고 잔인하게 깨달은 사람은 중국공산당 지도자 마오쩌둥입니다. 대약진운동의 결과로 무려 3000만명이 기근으로 사망한 후인 1962년, 마오쩌둥은 당 간부들을 모아놓고 이렇게 말합니다. “민주주의가 없다면 아래에서 무슨 일이 일어나는지 알지 못한다.”

분산처리 시스템의 승리는 20세기를 압축하는 키워드입니다. 많은 학자들은 이것이 일종의 자연법칙에 가깝다고 믿었습니다. 그런데 하라리는 여기에 이의를 제기합니다. 기술이 충분히 발전하면, 그리고 그 기술을 권력이 충분히 통제할 수 있다면, 집중처리 시스템이 더 우월한 날이 올지 모른다고요.

하라리의 악몽은 그대로 중국이 꿈꾸는 미래입니다. 중국은 감시 카메라와 얼굴 인식 인공지능을 결합해 거대한 감시국가 체제를 구축해가고 있습니다. 전국에 깔린 감시 카메라가 2억 대로 추산되고, 2030년까지 3억 대로 늘어날 전망이라고 <뉴욕타임스>가 보도했습니다. 중국 정부는 얼굴과 의복은 물론이고 걸음걸이로 개인을 식별하는 기술에 투자하고 있습니다. 중앙정부와 반목이 심한 신장웨이우얼 자치구에서 스마트폰을 쓰려면 반드시 정부의 스파이웨어를 깔아야 한다고 <이코노미스트>가 보도했습니다.

국제적으로 악명이 높은 ‘사회 신용’ 제도도 중국은 야심차게 추진 중입니다. 주민들의 온갖 개인정보를 취합해 하나의 점수로 만들고, 이를 기준으로 상과 벌을 국가가 내린다는 발상입니다. 이 점수가 낮으면 비행기나 기차표도 사지 못합니다. 아버지가 은행 대출을 갚지 않았다는 이유로 아들의 명문대 합격이 취소 통보를 받은 사례마저 나왔습니다. 빅데이터와 알고리즘의 힘으로 중국 정부의 주민 통제력은 갈수록 강해질 전망입니다. 피터슨 국제경제연구소 연구원인 마르틴 코르젬파는 최근의 중국을 이렇게 논평했습니다. “정부가 사회와 경제를 통제하는 완전히 새로운 길을 가고 있다. 목표는 알고리즘 통치(algorithmic governance)다.”

이것은 확실히 새로운 길입니다. 꼭 그런 것은 아니지만 대체로, 신기술은 독재자의 친구라기보다는 적에 가까웠습니다. 성균관대 조석주 교수(정치경제학)는 이렇게 말했습니다. “딱 떨어진 결론은 없습니다만 느슨하게는 이렇습니다. 원래 기술발전은 새로운 직업군과 다양한 이해관계를 만들어내기 때문에 다양성과 개방성에 좋고 독재에 나쁜 경향이 있습니다. 그런데 인공지능의 경우, 만약 기술을 개발하고 사용하고 투자하고 활용하는 이들이 전부 소수 엘리트로 제한된다? 그러면 기술의 영향력이 분산적이기보다는 집중적일 가능성도 있겠습니다. 모르겠네요(웃음). 확실히 재미있는 주제입니다.”

신기술은 대체로 분산처리 시스템의 친구였습니다. 인공지능 기술은 이런 경향의 중요한 예외가 될까요? 하라리는 “그럴 수 있다”고 말했습니다. 한 명 더 있습니다. 세계 최대 전자상거래 회사 알리바바의 마윈 회장입니다. 그는 “빅데이터 시대에는 계획경제가 시장경제보다 우월한 시스템이 될 것이다. 2030년 정도에 역전될 것이다”라는 지론을 갖고 있습니다. 마찬가지 논리입니다. 충분히 큰 데이터를 중앙권력이 다룰 수 있는 시대에는, 분산처리 시스템보다 중앙집중처리 시스템이 승리한다는 얘깁니다.

인공지능 기술은 독재정부의 친구일까?

ⓒ연합뉴스
2018년 4월 중국 상하이에서 한 방문자가 인공지능을 활용한 안면 인식 시스템을 테스트하고 있다.

두 사람 다 이 주제의 전문가는 아닙니다. 하라리는 역사학자이고, 마윈은 중국공산당의 총애를 받는 기업가입니다. 하지만 정치학자 중에도 있습니다. 떠오르는 스타 정치학자 데이비드 런시먼은 올해 나온 책 <How Democracy Ends>(국내 미출간)에서 “디지털 기술은 비민주적 정부의 권력을 오히려 강화시켰다”라고 대담하게 주장합니다. 정보가 지나치게 풍부할 때는, 정보보다도 오히려 ‘중요한 정보에 집중하는 능력’이 희소한 자원이 됩니다. 넘쳐나는 정보 중에 중요한 것을 발견·취합·가공하는 경쟁은 국가기구가 일반 시민보다 훨씬 끈기 있게 잘할 수 있는 일입니다. 그래서 정보 기술은 독특한 예외가 된다고 런시먼은 주장합니다.

<사이언티픽 아메리칸>은 170년 역사를 자랑하는 미국의 월간 과학 잡지입니다. 대중매체 중에서는 최고의 신뢰도를 자랑합니다. 지난해 2월, 이 매체는 ‘빅데이터와 인공지능의 시대에 민주주의는 살아남을 수 있을까?’라는 기사를 씁니다. 쓰인 단어가 1만 개가 넘고 A4 용지로 30장이나 되는 장문의 기사로, 사회과학·경제학·분자생물학·과학사회학·기술윤리학·정보과학·국제정치학 등 다양한 분야 석학 9명이 참여한 초대형 프로젝트였습니다.

<사이언티픽 아메리칸>은 분산처리 시스템이 미래에도 중앙집중처리 시스템보다 우수할 것이라고 주장합니다. 특히 미래 사회는 매우 가변적이고 복잡할 것이므로, 분산처리 시스템의 장점이 더 극대화된다고 봤습니다. 여기까지는 하라리와 다릅니다. 하지만 그 다음 문제의식은 같습니다. 알고리즘의 힘은 분산처리 시스템의 성능을 떨어뜨립니다. “강력한 알고리즘으로 의사 결정을 조작하면 복잡한 세계에 유연하게 적응할 수 있는 ‘집단지성’의 기반이 손상될 수 있다. 집단지성이 작동하려면 개인들의 정보 수집과 의사 결정이 독립적이어야 한다. 집단지성은 고도의 다양성을 필요로 한다. 오늘날의 개인 맞춤형 정보 시스템은 이것을 위협한다.”

이제 질문이 분명해졌습니다. 인공지능 기술이 분산처리 시스템을 훼손하고 중앙집중처리 시스템에 힘을 실어줄까요? 더 노골적으로, 인공지능 기술은 독재정부의 친구일까요? 아직 알 수 없습니다. 하지만 그 가능성이 여러 미래 중 하나로 있는 것은 사실입니다.

해야 할 일도 좁혀졌습니다. 첫째, 조언과 결정의 문제를 다루기 위해, 우리는 인공지능에 맡길 수 있는 문제와 맡길 수 없는 문제를 명확히 구분해야 합니다. 조경현 교수의 접근법이 도움이 됩니다. 인공지능이 최적 세율을 인간보다 더 잘 알 수 있을까라는 질문에, 그는 이렇게 답했습니다. “가능합니다. 다만 오히려 중요한 문제는, ‘무엇이 최적인가’를 결정하는 것입니다. 국민소득이 극대화되는 것이 최적인지, 불평등이 적절히 완화되는 어떤 지점이 최적인지, 이런 건 사람이 정해야지요. 그 다음에야 인공지능이 적절한 조언을 할 수 있을 겁니다.”

어떤 상태가 ‘최적’인가는 결국 민주 사회 구성원들이 결정할 몫입니다. 이 규칙이 확고한 세상에서는, 인공지능은 기술적인 논란을 줄여줄 잠재력이 있습니다. 최저임금 인상이 가난한 사람들에게 유리할지 불리할지, 정책의 영향 자체를 놓고 벌이는 논란은 꽤 줄여줄 수 있습니다. 그럴 때 민주 사회는 우리가 어떤 세상을 원하는지에만 집중할 수 있을 겁니다. 이것은 인공지능이 민주주의에 기여할 수 있는 잠재력입니다.

둘째, 투명성의 문제를 다루기 위해, 엔지니어들은 딥러닝 안에서 벌어지는 일들을 이해하기 위해 지금도 노력하고 있습니다. 정책 입안자들은, ‘설명을 요구할 권리’가 보르헤스의 ‘완벽한 지도’가 되지 않도록 해야 합니다. 기업이 알고리즘 작동 원리를 영업비밀로 보호하려 한다면, 그런 기업이 ‘안전이 필수인 시스템’이나 ‘기본권이 걸린 시스템’의 조언자(결정자는 물론이고)를 해도 되는가라는 토론이 필요합니다. 기업이 설명할 의무가 있다는 것은 GDPR이 천명한 원칙이지만, 앞서 보았듯 아직 위태롭고 취약합니다.

셋째, 가장 핵심이 되는 분산 대 중앙집중의 문제를 다루지 않으면 안 됩니다. 데이터의 집중과 독점, 그리고 인공지능을 이용한 데이터 처리능력 폭발은 우리 시대 민주주의의 최대 위협이 될 것입니다. 유발 하라리는 이렇게 말합니다. “우리 시대의 질문은 이것입니다. 누가 데이터를 통제할 것인가?” 이 답이 하나(정부)나 소수(엘리트·대기업)가 되게 두어서는, 민주주의의 미래는 어둡습니다.

세계는 다양한 시도를 모색하고 있습니다. <사이언티픽 아메리칸>은 모든 개인이 자신과 관련된 데이터의 ‘사본을 가질 권리’를 가져야 한다는 주장을 소개합니다. 정부나 기업이 수집하고 가공한 데이터를 개인이 언제든지 확인하고 점검할 수 있게 될 때, 정부나 기업이 데이터를 통제하는 힘은 줄어듭니다. 하라리는 엔지니어들에게 이런 부탁을 남깁니다. “정보를 분산처리하는 것이 집중처리보다 더 효율적일 수 있는 방법을 계속 찾고, 그것이 낫다고 시민들을 믿게 만들어야 합니다.” 중앙집중처리 시스템에 대한 분산처리 시스템의 승리가 자연법칙이 아니라면, 둘의 경주는 끊임없이 이어질 것입니다. 이 경주에 민주주의의 운명이 달려 있습니다.

<저작권자 ⓒ 시사IN (http://www.sisain.co.kr) 무단전재 및 재배포 금지>