ⓒAFP PHOTO2018년 3월 우버 자율주행차가 보행자 사망 사고를 낸 후 경찰이 조사를 하고 있다.

자율주행 자동차에 인공지능을 얼마나 활용할지는 개발 기관마다 노선이 다르다. 구글이나 우버가 적극적(자율주행차가 운전 규칙을 스스로 학습. 이른바 ‘머신러닝’)인 반면, 일본 군마대 차세대모빌리티사회구현연구센터는 보수적(인간의 주행법을 기준으로 운전)이라 평가할 수 있다.

자율주행차의 인공지능은, 주로 길 위의 보행자나 차량을 인지하고 분류하는 데 사용된다. 문제는 인공지능이 결정적 판단을 해야 할 때다. 자율주행차가 달리는 도로의 앞 왼쪽에 할머니가, 오른쪽에 아이가 있을 때 인공지능은 어느 쪽으로 핸들을 꺾어야 하나? ‘트롤리 딜레마(‘광차 딜레마’ 또는 ‘열차 딜레마’로 번역한다)’로 불리는 윤리학의 사고실험이다. 군마대 연구센터의 선택은, 인공지능이 트롤리 딜레마를 판단하게 하지 않겠다는 의미다.

오기쓰 부센터장은 “우리는 (자율주행차에) 일부러 인공지능을 활용하지 않는 편이다”라고 말했다. 자율주행뿐 아니라 의료, 전쟁처럼 사람의 생명과 관련된 부분을 인공지능에 맡겨도 되느냐는 것은 매우 어려운 문제라는 이유에서다. 지금 군마대의 자율주행 버스는 어린이든 고령자든 고양이든 동일하게 ‘장애물’로만 인식하게 해두었다. 분류하게 되면 ‘트롤리 딜레마’에 부딪히기 때문이다. 이런 문제에 대해 인간 사회가 언젠가 답을 내릴 수 있게 된다면, 그때 인간이 정한 가치관대로 움직이게 한다는 게 이 대학 연구센터의 방식이다.

군마대가 인공지능을 적극 활용하지 않는 것은, 인공지능이 왜 그런 결정을 했는지 인간이 이해하는 게 아직 쉽지 않기 때문이다. “자율주행은 마법의 기술이 아니다. 사고는 일어날 수 있다. 왜 그렇게 움직였는지 피해자와 사회에 설명할 수 있어야 한다.” 인공지능을 더 발전시킨다면 이런 문제를 해결할 수도 있지 않을까? 오기쓰 부센터장의 답변은 다음과 같았다. “그런 시대가 올지도 모른다. 다만 지금의 일본은 한시라도 빨리 무인으로 움직이는 차가 필요하다. 인공지능이 완성되기까지 기다릴 수 없다. 일본에서는 내년에 자율주행차의 실용화를 목표로 하는데 (인공지능이 스스로 운전 규칙을 학습하는) 안심할 수 없는 시스템의 차량이 거리를 달리게 할 수는 없다.”

인공지능을 적극적으로 활용한 우버의 자율주행차는 지난해 3월 미국 애리조나주 피닉스에서 보행자 사망 사고를 일으켰다.

기자명 군마·교토·도쿄 글 전혜원 기자· 다른기사 보기 woni@sisain.co.kr
저작권자 © 시사IN 무단전재 및 재배포 금지
이 기사를 공유합니다