우리의 일거수일투족은 데이터로 기록되고 저장되고 활용된다. 내가 어떤 웹사이트에 접속했는지 또 무엇을 클릭했는지 온라인에 남는 건 말할 것도 없고, 오프라인에서의 활동도 늘 손에 쥐고 있는 휴대전화를 통해 통신사의 데이터로 기록된다. 간혹 기술과 관련한 강의를 나가면, 청중에게 구글에서 ‘내 광고 센터’ 메뉴를 검색해 들어가 보라고 권한다. 그러면 대다수는 깜짝 놀란다. 그 페이지에는 내가 지금까지 웹사이트를 방문하거나 검색했던 기록을 토대로 내가 어떤 사람인지, 무엇을 좋아할 것인지 키워드가 나열되어 있기 때문이다. 이 광고 센터의 키워드는 단순히 내 취향이나 선호를 넘어서 내가 집을 보유하고 있는지, 어느 정도 규모의 회사에 다니는지, 결혼은 했는지 여부와 자녀가 있는지 등 나의 현실적 조건들을 상세히 추정한다. 물론 실제 입력된 개인정보가 아닌 만큼, 이 모든 키워드가 실제 사용자의 조건과 정확하게 맞아떨어지지는 않는다. 그러나 한 번쯤 이 페이지를 맞닥뜨리면 우리의 모든 행적이 데이터로 기록된다는 말이 어떤 현실로 나타나고 있는지 더 손쉽게 이해할 수 있다.
나를 통해, 그리고 나에 대해 유추된 이 키워드들은 어디에 쓰일까? 바로 개인 맞춤형 광고다. 웹사이트에 뜨곤 하는 광고 배너만 광고인 게 아니다. 간혹 유튜브를 보다 보면 ‘어떤 알고리즘으로 내가 이 영상을 만나게 된 거지?’ 싶은 순간들이 있는데, 그런 영상들도 광고를 통해 노출된다. 유튜브 광고 관리자 페이지에 접속하면, 내 영상을 어떤 사용자에게 보여주고 싶은지 세부적으로 설정할 수 있다. 내 영상에 관심 있을 만한 사람들의 조건, 그러니까 혼인 여부나 자녀 유무 등등에 맞춰서 말이다. ‘내 광고 센터’에서 제시된 키워드들이 바로 여기에도 쓰인다.
최근엔 많은 서비스가 데이터를 기반으로 사용자에게 ‘맞춤형’ 정보를 제공한다고 하지만, 사실 그렇게 추천받은 맞춤형 콘텐츠가 내게 맞았던 경우는 많지 않았다. 지금까지 아무리 많은 데이터가 쌓였다 한들, 취향이야 바뀌면 그만이니까. 데이터를 기반으로 서비스들은 내가 좋아했던 것, 좋아할 만한 것, 익숙하게 볼 만한 것을 넣어준다. 광고든, 영상이든, 이미지든. 그러나 내 취향이 전혀 아니라고 생각했던 아이돌에 갑자기 꽂혀버리고, 생전 처음 들어본 비트에 매료되어 반복적으로 듣는 날도 있지 않은가. ‘맞춤형’으로 제공되는 것들이 따분하고 지루하게 여겨지는 것도 순식간이다.
그런데 이런 맞춤형 서비스를 유튜브나 SNS가 아닌, 교육부에서 제공한다고 한다. 2025년 도입을 목표로 맹렬하게 추진 중인 ‘AI 디지털 교과서’ 사업이 그것이다. 교육부의 디지털 교과서 사업은 아이들에게 책으로 된 기존 교과서와 달리 멀티미디어가 구현된 태블릿형 PC를 교재로 제공하는 것을 골자로 한다. 태블릿형 PC를 제각기 나눠 받은 학생들은 인공지능(AI)를 통해 학습 콘텐츠를 추천받고 내용을 학습할 예정이라고 한다. ‘느린 학습자’와 ‘빠른 학습자’를 구분하여 학생마다 적합한 콘텐츠를 추천해준다고. 그뿐 아니라 음성인식 기능도 탑재되어 있어 학생의 발음을 교정해주거나 정확도를 기록하는 것도 가능할 전망이다. 선생님 역시 AI 디지털 교과서 서비스를 통해 학생들이 PC로 어떤 내용을 학습하고 있으며 어느 정도 수준인지 학습 기록을 체크할 수 있다.
학교, 학습 데이터 주도권마저 빼앗기나
상상력이 빈곤해서인지, 사실 나는 하나의 교실 안에 모여서 각자의 태블릿 PC를 들여다보는 학생들의 모습이 썩 긍정적으로 그려지지 않았다. 칸막이 있는 책상에 앉아 각자 ‘인강’을 수강하는 독서실 장면이 더 빠르게 떠올랐기 때문이다. 그러나 그런 사견을 제하더라도, AI 디지털 교과서에 대해서만은 여러 의문이 생겨난다. 학생들의 학습 데이터는 어디에 기록되고 어떻게 활용되어 다시 새로운 학습 콘텐츠로 ‘추천’되는 걸까? 맞춤형 서비스를 위해서 이미 쌓아둔 데이터가 있어야 한다. 그러나 AI 디지털 교과서는 이제 막 시작일 뿐이다. 데이터가 없는 상태에서 새롭게 시작하는 학생들은 ‘맞춤형’ 콘텐츠를 추천받기 위해 데이터가 쌓이기까지 오랜 시간을 기다려야 한다. 그 시간엔 어떤 ‘맞춤형’ 교육이 이뤄지는 걸까?
게다가 교육부에서 주관하는 사업이지만 학생들의 데이터를 관리하고 활용하는 주체는 교육부가 아니다. 현재 AI 디지털 교과서는 한 곳이 아니라 여러 개발사에서 개발 중이며, 개발이 완료되면 개별 학교에서 이들 업체 가운데 한 곳을 선정하여 ‘구독’할 수 있다고 한다. 학생들의 학습 데이터를 수집하고 관할하는 곳은 바로 이 개발사들이다. 개발사들이 자체적으로 학생들의 데이터를 수집하고 관리하며, 이렇게 모인 데이터를 AI 학습 데이터로 활용할 수도 있다. 어떤 학생이 ‘느린 학습자’이고 ‘빠른 학습자’인지 구분하는 것도 교사의 판단이 아니라 AI의 몫이다.
지금 이 상태로 AI 디지털 교과서가 현장에 도입되면, 학생들의 학습 데이터뿐만 아니라 평가 데이터까지 모두 민간 개발사가 위탁 운영하게 된다. 학생들의 학적 사항이 포함된 민감성 데이터를 민간 개발사가 모두 떠맡아 관리하는 건 전례가 없는 일이다. 교육부는 자체적으로 데이터 허브를 만들겠다고 말했지만, 어디까지나 원천 데이터는 개발사에 두고 가공된 데이터만을 모으겠다는 방침이다. 학생들의 학습 기록을 모두 데이터로 기록하는 데에 이어 학습 내용을 추천하게 하는 새로운 시스템을 만들겠다고 공언하면서, 그에 대한 책임은 모두 개발사로 떠넘긴 것이다. 모든 데이터가 개발사의 손안에 있는 상황에서 학교는 디지털 교과서 업체를 추후 마음대로 바꿀 수 있을까? 많은 사람이 플랫폼 서비스 아래 묶인 데이터들 때문에 어쩔 수 없이 여러 구독 서비스를 유지할 수밖에 없는 것처럼, 학교 역시 학습 데이터를 손에 쥔 민간 개발사에 주도권을 빼앗긴 채 학교 교육에서 수동적인 주체로 전락할지도 모른다.
미래를 예측하기 위해서는 현실에 발 딛고 있어야 한다. 그러나 지금 교육부가 근거하고 있는 ‘현장’의 데이터는 오로지 기술력뿐인 듯하다. 교육부가 내놓은 청사진에는 다양하게 뻗어나가는 어린이에 대한 이해도, 현장에서 학생을 마주하는 선생님에 대한 존중도 부재해 보인다. 그토록 텅텅 빈 AI로 그려낼 수 있는 미래란 도대체 어떤 모습일까? 미안하지만, 그게 무엇이든 아무것도 기대되지 않는다.
-
‘불법 촬영 규탄’ 리트윗은 어떻게 계약 종료로 이어졌나 [테크 너머]
‘불법 촬영 규탄’ 리트윗은 어떻게 계약 종료로 이어졌나 [테크 너머]
조경숙 (테크-페미 활동가)
어떤 콘텐츠든 세계관이 중요하다고들 한다. 세계적 스타 BTS도, 슈퍼히어로가 날아다니는 마블 코믹스도 저마다의 세계관을 갖고 있다. 세계관은 이 세계가 어떻게 생겨났고 어떤 역사...
-
월 1000원 ‘똑닥’이 의료 공공성에 던진 질문 [테크 너머]
월 1000원 ‘똑닥’이 의료 공공성에 던진 질문 [테크 너머]
조경숙 (테크-페미 활동가)
병원 진료 예약 서비스 ‘똑닥’이 9월5일부터 유료로 전환됐다. 비용은 월 1000원, 연 1만원 수준으로 타 구독 서비스에 비해서는 저렴한 편이다. 하지만 무엇보다도 병원에서 진...
-
누구를 죽일지 ‘추천’하는 AI, 전쟁터에 도입된 인공지능 [테크 너머]
누구를 죽일지 ‘추천’하는 AI, 전쟁터에 도입된 인공지능 [테크 너머]
조경숙 (테크-페미 활동가)
전쟁이 끊이질 않는다. 2021년엔 미얀마에서 내전이 일어났고, 2022년에는 러시아가 우크라이나를 침공했다. 올해는 이스라엘이 팔레스타인에 무자비한 폭격을 쏟아부어 수많은 사람이...
-
AI가 똑똑해질수록 지구는 더워진다 [테크 너머]
AI가 똑똑해질수록 지구는 더워진다 [테크 너머]
조경숙 (테크-페미 활동가)
최근 전기에 대해 배우고 있다. 흥미 본위에서 공부를 시작했는데, 알면 알수록 놀라웠다. 지구의 전위가 낮기 때문에 전기가 누전되면 땅으로 흘러가도록 건물을 설계한다는 사실이나, ...
-
엑셀 대신 세상과 싸우는 ‘게으른 해커들’ [테크 너머]
엑셀 대신 세상과 싸우는 ‘게으른 해커들’ [테크 너머]
조경숙 (테크-페미 활동가)
지금까지 여러 지면에 테크 업계나 그 서비스를 비판하는 칼럼을 자주 기고했지만, 그렇다고 해서 내가 기술 반대론자인 건 아니다. 오히려 나는 기술을 꽤 사랑하는 편이다. 학창 시절...
-
수천억 원 드는 AI 디지털 교과서, ‘혁명’인가
수천억 원 드는 AI 디지털 교과서, ‘혁명’인가
이상원 기자
2022년 11월7일 취임사에서 이주호 신임 부총리 겸 교육부 장관은 세 차례 ‘혁명’을 입에 올렸다. “코로나19로 가속화된 디지털 대전환”과 “반토막 난 학생 인구”를 이야기하...