안녕하세요! 놀이대장입니다.
오늘은 제가 이전에 다뤘던 ‘인공지능시대! 초등교사로 살아남기’ 시리즈에서 강조했던 인공지능 윤리교육에 대한 이야기를 해볼까 합니다. 이전 글에서 우리는 인공지능이 가질 수 없는 도덕성에 대한 이야기를 나눴습니다. 결론만 적어보자면, 인공지능은 도덕성을 가지지 못하고, 결국은 사용자의 도덕성에 따라 인공지능의 도덕성이 결정될 수 있습니다. 인공지능은 알고리즘에 따라 움직일 뿐, 도덕적 판단을 내리지는 않습니다. 이번 글에서는 하나의 프로그램을 중심으로 윤리교육의 중요성을 살펴보고자 합니다. 아직 ‘인공지능시대! 초등교사로 살아남기’ 시리즈를 읽지 않으신 분들은 꼭 읽고 오시기를 강력히 추천드립니다.
목차
인공지능의 악행? 딥페이크
2018년에 미국 정치계에는 아주 큰 논란이 있었습니다. 바로 어느 유튜브 채널에 등장안 버락 오바마 전 대통령이 당시 미국 대통령이었던 트럼프를 일컬어 ‘완전히 쓸모없는 인간’이라고 인터뷰를 하는 장면이 업로드 되었기 때문입니다. 하지만 이는 미국의 한 인터넷 매체에서 만들어낸 딥 페이크 영상이었습니다.
작년 3월에는 전쟁이 한창 진행중인 우크라이나 볼로디미르 젤렌스키 대통령이 러시아에 무조건 항복을 선언하는 영상이 올라오기도 했습니다. 이 영상 역시 딥 페이크로 만들어진 조작된 영상이었습니다. 미국의 선거나 러시아가 일으킨 전쟁 등 국가적으로나 세계적으로 큰 영향이 있을 수 있는 상황에서 딥 페이크 영상은 무척이나 위험합니다. 그 방향이 어디를 향하게 될지 모를 일이기 때문입니다.
딥페이크로 고통받는 것은 유명한 셀럽들의 이야기만은 아닙니다. 해당 기술을 이용하여 발생한 범죄는 갈수록 늘어가고 있습니다. 최근 약 3년 2개월간 자그마치 9천건의 시정요구가 있었습니다. 삭제조치가 된 것은 5%도 안되고 있습니다. 피해건수는 2020년 473건, 2021년 1913건, 2022년 3574건이었습니다. 올해는 8월을 기준으로 잡아도 3046건으로, 해마다 엄청난 속도로 증가하는 추세입니다.
특성상 인터넷을 통해 빠르게 퍼지다보니 이를 막아내는 것이 물리적으로 큰 어려움입니다. 불특정 다수가 이미 영상을 보유하고 있을 수 있기에 삭제조치가 되더라도 완벽하게 영상을 소멸시키는 것은 불가능에 가깝습니다. 게다가 기술이 갈수록 발전하여, 예전에는 자세히 살펴보면 딥 페이크 영상임을 쉽게 알아차릴 수 있었으나, 요즘에는 정교화되어 갈수록 진짜와 가짜를 구분하기가 정말 힘들어지고 있습니다.
제가 소제목을 ‘인공 지능의 악행’이라고 적었습니다. 하지만 생각해봅시다. 악행을 저지른 것은 누구인가요? 인공 지능인가요? 아니면 그 기술을 이용하고 있는 사람인가요? 흔한 가정집의 부엌에는 누구나 칼을 가지고 있습니다. 하지만 보통의 사람들은 그것으로 범죄를 저지르지는 않습니다. 극심한 고통을 호소하는 사람들에게 의료용 마약은 이롭지만, 나쁜 뜻을 가진 사람들에게 있어서 마약은 범죄의 도구입니다.
결론은 사람이 문제입니다.
우리가 해야 할 일
우리는 아이들을 만나고 있습니다. 힘들게 하는 아이들도 있지만, 대부분의 아이들은 하얀 도화지처럼 선량합니다. 깨끗합니다. 순수합니다. 그렇기 때문에 우리는 조심해야 합니다. 세상의 나쁜 것들은 언제나 아이들을 노리고 있고, 아이들은 깨끗하다보니 쉽게 위험에 노출됩니다. 우리 교사들은 아이들이 그들의 순수함을 잃지 않도록, 바르게 성장할 수 있도록 조력자 역할을 해야합니다.
이 아이들이 커서 사회의 구성원이 되고, 우리나라를 이끌어갈 수 있는 어른으로 성장했을 때는 아마도 지금보다 더 발전한 인공 지능과, 그 문명의 도구를 나쁜 방향으로 사용하려는 사람들에게 노출되기가 쉽습니다. 따라서 우리는 이 아이들이 나쁜 것들에 휘둘리지 않도록 교육해야만 합니다. 그래서 저는 초등 수준에서 인공지능 교육은 ‘윤리교육’이 가장 중요하다고 생각합니다. 첫 단추를 바르게 끼워야 후에 탈이 나지 않을테니까요.
Which is real?
우선 위의 사진을 한 번 보시겠습니다. 한쪽은 진짜 사람이고, 한쪽은 AI가 만들어낸 가짜입니다. 쉽게 구분이 되시는지요? 왼쪽이 진짜 사람이고 오른쪽은 AI가 만들어낸 가짜입니다. 하나 더 보시겠습니다.
어느쪽이 진짜 사람으로 보이시나요? 양쪽 다 머리카락 한 올까지 아주 실감나게 표현되어 있어서 어느쪽이 진짜인지 알아차리기가 많이 어렵습니다. 정답은 왼쪽이 진짜 사람입니다. 인공지능의 이미지 생성 및 조작 능력의 수준이 이만큼이나 높아졌습니다. 자세히 살펴봐도 실제 사람과 가짜를 구분하기가 어려울 정도로요. 이제는 사진이나 동영상을 보고도 의심을 해야하는 수준에 이르렀습니다.
오늘 다루고 있는 사이트는 ‘Which is real?’입니다. 워싱턴대학교의 제빈 웨스트 교수와 칼 버그스트롬 교수가 만든 사이트입니다. 2019년 2월에 그래픽 하드웨어 제조업체인 엔비디아가 사실형 얼굴 생성 소프트웨어인 ‘stylegan’을 개발, 발전시키기 위해 공개한 오픈소스를 바탕으로 만들어진 사이트입니다. 해당 사이트 링크는 하단에 첨부해드리겠습니다.
활용 방법
우선은 아이들과 함께 해당 사이트에서 이미지를 분류해보는 작업을 여러 차례 해보시기 바랍니다. 충분한 경험을 바탕으로 아이들이 조작되고 생성되어진 이미지가 쉽게 구분하기 힘들다는 것을 알아차려야 합니다. 그리고 아이들과 충분한 대화를 나눠주세요. 이러한 기술이 나쁜 의도를 가지고 쓰인다면 어떤 일이 벌어질지, 그로 인해서 발생할 수 있는 피해에는 어떤 것들이 있는지 이야기 해봐야 합니다. 그리고 그러한 생각들을 바탕으로 인공 지능을 바라보는 옳고 그른 시선을 스스로 익힐 수 있도록 해주시기 바랍니다. 잘못된 것은 도구가 아니며, 그것을 이용하는 사용자들이라는 것도 인식하도록 해야합니다. AI에 대한 맹목적인 혐오는 시대적인 변화 속에서 아이들의 성장을 가로막을 수 있습니다.
이 시대는 교사들에게 바라는 것이 많습니다.
우리에게 지금 이 시대는 정말 중요합니다. 앞으로 우리나라 교육이 어떤 방향으로 흘러가게 될지 결정될 수 있는 중요한 길목에 서있습니다. 우리는 우리의 목소리를 제대로 낼 수 있도록 해야 할 일은 해야 합니다. 인공 지능 윤리교육이 그렇습니다. 미래에 우리가 마주할 학생들이 어떤 도덕관을 가지고 있을지 지금의 교육이 결정하게 될 것입니다.
