안녕하세요. 놀이대장입니다. 오늘은 수업에 직접적으로 활용해볼 수 있는 AI 관련 사이트 하나를 가져왔습니다.
아마 많은 분들이 한 번쯤 어디에서 보셨을 수 있고, 또 어떤 분들은 이미 수업에 직접 활용해보셨을 수도 있으리라 생각됩니다. 제가 이전에 ‘인공지능시대! 초등교사로 살아남기’ 시리즈에서 인공지능이 인간을 절대 대체할 수 없는 것들 중에는 ‘도덕적 판단’이 있다고 말씀드렸습니다. 인공지능은 단순히 인간이 설계한 알고리즘으로 움직일 뿐, ‘윤리’라는 것을 자체적으로 지닐 수 없기에 결국은 도덕적 판단은 언제나 인간의 몫이라고 말씀드렸습니다.
그런데 이러한 인공지능의 도덕적 판단을 점점 필요로 하게 되는 것이 있습니다. 바로 자율주행 자동차입니다. 사실 자율주행 기술은 무척이나 오래되었습니다. 1990년대에 이미 상용화가 가능한 수준이 되었지요. 우리나라 한민홍님(전 고려대학교 산업공학과 교수)의 작품으로, 현재의 자율주행과 비교하여 크게 뒤떨어지지 않는 수준을 보여줍니다.
현재의 자율주행 자동차는 사실상 거의 완성형인 상태입니다. 평소 뉴스를 즐겨보시는 분들이라면, 해외에서 자율주행 모드를 켜두고 다른 행동을 하다가 경찰에 적발되는 일이 여러 건 있었다는 것을 아실겁니다. 특히 도심이 아니라 고속도로 등만 자율주행 가능 도로로 생각한다면, 이미 기술적으로는 완성이나 다름이 없는 상태이지요. 그럼에도 불구하고 완전한 의미의 자율주행 자동차는 앞으로 쉽게 나오지 못할겁니다. 앞서 말씀드린 ‘도덕적 판단’때문입니다.
끔찍하지만 쉬운 예시를 하나 들어봅시다.
자율주행 자동차가 달리는 중입니다. 차 안에는 운전자 1명이 타고 있습니다. 그런데 앞에서 갑자기 어린아이 2명이 튀어나왔습니다. 급브레이크를 밟아 충돌을 막을 수 있는 상황은 이미 지나버렸습니다. 아이들을 살리기 위해 자율주행 차량이 피하면, 맞은 편에서 달려오는 덤프트럭에 부딪히거나, 전신주에 부딪혀서 운전자가 사망합니다. 어린아이 2명을 차로 받아 사망하게 하면 운전자는 살아남는다고 가정해봅시다. 자율주행 자동차는, 아니 정확히는 인공지능은 어떤 판단을 해야 할까요?
아마 많은 분들이 어린아이 2명을 구하는 판단을 해야 한다고 생각하실겁니다. 저도 그렇게 생각합니다. 그럼 이 상황에서 조건 하나만 추가해봅시다. 만약 그 운전자가 당신이라면…? 당신은 ‘도덕적 판단’에 의해 당신을 사망하게 할 수 있는 자율주행 자동차를 구입하시겠습니까? 저는 구매할 생각이 없습니다.
그래서 완전한 의미의 자율주행 자동차는 쉽게 세상에 나오지 못할겁니다. 도덕성을 지니고 사고를 하는 인간들조차 판단할 수 없는 문제들이 세상에는 너무나도 많습니다. 그런데 그런 일을 할 수 있는 인공지능이 존재할 수 있을까요? 물론 알고리즘을 짜면 프로그램은 어렵지 않게 만들어 낼겁니다. 그런데 그 알고리즘에게 가르칠 ‘도덕적 판단’의 기준은 누가 세우는 걸까요? 그걸 결정할 권리를 가질 수 있는 사람이 있을까요? 그런건 ‘신’만이 결정할 수 있을겁니다.
오늘 소개드리는 사이트는 이러한 질문에서 시작됩니다.
오늘의 글은 꼭 주의사항까지 읽어주시길 간곡히 부탁드립니다.
목차
1. AI 활용 도덕수업 준비물
오늘의 수업은 특별한 준비물이 없습니다. 물론 조별로 태블릿pc 등을 두고 활동을 해볼 수 있겠지만, 오늘의 프로그램은 담임 선생님께서 주도하셔서 한 화면을 보며 함께 이야기를 나눴으면 합니다. 깊이 생각해볼 부분이 많고, 토론해봐야 할 문제가 많습니다. 특히 도덕적 판단이 아직은 서툰 우리 초등학생들을 대상으로 하신다면 더더욱이 그렇습니다.
1~4학년 학생들에게는 활용 자체를 권장하고 싶지 않습니다. 결국은 누군가를 죽이는 결정을 해야합니다. 최소 5학년 이상의 학생들과 함께하시기를 권해드립니다. 고학년 학생들을 대상으로 활용하실 때에도 아래 적어드린 주의사항을 꼭 확인하시길 바랍니다.
2. 프로그램 소개
오늘 사용할 사이트의 이름은 모럴머신입니다. 이 사이트는 자율주행 자동차의 바람직한 판단에 대한 사회적인 인식을 조사하기 위해 운영되는 곳입니다. 주어지는 상황에 따라서 인간들이 도덕적 판단을 내려줘야 합니다.
3. 사용 방법
사용법은 간단합니다. 우선 사이트에 접속해봅니다. 사이트 링크는 글의 하단에 붙여두었습니다.
접속하시면 모럴머신에 대한 간단한 설명이 나오게 됩니다. 시작하기 버튼을 눌러서 활동을 시작해보겠습니다.
오른쪽 상단에 보시면 1/13 이라고 표시되어 있습니다. 총 13번의 질문을 받게 될 예정입니다. 중앙 하단에 보시면 요약보기 버튼이 있는데, 이 버튼을 누르면 왼쪽에 동그라미를 쳐둔 부분처럼 선택의 결과를 볼 수 있게 됩니다. 총 13개의 질문 하나하나를 아이들과 함께 깊이 있게 대화를 나누시면서 응답해나가시면 됩니다. 선택을 하셨으면, 선택하실 상황의 그림을 클릭해주시면 됩니다. 저도 쭉 진행해보겠습니다.
끝까지 대답을 완료하면 일종의 보고서를 보게 됩니다. 저의 경우에는 여성이면서 경영자인 사람이 가장 많이 살았고, 동물이 가장 많이 희생되었습니다. 밑으로 내려가면서 살펴보시면, 다른 사람들의 평균적인 응답과 저의 응답을 비교할 수 있습니다. 이러한 결과창은 사실 학생들과 함께 살펴보시기에 좋은 컨텐츠가 아닙니다. 밑에 주의사항에서 함께 다뤄보겠습니다.
4. 주의사항
모럴머신은 교육용 사이트가 아닙니다. 따라서 학생들이 이 사이트를 접하게 되었을 때, 교육적으로 어떻게 풀어내야 할지 깊은 고민이 필요합니다. 아마 프로그램을 보시면서 약간의 거부감이 드시는 선생님들께서도 있으셨으리라 생각됩니다. 굉장히 극단적인 상황이 지속적으로 주어지고, 아이들의 판단으로 마치 누군가가 죽어야 하는 상황이 생기고 있으니까요. 인공지능의 도입으로 인해 발생할 수 있는 극단적인 상황임을 충분히 인지시키셔야 하며, 선택의 초점을 ‘누굴 죽일까?’가 아니라 ‘어느 쪽을 살릴까?’로 맞춰주셔야 합니다.
‘죽이는 것’에 초점이 맞춰지면 자연스럽게 아이들이 인공지능을 바라보는 시선이 부정적이게 될 수 밖에 없습니다. 우리는 인공지능을 비판적인 시각을 가지고 이롭게 사용할 수 있도록 아이들을 교육해야 합니다. 따라서 모럴머신을 이용한 수업이 진행되고 나면, 보완책으로써 인간의 존엄성을 지키기 위해 사용되는 인공지능, 인간의 생명을 살리기 위해 사용되는 인공지능에 대한 이야기를 함께 나누시길 권장합니다.
마지막으로 제가 위에서 결과창은 아이들과 함께 살펴보기에 좋은 컨텐츠가 아니라고 말씀드렸습니다. 제가 이렇게 말씀드리는 이유는 아이들의 경향 때문입니다. 우리는 살아가며 ‘다수결의 원칙’을 참 많이 따지게 됩니다. 이러한 경향은 우리 아이들에게 도드라지는데요, 다수가 선택한 방향이 아이들에게는 일종의 정답처럼 받아들어지게 됩니다. 따라서 아이들이 스스로 인공지능을 바라보는 윤리적 시각이 길러질 수 있도록 스스로 판단할 수 있는 기회를 제공해야 합니다.
