'딥페이크' 선거정국 큰 변수
일본 지방자치 단체장 선거에 AI 후보가 출마해 큰 화제가 됐다. 인공지능이 실제 정치인이고 자신이 대리인이라고 자처하는 자가 도쿄도(東京都) 타마시(多摩市) 시장선거에 나온 것이다. 일종의 '대리 출마'인 셈이다.
투표 결과 낙선했으나 AI 후보의 출마는 단발성에 그치지 않을 것이라는 게 전문가들의 견해다. 모든 정책결정을 인공지능에 맡기면 부정부패와 편파적 정책 결정을 극복하고 적어도 공정성 측면에서는 앞설 것이란 기대심리가 커지고 있기 때문이다.
이처럼 정치적인 측면에서 인공지능의 순기능을 활용하고자 하는 사례가 늘고 있지만 그만큼 기술 악용을 걱정하는 목소리도 높다. 특히 한국 총선과 미국 대선이 치러지는 올해는 AI로 조작한 '딥페이크(deepfake)'가 선거 결과에 지대한 영향을 끼칠 것이란 우려가 나온다. 미국에서는 2016년 대선의 골칫거리가 가짜뉴스였다면, 2020년 대선에선 딥페이크 영상이 문제가 될 것이란 전망이 나올 정도다.
딥페이크는 인공지능 기술로 사람의 이미지와 음성·영상 등을 합성해 허위 콘텐츠를 만들거나 변형하는 기술이다. 딥페이크 기술은 여론을 조작해 사회 혼란을 부추기는 데 활용될 수 있어 문제다. 무엇보다 선거에서 상대 후보를 공격하는 '네거티브' 전략에 이용될 경우 파급력이 상당하다.
이미 외국에서는 딥페이크를 이용한 정치 공세가 이뤄진 바 있다. 인도에서는 정권 지지자들이 정부에 비판적인 여성 언론인의 얼굴을 음란 영상에 합성한 딥페이크를 유포하기도 했고, 멕시코에서는 2018년 대선 당시 야당 후보였던 로페스 오브라도르 대통령을 음해하는 가짜 녹취파일이 등장하기도 했다.
2020년 대선을 앞둔 미국에서는 '딥페이크' 기술에 대한 경고의 목소리가 이어지고 있다. 민주당의 애덤 시프 하원 정보위원장은 딥페이크를 이용해 "악의적인 인물이 혼란과 분열, 위기를 조장할 수 있고, 이 기술은 대통령선거를 포함한 선거운동 전체를 방해할 수 있다"고 말했다. 딥페이크 영상이 갈수록 정교해지면서 당장 미 대선을 좌우할 큰 변수로 떠오른 것. 이에 미국은 국가 안보 차원에서 딥페이크 악용 방지 입법과 검증 시스템 개발에 나서고 있다.
오는 4월 15일 열리는 '21대 국회의원 선거'를 앞둔 우리나라도 '딥페이크' 경계령을 내렸지만 전담 부서조차 불분명한 실정이다. IT 업계 관계자는 "우리나라에서도 선거와 관련한 딥페이크가 발생할 가능성이 충분하다"면서 "정부 차원에서 딥페이크 차단 기술을 개발하는 등 AI 시대에 대한 대비가 필요하다"고 말했다.
