[기고]딥페이크 영상, 가짜와의 싸움

딥페이크(deepfake)란 인공지능을 기반으로 활용한 인간 이미지 합성 기술이다. 기존에 있던 인물의 얼굴이나 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 총칭한다. 쉽게 말해 인공지능(AI) 기술을 이용해 제작된 가짜 동영상을 딥페이크 영상이라고 한다. 초창기의 딥페이크 영상은 누가 봐도 합성 제작한 티가 나는 등 어색함이 있었는데 요즘에 딥페이크 영상은 인공지능(AI) 기술 발달로 인해 실제와 구분하기 힘들 정도로 정교하게 제작되어 일반인이 가짜와 진짜를 판별하기가 힘들어졌다.

딥페이크 영상은 일반인들의 관심이 많은 연예인 합성 영상에 많이 이용되어 가짜 뉴스로 인한 피해자가 늘고 있다. 또한, 유명 정치인의 얼굴을 합성한 딥페이크 영상과 가짜 뉴스가 결합하여 선거나 정치에 이슈가 되곤 한다. AI가 생성한 가짜 이미지의 사례를 살펴보면 트럼프가 경찰에 체포되는 가짜 이미지가 제작·유포되어 사회적 물의를 일으키거나, 미 국방부 청사 펜타곤에서 폭발이 일어나는 가짜 이미지가 SNS에 게시되어 주식시장 등에 큰 혼란이 발생하기도 했다. 미국 이외에도 우크라이나의 대통령이 전쟁에서 항복을 선언하는 딥페이크 동영상이 제작·유포되어 국제 정세에도 큰 영향을 끼치는 사례도 계속 증가하고 있는 추세이다. 특히, 지난해 튀르키예 대선에서는 테러단체가 후보자와 관련되었다는 딥페이크 영상이 유포되는 등 가짜 뉴스로 인해 유권자의 혼란을 유발하고 선거 결과를 좌우하는 상황이 발생되기도 했다.

올해는 세계적으로 선거가 많이 예정되어 있어, 이런 선거와 관련한 딥페이크 영상에 대한 대응책을 세계 각국이 고심하고 있다. 지난해 10월30일 바이든 미국 대통령은 인공지능 개발을 규제하는 행정명령에 서명했다. 인공지능이 만들어낸 콘텐츠에 ‘AI 사용’이라는 표시를 하고 콘텐츠 출처를 확인하도록 한 것이다. 미국 대선을 앞두고 생성형 인공지능으로 제작한 딥페이크를 통해 가짜 뉴스가 확산될 것이 우려되었기 때문이다. 미국 연방 여러 주에서는 선거일 일정 기간 전 딥페이크의 사용을 금지하는 법을 시행하거나 딥페이크 이미지를 이용한 가짜 뉴스 규제를 검토하고 있다. 유럽연합(EU)은 27개국 대표들과 유럽의회 의원들이 장시간 논의를 거쳐 ‘AI 규제법’(AI Act) 법안에 합의했다. 주요 내용은 AI의 위험성을 분류하고 투명성을 강화하며 생성형 AI가 만든 콘텐츠에 대해서는 해당 사실을 표시하도록 하고 이런 규정을 준수하지 않으면 벌금을 부과한다는 것이였다. 영국과 인도 등에서도 올해 선거를 앞두고 AI 기술을 활용한 딥페이크 영상이 악용될 위험을 심각하게 보고 딥페이크 영상 문제를 심도있게 고민하고 있다. 올해 선거가 예정되어 있는 다른 나라에서도 딥페이크 선거운동 규제에 대한 입법이 진행되고 있거나, 이와 관련한 입법 논의가 진행되고 있는 상황이다.

그렇다면 우리나라는 어떠한가. 올해 4월에 실시되는 제22대 국회의원선거를 앞두고 지난해 12월에 인공지능 기반 딥페이크 영상 등에 대한 규제 조치로 공직선거법이 개정되었다. 주요 내용은 누구든지 선거일 전 90일부터(공직선거법 부칙에 따라 2024년 1월29일부터 시행) 선거일까지 선거운동을 위하여 인공지능 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(딥페이크 영상)을 제작·편집·유포·상영·게시 할 수 없도록 하고 있다. 이를 위반할 경우 7년 이하의 징역 또는 l000만원 이상 5000만원 이하의 벌금에 처하는 등 제재 규정도 강화되어 있다. 정교한 기술로 만들어진 딥페이크 영상이 선거운동에 활용될 경우 유권자의 정확한 판단을 방해하고 선거에 악영향이 커질 것으로 우려되어 공직선거법으로 규제하고 있는 것이다.

딥페이크 영상 같은 가짜와의 싸움에서 이기는 길은 무엇일까? 선거관리위원회는 딥페이크 영상 등을 이용한 위법행위에 대해 신속하고 엄정하게 대응하여 유권자의 혼란을 최소화하고, 유권자는 기술의 발달로 실제와 구분하기 어려운 딥페이크 영상에 현혹되지 말고 선거공보나 공개장소 연설대담, 후보자토론회 등 후보자의 공식 선거운동 활동 및 정책 공약을 꼼꼼히 살펴보고 우리 지역을 대표할 수 있는 국회의원을 뽑을 수 있는 안목을 키워야 할 것이다.

서교숙 울산선관위 홍보과 홍보담당관

※외부원고는 본보 편집방향과 다를 수 있습니다.