“오빠, 같이 투자 공부하자.” 최근 울산에서 인공지능(AI) 기술을 이용해 가상의 여성 얼굴과 목소리를 만들어 채팅 앱을 통해 남성들에게 접근해 120억원을 가로챈 일당이 무더기로 검거됐다. 이른바 딥페이크(deepfake)를 활용한 대규모 로맨스 스캠(연애 빙자 사기) 범죄 행위로, AI 기술이 범죄에 악용될 때 얼마나 심각한 사회적 피해를 초래하는지 보여주는 사건이다.
울산경찰청은 30일 딥페이크 기술로 로맨스 스캠 투자 사기를 벌인 혐의로 30대 A 씨 등 45명을 검거했다. 이들은 지난해 3월부터 올해 2월까지 약 1년간 딥페이크로 만들어낸 34세 여성 ‘B 씨’라는 가상 인물을 내세워 채팅 앱에서 남성들에게 접근, 연인 관계처럼 믿게 만든 뒤 투자 사기 행각을 벌여 100명에게 120억원을 가로챈 혐의를 받고 있다.
피해자 중에는 장애인, 중소기업 사장, 주부, 노인 등 사회 취약 계층도 다수 포함되어 있었다. 적게는 200만원부터 많게는 8억 8000만원까지, 심지어 대출까지 받아 투자금을 날린 피해자도 있었다. 이는 범죄 일당이 얼마나 무자비하고 악랄한 수법으로 개인의 절박한 심리를 파고들었는지 보여준다.
더욱 심각한 문제는 딥페이크 범죄가 온라인을 넘어 학교 현장까지 위협하고 있다는 점이다. 지난해 8월에는 울산의 한 고등학교 여학생들이 자신들의 딥페이크 사진이 SNS에 유포됐다고 경찰에 신고하는 사건이 발생했다. 친구들의 제보로 뒤늦게 피해 사실을 확인한 학생들은 큰 정신적 고통을 겪어야 했다.
이뿐만 아니라, 같은 해 9월에는 울산의 한 중학교에서 남학생 2명이 여교사와 또래 여학생 등 10여 명의 얼굴에 나체 사진을 합성한 딥페이크 조작물을 제작하여 유포한 혐의로 경찰에 붙잡혔다. 이들은 학교 내에서 피해자들에게 직접 조작물을 보내거나 개인 메시지를 통해 공유하는 대담한 행각을 벌였다. 디지털 성범죄가 온라인 공간뿐만 아니라, 학교까지 깊숙이 침투하고 있는 것이다.
울산에서 발생한 딥페이크를 이용한 로맨스 스캠 사건과 학교 내 딥페이크 성범죄는 첨단 AI 기술이 악용될 때 개인과 사회 전체에 얼마나 심각한 피해를 야기할지 알려주는 경고다. 앞으로도 더욱 정교한 수법의 딥페이크 범죄가 개인과 사회의 안전을 위협할 가능성이 크다. 딥페이크 범죄에 대한 사회적 경각심을 높이고, 이를 예방하기 위해 정부와 교육기관, 시민사회 모두의 노력이 필요하다.
저작권자 © 울산일보 무단전재 및 재배포 금지
