- 선거의 공정성을 위협하는 딥페이크 영상 이용 선거범죄 및 딥페이크를 이용한 합성성착취물 범죄 등에 적극 대처
인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.
이에 개정 공직선거법 제82조의8(2024. 1. 29. 시행)은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.
해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 (화질 ․ 길이에 따라 상이하나) 통상 5분 ~ 10분 내에 분석 작업을 완료하여 ‘가짜 영상’인지, ‘진짜 영상’인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출하여 수사에 곧바로 활용할 수 있도록 한다.
기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작되어 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5,400명의 데이터 520만 점(한국인 데이터 100만 점 및 아시아 계열 인종 데이터 13만 점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.
해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안하여 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발 ․ 전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 하여 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.
경찰청은 “딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다. 향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄 · 합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다.”라고 밝혔다.
ⓒ 오픈뉴스 & www.eopennews.com 무단전재-재배포금지
BEST 뉴스
-
구미시, 박정희 대통령 서거 47주기 추모제 및 추도식 개최
구미시는 10월 26일 오전 10시 30분 박정희 대통령 생가에서‘박정희 대통령 서거 47주기 추모제 및 추도식’을 개최했다. 이날 행사에는 김장호 구미시장을 비롯한 추모객 500여 명이 참석해 박정희 대통령을 추모했다. 행사는 추모제례와 추도사, 대통령의 생전 육성 청취, 헌화 순으로 진행됐다. 특히 올... -
추미애 지사 “전담 TF 가동해 소방관 안전과 처우개선책 살필 것, 12월까지 종합대책 마련하겠다”
추미애 경기도지사가 “화재 예방부터 소방관의 처우개선까지 종합적으로 점검하는 전담 TF를 가동해 12월까지 종합대책을 마련하겠다”는 뜻을 밝혔다. 추미애 지사는 26일 경기도 북부청사에서 행정1부지사와 경제부지사, 소방재난본부장, 정책·정무수석을 비롯한 각 실국장 등 50여 명의 경기도 주요 간부들... -
오세훈 서울시장, ‘외로움 없는 서울 시즌2’ 현안회의 주재
오세훈 서울시장은 30일 오후 3시, 시청 기획상황실에서 ‘외로움 없는 서울 시즌2’ 관련 현안회의를 주재하고, 시민의 외로움을 해소하고 삶의 질을 높이기 위한 실·국별 정책·사업의 연계 방안을 논의했다. 이날 현안회의에는 제1·2·정무부시장과 주요 실·국 간부 등이 참석했다. 이번 회의는 외로움을 개... -
서울시 동대문구, 예비 고교생 ‘탐구과목 학습법’ 특강
서울 동대문구는 7일부터 28일까지 매주 토요일 오전 10시~낮 12시 동대문구 교육지원센터에서 관내 중학교 3학년 학생 30명을 대상으로 ‘탐구과목 학습법’ 특강을 운영한다고 밝혔다. 이번 특강은 2028학년도 수능부터 통합사회·통합과학이 공통 출제과목으로 전환됨에 따라, 고등학교 진학을 앞둔 학생들이 ... -
안성시, 서울 강남행 버스 2개 노선 동시 개통…광역교통망 확대
이번에 개통한 노선은 안성종합버스터미널과 서울 교대역을 연결하는 4404번 광역버스와 일죽에서 안성을 거쳐 서울 강남고속버스터미널까지 운행하는 시외버스다. 두 노선에는 총 9대의 차량이 투입돼 하루 32회 운행한다. 이번 동시 개통은 안성 동부권부터 도심과 공도지역까지 서울 방면 교통망을 확충해 ... -
박승원 광명시장 “스마트도시의 완성은 시민 체감” 시민과 함께 스마트기술 실증 현장 점검
박승원 광명시장이 시민들과 함께 스마트도시 서비스가 실제로 구현되는 현장을 찾아 기술의 편의성과 효과를 직접 살폈다. 박 시장은 6일 최혜민 부시장, 국·과장, 시민, 사업 수행 컨소시엄 관계자 등 40여 명과 함께 ‘강소형 스마트도시 조성사업’ 주요 실증 현장을 방문했다. 이번 방문은 ‘강소형 스마트도시 조성...
NEWS TOP 5
실시간뉴스
추천뉴스
헬스&라이프
more +-
식약처, 세계 최초 글로벌 화장품 규제기관장 협의체 신설
식품의약품안전처는 글로벌 화장품 규제혁신과 협력 강화 방안을 논의하기 위해 세계 최초의 화장... -
식약처, 주사기 매점매석 1차 특별단속 결과, 32개 업체 적발
[오픈뉴스] 식품의약품안전처(처장 오유경)는 최근 주사기 유통망 안정화를 위해 전국 주사기 판매업... -
“꿈꾸는 나비, 시작되는 여정”…제28회 함평나비대축제 개장
전남 함평군에서 개최하는 제28회 함평나비대축제가 개장 행사를 열고, ‘꿈꾸는 나비, 시작되는 여정’... -
부산 영도구, 야경과 스토리로 걷는 특별한 밤 여행 ‘봉래산:步(봉래산보)’ 운영
부산 영도구는 오는 5월 16일부터 6월 7일까지 매주 토·일요일 야간 트래킹 프로그램 ‘봉래산:步(...




