AI로 '딥페이크 조작영상' 걸러낸다…정부, 분석모델 개발 추진

인공지능(AI) 기술로 딥페이크 동영상 조작 여부를 가려낼 수 있는 데이터 분석 모델이 개발된다. 

9일 행정안전부는 이 같은 내용이 담긴 과제를 선정했다고 밝혔다. 국민 생활과 밀접한 사회문제를 해결하고, 정부 정책 결정과 일하는 방식을 개선하기 위해 5개 분야·12건의 데이터 분석 과제를 선정했다.

주요 선정 과제를 보면 '인공지능을 활용한 딥페이크 불법 콘텐츠 분석모델 개발' 과제는 영상물 조작 여부를 영상 및 음성종합 분석을 통해 탐지할 수 있는 모델을 만드는 것이다.

딥페이크 기술을 활용한 불법 영상이 증가해 국민 피해가 컸으나, 고도의 합성 기술로 어느 영상이 가짜 영상인지 판별하는 데 어려움을 겪었다.

행안부는 국립과학수사연구원과 함께 내년 2월까지 분석 모델을 개발해 딥페이크 불법 콘텐츠 등 디지털 성범죄에 신속히 대응할 계획이다.

상병 및 요양데이터 등을 활용해 장해등급을 예측·분석하는 모델도 개발된다.

산업재해로 인한 장해등급을 판정할 때 주치의 진단과 최종 판정 결과 간 차이가 발생하는 경우가 많아 논란이 돼 왔다. 이는 민원 제기의 원인이 되거나 장해등급 관련 브로커가 개입하는 등 부작용을 낳기도 했다.

장해등급 예측·분석모델은 약 2억건의 산재근로자 정보 및 요양 상병 정보를 학습해 장해등급 신청과 판정 과정이 보다 신속하고 공정하게 이뤄질 수 있게 지원한다.

이밖에 선정 과제에는 ▲ 사업장 굴뚝 대기오염 배출 자동탐지 지원 모델 ▲ 에너지 바우처 사용 사각지대 발굴을 위한 빅데이터 분석 ▲ 농작물 병해충 발생 및 위험도 예측 ▲ 주요 질병별 의약품 품절 예측 지원모델 개발 등이 포함됐다.

배일권 행안부 공공데이터국장은 "앞으로도 국민 생활과 밀접한 다양한 분야에서 AI 기반의 과학적 데이터 분석을 확대해 나갈 예정"이라며 "데이터 분석의 질을 높여 국민이 체감할 수 있는 공공서비스 개선이 이뤄질 수 있도록 하겠다"고 밝혔다.

김효정 기자 hjkim@smartfn.co.kr