지난 2024년 1월부터 11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1,000여건에 육박하며, 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다. 회사는 이번 딥페이크 탐지 기술을 통해 누구나 특정인에 대한 명예훼손과 가짜 정보로 인한 사회 혼란을 예방하는 데 기여할 수 있으며, 개인과 기업의 자산과 정보 편취로부터 사전에 대응할 수 있다고 강조했다.
딥페이크 탐지 기능은 개인용 모바일 백신 앱인 ‘라온 모바일 시큐리티’에 탑재됐다. 이용자가 라온 모바일 시큐리티에 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 업로드 하면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초만에 식별되는 형태로 동작한다.
설명에 따르면 회사의 딥페이크 탐지 기술은 합성된 얼굴과 실제 얼굴을 상호 비교해 분류하도록 학습된 AI가 안면 추출, 주파수 계열 변환 등의 기술을 이용해 딥페이크 가능성을 계산한다.
