[IB토마토 이조은 기자] 최근 일반인을 대상으로 한 딥페이크 영상물 피해 사례가 급증함에 따라 경찰청에서는 집중적으로 관련 범죄 진압에 나섰다. 이에 국내외 플랫폼 기업들이 적극적인 대응 전략에 나선 가운데 보안 전문 기업들도 중에서도 실질적으로 딥페이크 방지 기술을 논의하고 있는 기업들이 나오고 있다. 다만, 샌즈랩을 비롯해 라온시큐어, 플랜티넷 등은 딥페이크 방지 기술을 상용화하려면 시간이 걸릴 것으로 보이며 정부와 기업이 공조한 새로운 딥페이크 방지 모델이 필요할 것으로 보인다.

 

 

 

13일 업계에 따르면 최근 서울 양천구 목동 방송회관에서 방송통신위원회·방송통신심의위원회·시청자미디어재단 주최로 ‘딥페이크 성범죄 영상물 대응 전문가 토론회’가 열렸다. 최경진 가천대 법과대학 교수는 인공지능(AI)의 역기능으로 딥페이크 음란물뿐만 아니라 지식재산권 침해, AI 피싱, 가짜뉴스 등이 있다고 설명했다.

 

실제로 AI 기술을 기반으로 한 딥페이크 피해 유형은 다양하다. 앞서 정치권에선 딥페이크를 활용해 가짜뉴스를 생성하는 등 잘못된 정보를 전달할 수 있다는 점에서 위협이 됐다. 유명인의 얼굴을 합성한 영상을 만들어 투자를 유도하는 등 금융사기도 발생하고 있다. 최근 가장 큰 문제는 딥페이크 기술을 이용한 각종 음란물 제작이다. 

 

2023 딥페이크 현황 보고서에 따르면 딥페이크 성착취물 사이트 게시물 9만5820건을 분석한 결과 피해자의 53%가 한국인인 것으로 나타났다. 방송통신심의위원회에 따르면 올해 1월부터 4월까지 딥페이크 기술을 악용한 '성적 허위 영상물'은 4691건으로 집계돼 지난해보다 400% 급증한 것으로 나타났다.

 

최근 한 30대 김씨는 미성년자를 포함해 지인 여성 20여명의 얼굴 사진으로 딥페이크 성착취물128개를 만든 혐의로 구속됐다. 이처럼 딥페이크 기술의 가장 큰 문제는 범용성에 있다. 누구나 다소 쉽고 간단하게 각종 영상을 제작할 수 있을 뿐만이 아니라, 누구나 범죄의 대상이 될 수 있다.

 

결국 최근 서울 경찰청은 지난달 28일부터 내년 3월 말까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시한다고 밝혔다. 불법합성물 제작·유포 집중 대응을 위한 태스크포스(TF) 팀을 구성해 운영하고 있다. 경찰에 따르면 올해 1월부터 이달 10일까지 검거된 피의자 수는 318명으로 집계됐다. 이 중 10대 피의자는 251명으로 78.93%에 달했다. 10대 피의자 중 14살 미만 촉법소년은 63명으로 파악됐다. 

 

최경진 가천대법과대학 교수는 <IB토마토>와 통화에서 "지금은 딥페이크 범죄가 초기 단계이고 일부가 불법 행위를 하는 것이지만, (딥페이크 영상물은) 순식간에 퍼질 수 있고 과거에 확산하는 속도와는 비교과 안 된다"라며 "심각성을 인식시키고 강력한 처벌을 하는 것뿐만 아니라 기술적인 조치에 대한 협력이 함께 이루어져야 할 것 같다"라고 강조했다.  

 

 

 

최근 네이버(NAVER(035420))와 카카오(035720) 등 플랫폼 기업은 딥페이크 피해를 방지하기 위한 강경 대응에 나서고 있다. 아울러 보안 기업 중에서도 실제로 딥페이크 방지 기술을 보유한 기업들은 연구 개발에 힘쓰고 있지만, 딥페이크 방지 기술이 상용화되려면 다소 시간이 걸릴 것으로 보인다.

 

앞서 한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈는 지난 4월 22대 국회의원 선거를 앞두고 '악의적 선거 딥페이크 사용 방지를 위한 공동선언'에 동참했다. 네이버는 AI 이미지 필터링 시스템 '클로바 그린아이'를 2.0 버전으로 업그레이드해 모니터링을 강화했다. 카카오는 포털 다음, 카카오톡 오픈채팅 등에서 딥페이크 콘텐츠 유통을 감시한다. SK커뮤니케이션즈는 AI를 이용한 이미지를 생성할 경우 주요 정치인 이름 검색어에 제한 조치를 도입했다. 최근 네이버와 카카오는 신고 채널도 개설해 합성  제작물을 제안·요청하는 경우 신고할 수 있게 했다.

 

지난 5월에는 국내외 주요 인공지능(AI) 관련 14개 기업들이 안전한 AI 사용을 위한 '서울 기업 서약'을 발표했다. 삼성전자(005930)를 비롯해 SK텔레콤(017670), KT(030200), LG(003550) AI 연구원, 네이버, 카카오 등 국내 기업들이 다수 포진했다. 이외에도 어도비(Adobe), 오픈AI, 구글(Google), 마이크로소프트(Microsoft) 등 해외 기업도 참여해 이용자가 AI에 의해 생성된 콘텐츠를 구별할 수 있도록 워터마킹 등 적절한 방법론을 개발할 방침이다.

 

아울러 최근에는 보안 전문 기업에서도 딥페이크 관련 기술을 도입하려는 추세가 늘고 있다. 대부분의 보안 기업은 개인정보보호 관련, 회사의 보안 관련 기술을 다루는 경우가 많지만, 샌즈랩, 라온시큐어(042510), 플랜티넷(075130), 크라우드웍스 등은 실질적인 딥페이크 성범죄에 대한 방지 기술을 개발하고 있는 것으로 알려졌다. 딥페이크 방지를 위한 기술로는 딥페이크 영상물과 이미지에 대해 워터마크를 표시해 해당 사진이나 영상이 딥페이크임을 인지할 수 있게 하는 기술, 또한 그러한 사진이나 영상을 자동으로 판독하고 삭제하는 기술 등이 지목된다. 

 

샌즈랩은 딥페이크를 탐지하는 서비스 '페이크체크'를 지난 4일 출시했다. 샌즈랩 측은 이 서비스를 무료 제공해 사회에 공헌하겠다는 방침이다. 다만 해당 서비스는 오픈 베타 테스트 버전인 것으로 알려졌다. 라온시큐어도 올 하반기 기존 모바일 보안 시스템에 자체 개발한 '딥페이크 감지 안면인식 기술’과 ‘AI가 생성한 콘텐츠 탐지 기술’ 개발해 탑재 예정이다.

 

이어 플랜티넷과 크라우드웍스는 필터링 서비스에 보다 집중할 것으로 보인다. 플랜티넷은 인터넷망을 통한 유해 콘텐츠 차단 서비스를 제공해 왔다. 내년부터는 딥페이크 음란물 필터링, 보이스피싱과 스미싱 차단 등 기능도 기존 서비스에 적용해 상용화할 계획이다. 크라우드웍스는 이미 지난 2020년 과기정통부로부터 '딥페이크 방지영상'과 '랜드마트 이미지' AI 학습용 데이터 구축 사업을 수주한 바 있다.

 

최경진 가천대법과대학 교수는 <IB토마토>와 통화에서 "딥페이크 범죄 확산을 막기 위해선 정부와 기업의 공조가 필요하다. AI를 활용한 영상물을 만들 때 표시 의무나 워터마킹을 하는 등 투명성 의무를 더한다면 기술적으로 딥페이크 사진·영상을 식별할 수 있을 것"이라며 "영상의 원본 여부를 확인하는 기술 등으로 합성 제작물은 바로 차단하는 등 방지 대책이 필요하다"라고 말했다. 

 

이조은 기자 joy8282@etomato.com