최근 인공지능 기술이나 인터넷을 이용한 신종 디지털 성범죄가 증가하고 있습니다.
그 중 딥페이크 영상물로 인한 피해가 늘어나고 있습니다.
딥페이크에 대해 알아보는 시간을 갖겠습니다.
딥페이크
원본과 합성의 진위를 판단하기 어려운 ‘진짜 같은’ 합성 콘텐츠를 생성하는 인공지능 기술 중 하나
(인공지능 기술 중 하나) Deep Learning + (가짜) Fake 합성어
Deep Fake
우리나라 말로는 ‘(인공지능기능) 첨단조작기술’입니다.
딥페이크(deep fake) 영상
사람의 얼굴‧신체를 대상으로 한 촬영물‧영상물 등을 인공지능(AI) 기술을 이용하여 영화의 컴퓨터그래픽(CG)처럼 편집‧합성한 영상
딥페이크 문제점
대상자 얼굴과 음란물을 정교하게 합성하여 무엇이 사실이고 허위인지 식별하기 어렵다는 것이 문제입니다.
딥페이크 기술이 ‘지인 능욕’ 등 특정 인물의 얼굴을 음란물에 합성하는 방식으로 디지털 성폭력에 쓰이고 있어 문제가 되고 있습니다. 이는 불법적으로 유통되어 피해 규모가 커지고 있는 상황입니다. 특히 14,789의 온라인에 유통된 딥페이크 영상 중 96%가 포르노이며 이중 25%가 한국 여자 연예인 얼굴이라는 보도가 있습니다. 여자친구, 선생님, 친구, 연예인 사진 등 야동과 합성을 하는데 명백히 범죄행위입니다.
※ 지인능욕: 여성 지인의 사진에 성희롱 이미지를 합성하는 것
딥페이크 음란물에 대한 처벌
기존에는 처벌할 수 없거나 처벌을 해도 현행법상 1년 이하 징역 또는 500만원 이하 벌금 등으로 미약하였습니다. 그러나 「성폭력범죄의 처벌 등에 관한 특례법」을 개정하여 딥페이크 음란물을 만들거나 반포한 자를 처벌하는 명확한 규정을 신설하였습니다.
개정 내용
▣ 반포・판매 등의 목적으로 사람의 얼굴・신체・음성에 대한 촬영물・영상물 등을 성적 욕망・수치심이 유발될 수 있게 편집・합성・가공 5년 이하 징역, 5천만원 이하 벌금
▣ 편집물・합성물・가공물 또는 복제물을 반포・판매 5년 이하 징역, 5천만원 이하 벌금
▣ 영리 목적으로 정보통신망을 이용해 반포・판매할 경우 7년이하 징역으로 가중처벌
2020년 6월 25일부터 시행됩니다.
딥페이크 영상물 제작 및 반포자는 처벌이 가능하나 딥페이크 음란물을 소지한 자는 제외되어 있습니다. 소지하고 있는 자도 범죄이며 처벌해야 되겠죠? 지난 4월 23일 정부가 ‘디지털성범죄 근절대책’을 발표하면서 ‘성범죄물 소지자 처벌조항도 신설하겠다’는 발표했으니 좀 더 지켜봐야 할 것 같습니다.
처음 딥페이크의 심각성을 알린 것은
전 미국 대통령인 오바마가 트럼프에게 독설을 퍼붓는 영상이 유투브에 공개되면서 입니다.
공개된 영상에서 오바마 전 대통령의 표정과 행동이 너무 자연스러웠기 때문에
가짜 영상이라고 밝혔을 때 많은 사람들이 혼란스러워 했으며 논란은 쉽게 가라앉지 않았습니다.
이러한 사건을 봐도 딥페이크 영상이 유포될 경우 사회적인 혼란을 넘어
전쟁도 야기할 수 있다는 걱정 어린 우려도 있습니다.
합성 사진을 자동 판별해 악의적인 제작을 사전에 차단할 수 있는 기술 개발이 시급해 보입니다.
이상 디지털 성범죄 중 한 유형인 딥페이크에 대한 안내를 마치도록 하겠습니다.
출처: 한국양성평등교육진흥원(2020), 가짜 영상과의 전쟁
댓글