최근 한국사회에서 가장 큰 이슈가 되고 있는 것은 딥페이크 범죄인데요.
딥페이크란?
딥페이크 범죄
"지인 능욕함. 협박할 사진이나 비밀 같은 거 말해주면 몸사(신체 사진) 얻어줌. ㄱㅌ(갠텔·개인 텔레그램 메시지). 라인(네이버의 사회관계망서비스)이면 좋음." "지인 라디(라인 아이디) or 텔디(텔레그램 아이디) 주시면 가서 협박해서 XX는 사진 얻어드려요."
특히 높은 보안성과 익명성으로 인기를 얻은 글로벌 메신저 플랫폼 텔레그램(Telegram)의 한 채팅방에서는 이 같은 대화가 오가고 있습니다. 해당 채팅방은 참여자들이 지인의 사진으로 딥페이크 성범죄물을 제작해 공유하는 곳입니다. 이 같은 채팅방은 지역이나 초·중·고교, 대학 단위로 우후죽순 만들어지고 있습니다. 특정인의 이름이 언급된 '김아무개 능욕방'도 생겨나고 있습니다. 이들은 여성이 소셜미디어에 올린 일상 사진을 공유해 성범죄물을 제작하고, 여성의 신상정보를 게시하고 있습니다.
'신종 학폭'이라는 이름으로 국내 언론이 딥페이크 성범죄물의 심각성을 본격적으로 집중 보도한 지 3주, 프랑스 수사당국이 파벨 두로프 텔레그램 창업자 겸 최고경영자(CEO)를 온라인 성범죄 방조 및 공모 혐의로 체포한 다음이었습니다. 다수 딥페이크 성범죄물 채팅방이 폐쇄되거나 비공개로 전환되면서 음지로 숨어들었지만, 온라인에는 여전히 그들의 흔적이 남아있었습니다. 채널이 닫혔다는 '인천 겹지방'의 구독자는 800명, '남양주 겹지방'의 구독자는 970명이나 됬ㅅ브니다. '대학별 겹지방'의 구독자는 3500명이 넘었습니다. '겹치는 지인방'을 뜻하는 '겹지방'은 쉽게 말해 '서로 아는 지인들을 욕보이는 방'이라는 의미라고 합니다.
딥페이크 성범죄물 문제가 수면 위로 드러나면서 한국은 '딥페이크 공화국' '딥페이크 범죄의 진원지'라는 오명을 받고 있습니다. 프랑스 일간지 르몽드는 지난 3월 한 기사를 통해 "한국은 오랫동안 '불법촬영 공화국'으로 불렸지만 이젠 '딥페이크 공화국'"이라고 언급했습니다. 르몽드는 "사이버 보안회사 딥트레이스의 헨리 아이더는 '이미 2019년 딥페이크 피해를 입은 전 세계 유명인 가운데 25%가 여성 K팝 스타였다'고 말했다"며 "5년 후인 2024년 르몽드가 가장 인기 있는 5개 비디오 플랫폼을 조사한 결과 50명의 유명인 중 절반 이상(56%)이 한국 팝스타였다"고 보도하기도 했습니다.
현재 서울경찰청은 내년 3월 31일까지 사이버수사과에 '허위 영상물 집중 대응 TF'를 운영하기로 했습니다.
이번 TF는 지난 26일 자동으로 딥페이크를 생성하는 '텔레그램 봇'에 대해 입건 전 조사(내사)에 착수하기 시작했습니다. 이외에도 '지인능욕' 등 허위 영상물이 유통되는 텔레그램 대화방 등에 대한 첩보를 발굴하고, 피해 사례가 확인되면 즉각 수사에 착수할 계획이고 합니다.
큰 범죄가 될 수 있는 딥페이크 AI기술이 남용되는 현실이라고 할 수 있습니다.
AI 윤리가 더 중요해지는 시기입니다.
댓글 쓰기