한국 사회가 뒤흔들리고 있다.
여성과 소녀들의 학교 앨범 사진, 사회관계망서비스(SNS) 셀카, 심지어 군부대 내 프로필 사진까지 무차별적으로 도용돼 성적으로 노골적인 딥페이크 이미지가 만들어지고 온라인에서 공유되고 있다.
특히 22만명 이상의 이용자가 참여하고 있는 것으로 조사된 한 텔레그램 채널이 이 같은 범죄의 온상으로 지목되면서 인공지능(AI) 기술의 광범위한 보급이 지닌 어두운 민낯이 전 세계에 드러났다.

텔레그램 이용자들이 올린 친구, 동급생, 연인의 얼굴 사진이 노골적인 콘텐츠로 탈바꿈되는 데는 단 몇초도 걸리지 않았다.
현지 언론의 보도로 더 많은 여성이 피해자로 나서게 됐고, 더 많은 텔레그램 채널의 정체가 공개되면서 사건의 진상도 모습을 드러냈다.
관련 피해자 중 상당수는 미성년자였다.
지난달 말 서울에선 흰 마스크로 얼굴을 가린 시위대가 집회를 열어 정의를 부르짖었다.

대중의 분노가 커지자 윤석열 대통령은 디지털 성범죄 단속을 주문했고 당국은 이 문제를 해결하기 위해 태스크포스(TF)를 구성하겠다고 밝혔다.
함께 진행된 경찰 수사에서는 또 하나의 불편한 진실이 드러났다.
최근 발생한 일련의 사건의 가해자로 의심되는 대다수가 10대로 확인된 것이다.
윤석열 대통령도 지난달 말 국무회의에서 피해자와 가해자 모두 미성년자가 대부분이었음을 인정하며 "누군가는 단순한 장난으로 치부할 수도 있지만, 익명성에 숨어 기술을 악용한 명백한 범죄 행위"라고 규탄했다.

윤 대통령의 말이 맞다.
이건 단순한 장난이 아니다.
이러한 유형의 디지털 성폭력은 피해자에게 치명적일 수 있다.
텔레그램이 여론의 집중포화를 맞고 있는 것도 어찌 보면 당연지사다.
이번 사건은 텔레그램 최고경영자(CEO)인 파벨 두로프가 아동 포르노 공유 혐의로 프랑스에서 체포돼 기소된 시기와 비슷한 시기에 터졌기 때문이다.
한국 정부는 텔레그램이 수사 및 콘텐츠 삭제 요청에 협조하고 있다고 밝혔다.

그러나 윤 대통령의 수사는 누군가에겐 공허하게 들릴 여지도 있다.
그는 2022년 대한민국 남성들을 "잠재적 성범죄자" 취급하는 여성가족부를 폐지하겠다는 공약을 내걸며 정권을 거머쥔 인물이니 말이다.
그는 또한 한국에는 제도적 성차별이 존재하지 않으며, 한국의 저출산에 대한 책임이 페미니즘에 있다고 주장한 바 있다.
한편 한국 여성은 남성보다 약 30% 적은 임금을 받으며 선진국 중 가장 높은 성별 임금 격차를 보인다.
맞벌이 가정에서도 여성은 가사와 육아 부담을 고스란히 떠맡고 있다.

지금처럼 AI 도구의 발달로 딥페이크 음란물 제작이 훨씬 쉬워지기 전부터 여성 인권 옹호 단체들은 합의되지 않은 은밀한 사진이나 몰래카메라를 이용한 디지털 성범죄가 급증하는 것에 주목해왔다.
한국 여성들이 다른 선진국 여성들과 마찬가지로 아이를 갖지 않기로 결정하는 데에는 여성의 노동시장 참여율 증가, 양육의 불균등한 부담 등 여러 가지 이유가 있을 수 있다.
페미니즘을 탓하기보다는 산더미처럼 쌓인 데이터를 살펴보는 것이 더 유용한 방법일 수 있다.
아이러니하게도 이러한 이미지를 유포하는 텔레그램 채널 중 하나는 약 22만7000명의 회원을 보유하고 있으며 이는 지난해 한국의 신생아 수와 거의 비슷한 수준이다.

한국 여성들은 시위와 행동주의를 통해 이 문제를 대담하게 드러내고 있다.
이는 전 세계 사람들에게 긍정적 영향을 미치고 위기를 극복하는 첫걸음이 될 수 있다.
실제로 다른 국가들에 비해 한국은 딥페이크 포르노 규제에서 한발 앞서가고 있다.
배포 목적으로 딥페이크 포르노 관련 이미지를 제작해 유죄 판결을 받은 사람에게 최대 5년의 징역형과 벌금을 부과하고 있으니 말이다.
미국은 이와 관련한 법안이 초당적인 지지를 받고 있음에도 여전히 의회 통과가 지지부진한 것과 대조적이다.

한국의 사례는 우리에게 규제도 중요하지만 이처럼 광범위한 문제를 단속하는 게 얼마나 어려운지, 또 애초에 이러한 딥페이크가 만들어지고 공유되는 게 얼마나 쉬워졌는지를 보여준다.
관련 자료를 소지하는 것 자체를 불법으로 규정하는 것이 도움이 될 수도 있다.
다만 이 경우에 피해자가 자신의 삶을 뒤흔든 콘텐츠 제작자를 직접 디지털 방식으로 추적해야 한다는 부담이 있다.

최근 텔레그램 CEO의 체포는 플랫폼에서 발생하는 피해에 대해 기업에 책임을 묻고자 하는 움직임이 전 세계적으로 확산하고 있음을 보여준다.
이는 올바른 방향이다.
더 많은 규제 당국이 거대기업들에 책임을 전가할수록 업계 주도의 솔루션도 늘어날 것이다.
대학과 연구센터에서는 AI의 조작으로부터 이미지를 보호할 수 있는 몇 가지 유망한 도구들을 개발하고 있으나 정작 AI를 개발하는 업계에서는 책임감 있는 AI 배포를 위한 충분한 자원을 투입하지 않고 있다.

기술 기업들이 사전 예방적 솔루션을 마련하도록 더 많은 부담을 부과해야 한다.
최근 몇 년 동안 많은 IT 공룡이 광범위한 비용 절감을 위해 AI 윤리팀을 축소하고 있지만, 여성과 소녀의 존엄성은 기업의 이윤을 위해 희생돼야 할 대상이 아니다.

한국은 현재 딥페이크 위기의 진원지다.
동시에 테일러 스위프트와 같은 유명 인사부터 서울과 뉴저지의 여중생에 이르기까지 모두에게 영향을 미칠 수 있는 전 세계적인 문제기도 하다.
기술 분야는 더는 책임을 회피해선 안 된다.

캐서린 소르베케 블룸버그 칼럼니스트

이 글은 블룸버그의 칼럼 ‘South Korea Is Facing Deepfake Porn Crisis’를 아시아경제가 번역한 것입니다.