"플랫폼, 딥페이크 범죄물 유포 차단 의무 안하면 과징금 부과"

정부가 딥페이크 성범죄 대응을 위해 국내외 플랫폼사에 대한 다양한 규제를 추진한다.

딥페이크 대응 범정부 태스크포스(TF)팀은 6일 관계 부처 합동으로 마련한 '딥페이크 성범죄 대응 강화 방안'을 발표했다.

최근 생성형 인공지능(AI) 기술이 보편화되고 텔레그램 등 폐쇄형 플랫폼이 확산되면서 10~20대를 중심으로 딥페이크 성범죄가 사회적 문제로 대두됐다.

이에 국무조정실, 교육부, 법무부, 국방부, 과학기술정보통신부, 방송통신위원회, 여성가족부, 경찰청 등으로 구성된 범정부 TF가 구성돼 대응 방안을 마련했다.

딥페이크 성범죄물 생성을 막기 위한 예방·교육을 시행하고, 플랫폼 규제를 통해 성범죄물 유통을 방지하며, 피해자 지원과 가해자 처벌까지 종합적인 내용이 담겼다.

이중 과기정통부와 방통위는 불법 성범죄물 유포의 온상지로 지적된 플랫폼사에 대한 규제를 강화한다.

그동안 텔레그램 등 국내 사업소가 없는 해외 기반 플랫폼은 국내법의 효력이 미치지 않는 등 관리 사각지대에 놓여 있었다.
상대적으로 네이버(NAVER), 카카오 등 국내 플랫폼이나 구글 등 국내 사업소를 둔 해외 플랫폼은 관련법에 따라 관리되고 있었다.

플랫폼의 주요 법적 의무를 살펴보면, 먼저 정보통신망법상에는 △청소년보호, 불법촬영물 유통방지 등 책임자 지정 △음란물 등 불법정보 유통금지 및 삭제 △투명성보고서 제출 △관련 물품·서류 등의 제출 의무 등이 있다.

전기통신사업법에는 △사업신고 △불법촬영물 등 유통방지 조치 △기술적·관리적 조치 의무 등이 명시됐다.

정부는 국내법을 적극적으로 해석해 텔레그램 등 국내외 플랫폼 사업자 규제를 추진하기로 했다.

특히 오픈채널 접속 링크와 비밀번호를 불특정 다수에게 배포, 접속을 유도하는 것도 △청소년유해물 제공·매개 및 △불법촬영물 등의 유통에 해당된다고 적극적으로 해석해, 이를 근거로 사업자 규제에 나선다.

방통위는 텔레그램을 청소년유해물 제공·매개자로 해석하고, 청소년보호 책임자 관련 자료 요구 및 지정 의무 통보, 국내 대리인 지정 의무 대상 통보, 시정명령 등 의무사항을 요구하기로 했다.
이러한 의무를 이행하지 않을 시 과태료 등 제재 조치를 취한다.

네이버, 메타 등 플랫폼 사업자이자 부가통신사업자에 대해선 불법촬영물 유통방지 의무를 이행하지 않을 시 시정명령과 과징금 등 법적 제재 조치를 적극 부과한다.

또한 정보통신망법 개정을 통해 투명성보고서의 내용을 강화한다.
불법촬영물 등 유통방지 노력, 신고·삭제 처리 결과, 책임자 지정 내용 등을 매년 제출토록 한다는 계획이다.
투명성보고서를 부실·허위 제출했을 때 플랫폼 사업자에 대한 과태료 부과 조항을 신설한다.

성적 허위영상물 등 디지털 성범죄물 게재자에 대해 서비스 이용 중단, 탈퇴 등 제재 조치를 추진한다.

방통위와 여가부는 모니터링 인력 증원, AI 기반의 신기술 도입 등을 통해 해외 사회관계망서비스(SNS) 모니터링을 집중 실시하고 성범죄 예방에 나서기로 했다.

방송통신심의위원회는 국내 포털과 글로벌 플랫폼 사업체뿐만 아니라 국내 사업소가 없는 플랫폼과도 협의 채널 구축한다.
지난 9월 방심위는 텔레그램과 핫라인을 구축하고 실무협의를 진행하는 등의 성과를 내기도 했다.

과기정통부는 'AI 윤리·신뢰성 포럼'을 운영해 AI 안전성 평가, AI 생성물 식별 기술 개발 등 기업들의 책임성 있는 AI 활용 유도할 계획이다.
이 포럼에는 네이버, 카카오, SK텔레콤, 한국마이크로소프트, 구글코리아, LG AI 연구원 등 참여하고 있다.

김종문 국무조정실 국무1차장은 이날 브리핑을 통해 "앞으로도 딥페이크 성범죄 대응 TF를 계속 운영해 나가면서 피해 지원, 단속 강화, 법안 통과, 예산 확보 등 이번 대책의 후속 조치를 면밀하게 점검하고 보완해 나갈 계획"이라고 밝혔다.