딥페이크 성범죄영상물 대안을 모색하는 국회 토론회에서 방송통신심의위원회가 다음 달 글로벌 플랫폼 사업자와 만나 딥페이크 성범죄 영상물 조치 관련 협력방안을 논의한다고 밝혔다.
전문가들은 처벌 형량 상향, 플랫폼 사업자의 선제 조치 등 대안들을 제시했다.

5일 국회 과학기술정보방송통신위원회 전체회의실에서 열린 '딥페이크 성범죄영상물 어떻게 근절할 것인가' 토론회에서 이동수 방심위 디지털성범죄심의국장은 "다음 달 글로벌 플랫폼 사업자와 간담회를 준비하고 있다"며 "방심위 시정조치 협력 대상인 글로벌 사업자 11곳에 협조 공문 발송도 준비 중이다"고 전했다.

이어 이 국장은 "현장 교육을 추진하고 있으며 국내 유관기관과의 공조와 영국, 호주 등 해외 단체가 참여하는 글로벌 온라인 안전 네트워크와 네덜란드, 프랑스 등 국제 인터넷 핫라인을 통해 국제적인 협업도 지속하겠다"고 덧붙였다.
방심위는 딥페이크 성범죄 영상물의 신고를 받고 있으며, 관련 모니터링을 실시하고 있다.

이해원 강원대 법학전문대학원 교수는 처벌 형량을 높이고 양형기준을 적절히 반영해야 한다고 했다.
이 교수는 "현행법상 형량이 상당히 낮은 수준이다"며 "그러나 형량을 높인다고 해결되는 게 아니라 무거운 처벌로까지 이어지려면 대법원의 양형 기준에서도 이를 적절히 반영해야 한다"고 전했다.

아울러 이 교수는 "플랫폼은 피해자의 신고 이후 삭제하는 '노티스 앤 테이크(Notice and take)' 방식이 아닌 디텍트 앤 테이크(Detect and take)' 방식을 취해야 한다"고 전했다.
피해자에게 합리적인 위자료가 지급될 수 있게 민사배상에 대한 특별법 마련의 필요성도 강조했다.

허욱 메타코리아 부사장은 플랫폼 차원에서도 사회적 책임을 인지하고 있으며 이에 맞는 조치를 취하고 있다고 전했다.
허 부사장은 "성범죄 영상물, 이미지에 대해서는 충분히 삭제 조치하고 있다"며 "특정 국가에서 관련 법률이나 제재가 없다고 하더라도 생성형 AI로 만들어진 이미지에 대해서는 워터마크 처리를 진행하는 중이다"고 했다.

방통위는 상황이 시급한 만큼 현행 법체계에서 할 수 있는 것부터 검토하겠다는 입장이다.
신영규 방통위 방송통신이용정책국장은 "방심위 쪽에서 삭제 및 차단을 요청하기 위해 모니터링을 운영하고 있는데 인력이 많지 않다"며 "인력을 지금의 배로 늘려서 모니터링하면 신속한 처리가 가능할 것으로 보인다"고 했다.
또 "방통위는 온라인피해365센터를 만들었는데 AI 기반 영상물 피해가 발생 시 피해자의 심층 상담을 현행법 체계에서 지원할 수 있다"고 덧붙였다.

현장과 정책 사이의 간극을 줄여야 한다는 지적도 나왔다.
20년 이상 인터넷 역기능 관련 모니터링을 진행했다는 이경화 학부모정보감시단 이사장은 "방심위가 성범죄 영상물에 대한 임시조치를 어느 정도 활용하고 있는지 볼 필요가 있다"며 "신속한 처리와 해결이 이용자 입장에서 봤을 때 만족할만한 결과를 내고 있는지 고민해야 한다"고 했다.

이어 이 이사장은 "(생성형 AI 윤리 교육을) 학교 교육과 연계하겠다는 대안이 각자도생하는 이용자에게 도달할 수 있을지 모르겠다"며 "이미 정보통신, AI 윤리교육을 하고 있지만, 청소년들에게 물어봤을 때 저작권 문제는 잘 알면서도 윤리는 어려워한다"고 했다.
그는 "학교에서 비교과 내용을 가르친다고 할 때 어떤 시간에 어떻게 진행할지 고민할 필요가 있다"고 했다.

이날 토론회의 좌장은 김민호 성균관대 법학전문대학원 교수가 맡았으며, 김명주 서울여대 정보보호학부 교수가 '생성형 AI의 양면성과 안전 규제의 필요성'을 주제로, 이소은 국립부경대 미디어커뮤니케이션 교수가 '딥페이크 성범죄영상물 현황 및 대응 전략'을 주제로 발제했다.