비영리 DB업체 ‘라이온’ 조치
“불법음란물 처리규약 필요” 지적
톰 행크스, 딥페이크 광고에 경고
“내 닮은꼴 치료약 홍보, 속지 말라”
딥페이크 성범죄 우려가 커지는 가운데 인공지능(AI) 학습에 사용되는 데이터베이스에서 아동 성 학대 이미지로 연결되는 웹링크가 2000개 넘게 삭제됐다.
 | | AI 훈련용 데이터베이스 라이온(LAION)-5B. /라이온(LAION)-5B |
지난달 30일(현지시간) AP통신에 따르면 비영리 오픈소스 이미지 데이터베이스 ‘라이온(LAION)’은 최근 미국 스탠퍼드대를 비롯해 캐나다 및 영국 기관들과 협업해 이 같은 조치를 취했다고 밝혔다.
라이온은 인터넷 공간의 각종 이미지를 분류한 뒤 텍스트를 이미지로 변환해주는 AI에 제공하는 데이터베이스다.
앞서 스탠퍼드대는 지난해 12월 라이온에서 최소 1000개 이상의 아동 성 학대 이미지를 발견했다는 보고서를 발표했다.
보고서의 책임 저자인 데이비드 티엘은 라이온의 이번 조치를 환영했지만, 다음 조치도 이어져야 한다고 지적했다.
전문가들은 아동 성 학대 콘텐츠와 당사자의 동의를 받지 않은 음란물을 AI 데이터베이스에서 걸러내고, 제거하기 위한 규약을 마련해야 한다고 주장하고 있다.
한편 할리우드 유명 배우 톰 행크스는 최근 AI 딥페이크 광고에 속지 말라고 대중에게 거듭 당부했다.
행크스는 지난달 29일 사회관계망서비스(SNS)에 “내 이름과 닮은꼴, 목소리를 이용해 기적의 치료법과 특효약을 홍보하는 광고가 인터넷에 여러 개 있다”며 “이런 광고들은 내 허락 없이 AI를 통해 사기성으로 만들어진 것”이라고 밝혔다.
그러면서 “나는 이런 게시물이나 상품, 치료 또는 이런 치료법을 광고하는 사람들과는 아무런 관련이 없다”고 강조했다.
행크스 외에도 유명인들의 이미지를 이용한 딥페이크 사기 행각은 끊이지 않고 있다.
영화 ‘어벤져스’로 유명한 배우 스칼릿 조핸슨의 변호사는 지난해 11월 조핸슨의 사진과 목소리를 AI로 합성해 제품 홍보에 쓴 회사를 상대로 법적 조치를 취하겠다고 밝혔다.
미국의 여러 주와 연방 의원들은 개인의 이미지나 음성이 딥페이크에 악용되는 것을 막기 위한 입법을 추진 중이다.
테네시주는 최근 개인의 이미지나 음성을 모방한 콘텐츠의 무단 사용을 규제하는 ‘음성·이미지 안전보장법’을 제정해 지난달부터 시행에 들어갔다.
지난해 10월 연방 상원의원들은 개인의 음성과 시각적으로 유사한 이미지를 AI나 다른 기술로 무단 생성하는 것을 막기 위한 초당적인 법안 ‘노 페이크스‘(NO FAKES) 법안을 발의했다.
조성민 기자 josungmin@segye.com
|
<본 콘텐츠의 저작권 및 법적 책임은 세계일보(www.segye.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
|
|
불법촬영물 신고
불법촬영물 신고
등록안내
등록안내
