일론 머스크 테슬라 최고경영자(CEO)가 자동차업체 제너럴 모터스(GM)의 회장 겸 CEO, 미국 유명 정치인, 가수 테일러 스위프트와 잇따라 데이트를 한다.
교황이 하얀 패딩을 입고 거리를 활보한다.
실제 사진일까?

모두 최신 버전 인공지능(AI)을 이용해 만든 가짜 이미지다.
차이점은 손가락이나 조명 등 다소 '어색한' 부분이 남았던 과거 AI와 달리, 새로 업데이트된 AI의 성능은 거의 현실과 구분하기 힘들다는 데 있다.
챗GPT로부터 촉발된 생성 AI 기술의 발전이 눈부신 만큼, 그 위험성도 점차 커지고 있다는 우려가 나온다.

미국의 기술 분야 전문 유튜브 채널 '올유어테크(AllyourTech)'는 최근 인터넷에 머스크 CEO 사진을 대량으로 공개했다.
첫 번째 사진은 머스크 CEO가 메리 바라 GM 회장과 저녁 식사를 하는 모습이다.

이후 채널은 두 번째 이미지를 공개했다.
이번에는 미국의 '진보 스타'로 유명한 알렉산드리아 오카시오코르테스(AOC) 민주당 하원의원과 머스크 CEO가 손을 맞잡고 데이트를 즐기는 사진이었다.
충격이 채 가시기도 전에 세 번째 이미지가 공개됐다.
머스크 CEO가 테일러 스위프트가 오붓한 시간을 보내는 모습이다.

이 사진은 모두 이미지 생성 AI '미드저니', '스테이블 디퓨전' 등의 최신 업데이트 버전을 활용해 만든 것이다.
이전과의 차이점은 이제 실제 실제 사진과 거의 구분할 수 없다는 점이다.
올유어테크는 "우리가 가정용 컴퓨터로 이 수준의 이미지를 만들 수 있다면, 미디어 기업이나 정부 기관이 당신에게 어떤 일을 할 수 있을지 생각해 보라"라고 경고했다.

'사진 같은 이미지를 만드는 AI'는 이전에도 있었다.
지난 1월 한 해외 누리꾼이 미드저니로 1990년대에 촬영한 듯한 가짜 이미지를 생성해 화제가 되기도 했다.
그러나 당시까지만 해도 AI는 세부 묘사가 필요한 분야엔 미흡한 모습을 보였다.

이는 전체 그림을 생성하는 능력은 탁월하지만, 정밀한 묘사엔 취약한 AI의 특성 탓이다.
이 때문에 과거 AI 생성 이미지는 ▲인체 왜곡, ▲비정상적인 팔길이, ▲5개를 넘어가는 손가락, ▲과도한 블러(blur·이미지의 흐린 부분)라는 일관된 특징을 보였고, 이런 점을 잘 파악하면 금세 가짜 여부를 가릴 수 있었다.

그러나 최신 버전의 AI는 이전까지의 한계를 거의 극복했다.
인체 비율은 완벽해졌고, 손가락도 과거와 비교해 훨씬 현실적으로 묘사한다.
올유어테크는 "(지금 같은 발전 속도라면) 얼마 뒤엔 더는 손가락 문제가 나타나지 않을 거라고 본다"라고 전망했다.

생성 AI는 포토샵, 딥페이크(Deepfake) 등 기존 이미지 합성 기술과는 달리 이전엔 존재하지 않았던 사진을 창조할 수 있다는 점에서 훨씬 파급력이 크다.
AI로 인해 인터넷이 가짜 뉴스의 온상으로 변할 수 있다는 지적이 나온다.

일례로 최근에는 프란치스코 교황이 흰 롱패딩에 십자가 목걸이를 한 채 외출하는 사진이 공개돼 누리꾼의 주목을 받았다.
'교황이 입은 패딩의 브랜드가 뭐냐'는 질문이 사회관계망서비스(SNS)에 쇄도하기도 했다.
그러나 이 이미지는 AI로 만든 가짜인 것으로 드러났다.

정치권에서도 생성 AI 논란이 불거졌다.
도널드 트럼프 전 미국 대통령이 경찰들에게 둘러싸인 채 연행되는 '가짜 사진'이 SNS에 퍼진 것이다.
트럼프 전 대통령이 도망을 치는 듯한 장면, 주황색 죄수복을 입은 모습 등이 추가로 공유됐다.
사진은 디지털 자료 분석단체 '벨링캣' 창립자 엘리엇 히긴스가 제작한 것으로 알려졌으나, 일부 누리꾼은 실제 트럼프 전 대통령이 체포된 것으로 받아들이는 해프닝이 빚어졌다.

전문가들은 가짜 이미지의 범람이 사회적 위기를 초래할 수 있다고 우려한다.
포렌식 전문가인 하니 파리드 미 UC 버클리 교수는 지난 26일(현지시간) '워싱턴포스트'와 인터뷰에서 "보통 사람들은 손가락을 보고 AI 이미지를 가짜로 판명하지만, AI가 이런 세부 사항을 파악하기 시작하면 무용지물"이라며 "더 그럴듯해 보이면서 사회적 분노를 촉발할 수 있는 사진 생성은 정치적 위험으로 이어질 수 있다"라고 경고했다.

AI에 대한 국가적 규제를 촉구하는 목소리도 나온다.
미국 최대 정책 싱크탱크 중 하나인 '브루킹스 연구소'는 지난달 21일 기고한 글에서 "현재 생성 AI의 주요 위험은 상업적 이용과 악의적 이용이라는 두 행위"라며 "두 행위에 대한 별도의 고려, 그리고 뚜렷한 정부의 정책적 개입이 필요하다"라고 강조했다.