‘AI 4대천왕’ 벤지오 만난 네이버…‘안전한 AI’ 협력 강화

네이버가 인공지능(AI) 4대 천왕으로 꼽히는 세계적인 석학 요수아 벤지오 캐나다 몬트리올대 교수와 만났다.
AI 안전성에 대한 국내외 이슈를 공유하며 향후 협력 방안을 논의했다.

5일 IT 업계에 따르면 하정우 네이버클라우드 AI이노베이션 센터장과 이화란 네이버 AI 세이프티랩 리더는 최근 삼성 AI 포럼 참석차 방한한 벤지오 교수를 만났다.
이날 만남은 벤지오 교수가 먼저 제안한 것으로 알려졌다.

벤지오 교수는 제프리 힌튼 토론토대 교수, 얀 르쿤 뉴욕대 교수와 딥러닝을 창시한 세계적인 석학이다.
이들 3인방은 2018년 컴퓨터 분야 노벨상 격인 튜링상을 공동 수상하며 공로를 인정받았다.
업계에선 앤드루 응 스탠퍼드대 교수를 포함해 AI 4대 천왕으로 불린다.
이 가운데 벤지오 교수는 AI 부작용을 경고하며 통제가 필요하다고 보는 신중론자로 꼽힌다.
영국 정부가 주도하는 'AI 안전 프로젝트'에 합류해 AI의 위험을 파악하는 AI 모델을 개발 중이다.

벤지오 교수가 네이버에 만남을 제안한 것은 AI 안전성 관련 내부 시스템을 정립하고 실제 개발에 적용하고 있어서다.
학계에서 연구하는 이론 외에 산업계에서 운영하는 AI 안전성 체계에 관심을 나타냈다는 후문이다.
네이버는 지난 6월 AI 안전성 실천 체계인 'ASF(AI Safety Framework)'를 공개한 바 있다.
AI 시스템을 개발·배포하는 모든 단계에서 AI의 잠재적 위험을 인식, 평가, 관리하기 위한 대응 체계다.
여기에 소버린(Sovereign·주권) AI의 문화성 다양성을 반영해 ASF를 개선할 계획이다.

이번 만남에서 양측은 AI 안전성에 대한 국내외 이슈를 공유했다.
오픈 바이너리 모델(메타의 라마처럼 소스코드는 공개하지 않고 실행파일만 공개하는 모델)의 확산이나 AI 에이전트의 등장 등 AI 안전성 연구가 필요한 분야에 대해 의견을 나눴다.
이달 우리 정부 주도로 출범하는 AI 안전연구소에 대해서도 관심을 나타냈다.
하 센터장은 "한국의 AI 안전연구소 준비 상황이나 네이버가 AI 안전을 바라보는 관점에 대해 얘기를 나누고 큰 틀에서 협력을 논의했다"고 말했다.

이번 만남을 계기로 향후 AI 안전성 관련 연구에서 협력할 가능성이 거론된다.
벤지오 교수는 지난 7월 한국과학기술원(KAIST)과 AI 연구센터를 공동 설립했다.
네이버클라우드는 인텔, KAIST와 AI 공동연구센터를 운영하는 등 연구 접점을 갖고 있다.
AI 안전연구소와 함께 AI 민관 국제공동연구를 수행하는 '국가 AI 연구거점'에는 네이버클라우드가 국내 협력 기관으로 참여하고 있다.

네이버는 지난해 7월 응 교수가 방한했을 때도 협력을 논의하는 등 글로벌 생태계 확장을 꾀하고 있다.
당시 네이버 임원진은 네이버 제2사옥 1784에서 응 교수를 만나 네이버의 기술을 소개하고 협력 방안에 대한 의견을 나눴다.