노벨물리학상 ‘AI 아버지’ 역설
홉필드 교수 “AI 대한 이해 필수”
소설 ‘1984’ ‘고양이 요람’에 비유
통제사회·잠재적 위협 야기 경고
힌턴 교수 “생존 위협 초래 측면서
우리는 역사적 분기점 놓여 있어”
‘기업 AI 통제 연구 강화’ 한목소리
“물리학자로서 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다.
”(존 홉필드 미국 프린스턴대 명예교수)
“인공지능(AI)이 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다.
”(제프리 힌턴 캐나다 토론토대 명예교수)  | | 존 홉필드 미국 프린스턴대 명예교수, 제프리 힌턴 캐나다 토론토대 명예교수(왼쪽부터). AP·AFP연합뉴스 |
AI 기술 발전의 초석을 다진 공로로 올해 노벨물리학상을 수상한 물리학자들이 AI에 대한 우려를 표명했다.
AI 연구에 대한 수상 소감을 밝히는 대신 이례적으로 AI 발전에 따른 우려를 경고한 것이다.
이들은 AI가 통제에서 벗어날 수 있다며 거대기술(빅테크) 기업들이 AI를 관리하는 데 더 많은 연구자원을 투자해야 한다고 목소리를 높였다.
AP통신 등에 따르면 홉필드 교수는 8일(현지시간) 수상 소감 온라인 회견에서 “물리학자로서 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”고 말했다.
그는 “신경망 연구 덕분에 AI 연구는 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다”며 “이는 매우 불안한 일로, 내가 힌턴 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다”고 언급했다.
홉필드 교수의 우려는 AI 기술이 세상의 모든 정보와 결합해 개인의 자율성을 제한할 수 있다는 것이다.
그는 “내가 걱정하는 것은 정보의 상호작용이 제어되는 방식으로 통제되는 세상”이라며 “그 작동 원리를 이해하지 못하는 알고리즘에 의해 거대한 시스템이 통제되는 세상”이라고 설명했다.
홉필드 교수는 AI를 조지 오웰의 소설 ‘1984’와 커트 베네거트의 소설 ‘고양이 요람’에 비유하기도 했다.
AI가 소설 1984에서 감시자 역할을 하는 ‘빅브러더’ 같이 사회를 통제할 수 있다는 의미이다.
소설 고양이 요람에는 다른 수분도 얼리는 가상의 물질 ‘아이스나인’이 등장하는데, 아이스나인으로 지구상의 모든 물이 얼어붙어 인류 멸망을 초래한 것처럼 AI가 잠재적인 위협을 야기할 수 있다는 것이다.
힌턴 교수 또한 수상 직후 노벨위원회와의 전화 인터뷰에서 AI의 위험성을 강조했다.
‘AI 대부’로 불리는 힌턴 교수는 지난해 10년간 몸담아왔던 구글을 떠나면서도 AI의 위험성을 경고한 바 있다.
그는 뉴욕타임스(NYT)와의 인터뷰에서 “만약 내가 하지 않았더라도 AI의 발전은 다른 누군가에 의해 진행됐을 것이라는 변명으로 스스로를 위안한다”면서도 “나쁜 사람들이 그것을 악용하는 것을 가만히 보고 있기가 어렵다”고 털어놨다.
그는 AI를 재난 위험성을 키운 기후변화에 비유하며 AI 기술이 가져올 수 있는 변화는 기후변화와 다르다고 역설했다.
힌턴 교수는 “기후변화는 모든 사람이 무엇을 해야 하는지 알고 있다”며 “단지 정치적 의지의 문제일 뿐이다“라고 말했다.
그러면서 “AI는 지금 무슨 일이 일어날지, 어떻게 해야 할지에 대해 잘 모르는 상황을 다루고 있다.
모든 것이 괜찮아질 것이라는 일종의 간단한 비법이 있었으면 좋겠다”고 토로했다.
이어 “(AI가) 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”며 “(AI)는 인간의 체력을 뛰어넘는 수준을 넘어 지적 능력까지 넘어서게 될 것“이라고 경고했다.
힌턴 교수는 지난해 7월 세계일보와의 서면 인터뷰에서 “‘AI의 겨울’은 오지 않을 것”이라며 AI의 발전이 폭발적일 것으로 전망한 바 있다.
AI의 겨울은 AI 연구에 대한 자금·관심 등이 감소하는 일종의 ‘불황기’를 말한다.
힌턴 교수는 “최근의 딥러닝(Deep learning·심층학습) 기술이 크게 발전하면서 또 다른 AI의 겨울이 올 가능성은 거의 사라졌다”고 설명했다.
사람들의 관심이 시들해질 수밖에 없던 ‘겨울’과 달리 지금의 AI 발전 상황은 오히려 사람들의 예측과 기대를 뛰어넘을 만한 수준이라는 것이다.
두 물리학자는 모두 기업이 AI 통제 연구에 더 많은 연구자원을 쏟아부어야 한다고 입을 모았다.
홉필드 교수는 “연구자들이 AI 안전을 위해 연구해야 하며, 정부는 대기업이 연구를 위해 필요로 하는 컴퓨팅 시설을 제공하도록 강제해야 한다”고 말했다.
그는 “오픈AI 같은 IT 기업이 안전 연구를 뒷전으로 미루지 못하도록 (정부가) 더 많은 자원을 투자해야 한다“고 제안했다.
오픈AI에선 회사가 수익성에만 집중하느라 안전을 간과했다는 전·현직 직원들의 내부고발이 나온 바 있다.
지난 5월에는 안전성과 윤리성을 검토하던 팀이 해체되기도 했다.
힌턴 교수 또한 “연구자들이 AI 안전을 위해 연구해야 하며, 정부는 대기업이 연구를 위해 필요로 하는 컴퓨팅 시설을 제공하도록 강제해야 한다”고 밝혔다.
이민경·이지안 기자
| 
등록안내
등록안내
