이경일 솔트룩스 대표는 "인공지능(AI) 오작동 등에 대비한 적절한 규제 마련이 반드시 필요하다"며 "AI 시스템에 대한 안전성을 보장하는 것이 기술·서비스 제공 업체들에게 이미 요구되기 시작했다"고 말했다.
이 대표는 지난 19일 아주경제신문·아주TV 인터뷰에서 최근 유럽연합(EU)에서 통과된 'AI법'을 언급하며 이같이 강조했다.
AI법은 EU 시장에 출시되는 AI 시스템이 EU의 기본 권리와 가치를 존중하도록 보장하기 위한 안전성·신뢰성을 갖추도록 했다.
특히 '고위험 AI'에 대해서는 신뢰성 요구를 더욱 강화한다.
이 대표는 "AI를 만드는 기업·연구소가 AI 안전성을 검증하고 투명성을 보장하며, 이를 위해 AI가 어떻게 만들어졌고 어떤 데이터를 학습했는지 등을 답변해야 한다는 것이 핵심"이라며 "이런 규제는 전 세계적으로 퍼져 나갈 것"이라고 예상했다.
우리나라도 예외는 아니다.
현재 국회에 AI와 관련된 기본 원칙 등을 규정한 'AI 기본법'이 계류 중이다.
빠르면 5월 중 법 통과 여부를 논의한다.
다음 달 말 22대 국회가 본격 개시된 후에도 계속 화두에 오를 전망이다.
이 대표는 "(AI를) 어떻게 규제·관리하며 인간이 통제할 수 있을 것인지에 대한 화두는 굉장히 중요하다"고 강조했다.
그는 현재 '사회적·윤리적 학습을 위한 데이터 특성·생성 AI 모델의 윤리성 향상 연구'에 직접 책임자로 참여해 안전한 AI에 대한 연구도 진행 중이다.
해당 연구는 올해 초 과학기술정보통신부 신규지원 과제로 선정, 총 3년간 이뤄진다.
이 대표는 AI가 더욱 발전함에 따라 관련 보안·안전 논의도 본격화될 것으로 봤다.
그는 "AI가 해킹될 수 있고, AI가 해커에 의해 조작된 답변을 하도록 유도할 수도 있다"며 "안전한 AI를 만들고 해킹을 방지하는 기술을 만들어 공급하는 기업들이 빠르게 성장하는 추세"라고 설명했다.
또 "현재 AI를 만들어서 놀라움을 주는 것에 집중했다면, 3~5년 후에는 사이버 보안 문제가 굉장히 중요해질 것"이라고 짚었다.
규제뿐 아니라 정부 차원의 지원도 동시에 필요하다고 강조했다.
이 대표는 "사회 기반·자산 관련 인프라 구축은 정부가 해야 할 일인데, AI에 있어서 인프라란 'AI 데이터센터(IDC)'"라며 "AI 데이터센터를 민간에만 맡겨서는 비용 감당이 힘들기 때문에 부지를 정부에서 제공하는 등의 방식이 필요하다"고 말했다.
데이터센터의 전기 사용량이 많은 만큼 앞으로 전기를 어떻게 저렴하게 제공할 것인지, 원천기술과 기초과학 등에 대한 투자를 어떻게 확대할지에 대한 정부 고민이 필요하다고도 했다.
국내뿐 아니라 해외의 뛰어난 인재들을 끌어들여야 한다고도 강조했다.
그는 "미국은 외국에서 온 천재들이 모여 그곳에서 돈을 벌고 창업하며 기술 트렌드를 이끈다"며 "반면 한국은 똑똑한 사람들이 와서 한국에서 기술 확대와 고용 창출을 할 목표를 가지기 어렵다"고 지적했다.
이 대표는 한국 사회가 더욱 다양성을 확보할 수 있도록 구조 개편이 필요하다며 "혁신적인 발전을 위해 필요한 인재들이 한국에서 뜻을 펼칠 방법을 고민해야 한다"고 제언했다.
현재 가장 AI가 높은 역량을 보여주는 분야로는 금융·법률을 꼽았다.
방대한 자료·사례 조사 등은 AI로 대체가 가능, 업무 효율성이 크게 높아질 수 있어서다.
이미 'AI 콜센터'인 인공지능컨택센터(AICC)가 금융권에서 많이 활용되고 있다.
투자 고객과 다양한 채권에 관한 리스크를 분석하는 위험예측 분야에서도 AI가 이미 보편화됐다고 그는 설명했다.
솔트룩스 목표에 대해서는 "내후년까지 이용자 1억명이 솔트룩스를 통해 AI 서비스를 경험토록 하겠다"고 밝혔다.
그간 기업간 거래(B2B)·기업과 정부간 거래(B2G) 위주로 사업을 확대해 왔던 솔트룩스는 지난해 자체 초거대언어모델(LLM) '루시아'를 선보이며 일반 소비자 대상 서비스도 늘리고 있다.
이 대표는 "이미 AI 콜센터 관련 분야는 국내에서 가장 높은 점유율을 달성했다"며 "이제 이를 뛰어넘어 B2C 서비스를 본격적으로 시작하는 단계"라고 말했다.