생성 인공지능(AI)를 본격적으로 도입하기 위한 기업들의 움직임이 빨라지고 있지만, 아직 상당수 기업은 조직 내에서 전면적으로 생성 AI를 활용하지 못하는 것으로 나타났다.
여전히 남아 있는 생성 AI에 대한 신뢰성 부족이 생성 AI의 확산을 저해하는 주요인으로 꼽힌다.
11일 한국딜로이트그룹은 '미래를 결정해야 하는 순간-생성형AI 바로 알기' 2분기 보고서에서 1982명의 고위 임원진을 대상으로 설문조사를 진행한 결과를 발표했다.
설문조사에 따르면, 응답자의 46%는 직원 중 20% 이하에게만 생성 AI 관련 접근 권한을 부여했다고 답했다.
상당수 기업에서 생성 AI 도입을 시도하지만, 실질적으로 이를 활용하는 직원들은 많지 않은 것이다.
조직별로 보면, 생성 AI에 대해 낮은 수준의 전문성을 보유한 조직에 속하는 257개 기업 중 76%가 생성 AI에 접근 가능 직원의 비율을 20% 이하로 제한했다.
반면 생성 AI에 대한 전문성을 '매우 높음'으로 응답한 조직 중에서는 약 절반(46%)이 전체 인력의 40% 이상에게 접근 권한을 부여하는 것으로 나타났다.
다만 전반적으로 생성 AI에 접근 가능한 직원 비율을 80% 이상으로 확대한 기업은 전체의 6%에 불과했다.
생성 AI의 낮은 보급률에 대해 조사에 응한 임원들은 데이터 관련 위험을 주요 우려사항으로 들었다.
특히 공개된 초거대언어모델(LLM)과 생성 AI 툴의 사용이 지적 재산과 고객의 개인정보보호에 어떤 위협으로 작용될지에 대한 우려가 큰 것으로 나타났다.
 
이와 함께 △생성 AI의 결과물이 예측 불가능하고 부정확할 수 있다는 점 △조직 내에서 어떤 생성 AI 앱이 사용되고 있는지, 누가 사용하고 있는지에 대해 통제력을 상실할 수 있다는 점 △인력 대체 등에 대한 우려로 인한 직원들의 저항 등도 생성 AI의 기업 내 보급을 주저하는 이유로 꼽혔다.
보고서는 "잠재적인 문제와 위험을 고려할 때 직원들이 생성 AI 툴을 사용할 수 있도록 허용하는 데 신중한 접근 방식이 필요하다"면서도 "생성 AI에 대한 엄격한 제한은 장기적인 해결책이 아닌 임시방편"이라고 짚었다.
그러면서 "조직은 책임 있는 생성 AI 사용을 가능하게 하기 위한 지속 가능한 프로세스와 정책을 적극적으로 개발해야 한다"고 제언했다.
보고서는 생성 AI의 본격적 도입과 활용을 위해서는 신뢰를 구축할 필요가 있다고 강조했다.
이를 위해 해결해야 할 문제로는 △생성 AI 결과물의 품질에 대한 신뢰 △생성 AI가 자신의 업무를 대체하지 않고 보조 역할만 할 것이라는 사실에 대한 신뢰를 꼽았다.
이를 위해 생성된 결과가 어떻게 도출됐는지 명시적으로 설명하는 기능을 갖춰야 하고, 직원들이 생성 AI가 실제로 업무에 도움이 되는 것을 경험할 수 있도록 교육하는 과정이 필요하다고 짚었다.
조명수 한국 딜로이트 그룹 파트너는 "많은 조직이 생성 AI를 도입하려 노력하지만 조직 내 문화적 도전과 인력 관리 전략에 대한 의문과 신뢰 문제 등으로 어려움이 많다"고 말했다.
다만 생성 AI에 대해 매우 높은 전문성을 보유한 기업들을 중심으로, 생성 AI 도입으로 인한 긍정적인 효과를 보고 있다고 응답한 것으로 나타났다.
이들은 제품·서비스 개선, 혁신과 성장 촉진, 비용 절감, 효율성·생산성 향상 등의 측면에서 가장 큰 효과를 봤다고 언급했다.
 
이처럼 생성 AI가 주는 효과가 확실한 만큼 이들 기업은 다른 조직에 비해 더욱 빠르고 광범위하게 AI를 도입하는 것으로 조사됐다.
생성 AI를 '빠르게' 도입한다고 응답한 비율은 73%에 이르렀고, 80%는 클라우드에 더 많은 투자를 집행하고 있다고 답했다.
오픈소스 LLM 사용이 증대됐다고 답한 비율도 47%였다.
이는 일정 수준의 전문성을 보유했다고 응답한 조직에 비해 전반적으로 높은 비율이다.
한편 기업들은 생성 AI를 통해 절감한 비용을 추가적인 혁신과 운영 개선에 재투자할 계획이라고 응답했다.
전체 응답자 중 45%는 혁신 기회 창출에, 43%는 조직 전반의 운영 프로세스 개선에 재투자하겠다고 밝혔다.
조직 전반에 걸쳐 생성 AI 도입을 확대하는 데 재투자하겠다는 비율도 27%에 달했다.
이외 △새로운 제품·서비스 개발 △시장 확대 △사이버 보안 인프라 개선 △직원 교육 및 역량 강화 등이 재투자 예정 분야로 많이 꼽혔다.