SK텔레콤 고객들은 올해 안으로 상담원과 상담 시간이 줄어들 예정이다. 바로 대규모 언어 학습이 적용된 AI 서비스 ‘텔코 LLM’ 덕분이다.

SK텔레콤은 30일 서울 을지로 SKT타워에서 텔코 LLM (Large Language Model) 기술 발표회를 진행했다. 텔코 LLM은 대규모 언어 모델로 방대한 양의 문장 데이터를 학습한 AI 딥러닝 모델이다.

현재, 이 기술이 사용되는 SK텔레콤의 대표적인 서비스로 AI 어플 에이닷이 있다. 에이닷은 SK텔레콤 고객들의 생활 정보 도우미로 고객들에게 다양한 정보를 제공한다.

SK텔레콤은 텔코 LLM을 일반 AI에 이어 회사업무에 적용해, 업무 처리 속도를 크게 높인다는 계획이다. 가장 먼저 고객 민원 센터 업무에 적용키로 했다.

정민영 AI 플랫폼 담당은 “예를 들어 고객이 상담원에게 VIP 영화 혜택을 물어보는 경우 상담원은 이 텔코 LLM 기능을 통해 제휴처인 CGV 안내만 하는 것이 아니라 롯데시네마에서 CGV로 변경된 정보를 안내해, 고객에게 섬세한 정보를 안내한다”고 설명했다. 이어서 그는 “고객이 해외에 여행이나 출장을 나가게 되는 경우 로밍 요금제를 문의해 오면, 고객의 체류 일정, 데이터 사용 패턴 등이 한 번에 검색된다”며 “고객에게 맞는 최적의 로밍 요금제를 안내한다”고 전했다. 이외에도 정 담당은 “상담원의 요금제 변경 등 서비스 처리 안내 서비스 문자인 ‘포스트 콜 (post call) 까지 더해 고객의 업무 처리 시간을 대폭 줄여준다”고 안내했다.

텔코 LLM은 상담원들의 업무 처리 데이터만 학습하지 않는다. 상담원들 보호 기능도 더해진다. 실생활의 다양한 언어를 학습해, 상담사들의 폭언으로 인한 정신적 피해를 막아준다. 정 담당은 “상담사 보호 시스템을 도입해, 고객의 폭언이 가해지는 경우 시스템이 작동돼, 폭언으로부터 상담사를 보호하게 된다”고 설명했다.

하지만, 텔코 LLM에 대한 정확성과 보안성에 의구심이 생긴다. 이에 대해 에릭 데이비스 AI 테크 협력 담당은 “정확성을 높이기 위해 더 많은 데이터를 확보 중”이며, “40년 동안 콜센터 운영의 노하우로 데이터 보안에 집중하고 있다”고 전했다.

SK텔레콤이 공개하는 대규모 언어 학습 모델 ‘텔코 LLM’이 어떤 모습을 보여줄지 관심이 집중되고 있다.

이상진 daedusj@autodiary.kr