[비즈니스포스트] 내수 기업을 넘어 글로벌 인공지능(AI) 기업으로의 도약을 노리는 SK텔레콤이 통신 서비스 특화 AI 모델인 ‘텔코 거대언어모델(LLM)’의 한국어 버전을 오는 6월 출시키로 했다.

유영상 SK텔레콤 대표이사 사장은 앞서 텔코 LLM이 세계 통신 서비스 산업의 ‘게임 체인저’가 될 것이라고 밝혔는데, 과연 게임 체인저가 될 만큼의 AI 성능을 갖췄는지 관심이 쏠린다.
 
SK텔레콤은 30일 서울 중구 SKT타워에서 텔코 LLM 설명회를 열고 관련 기술과 활용 사례를 소개했다.

텔코 LLM은 오픈AI의 챗GPT와 같이 광범위한 영역에 활용되는 범용 LLM과 달리 통신 분야에만 특화된 AI 모델이다. 범용 LLM과 비교해 통신 영역에서 전문성을 갖춘 답변을 생성할 수 있고, 비용과 속도 측면에서 강점이 있다는 게 회사 측 설명이다.

이 텔코LLM 모델은 미국 오픈AI와 앤트로픽 등 여러 AI 선두 기업들의 범용모델을 활용해 통신 관련 데이터를 특화해 학습해 만들어졌다고 회사 측은 밝혔다. 

설명회에 참여한 에릭 데이비스 SK텔레콤 AI 테크 컬래버레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”고 말했다.

이어 데이비스 담당은 “통신 데이터와 도메인(각 산업별) 노하우에 맞춰 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고, 이를 상황에 맞게 골라 쓸 수 있도록 하는 게 SK텔레콤만의 멀티 LLM 전략”이라고 말했다.

회사 측은 잘못된 답변을 마치 사실인 것처럼 내놓는 ‘환각 현상’을 줄이기 위해 답변을 생성하기 이전에 관련 데이터 베이스를 참조하는 검색증강생성(RAG) 기능을 추가했다고 설명했다. 그러니까 사용자 질문을 받으면 통신사가 입력해둔 관련 정보를 바탕으로 신뢰할 수 있는 답변을 내놓는다는 것이다.

SK텔레콤은 텔코 LLM의 주요 활용 사례로 고객센터 상담사 지원과 네트워크 인프라 운용 보조를 꼽았다.

회사에 따르면 현재 고객센터에서 상담 전화 한 건을 처리하는데 3분30초 이상이 걸린다. 텔코 LLM은 고객 문의 내용을 정리하고, 상담에 필요한 내용을 제공해주며, 상담 내용을 기록도 해줘 소요 시간을 대폭 단축할 수 있다는 게 회사 측 주장이다. 

또 통신사 네트워크 인프라 운용자는 실시간으로 텔코 LLM에 질문을 입력해 네트워크 문제 해결 답변을 받아볼 수 있다. 통신장비 매뉴얼과 대응 사례 등의 정보 등 상황에 맞는 답변을 제공받을 수 있어 사람이 직접 정보를 찾는 것보다 대응 시간을 줄일 수 있다고 회사 측은 설명했다.

정민영 SK텔레콤 AI플랫폼 담당은 이날 설명회에서 “고객센터와 인프라뿐 아니라 마케팅과 유통망 등 고객 접점이나 법무, 인사(HR)와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코 LLM이 업무 효율성을 높일 것”이라며 “지속적으로 텔코 LLM을 활용하는 사례를 늘려갈 것”이라고 말했다.
  텔코 LLM은 이르면 6월 국내 상용화 버전이 출시된다. SK텔레콤은 국내에서 실사용 사례를 쌓은 뒤 해외에도 선보일 계획이라고 밝혔다. 

정민영 담당은 “통신 업체는 (해외 업체 사이에서도) 상용 표준이나 용어 등을 공유하는 것이 매우 많아, 다른 부문 LLM보다 텔코 LLM의 글로벌 확산이 좀 더 쉬울 것”이라며 “대단히 비용 효율적으로 확산할 수 있다”고 주장했다. 

텔코 LLM은 유영상 사장이 AI 기업으로의 도약을 위해 해외 통신 사업자들과 연합 전선을 구축하는 데 핵심 역할을 할 것으로 보인다. 

유 사장은 지난 2월26일 스페인 바르셀로나에서 △도이치텔레콤(독일, 미국 등) △이앤그룹(중동, 아시아, 아프리카 등) △싱텔그룹(호주, 인도, 인도네시아, 태국 등) △소프트뱅크(일본) 등 4개 거대 글로벌 통신기업과 GTAA(글로벌 통신사 AI 연합) 합작법인 설립 계약을 맺었다. GTAA 합작법인은 텔코 LLM을 공동 개발하고 관련 사업을 확대키로 합의했다.

유 사장은 GTAA 창립총회 뒤 열린 간담회에서 “지금은 한 산업분야에 특화한 LLM이 해당분야의 변화를 이끌어가는 시대”라며 “글로벌 통신사들이 텔코 LLM 등 AI 분야 협력을 통해 시장 변화를 주도하는 게임체인저가 되려는 것”이라고 했다.

이어 “텔코 LLM은 올해 안으로 SK텔레콤뿐 아니라 GTAA 회원사들이 사용할 수 있는 단계까지 발전할 것”이라며 “이번 합작법인을 시작으로 세계 다른 통신사들까지 모여 다양한 AI 관련 사업을 진행할 수 있는 계기를 만들겠다”고 말했다. 김바램 기자