[웹이코노미=이선기 기자] SK텔레콤(이하 SKT)이 국내 최초로 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX, AI Inference Accelerator)을 선보였다. 별도의 서버 증설 없이 속도를 대폭 향상시켜 향후 5G와 연계한 다양한 서비스를 기대할 수 있게 됐다.

SKT는 21일 서울 종로 삼화빌딩에 위치한 기자실에서 기자간담회를 열고 AI 서비스 처리 속도를 대폭 높여주는 AIX를 개발했다고 밝혔다.

AIX는 손바닥 크기의 소형 가속기에 딥러닝 전용 연산장치인 ‘NPU(Neutral Processig Unit)’가 결합된 형태로 구성됐다. 데이터센터 내 기존 AI서버에 장착하면 딥러닝 연산 속도가 기존 대비 20배 가량 향상돼 지연현상을 최소화 할 수 있다.

또한 별도의 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. GPU 방식 가속 솔루션에 비해 전력 효율성이 16배 뛰어나 운용비 절감도 가능하다.

이날 AIX 소개를 진행한 정무경 SKT ML인프라랩 팀장은 “기존에는 대부분의 AI 연산 솔루션에 그래픽 연산장치(GPU)가 사용돼 왔다"면서 “하지만 최근에는 AI 연산만을 수행하는 NPU 개발이 가속화되고 있다"고 설명했다.

SKT는 약 2년간의 연구개발 끝에 이번 AIX를 개발, 상용화하는 데 성공했다. 자체 기술력으로 ▲하드웨어·소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

SKT가 AIX를 개발한 이유는 AI서비스 ‘누구’의 사용자 수가 급증하고 있기 때문이다. 지난해 8월 기준 11만 명이었던 월간 실 사용자 수는 올해 1분기 기준 300만 명까지 증가했다. 이는 ‘누구’의 서비스 영역을 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 대폭 확대한 데 따른 결과다.

이에 SKT는 AIX를 ‘누구’에 우선 적용했다. 국내에서 데이터센터 기반 AI서비스에 가속 솔루션을 상용화한 것은 SKT가 최초다. SKT는 ‘누구'를 시작으로 향후 다양한 AI서비스로 AIX 도입을 확대할 예정이다.

정무경 팀장은 “SKT의 AIX는 타사의 솔루션과 다르게 활용 목적에 최적화된 솔루션이라는 점에서 경쟁력을 가지고 있다"고 설명했다. 현재 업계 1위 엔비디아를 비롯해 구글, 마이크로소프트 등도 솔루션 개발에 착수했지만 활용 목적이 명확하지 않아 상용화에 다다른 사례는 구글 정도밖에 없다. 반면 SKT는 개발 단계부터 ‘누구' 등 자사 서비스 인프라를 염두에 두고 제작해 상용화에 최적화됐다는 설명이다.

AIX가 활용될 수 있는 분야는 방대하다. 예를 들어 AI 비서 서비스 전용 서버에 솔루션을 적용하면 기존보다 훨씬 많은 고객들을 동시에 응대할 수 있다. CCTV 등 보안 영역에서도 더 많은 영상 분석이 가능해 위험 상황을 적재적소에 대응할 수 있게 된다.

SKT는 향후 연산 속도와 전력 효율성을 보다 향상시킬 수 있는 ‘차세대 AIX’도 개발할 예정이다. 이번에 공개된 1.0 버전을 내년 2.0, 내후년까지 3.0 버전으로 업그레이드해 나갈 방침이다.

박진효 SKT ICT기술원장은 “서비스 성능을 높이고 운용비 절감도 가능한 AIX를 성공적으로 개발해 세계 정상 수준의 AI기술 경쟁력을 확보했다"면서 “AI서비스 ‘누구'를 시작으로 다양한 응용 서비스에 AIX를 적용해 고객들에게 고품질 서비스를 제공하겠다"고 밝혔다.

webeconomy@naver.com