SKT, 딥러닝 연산 20배 빨라지는 `AI 가속 솔루션` 상용화

SK텔레콤은 인공지능(AI) 서비스 처리 속도를 높이는 'AI 가속 솔루션'을 개발해, SK텔레콤의 AI 서비스 '누구'에 적용했다고 21일 밝혔다.
AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다. 또 솔루션 적용으로 AI 서비스 '누구'는 기존 대비 서비스 용량이 약 5배 늘어날 예정이다. SK텔레콤은 국내 최초로 데이터센터 기반 AI 서비스에 해당 솔루션을 상용화했다.
최근 금융·보안·쇼핑·인터넷 검색 등 생활 전 분야에 AI가 확대되고 있다. 적용 범위가 넓어지면서 기업들이 AI 서비스를 제공하기 위해 수집·처리해야 할 데이터도 증가하고 있다. 이런 상황에서 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량이 기존 대비 약 5배 증가하는 효과가 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나, 데이터센터 운용비 절감도 가능하다.
AI 서비스 누구의 월간 실사용자 수가 급증하면서 SK텔레콤은 AI 가속 솔루션을 개발하게 됐다. 지난해 8월 11만명이던 누구 월간 실 사용자 수가 올해 1분기 기준 300만명을 돌파하며 빠르게 증가했다. 누구 사용자 증가에 발맞춰 SK텔레콤은 약 2년간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화했다. SK텔레콤은 자체 기술만으로 ▲하드웨어·소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩세트 시장 규모는 오는 2025년까지 660억달러(약 73조원)에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발과 상용화에 적극적으로 나서고 있다. SK텔레콤 역시 AI 연산 속도와 전력 효율성을 보다 향상할 수 있는 '차세대 AI 가속 솔루션'도 개발할 계획이다.
박진효 SK텔레콤 ICT기술원장은 "서비스 성능을 높이고 운용비 절감도 가능한 AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다"며 "AI 서비스 '누구'를 시작으로 향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용하여 고객들에게 고품질의 서비스를 제공하겠다"고 말했다.
[디지털뉴스국 김제이 기자]