AI 서비스를 개발하는 기업들이 앞으로는 고가의 AI 반도체를 직접 사지 않아도 된다. 클라우드에서 필요한 만큼만 빌려 쓰는 방식이 가능해지면서 초기 투자 부담을 크게 줄일 수 있게 됐다.

삼성SDS는 삼성 클라우드 플랫폼(SCP)에 퓨리오사AI의 신경망처리장치(NPU)를 기반으로 한 클라우드 서비스를 새롭게 추가했다고 20일 밝혔다.

이번 서비스는 AI 모델을 학습시키기 위한 장비가 아니라 이미 만들어진 생성형 AI를 실제 서비스에 활용하는 '추론' 작업에 초점을 맞췄다. 기업은 챗봇이나 문서 분석, 이미지 판독 등에 필요한 AI 연산을 NPU 서버 구매 없이 구독 형태로 이용할 수 있다.

필요한 만큼만 자원을 사용하는 것도 특징이다. 이용 기업은 AI 서비스 규모에 맞춰 NPU를 1개부터 여러 개까지 선택할 수 있고, 사용량이 늘면 즉시 확장하고 줄어들면 다시 축소할 수 있다. 별도의 서버 구축이나 유지보수도 필요하지 않다.

삼성SDS는 기존 GPU 기반 AI 클라우드에 이어 국산 NPU까지 선택지를 넓히면서 비용 효율이 중요한 AI 추론 시장 공략에 속도를 낸다는 전략이다. 특히 공공기관도 활용할 수 있도록 소버린 클라우드 환경에서 서비스를 제공할 계획이다.

업계에서는 AI 학습은 GPU, 실제 서비스 운영은 NPU로 역할이 점차 나뉘는 만큼 국산 AI 반도체 활용도도 확대될 것으로 보고 있다.

이호준 삼성SDS 클라우드서비스사업부장(부사장)은"이번 NPUaaS 출시는 고객이 고성능 AI 기술을 더 유연하고 가성비 높게 사용할 수 있다는 데 의의가 있다"며 "앞으로도 고객 니즈 해결을 위해 SCP 기반 상품을 다양화하고, 클라우드 AI 기술 생태계를 지속적으로 선도해 나갈 것"이라고 말했다.

이인애 머니투데이방송 MTN 기자