ICT 응용 서비스 지능화를 지원하는 클라우드-네이티브 기반 SmartX AI 컴퓨팅 클러스터 설계 및 검증

Abstract

최근 마이크로 서비스 구조(Micro Service Architecture: MSA)를 적용한 지능형 ICT 응용 서비스가 크게 증가하면서, 이들과 효과적(Effectively)이고 유연하게(Flexibly) 연계될 수 있는 AI 컴퓨팅 자원들에 대한 요구 또한 크게 증가하고 있다. 본 논문에서는 상기한 AI 수요에 효과적으로 대응할 수 있는 클라우드-네이티브(Cloud-native) 기반의 SmartX AI 컴퓨팅 클러스터(SmartX AI Computing Cluster)의 개념을 제안한다. 여기서 클라우드-네이티브 컴퓨팅의 핵심 기술인 컨테이너 가상화와 컨테이너 오케스트레이션 기술은 분산 빅데이터/머신러닝 워크로드를 더욱 유연하고 동적으로 배포/운용할 수 있도록 도움을 준다. 제안하는 클러스터의 구성은 AI 컴퓨팅에 특화된 고성능 하드웨어와 오픈소스 소프트웨어를 중심으로 한다. 본 논문에서는 제시한 클러스터의 개념에 따라 실제 클러스터를 구축하기 위해 필요한 구체적인 하드웨어의 구성과 소프트웨어의 스택을 설계하고 제시한다. 그리고 제시한 설계에 따라 소규모 클러스터를 시험적으로 구축하여 보고, 구축된 클러스터의 기능들과 활용 방안에 대해 살펴본다. 또한 실제 빅데이터 및 분산 머신러닝 트레이닝 워크로드 운용 실험을 통해 스토리지와 네트워킹 측면에서 발생하는 병목(Bottleneck Points)을 도출하여 보고, 이를 개선하기 위한 소프트웨어 구성과 설정을 제안한다. 상기한 시도를 통해 제안하는 SmartX AI 컴퓨팅 클러스터와 실제 ICT 응용 서비스들과의 연계를 통해 효과적인 서비스 지능화의 가능성을 살펴본다.