GPUaaS 배경이미지
GPUaaS, GPU와
무엇이 다른가요?
GPUaaS는 자체 GPU 서버 구축 없이,
클라우드에서 필요한 만큼의 GPU 리소스를 할당 받아 사용하는 서비스입니다.
GPU 서버 직접 구축은 많은 시간과 비용이 소요되지만,
GPUaaS는 즉시 실행 가능하며 사용한 만큼 비용이 책정됩니다.
가벼운 연산부터 고성능 작업까지!
삼성 클라우드 플랫폼 GPUaaS의 엔터프라이즈급 안정성과 성능을 통해 AI 워크로드를 효율적으로 처리하세요.
삼성 클라우드 플랫폼 GPUaaS는 대규모 GPU 운영 노하우와 24/7 장애 대응 역량을 바탕으로,
자체 GPU 서버 구축 시
초기 구축 비용과 리드타임 발생
고전력 공조 환경 등 까다로운 설비 공사
전문 유지보수 인력 필요
GPU 장비 노후화 및 가격 변동 리스크
삼성 클라우드 플랫폼 GPUaaS 도입 시
필요한 만큼 즉시 사용을 통한 비용 절감
24/7 전문 기술 지원 및 공조 환경 관리
GPU Type별 최적화된 SW 스택 제공
합리적인 가격에 최신 GPU로 빠른 업그레이드
고객 성공 스토리
삼성 클라우드 플랫폼 GPUaaS는
성장하는 기업들과 함께합니다.
"삼성 클라우드 플랫폼 GPUaaS는 엔진룸입니다. AI 모델 개발에 박차를 가해주는 핵심 동력이죠."
GPUaaS는 빠른 속도가 핵심인 AI 스타트업의
든든한 파트너입니다.
김민성 LLM 사업개발 팀장
upstage_logo 이미지
upstage_logo 이미지
"하나의 하드웨어라도 장애가 발생하면 전체 학습이 중단됩니다. 삼성SDS의 기술 대응은 이런 위험을 최소화합니다."
GPUaaS는 AI 개발을 위해 고성능 GPU를
끊김 없이 지원합니다.
허훈 CTO
supertone 이미지
supertone 이미지
활용 사례
AI 모델을 위한 GPUaaS
이런 분들에게 추천합니다.
GPU 클러스터가 필요한 기업
“LLM 모델 학습을 진행해야 하는데, 처리 시간이 오래 걸려서 답답해요."
AI 연구소 및 대학
“AI 연구에는 고성능 GPU가 필수인데, 예산이 한정적이에요.”
AI 모델이 필요한 공공/금융 기관
“보안 걱정 없이 안전하게 사용할 수 있는 AI 인프라가 필요해요”
특장점
삼성 클라우드 플랫폼 GPUaaS
이렇게 다릅니다.
엔비디아 H100 GPU 물량 확보가 어려우신가요?
물량 확보 어려움 없이
고성능 GPU 즉시 사용
GPU 확보 고민 없이 서비스 개발과 운영에만 집중하세요. 고성능 GPU는 시간당 요금으로 제공됩니다.
국내 최대 물량의 고성능 GPU 보유
초기 투자 없이 당일 시작 가능
무상 PoC 및 고객 맞춤형 기술 지원
전구모양, 물류, 스토리지 등의 말풍선에 둘러 쌓여 설명중인 남자가 있는 일러스트 이미지
학습 시간 단축이 고민이신가요?
CPU 병목 없는 초고속 AI 학습 속도
CPU 거치지 않는 GPU, 네트워크, 스토리지 간 직접 통신으로 AI 학습 속도가 기존 대비 20배 이상 단축됩니다. 대규모 모델 학습과 추론을 가장 빠르게 완수하세요.
-
WEKA 기반 All NVMe 파일 스토리지를 통해 대량데이터 처리 최적화
(Parallel File Storage) InfiniBand NDR을 통해 GPU 서버 간 메모리 IO 가속화
NVLink로 GPU 간 P2P 고속 데이터 전송
노트북에 AI 글씨가 적혀있고 서버 랙, 핸드폰이 노트북과 연결되어 있으며 배경에는 화살표가 위로 올라가는 일러스트 이미지
서비스 장애로 GPU 비용을 낭비하셨나요?
글로벌 기업도 믿고 쓰는
안정적인 인프라
고성능 GPU의 발열 관리는 모델 학습 성능과 직결됩니다. 데이터센터 전문 설비팀의 상시 모니터링을 통해 전력 공급, 항온, 항습을 최적화하고 개발에만 집중할 수 있는 안정적인 환경을 제공합니다.
25년 이상의 대규모 IT 인프라 운영 경험
전문 Facility 그룹의 24/7 모니터링과 기술 지원
국내외 18개 리전에 업계 최고 수준 데이터센터 보유
데이터센터를 표현한 그림에 여자가 걸터 앉아있는 일러스트 이미지
GPUaaS를 개발 환경과 연계하고 싶으신가요?
Kubeflow 기반 MLOps 플랫폼
삼성 클라우드 플랫폼 GPUaaS는 Kubeflow 기반의 MLOps 플랫폼을 제공합니다.
클라우드 네이티브 기반의 MLOps 플랫폼으로 개발, 학습, 배포 파이프라인 자동화
데이터와 모델의 통합 관리로 편리한 개발 환경 구축
TensorFlow, PyTorch, Scikit-learn, Keras 등 다양한 머신러닝 프레임워크 지원
가운데에 MLOps 라고 적힌 무한 루프 모양에 DEPLOY - MAINTAIN - DESIGN - TEST&TRAIN 이 적혀있는 일러스트 이미지
삼성 클라우드 플랫폼의
다양한 AI/ML 서비스와 연계
클라우드에 최적화된 삼성 클라우드 플랫폼의 AI/ML 서비스로 AI 개발 환경을 더욱 강력하게 구축하세요.
Cloud ML Notebook: GPU 인스턴스 생성 시 Python 기반 AI 개발용
주피터 노트북(Jupyter Notebook) 환경 구성Cloud ML Studio: AI/ML 분석 환경을 시각화하여 워크플로우 형태로 제공하는 서비스로 분석 모델링 최적화 및 자동화
각 단어를 추상화한 아이콘 밑에 각각 AI&MLOps Platform, AICR, Text API, Vision API, CloudML Pipeline, CloudML Studio, CloudML Experiments, CloudML Notebook 이라고 적혀있는 일러스트 이미지
가격정책
GPUaaS 요금제
사용한 만큼만 지불하세요
온디맨드형 플랜
온디맨드형 플랜은 정기 약정 없이,
사용하는 무약정 요금제입니다.
빠른 학습이 필요한 경우
스팟성 워크로드 처리
MLOPs/Vision AI 모델 개발 및 테스트
유연하고 탄력적인 리소스 사용
절감형 플랜1년
절감형 플랜은 1년 약정으로 표준형 대비 최대 30~35% 할인된 요금으로
이용 가능한 합리적인 요금제입니다.
안정적인 학습이 필요한 경우
장기적인 AI 기반 응용 프로그램 개발
안정적인 월 단위 비용 관리 필요
예측 가능한 워크로드 처리에 최적화
초절감형 플랜3년
초절감형 플랜은 3년 약정으로 표준형 대비 최대 45~55% 할인된 최저가 플랜으로,
대규모 AI 프로젝트를 위한 요금제입니다.
고성능 장기 학습이 필요한 경우
음성 학습 파운데이션 모델 개발
기업 규모의 장기 프로젝트
최고 성능 최신 GPU 상시 사용
※NVIDIA A100, H100 기준
전문가와 무료 상담하기상품 상세
필요한 만큼, 필요한 스펙으로
삼성 클라우드 플랫폼 GPUaaS 라인업
삼성 클라우드 플랫폼 GPU 서버
GPU를 1, 2, 4, 8장 단위로 가상화하여 제공하는 서비스
-
GPU Type
NVIDIA A100, H100, L40S GPU 중 원하는 GPU 타입을 1개씩 자유롭게 선택할 수 있습니다.
-
GPU 가상화
NVIDIA MIG(Multi-Instance GPU) 기능을 통해 하나의 GPU를 최대 7개의 서로 독립된 인스턴스로 분할하여 다양한 워크로드를 동시에 실행하고 자원 간섭을 최소화하며 활용률을 극대화할 수 있습니다.
-
고성능 통신
8장의 A100 또는 H100 GPU 사용시, NVSwitch 기반으로 GPUDirect P2P를 구성하며 GPU간 병목 없는 고속 통신이 가능합니다.
-
스토리지
GPU 서버는 블록 스토리지(SSD)가 기본 OS용으로 제공되고, 이외 파일 스토리지, 오브젝트 스토리지도 사용가능합니다.
-
워크로드
중소 규모 딥러닝/LLM 모델 학습 및 서빙용으로 추천합니다.
가상화 컴퓨팅
GPU Server
Application
Guest OS
Virtualization (Hypervisor)
GPU NVSwitch NVLink CPU Memory Network Interface Storage삼성 클라우드 플랫폼 멀티노드 GPU 클러스터
8개의 GPU가 탑재된 베어메탈 서버 2대 이상을 InfiniBand로 클러스터링하여 제공하는 서비스
-
GPU Type
NVIDIA H100, A100 중 원하는 GPU 타입을 8개까지 자유롭게 선택할 수 있습니다.
-
고성능 통신
(GPU간 고속 통신) NVSwitch 기반으로 GPUDirect P2P를 구성하며 GPU간 병목 없는 고속 통신이 가능합니다.
(GPU 서버간 고속 통신) InfiniBand Switch 기반으로 GPUDirect RDMA를 구성하며 클러스터 내 GPU 서버간 병목 없는 고속 통신이 가능합니다. -
스토리지
고성능 파일 스토리지가 기본 할당되며, 별도 요청 시 WEKA 기반 고성능 병렬 파일 스토리지가 제공됩니다. 또한 오브젝트 스토리지나 파일 스토리지 사용 시 처리 속도가 향상됩니다.
-
워크로드
대규모 딥러닝/LLM 학습용으로 추천합니다.
Multi-node GPU Cluster(이하 MGC) 를 그림으로 표현한 이미지로
MGC 라고 적힌 사각 박스 양쪽에 Block Storage(BM) 가 있는데 MGC 내부 선에 연결되어 있고,
MGC 안에 AFA NAS Storage 고성능 스토리지 가 내부 선에 연결되어 있으며 그 위로,
Bare Metal Server 가 적힌 박스 안에 수 많은 GPU 가 배열되어 있고 그 옆에 CPU도 연결되어 있으며,
Bare Metal Server 중앙 부분에 NVS Switch 가 있고,
두 개의 Bare Metal Server 중앙에 InfiniBand Switch 가 있는데 GPU Direct RDMA 구간 이라고 적혀 있다.
FAQ
-
InfiniBand NDR이란?
InfiniBand NDR(인피니밴드 NDR)은 최신 세대의 InfiniBand 기술로, 최대 400Gbps의 대역폭을 바탕으로 고성능 GPU 간 초고속 데이터 전송을 지원합니다. 특히 논블로킹(Full-Mesh) 네트워크 토폴로지에 기반한 효율적인 통신으로 병목을 제거하고 AI 및 HPC(고성능 컴퓨팅) 워크로드에서 최적의 성능을 보장합니다.
-
Parallel File Storage란?
Parallel file storage(병렬 파일 스토리지)란 삼성 클라우드 플랫폼 Multi-node GPU Cluster용 GPU Direct Storage로, 대용량 데이터를 빠르고 효율적으로 처리할 수 있는 All NVMe(차세대 SSD용 프로토콜) 기반의 고성능 병렬 파일 스토리지입니다. AI/ML 모델 학습이나 빅데이터 분석 등 고성능 컴퓨팅 수요에 적합합니다.
-
NVLink란?
NVLink(NV링크)는 GPU 간 고속 상호 연결을 위해 NVIDIA가 개발한 기술로, GPU 간의 대역폭과 통신 속도를 크게 향상시킵니다. NVLink Bridge는 이러한 NVLink(NV링크) 기술을 구현하는 하드웨어 구성요소라고 할 수 있습니다.
-
Kubeflow란?
Kubeflow(쿠브플로우)는 쿠버네티스 기반의 오픈소스 머신러닝 플랫폼으로, 머신러닝 워크플로우를 간편하게 생성하며 모델을 배포 및 관리할 수 있게 해줍니다. 머신러닝 워크플로우는 데이터 수집부터 처리, 모델 선택 및 훈련, 평가, 배포 등의 모든 과정을 의미하며 쿠버네티스를 기반으로 하여 프로젝트 전체 라이프사이클을 관리할 수 있습니다.
복잡한 GPU 고민은
삼성SDS에 맡기고,
본업에만 집중하세요.
삼성SDS에 맡기고,
본업에만 집중하세요.