델테크놀로지스, ‘엔비디아 기반 델 AI 데이터 플랫폼’ 제품군 업데이트

델 라이트닝 파일 시스템

[아이티비즈 김문구 기자] 델테크놀로지스는 ‘엔비디아 기반 델 AI 데이터 플랫폼(Dell AI Data Platform with NVIDIA)’ 제품군을 대거 업데이트 했다고 18일 밝혔다.

이번 업데이트는 엔터프라이즈 데이터의 탐색 및 활용을 강화하고, AI 애플리케이션 및 자율 AI 에이전트를 위한 초고성능 스토리지 성능을 제공하는데 중점을 두고 이루어졌다.

델테크놀로지스와 엔비디아는 기업용 AI 도입의 가장 큰 걸림돌인 '느리고, 파편화되고, 정제되지 않은 데이터' 문제를 해결하며 기업 AI 활성화에 나선다. ‘엔비디아 기반 델 AI 팩토리’의 핵심 구성 요소인 ‘엔비디아 기반 델 AI 데이터 플랫폼’은 이 같은 문제를 해결하는 동시에 엔터프라이즈 데이터를 AI가 활용 가능한 형태로 전환해 보안 및 거버넌스를 유지하고, 대규모 환경에서도 최고 수준의 성능을 보장한다. 실제 고객들은 기존 방식 대비 최대 12배 빠른 벡터 인덱싱, 3배 빠른 데이터 처리, 19배 빠른 최초 토큰 생성 속도를 경험하고 있다.

엔비디아 AI 인프라로 가속화된 델의 데이터 엔진은 AI 데이터 라이프사이클 전체를 자동화해 데이터 준비 시간을 획기적으로 줄이고 엔터프라이즈 수준의 거버넌스를 유지한다.

‘델 데이터 오케스트레이션 엔진(Dell Data Orchestration Engine)’은 최근 델이 인수한 데이터루프(Dataloop) 기술을 기반으로 AI를 위한 데이터 운영 방식을 재정의한다. 노코드·로우코드 엔진으로, 정형/비정형 및 멀티모달 데이터를 자동으로 탐색, 라벨링, 정제, 변환해 거버넌스가 적용된 AI용 대규모 데이터셋으로 생성한다. 자동화된 파이프라인과 동적인 학습, 휴먼 인 더 루프(HITL) 워크플로우를 결합해 데이터 품질과 모델 정확도를 지속적으로 개선한다. 데이터 오케스트레이션 엔진 마켓플레이스(Data Orchestration Engine Marketplace)를 통해 엔비디아 NIM 마이크로서비스, 엔비디아 AI 블루프린트(NVIDIA AI Blueprints), 200개 이상의 모델·애플리케이션·템플릿 등으로 엄선된 라이브러리를 통해 처음부터 직접 구축할 필요 없이 운영환경 레벨의 데이터 워크플로우를 즉시 배포할 수 있다.

델테크놀로지스는 최신 엔비디아 AI-Q 블루프린트를 지원함으로써 기업이 맞춤형 AI 에이전트를 구축해 더 정교하고 실행가능한 의사결정 인사이트를 얻을 수 있도록 돕는다. 델 AI 데이터 플랫폼에 통합된 엔비디아 가속 데이터 엔진은 정형/비정형 데이터 전반에서 고성능 데이터 준비, 검색, 추론, 파이프라인을 구현한다. 또한 허깅페이스 기반 델 엔터프라이즈 허브(Dell Enterprise Hub on Hugging Face)를 통해 엔비디아 네모트론3 슈퍼(NVIDIA Nemotron 3 Super) 모델, 사전 구축된 엔비디아 블루프린트 및 NIM 마이크로서비스에 접근할 수 있다.

델 테크놀로지스는 또한 차세대 엔비디아 베라 루빈 NVL72(NVIDIA Vera Rubin NVL72), 엔비디아 블루필드-4 DPU(NVIDIA BlueField-4 DPU), 엔비디아 스펙트럼-X 이더넷 네트워킹(NVIDIA Spectrum-X Ethernet) 기반의 새로운 모듈러 레퍼런스 설계인 엔비디아 STX(NVIDIA STX)를 지원할 예정이다.

‘델 데이터 애널리틱스 엔진(Dell Data Analytics Engine)’에 추가된 AI 어시스턴트(AI Assistant)는 SQL 분석 환경에 자연어 기반 대화형 인터페이스를 제공한다. 일반 사무직 사용자도 전문적인 SQL 지식 없이 자연어로 데이터를 조회하고 시각화하여 협업할 수 있으며, 큰 어려움 없이 주요 지표를 이해할 수 있다. 이는 데이터 접근을 민주화하고, 의사결정을 간소화하며, 인사이트를 더 빠르게 도출할 수 있게 해줌으로써, 정형 데이터에 접근해야 하는 AI 에이전트를 사용하는 기업에게 유용하다.

엔비디아 기반 델 AI 데이터 플랫폼에 새롭게 추가된 엔비디아 RTX 프로 블랙웰 서버 에디션 GPU(NVIDIA RTX PRO™ Blackwell Server Edition GPU)는 데이터 플랫폼 레이어를 직접적으로 가속한다. 정형 데이터 처리를 위한 엔비디아 cuDF 등의 엔비디아 쿠다-X(NVIDIA CUDA-X) 라이브러리 가속화를 비롯해 벡터 인덱싱 및 비정형 데이터 검색을 위한 엔비디아 cuVS가 델의 데이터 엔진 및 최적화된 인프라와 함께 작동해 SQL 쿼리를 최대 3배, 벡터 인덱싱을 최대 12배까지 더 빠르게 수행한다. 이러한 기술들은 대규모 데이터 준비에 필요한 인프라 비용 효율성을 높이고, 더 반응성이 뛰어난 AI 애플리케이션을 구현하는 데 직접적으로 기여한다.

AI가 실험 단계에서 실제 운영 환경 배포 단계로 확장됨에 따라, 스토리지의 중요성이 더욱 증대하고 있다. 전통적인 스토리지 아키텍처는 규모가 커질수록 속도가 느려져 GPU가 유휴 상태로 남고 인프라 투자가 낭비되는 병목 현상을 초래한다. 델의 AI 최적화 스토리지 엔진은 대규모 환경에서도 성능을 유지하도록 설계된 전용 아키텍처를 통해 이러한 문제를 해결한다.

‘델 라이트닝 파일 시스템(Dell Lightning File System)’은 세계에서 가장 빠른 병렬 파일 시스템으로 랙당 최대 150GB/초의 성능을 제공하며, 전통적인 플래시 전용 스케일 아웃 파일 스토리지 대비 최대 20배 높은 성능과 업계의 다른 병렬 파일 시스템 대비 랙 유닛당 최대 2배 높은 처리량을 제공한다. 전용 패브릭 아키텍처와 직접 스토리지 접근 방식(DAS)을 통해 성능 저하를 방지하여, 대규모 환경에서도 GPU가 최대 활용될 수 있도록 유지한다. ‘라이트닝 FS’는 엔비디아 기반 AI 인프라와 완벽하게 통합되어, 학습 및 추론 워크로드가 최고 속도로 실행되도록 지원한다.

‘델 엑사스케일 스토리지(Dell Exascale Storage)’는 초거대 규모의 AI 및 HPC를 위한 유일한 쓰리-인-원(3-in-1) 스토리지로서 최신 델 파워엣지(Dell PowerEdge) 서버 상에서 업계를 선도하는 델의 파일 스토리지, 오브젝트 스토리지, 병렬 파일 시스템 스토리지 소프트웨어를 유연하게 배포할 수 있다. 공통된 하드웨어 플랫폼에서 델 파워스케일(Dell PowerScale), 델 오브젝트스케일(Dell ObjectScale) 및 델 라이트닝 파일 시스템 스토리지 리소스를 구성해 고빈도 거래나 네오클라우드 같은 가장 까다로운 AI 및 HPC 환경을 지원한다. 엔비디아 CX‑8 및 CX‑9 SuperNIC를 지원하며, 향후 최대 800GbE의 네트워크 지원을 통해 랙당 최대 6TB/초의 읽기 성능을 제공하여11) 멀티모달 AI 워크로드에 필요한 높은 처리량을 보장한다.

엔비디아 CMX 컨텍스트 메모리 스토리지 플랫폼 지원과 KV캐시(KV Cache)를 통한 추론 가속화를 델 파워스케일, 델 오브젝트스케일, 델 라이트닝 파일 시스템을 아우르는 공유 스토리지에서 실행할 수 있다. 성능 요구에 따라 GPU 메모리의 KV 캐시를 델 CMX 스토리지 및 고속의 공유 네트워크 스토리지로 오프로드 함으로써 롱-컨텍스트 및 에이전트형 AI 워크로드에서 GPU 활용도를 크게 향상시킨다. 이를 통해 AI 시스템이 GPU 메모리를 소진하지 않고도 장기간의 상호작용 동안 컨텍스트를 유지할 수 있다. 이러한 기능은 방대한 이력 데이터 참조나 긴 대화 흐름을 유지해야 하는 AI 에이전트를 도입하는 기업에 필수적이다.

김경진 한국델테크놀로지스 총괄사장은 “AI 파일럿을 실제 운영 환경으로 확장할 때 직면하는 가장 큰 문제는 각 기업의 고유한 정보가 데이터 사일로에 갇혀 있다는 점이다. ‘엔비디아 기반 델 AI 팩토리’는 전체 데이터 라이프사이클을 자동화하고 AI가 요구하는 거대 규모에 걸맞는 성능을 제공한다”며 “델과 엔비디아의 협력으로 고객은 AI 환경을 더 빠르게 구축하고, 자유롭게 확장하며, 실질적인 성과를 얻을 수 있게 됐다. 델은 엔비디아와 함께 엔터프라이즈 AI 인프라가 갖추어야 할 기준을 새롭게 정의하고 있다”고 말했다.