델 테크놀로지스, 엔비디아와 손잡고 데스크사이드부터 데이터센터까지 에이전틱 AI 인프라 확대

에이전틱AI를 위한 Dell AI 에코시스템. 델 테크놀로지스(Dell Technologies)가 엔비디아와 협력해 기업용 에이전틱 AI 시장 공략을 강화한다. 데스크사이드 개발 환경부터 데이터센터까지 아우르는 AI 솔루션과 컴퓨팅 인프라를 확대하고, 기업이 자체적으로 소유·관리하는 환경에서 AI를 개발하고 운영할 수 있도록 지원한다. 델 테크놀로지스는 22일 '엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA)' 솔루션과 파트너 생태계를 확대하고, 데스크사이드 에이전틱 AI 솔루션 및 AI 전용 인프라 신제품을 공개했다. 회사에 따르면 엔비디아 기반 델 AI 팩토리를 도입한 기업은 6500개 이상으로, 지난 분기 5000개에서 증가했다. 기업용 에이전틱 AI는 업무를 수행하는 과정에서 추론하고 도구를 활용하는 등 자율적으로 작업을 진행하는 AI 기술로, 기업의 주요 워크로드로 부상하고 있다. 다만 실제 운용 단계에서는 모델 성능뿐만 아니라 추론 비용, 데이터 통제, 보안, 운영 효율성 등을 함께 고려해야 한다. 델은 2030년까지 추론 비용이 90% 이상 감소하는 반면에 에이전틱 AI 토큰 소비량은 24배 증가할 것으로 예상되는 점에 주목했다. AI 사용량 확대에 따른 인프라 비용과 운영 부담을 관리하려면 하드웨어와 소프트웨어, 모델, 운영 도구를 통합적으로 설계해야 한다는 설명이다. 델은 자체 AI 인프라를 활용하면 퍼블릭 클라우드에만 의존하는 방식보다 비용과 데이터, 운용에 대한 통제력을 높일 수 있으며, 델 AI 팩토리가 2년간 퍼블릭 클라우드 대비 최대 90% 높은 비용 효율성을 제공할 수 있다고 밝혔다. 해당 수치는 특정 워크로드와 비용 가정을 기반으로 한 분석 결과로, 실제 효과는 환경에 따라 달라질 수 있다. AI 소프트웨어 생태계도 확대한다. 리플렉션(Reflection)의 빔(Beam) 오픈 웨이트 모델은 엔비디아 기반 델 AI 팩토리에서 검증을 마쳤다. 기업은 이를 자체 인프라에서 활용해 소프트웨어 엔지니어링과 장시간 작업이 필요한 에이전틱 AI를 구축할 수 있다. 해당 모델은 아파치 2.0 라이선스를 기반으로 한다. 델 AI 에코시스템 프로그램에는 다이나트레이스의 AI 옵저버빌리티, 미스트랄의 지식 어시스턴트 및 에이전틱 AI 플랫폼, 포그스피어의 컴퓨터 비전 솔루션 등이 추가된다. 수세 리눅스도 생태계에 합류해 AI 모델과 애플리케이션부터 운용체계에 이르는 ...