오라클, AMD GPU 최대 13만개 지원…'AI 컴퓨팅 인프라 다변화'

오라클이 오라클 클라우드 인프라스트럭처(OCI)에서 AMD의 최신 그래픽처리장치(GPU) MI355X를 최대 13만개 지원한다.

이는 엔비디아 GPU뿐만 아니라 AMD GPU를 확보해 AI 컴퓨팅 인프라를 다변화하는 전략으로 풀이된다. 오라클은 지난해 9월 최신 GPU 블랙웰 최대 13만1072개를 탑재한 고성능 컴퓨팅 전용 인프라 'OCI 슈퍼클러스터'를 발표했다.

오라클은 이번 AMD와 협력으로 AMD 인스팅트 MI355X 13만1072개를 OCI 슈퍼클러스터에 탑재, 거대언어모델(LLM) 구축 및 인공지능(AI) 워크로드 실행을 지원한다.

OCI 기반 AMD 인스팅트 MI355X는 이전 세대의 3배에 달하는 컴퓨팅 성능과 50% 향상된 고대역폭메모리(HBM)를 제공한다. 대용량 모델 전체를 메모리에서 실행할 수 있어 AI 모델 훈련·추론 속도를 향상시킨다.

최대 2.8배 증가한 처리량과 새로운 4비트 부동 소수점 컴퓨트(FP4) 표준을 통해 최신 LLM 및 생성형 AI 모델을 비용 효율적으로 배포할 수 있도록 한다.

AMD 인스팅트 MI355X는 제타스케일 OCI 슈퍼클러스터에 탑재되 OCI 이용자들에게 제공된다. OCI 슈퍼클러스터는 대규모 GPU 인스턴스를 위한 고처리량·초저지연 원격 메모리 직접 액세스(RDMA) 클러스터 네트워크 아키텍처, 고속 파일 스토리지 등으로 구성된다.

마헤쉬 티아가라얀 OCI 총괄 부사장은 “OCI가 제공하는 성능과 앞선 네트워킹, 유연성, 보안, 규모와 결합된 AMD 인스팅트 GPU는 AI 워크로드 및 새로운 에이전틱 애플리케이션에 대한 추론 및 훈련 요구사항을 충족하는 데 기여할 것”이라고 말했다.

현대인 기자 modernman@etnews.com