오픈AI의 첫 ASIC '할라페뇨'··· '엔비디아를 꺾는 게 아닌 필요한 칩 만들었다'

[IT동아 남시현 기자] “그냥 만들면 돼요. 칩 같은 거요 (You Can Just Build Things … Chips)” 지난 8월 23일부터 25일 사이 미국 캘리포니아 주 스탠퍼드 대학에서 진행된 마이크로프로세서 및 집적회로 반도체 콘퍼런스 ‘핫칩스 2026(Hotchips 2026)’의 한 세션 제목이다. 해당 행사에서 메타는 ‘메타의 맞춤형 AI 실리콘: 추천부터 생성형 AI까지 두 역할을 모두 맡는 맞춤형 AI 실리콘’을 발표했고 Arm은 ‘Arm AGI :초당 테라바이트 전송 시대를 위한 확장 가능한 일관성과 메모리 대역폭을 위한 분산형 칩렛 기반 서버 SoC’ 같은 제목을 사용했다. 진지하고 엄숙한 학회에서 이런 ‘칩 같은 이것저것’을 만든다고 한 회사, 바로 오픈AI다. 오픈AI가 핫칩스 2026에서 발표한 슬라이드의 첫 페이지, 제목이 정말로 이랬다 / 출처=핫칩스 오픈AI는 지난 6월 브로드컴과 함께 대형언어모델(LLM) 추론에 최적화된 전용 반도체 ‘할라페뇨(Jalapeño)’를 공개했으며 향후 AI 추론 작업에 도입하겠다고 밝혔다. 다만 당시 구체적인 제품 성능과 벤치마크 성능, 단가와 도입 규모, 전력 효율성 등은 공개하지 않았으며 사진 한 장을 놓고 HBM 모듈이 배치된 칩렛 구조에 216~288GB 정도의 메모리가 적용될 것이라는 추측 정도만 나왔다. 그런데 오픈AI가 두 달 만에 핫칩스 2026에서 구체적인 제품 성능을 공개했다. 할라페뇨 주문형 반도체(ASIC), 9개월 만에 테이프아웃? 중앙의 컴퓨트 다이를중심으로 좌우에 각각 세 개의 HBM4 스택을 배치한 형태, HBM4는 총 216기비바이트 용량과 15.4TB/s의 대역폭을 갖췄다 / 출처=오픈AI 오픈AI는 지난 6월 할라페뇨를 공개하며 초기 설계부터 제조 테이프아웃까지 단 9개월 만에 공동 개발되었다고 밝혔다. 일반적으로 스타트업에서 AI 반도체를 설계할 때에는 아키텍처 및 IP 선정에만 수개월이 소요되며 사전 설계와 검증, 테이프아웃까지 18개월 이상 소요된다. 반면 오픈AI는 자사 AI로 설계 및 최적화해 기간을 단축시켰다는 설명이다. 물론 업계에서는 2023년 11월에 구글에서 TPU 아키텍처를 개발해 온 ‘리처드 호’를 하드웨어 담당 부사장으로 역임한 이후 사전 작업을 진행해 왔다고 알려진 터라 오픈AI가 말하는 9개월은 논리 회로를 설계한 이후 테이프아웃까지의 구현·검증 기간일 것이라 예측됐다. 리처드 호 ...