"앞으로 인공지능(AI) 인프라 투자의 핵심은 단순 성능이 아니라 ‘전성비(Performance per Watt)’가 될 겁니다. 한국 반도체가 인퍼런스 시장에서 새로운 기회를 잡을 수 있습니다."
박성현 리벨리온 대표는 15일 서울 여의도동 콘래드호텔에서 열린 ‘코리아 인베스트먼트 위크(KIW) 2025’에 연사로 나서 이렇게 말했다. 그는 2020년 리벨리온을 창업해 4년 만에 한국 최초 AI반도체 유니콘으로 성장시킨 인물이다. 현재 AI 추론시장에 최적화된 데이터센터용 반도체를 개발하고 있다.
AI 반도체엔 트레이닝(훈련)과 인퍼런스(추론) 칩이 있다. 트레이닝이라고 박 대표는 트레이닝이 올림픽 나가기 전에 선수가 몸을 만드는 과정이고, 인퍼런스는 만들어진 모델을 실제로 서비스하는 과정이라고 했다. 그는 "AI 모델 학습에 쓰이는 반도체는 엔비디아의 GPU가 지배하고 있다. 수천 개 GPU를 연결하는 인터커넥트 기술, 쿠다 생태계까지 워낙 강력하다"면서도 “하지만 서비스 단계, 즉 추론에서는 판이 완전히 다르다"고 말했다. 그러면서 "GPU는 너무 비싸고, 구하기 어렵고, 무엇보다 전기를 너무 많이 먹는다"며 "서울에서 부산을 갈 때 페라리를 몰고 가는 것과 비슷하다"고 비유했다. "엔비디아는 계속 새로운 칩을 내놓고 성능을 높입니다. 하지만 성능이 2배가 돼도 전력 소비가 3배 늘면 효율은 떨어지죠."
박 대표는 "실제 AI 서비스 구동엔 싸고, 효율적인, 맞춤형 추론 칩이 필요하다"고 말했다. 이어 "엔비디아 GPU로 모든 걸 돌릴 수는 없다. 여기서 리벨리온 같은 회사의 기회가 생기는 것"이라고 했다. "인퍼런스 시장은 원래 없던 시장입니다. 챗GPT 이후 갑자기 생겨난 시장이죠. 메모리 시장보다도 클 거라고 봅니다. 인류 역사상 가장 큰 반도체 시장이 될 겁니다."
그는 인퍼런스 시장이 새로 생긴 시장이기에 새로운 기업들에 기회가 주어졌다고 강조했다. 모델 크기, 응용 영역마다 필요한 칩이 달라 복잡한 전선을 구축하고 있기 떄문이다. 그는 "이 복잡한 시장에서 각 세그먼트별로 새로운 승자들이 나올 것"이라며 "바로 여기서 스타트업, 아시아 기업들에게 기회가 있다"고 했다. 이어 "한국은 메모리, 파운드리, 인력, 생태계까지 다 갖춘 국가"라며 "AI 반도체는 한국이 반드시 잡아야 할 두 번째 기회"라고 말했다.
고은이 기자 koko@hankyung.com