[ET시론]AI 인프라, 대한민국의 새로운 해자(垓子)를 쌓아라

인류 역사에서 '해자(垓子)'는 방어를 위한 핵심 요소였다. 적의 침입을 막기 위해 땅을 파고 물을 채운 해자는 성벽과 함께 전략적 요충지의 핵심이었으며, 이를 중심으로 치열한 영토 전쟁이 벌어졌다. 현대 사회에서 물리적 해자는 사라졌지만, 경제적 개념으로서의 해자는 여전히 존재한다. 경제적 해자는 기업을 보호하는 높은 진입장벽과 강력한 구조적 경쟁 우위를 의미한다. 이러한 해자의 개념은 현대 인공지능(AI) 기술 경쟁에서도 명확히 드러나고 있으며, 최근 AI 인프라를 둘러싼 강대국 간 경쟁은 바로 이러한 현대판 '해자' 구축 과정이라 할 수 있다.

이러한 글로벌 경쟁 속에서 지난주 스페인에서 개최된 MWC에서는 중국 기업들이 수조 원대에 달하는 AI 기술 투자를 발표하는 등 중국의 'AI 굴기'를 실감할 수 있었다. 세계 최강의 원가절감 능력을 갖춘 중국은 정부의 대규모 투자와 인재 유치로 미국의 패권에 도전할 만한 힘을 갖추기 시작했다.

이제 AI는 핵 개발만큼 중요한 국가 주권 사업이다. 따라서 대한민국만의 무기를 만들어야 하는 시점에 서 있다. 우리 정부도 국가 AI 역량 강화를 위해 AI 인프라 확충과 K-AI 모델 개발 등을 추진하며 범부처 역량을 모으고 있다. 그중 가장 집중되는 것은 단연 AI 인프라 분야다.

다행히 그간 우리가 축적해온 경쟁력도 만만치 않다. 2024년 9월, 영국의 데이터 분석업체 토터스 인텔리전스가 발표한 '글로벌 AI 지수(The Global AI Index)'에 따르면, 세계 주요 83개국 중 한국의 AI 인프라 경쟁력은 세계 6위 수준으로 어려운 환경에도 상위권을 유지하는 저력을 보여주고 있다. 최근 정부도 여러 전략을 통해 AI 인프라 확충에 발 벗고 나서고 있어 우리도 AI 전쟁 시대에 참전할 자세를 갖추어 나가고 있다. 그럼에도 늦지 않은 시기에 본격적인 패권 경쟁에 뛰어들기 위해서는 우리만의 강점과 기회를 고려한 차별화된 AI 인프라 전략이 절실하다.

그렇다면 AI 인프라란 무엇인가? AI 인프라는 기존 광범위한 컴퓨팅 작업을 지원하는 정보기술(IT) 인프라와 달리, 고성능 컴퓨팅 요구에 맞게 특별히 설계된다. 국가 인프라로서 AI 인프라를 효과적으로 준비하기 위한 정부·공공의 역할을 도출하기 위해서는 AI 인프라의 전반적인 개념 이해가 선행돼야 한다.

기술적 인프라의 측면에서 AI 인프라는 8단계로 구성할 수 있는데, 이러한 체계적 접근은 국내 AI 생태계의 전략적 구축을 위한 청사진이 될 수 있다. 하드웨어(HW), 컴퓨팅, 네트워크, 데이터 관리, 알고리즘, 소프트웨어(SW), 거버넌스, 에너지에 이르는 8단계 구성요소들은 상호 유기적으로 작용하며 하나의 통합된 플랫폼을 형성한다. 어느 한 영역의 부족은 전체 생태계의 약점으로 작용할 수 있기 때문에, 이러한 복합적 특성을 인식하고 모든 구성요소에 대한 종합적 접근이 핵심이다. 단계별, 종합적 접근을 통해 국가 경쟁력을 체계적으로 향상할 수 있기 때문이다.

한국소프트웨어산업협회 산하 초거대AI추진협의회에서는 지난해부터 AI의 핵심인 국내 산학연 반도체 전문가들과 지속적인 논의를 진행해왔다. 전문가들의 분석에 따르면, 국내 AI 인프라 전략 정책은 전체 8단계 구성 중에서도 특히 시스템 SW와 컴퓨팅 자원 두 가지 축에 집중해야 한다는 결론이 도출되었다. AI 인프라는 단순히 GPU를 확보하는 것만으로는 충분하지 않으며, 다층적인 접근이 필요한 복합적 생태계라는 점을 인식해야 한다.

첫째, AI 반도체의 높은 외산 의존도 해결을 위해서는 컴퓨팅 자원 구축이 관건이다. 현재 정부의 국가 AI 컴퓨팅센터 구축 전략은 국가 안보 차원에서도, 기업들을 위해서도 환영할 만한 움직임이다. 센터는 내년(2025년) 상반기까지 GPU를 1.8만장까지 공격적으로 투입, '2030년까지 1Exa Flops(엑사플롭스)급 이상의 고성능 GPU 등 컴퓨팅 자원 구축을 완료할 예정이다. 1 Exa Flops 이상 컴퓨팅 자원이 국내에 공급되면 유망 AI 스타트업들의 개발 환경이 크게 향상될 전망이다. 더불어 민관협력 모델이 성공적으로 정착한다면, 정부 단독 지원의 한계를 넘어 AI 생태계의 선순환 구조가 형성될 것으로 기대된다.

또, 컴퓨팅 자원 확보뿐 아니라 경쟁력을 위해 민간 투자도 중요하다. 여야에서도 사안의 시급함을 인식하고 획기적 차원의 추경을 추진하고 있어 고무적이다.

둘째, 이러한 HW적 기반 확충과 함께, AI 생태계의 완전한 경쟁력 확보를 위해서는 SW 플랫폼의 독립성 확보가 핵심 과제로 대두되고 있다. AI 인프라는 하나의 요소가 아닌 복합 플랫폼 기술로서 특징에 맞는 정책 지원이 요구된다. 시스템 SW 측면에서 한국은 엔비디아의 CUDA 플랫폼에 대한 의존도가 높다. CUDA는 AI 모델 학습과 병렬 연산을 최적화하는 GPU 컴퓨팅 툴로, 글로벌 AI 생태계에서 표준으로 자리 잡고 있다. 바로 이 CUDA가 엔비디아의 강력한 '해자'로 작용하며, 다른 기업들이 쉽게 넘볼 수 없는 경쟁우위를 만들어내고 있다.

국산 AI 반도체를 효과적으로 활용하려면, 이를 지원하는 SW 생태계 구축 또한 장기적 전략이 필요하다. 특히 기업별 HW 특성에 최적화된 오픈소스 AI 개발 프레임워크의 활용 지원이 중요하다. 이미 삼성전자, Arm, 구글, 퀄컴 등이 참여하는 UXL 재단이나 오픈AI의 트리톤과 같은 오픈소스 이니셔티브가 엔비디아의 '해자'에 도전하고 있다는 점은 주목할 만하다.

SW 인프라 개발과 더불어, 산업 전반의 낮은 AI 활용도와 전문인력 부족은 여전히 해결해야 할 과제로 남아있다. 컴퓨팅 인프라만 확장할 것이 아니라 AI 데이터 플랫폼을 확충해 성공사례와 모듈화를 지원해야 한다.

우선, 모듈화된 성과를 다른 시스템에서 재활용해 기술의 성숙도를 향상하고, 후발주자인 중소기업 및 스타트업들의 접근성을 높이는 방안이 요구된다. 또, AI 프로토타입 플랫폼 운영도 효과적인 전략이다. 국내 대기업과 연구기관이 공동으로 활용할 수 있는 AI 프로토타입 개발 플랫폼 수립이 필요하며, 이를 통해 대기업의 자원과 연구기관의 전문성이 결합돼 혁신적인 AI 솔루션의 빠른 개발과 검증이 가능하다.

마지막으로, 제조, 모빌리티, 금융 등 한국이 강점을 가진 분야에서 AI 기술과의 융합을 통해 차별화된 경쟁력을 구축할 때, 비로소 국제 시장에서의 입지를 강화할 수 있을 것이다. AI 모델 규모로 경쟁하는 대신 산업 맞춤형(버티컬) AI로 경쟁력을 키워야 한다. 이러한 전략적 접근이야말로 AI 시대에 대한민국만의 견고한 '해자'를 쌓는 첫걸음이 될 것이다.

조준희 한국소프트웨어산업협회장·유라클 대표이사 jhjoh@sw.or.kr

〈필자〉2001년 유라클을 창업해 24년 동안 대표이사직을 수행하고 있는 소프트웨어(SW) 기업가다. 2021년부터 법정단체 한국소프트웨어산업협회 제18·19·20대 회장을 연임하며 SW산업 발전과 생태계 개선을 위해 앞장서고 있다. 2022년 대통령 직속 디지털플랫폼정부위원회 산업생태계분과위원장직을 맡은데 이어 2023년 민관협력 글로벌DPG얼라이언스 초대 의장, 2024년 국가인공지능위원회 민간위원에 임명되는 등 산업 발전을 위해 활발한 정책활동을 하고 있다.