[AI와 디지털전환] 'K-AI' 100조 투자, 무엇이 동반돼야 하는가

정부가 'K인공지능(AI)' 프로젝트에 본격 착수했다. 그 중에서도 'K-AI' 프로젝트 첫 단추로 약 2000억원의 예산을 투입해 글로벌 수준의 한국형 초거대 언어모델(LLM)을 개발할 정예팀을 선발하겠다는 계획을 발표했다. 이를 통해 자국 주도의 생성형 AI 기술력을 확보하겠다는 방침이며, 이는 한국 AI 산업의 기술 주권 확립을 위한 시의적절한 결단이라 할 수 있다.

글로벌 AI 패권 경쟁이 심화되고 나아가 기술의 무기화 가능성까지 제기되는 지금, 기술 자립과 주권 강화를 위한 K-AI 정책은 국가 경쟁력 확보를 위한 필연적 선택이다.

하지만 훌륭한 모델을 개발하는 것은 절반의 성공에 불과하다. 모델이 아무리 뛰어나도 실제 산업 현장에서 안정적으로 운영할 수 있는 인프라가 뒷받침되지 않으면 그 잠재력을 발휘하기 어렵다.

최근 AI 도입을 추진하는 기업이 공통적으로 직면하는 과제가 있다. 바로 '운영'이다. 데모 환경에서는 완벽하게 작동하던 AI 모델이 실제 서비스 환경에서는 예상과 다른 결과를 보이는 경우가 빈번하다. 수천·수만명의 사용자가 동시에 접속하는 상황에서의 응답 속도와 온프레미스와 클라우드를 넘나드는 하이브리드 환경에서의 호환성, 또 보안이 중요한 금융이나 의료 분야의 폐쇄망 운영 등은 모델 개발 그 이상의 복합적 기술 역량을 요구한다.

그런데 이러한 문제들은 단순히 그래픽처리장치(GPU) 수량을 늘리거나 모델 파라미터를 키운다고 해결되지 않는다. 시스템 아키텍처 설계부터 배포, 모니터링, 유지보수까지 아우르는 통합적인 인프라 관점에서 접근해야 한다.

실제로 이는 제조업의 패턴과도 유사하다. 삼성전자의 반도체나 현대자동차가 글로벌 시장에서 성공한 핵심 요인은 뛰어난 제품력과 함께 안정적인 생산·공급 운영 역량을 확보했기 때문이다. AI 분야에서도 마찬가지다. 아마존웹서비스(AWS)의 베드록, 마이크로소프트의 애저 오픈AI 서비스, 오라클의 OCI AI 서비스 등이 글로벌 시장에서 주목받는 이유는 모델 자체의 성능뿐만 아니라 안정적인 인프라 운영 역량이 더해졌기 때문이다.

다행히 국내에서도 이러한 인프라 역량을 확보하려는 움직임이 활발하다. 다양한 모델과 GPU 자원을 유기적으로 연결하고 자동화하는 AI 오케스트레이션 기술을 고도화하며, 실제 산업·공공 현장에서 작동 가능한 인프라 구현에 집중하는 기업들이 늘고 있다.

K-AI 모델 개발이 본격화되는 지금, 정부와 민간이 함께 고민해야 할 다음 과제는 명확하다.

첫째, 모델 개발과 병행해 실제 운영 환경에서의 검증을 지속적으로 수행해야 한다. 둘째, 다양한 산업 분야의 요구사항을 반영한 인프라 표준을 수립해야 한다. 셋째, 인프라 전문 인력 양성과 관련 생태계 조성에도 투자를 확대해야 한다.

모델의 '수직적 확장'과 인프라의 '수평적 확장'이 결합될 때 K-AI가 진정 뛸 수 있는 운동장이 완성된다. 이것이 바로 우리가 지금 준비해야 할 다음 단계다.

안재만 한국인공지능·소프트웨어산업협회 초거대AI추진협의회 이사·베슬AI 대표 jaeman@vessl.ai