[ET시론] AI 사업의 성패는 운영에서 갈린다

전통적인 패키지 소프트웨어(SW)는 납품과 검수를 마치는 시점에 완성된다. 요구사항에 명시된 기능이 정해진 대로 작동하는지 확인하고 나면, 이후의 일은 운영 중에 발견되는 결함을 고치고 필요한 기능을 조금씩 보완하는 수준에 머무르기 때문이다. 그러나 데이터를 학습해 확률적으로 판단하는 인공지능(AI)는 사정이 전혀 다르다. AI는 납품하는 날부터 서서히 낡아 가는데, 세상이 바뀌고 데이터의 성격이 달라지면 어제까지 정확하던 모델이 오늘은 그럴듯한 오답을 내놓기 시작한다. 시스템은 겉보기에 아무 문제 없이 돌아가고 있지만, 그 안에서 답의 품질은 누구도 모르게 조금씩 무너져 내리고 있는 셈이다. 이런 AI가 지금 공공부문에 빠르게 들어오고 있다. 한국인공지능·소프트웨어산업협회(KOSA)가 나라장터 본공고 가운데 사업총액 1억원 이상인 공공 SW 사업을 살펴본 결과, 사업명에 AI 관련 키워드가 들어간 사업은 2022년 91건에서 2025년 222건으로 늘었고 전체 공공 SW 사업에서 차지하는 비중도 1.2%에서 3.8%로 커졌다. 올해는 상반기에만 202건이 발주되면서 그 비중이 9.5%까지 올라섰으니, 'AI 발전과 신뢰 기반 조성 등에 관한 기본법'(이하 AI기본법) 시행과 정부의 인공지능 행동계획에 힘입어 이 흐름은 앞으로 한층 빨라질 것으로 보인다. 공공 SW 사업 및 공공 Ai 사업 추이 (기준: 나라장터 본공고 중 사업 총액 1억원 이상인 공공 SW 사업) 그런데 늘어난 사업들을 하나하나 들여다보면 예산과 관심이 대부분 '구축'에 쏠려 있다는 공통점이 눈에 들어온다. 시스템을 만들어 서비스를 오픈하는 순간까지는 공을 들이지만 그 이후의 운영은 별도의 사업으로 다뤄지지 않는 경우가 적지 않다. 구축이 끝나면 발주기관이 운영을 직접 맡거나 기존 정보시스템 유지보수 사업에 AI를 함께 묶어 넘기는 일이 흔한데, 그 밑에는 일단 시스템이 돌아가기 시작했으니 운영은 크게 어려울 것이 없다는 인식이 깔려 있다. 이는 오랫동안 공공 정보화를 이끌어 온 시스템 통합(SI) 사업의 관행을 AI에도 그대로 적용한 데서 비롯된 측면이 크다. 하지만 AI 사업에서 구축은 출발선에 가깝고, 실제 성과는 모델이 현장의 데이터를 만나 성능을 검증받고 오류를 걸러내며 조금씩 정교해지는 운영 과정에서 만들어진다. 씨앗을 심어 놓고 물 주기를 멈추면 싹이 제대로 자랄 리 없듯, 구축만 해 두고 운영을 소홀히 하는 AI 사업이 기대한 ...