지휘자처럼 AI 조율…'오케스트레이션'이 뭐길래

정보기술(IT) 업계에서 요즘 부쩍 자주 나오는 용어가 있다. 인공지능(AI), 로봇, 클라우드 사업을 설명할 때 빠지지 않는 ‘오케스트레이션’이다. 기업들은 앞다퉈 ‘AI를 오케스트레이션한다’고 말한다. 무슨 뜻일까.

오케스트라에서 나온 말이다. 오케스트라는 바이올린, 첼로, 플루트 등 여러 악기로 구성된 악단이다. 무대 위 악기들은 저마다 소리와 역할이 다르다. 이 악기들이 하나의 곡처럼 어우러지도록 파트와 순서를 배치하고 조율하는 작업이 오케스트레이션이다.

IT 업계에서 쓰이는 뜻도 같다. 서버, 데이터베이스, 보안, 결제 시스템, AI 모델, 로봇처럼 서로 다른 기술 요소를 하나의 목적에 맞게 연결하고 조율하는 것을 말한다. 개별 기술을 하나의 프로세스로 움직이게 만드는 설계·운영 방식이다.

생성형 AI 확산 이후 이 개념은 더 중요해졌다. 초기 AI 경쟁이 ‘누가 더 똑똑한 모델을 만들었느냐’였다면 이제는 ‘AI를 실제 업무에 적용해 성과를 내느냐’가 핵심 경쟁력으로 떠올랐다. 이 단계에선 AI 모델만 좋아서는 안 된다. 특히 기업 업무에서는 데이터 저장소, 컴퓨팅 자원, 업무 시스템 등 여러 요소가 함께 움직여야 한다.

예컨대 AI를 이용해 특정 소비자층에 신제품 마케팅을 할 때, 광고 문구를 아무리 잘 쓰는 AI 모델이 있어도 해당 고객층 데이터에 접근하지 못하거나 애플리케이션 푸시 시스템에 연결되지 못하면 해당 캠페인은 진행될 수가 없다. AI가 답을 내는 것과 기업 업무가 끝까지 실행되는 것은 다른 문제다. 오케스트레이션은 이 간극을 메우는 운용의 기술이다.

AI 오케스트레이션은 하나의 시장이 되고 있다. 포천비즈니스인사이트에 따르면 글로벌 시장 규모는 지난해 116억5000만달러에서 2034년 603억4000만달러로 커질 전망이다. 해외에선 어도비가 고객 데이터, 콘텐츠 제작 등을 하나로 묶는 기업용 오케스트레이션 플랫폼으로 확장하고 있다. 국내에선 카카오모빌리티가 택시 호출·배차에서 쌓은 운영 노하우를 로봇 관제와 장애 관리로 확장한다는 전략이다.

안정훈 기자 ajh6321@hankyung.com