오픈랩스, AI 개발 자동화 엔진 'nuvida' 공개…토큰 사용 절감 기술 제시

3 weeks ago 12

사진=오픈랩스 제공 AI 코딩 도구가 기업 개발 현장에 빠르게 확산되면서 사용량 증가에 따른 비용 관리가 새로운 과제로 떠오르고 있다. 특히 AI가 텍스트를 처리하는 기본 단위인 토큰 사용량을 기준으로 과금하는 정책이 확대되면서 한 달 사용량으로 책정된 토큰이 며칠 만에 소진되는 사례도 나타나고 있다. IT 전문매체 더버지에 따르면 마이크로소프트는 윈도우·서피스 등을 담당하는 '경험 및 디바이스' 부서에 6월 30일까지 클로드 코드 사용을 중단하고 자사 코파일럿 CLI로 전환하라고 통보한 것으로 알려졌다. 국내에서도 안랩이 이달부터 깃허브 코파일럿 사용량을 주당 1,000크레딧으로 제한했으며, 넷마블 역시 직책과 팀별 사용량 제한에 나섰다. 사진=오픈랩스 제공 다만 단순한 사용량 제한은 생산성 저하로 이어질 가능성이 있다. 이에 따라 기업들의 고민은 AI를 '덜 사용하는 것'에서 벗어나 '더 적은 토큰으로 같은 결과를 얻는 방법'을 찾는 방향으로 옮겨가고 있다. AI 코딩 비용이 증가하는 주요 원인 중 하나는 기업 개발 환경에서의 사용 방식이다. 기업의 개발 프로젝트는 수십 건에서 많게는 수백 건에 이르는 요구사항을 포함하지만, 범용 AI 코딩 도구는 이를 한 번에 처리하기 어려운 경우가 많다. 이에 개발자는 요구사항을 세부 기능 단위로 나눠 요청하고, 생성된 결과를 검증·수정하는 과정을 거치게 된다. 수정과 보완이 반복될수록 토큰 사용량은 증가하며, 개별적으로 생성된 코드를 다시 통합하는 과정에서 추가적인 재작업 공수도 발생할 수 있다. 실제로 2022년부터 최근까지 토큰당 가격은 크게 낮아졌지만, 기업의 전체 AI 코딩 비용은 오히려 증가하는 흐름을 보이고 있다. 에이전틱 워크플로는 일반적인 대화형 질의보다 하나의 작업을 수행하는 과정에서 여러 차례 도구를 호출하고 결과를 검증하기 때문에 더 많은 토큰을 사용할 수 있다. 또한 AI가 생성한 결과물이 완전하지 않을 경우 개발자가 반복적으로 보완 요청을 해야 해 사용량이 더욱 늘어날 수 있다. 결국 관건은 단순히 성능이 뛰어난 AI 모델을 사용하는 것이 아니라 AI를 얼마나 효율적인 방식으로 활용하느냐에 있다는 분석이다. 이 같은 토큰 효율화 요구에 대응해 기업용 AI 개발 자동화 시장에서는 대량의 복잡한 요구사항을 체계적으로 분석하고 구조화해 불필요한 AI 호출과 재작업을 줄이는 방식이 등장하고 있다. 오픈랩스가 개발한 Agentic AI 기반 개발 자동화 ...

Read Entire Article