퓨리오사AI NPU 도입 앞둔 딥노이드, "운영비용 최적화·서비스 응용에 기대"

[IT동아 남시현 기자]

“퓨리오사AI가 1세대 워보이 양산 경험이 있어서 신뢰성 있게 제품을 조달할 수 있으리라 봤다. 또 2세대 반도체인 레니게이드(RNGD)의 대형언어모델(LLM) 처리 기능을 M4CXR의 AI 기능에 활용할 수 있다. 내년부터는 레니게이드를 활용해 LLM 대체뿐만 아니라 비전인식 AI 기능으로도 도입을 확대해 단가절감과 시장 가능성을 모두 확보할 생각이다”

현지훈 딥노이드 AI연구소장(좌)과 김태규 딥노이드 전무(우) / 출처=IT동아

김태규 딥노이드 전무에게 퓨리오사AI NPU를 채택한 이유에 대해 묻자 돌아온 대답이다. 딥노이드는 2008년 소프트웨어 기업으로 시작해 2015년에는 딥러닝 관련 기술 개발에 매진했고, 의료 영상 관련 기술력을 인정받아 2021년 8월 코스닥에 기술특례상장했다.

김태규 딥노이드 전무는 회사의 공동창업자이자 최고기술책임자로서 기업을 이끌고 있고, 최근에는 퓨리오사AI의 신경망처리장치(NPU)에서 시장 가능성을 보고 있다. 김태규 딥노이드 전무와 현지훈 딥노이드 AI연구소장을 만나 ‘AI반도체 응용실증 지원사업’의 지원 배경부터 도입 절차까지 상세히 들어봤다.

“M4CXR, 흉부 엑스레이를 AI 인색해 초안 생성하는 설루션”

인터뷰에 앞서 김태규 전무에게 딥노이드의 설루션 전반에 대한 소개를 부탁했다. 김태규 전무는 “M4CXR은 흉부 엑스레이 데이터로 판독 소견서 초안을 자동으로 생성하는 설루션이다. 기술 측면에서는 2015년부터 딥러닝 관련 연구를 시작했고, 자기 공명 혈관조영술(MRA) 결과를 기반으로 뇌동맥류를 검출하거나 다양한 병리 영상 등을 통해 대장암, 신장암, 위암 등의 질환도 분석해서 검출하는 기술 등을 개발해 왔다”라고 배경을 설명했다

딥노이드의 흉부 엑스레이 데이터 분석 및 판독 소견서 생성 AI ‘M4CXR’, AI 판독 소견서 생성에 퓨리오사AI NPU가 도입될 예정이다 / 출처=딥노이드

이를 기반으로 AI 기반 흉부 X-Ray 진단보조 설루션 딥:체스트(DEEP:CHEST)를 개발하고 최근에는 M4CXR로 기능을 업그레이드 중이다. 아울러 AI 기반의 뇌 MRA용 딥 뉴로(DEEP:NURO), 폐 질환 대응 딥 렁(DEEP:LUNG) 등의 의료 AI 서비스도 개발했다. 이중 딥 뉴로(DEEP:NURO)는 혁신의료기기로 선정돼 비급여로도 수가가 지급되는 게 특징이다. 산업용 엑스레이를 위한 스카이마루:시큐리티(Skymaru:security), 딥시큐리티(DEEP:Security), 딥팩토리(DEEP:Factory) 등의 설루션도 있다.

딥노이드는 AI 서비스의 연산 처리에 GPU 자원을 활용한다 / 출처=IT동아

국내외 비슷한 기업들이 있는데, 어떤 점에서 차별화될까. 김태규 전무는 “생성형 AI 기술을 통해 판독 소견서 초안을 생성하는 기술이 핵심이다. 이와 관련해 2023년부터 흉부 X레이 생성형 AI 기술 관련한 논문을 쓰고 있고, 올해 안에 이를 기반으로 하는 제품의 인허가를 받을 예정이다. 의료기기 기업으로 생성형 AI를 활용하는 점에서는 독보적이고 차별화된 기술력을 갖췄다”라고 설명했다. 또한 판독 소견서도 폐질환 검출에 최적화됐지만, 흉부 엑스레이도 판단할 수 있는 기관지, 심장, 흉벽, 뼈, 기타 장기까지 복합적으로 결과를 내놓는다는 게 딥노이드의 기술력이라고 덧붙였다.

의료 AI의 실전 도입에 GPU가 아닌 NPU를 찾는 이유?

대중에게는 의료 업계에 생성형 AI가 도입되는 것이 낯설지만, 이미 지난해 딥노이드는 108억 원의 매출을 올릴 만큼 성장 가도에 올라탔다. 그렇다 보니 인공지능 연산 처리 비용이나 단가에도 민감하다.

현지훈 연구소장은 “사용자 입장에서는 M4CXR을 통해 흉부 엑스레이를 분석하고, CXR 판독문 초안을 생성하는 정도만 보인다. 진행 과정은 암호화, 익명화를 통해 엑스레이 데이터를 받은 뒤 내부 소프트웨어로 처리하고, 엑스레이로 볼 수 있는 대다수의 질환들을 언어 모델이 소견서 형태로 제공한다”라고 설명했다.

김태규 전무가 딥노이드의 설루션 M4CXR을 직접 시연하고 있다 / 출처=IT동아

연산에는 엔비디아 A100 GPU를 사용하는데, 올해 정보통신산업진흥원(NIPA)가 진행하는 ‘AI반도체 응용실증지원 사업’의 지원을 받아 퓨리오사AI의 AI반도체로 대체에 나선다. 현지훈 연구소장은 “해당 사업은 2년에 걸쳐 진행하는 사업이다. 1차년도 사업은 올해 5월 시작해 올해 말 끝나고, 내년 사업이 또 있다. 올해는 M4CXR의 일부 기능을 퓨리오사AI NPU로 대체하는 사업을 진행하고, 내년에는 신규로 개발할 CT 판독문 관련 설루션에 NPU 도입 적용을 목표로 한다”라고 말했다.

퓨리오사AI의 2세대 신경망 처리장치(NPU) RNGD(레니게이드) / 출처=퓨리오사AI

그렇다면 왜 딥노이드는 NPU를 쓰려할까. 현지훈 연구소장은 “NPU는 아직 시장 초기 단계지만, LLM 등 작업을 처리할 때는 GPU 대비 뛰어난 성능과 전력 효율을 제공한다. 초기 도입 비용도 GPU와 유사하거나 경쟁력 있는 수준이며 운영 단계에서는 전력 비용 절감 효과가 두드러진다. 물론 NPU는 최적화를 위해 많은 개발이 필요한 건 과제”라면서, “전문시험기관을 통해 A100 만으로 구동했을 때, 퓨리오사AI NPU와 A100을 같이 썼을 때, 전력 소모나 속도, 정확도는 어떤지 복합적으로 실증하고 이점을 판단할 생각이다. 신뢰성 있는 결과를 바탕으로 산업 전반에 쓰일 수 있는 결과를 만들어볼 것”이라 덧붙였다.

“국내 대형 병원 등에 도입··· 해외서도 M4CXR 효율에 주목”

딥노이드가 진행하는 AI반도체 응용실증지원 사업의 목표는 M4CXR 실증이다. 실증 병원은 서울대병원, 인하대병원, 서울아산병원으로 선정됐고, 각 병원에서 클라우드 기반으로 서비스에 접속해 M4CXR을 사용하며 실증 사례를 만드는 게 목표다. 김태규 전무는 “목표는 세 개 병원이지만 사업기간 내에 더 많은 실증 기관을 확보하려 한다. 1차 의료기관과 국내 공공의료기관, 필리핀 및 베트남, 중동 등 다른 지역에서도 도입할 수 있는 방안을 마련하는 중”이라 답했다.

성과는 빠르게 나고 있다. 지난 6월 17일, 유럽흉부영상의학회가 주최하는 ESTI 2025에서 딥노이드 M4CXR의 생성형 AI 기반 흉부 엑스레이 판독 소견서 초안 생성 성능을 평가한 연구가 ‘최우수 구연발표상(Best Oral Presentation-Magna Cum Laude)’에 선정됐다. 연구팀이 M4CXR의 진단 정확도와 보고서 품질, 효율성 등을 다각도로 분석한 결과 85%의 유의미한 진단 정확도를 냈고, 평균 3.4초의 판독 소견서 초안 작성 속도를 기록해 임상 현장에서의 진단 보조 도구로서의 활용성을 입증했다.

사용자는 서비스가 GPU인지, NPU 기반인지를 따지지 않는다. 중요한 것은 운용 비용이다 / 출처=IT동아

퓨리오사AI의 NPU는 M4CXR의 초안 생성 관련 LLM 기능에 역할을 할 예정이다. 현지훈 연구소장 은 “향후 NPU 적용 과정에서 퓨리오사AI의 도움을 많이 받을 예정이다. LLM 연산 과정은 크게 걱정하지 않고, 내년쯤 레니게이드에 비전인식 기능이 업그레이드되면 추가로 GPU 대체 작업에 들어간다. 모델 양자화 과정이 GPU 기반과 좀 다르지만, 이와 관련해서도 관리가 들어갈 예정”이라 답했다.

모델 양자화는 구동에 필요한 AI 모델의 크기를 줄이고 효율화하는 작업이다. 엔비디아 GPU는 사실상 업계 표준이어서 모델 구축에 필요한 자료나 절차가 정형화돼있다. 하지만 NPU는 사용 기업도 적고, NPU 기업마다 방안도 달라 양자화 과정이 순조롭진 않다. 다행히 퓨리오사AI는 파이토치부터 모델 양자화, 모델 제공 및 배포, 추론 애플리케이션 생성까지 지원하는 소프트웨어개발도구(SDK)를 배포하고 있다. 프로젝트 진행 시 퓨리오사AI의 지원과 SDK를 잘 활용하면 엔비디아 GPU를 대체하는 것도 충분히 가능하다.

최종 사용자는 하드웨어를 구분하며 서비스를 쓰진 않는다

딥노이드의 NPU 도입은 해외 진출에도 도움이 된다. 현지훈 연구소장은 “사용자는 서비스가 NPU인지, GPU인지 신경 쓰지 않고, 가격과 운영비용만 고려한다. NPU를 활용해 운영 비용이 저렴해진다면 그만큼 더 사용량이 더 늘고 많은 고객을 유치할 수 있다”라면서, “서비스 완성도를 알리기 위해 올해 11월 개최되는 북미영상의학회(RSNA 2025)에 M4CXR을 출품하고, 국산 NPU의 LLM 처리 기능으로 판독 소견서가 생성되는 기능을 알릴 예정”이라고도 덧붙였다.

딥노이드는 올해 3월 개최된 메디컬 재팬 오사카에서 딥 뉴로 및 M4CXR 관련 기술 등을 일본 현지에 소개했다. 글로벌 진출이 가속화할수록 NPU 도입을 통한 효율성 확보와 클라우드 기반 서비스 도입이 빛을 발할 전망이다 / 출처=딥노이드

김태규 전무 역시 “서비스가 클라우드로 제공되는 점이 중요하다. 해외에 서비스를 확산하거나 투자하고, 운영하는 부분을 최적화할 수 있고 도입 속도도 빠르다. 두바이 법인을 주요 거점으로 북아프리카까지 공략하고, 동남아 역시 베트남과 필리핀을 시작으로 싱가포르, 말레이시아 등도 공략할 생각이다”라고 덧붙였다.

퓨리오사AI가 글로벌 인지도를 높여가는 점도 딥노이드의 사업 확장에 보탬이 될 전망이다. 퓨리오사AI는 앞서 2025 KB스타터스 싱가포르에 선정돼 현지에서의 기관 네트워크 육성 지원이나 KB투자 인프라 및 벤처캐피털 투자 연계 지원, 싱가포르 현지 글로벌 오픈이노베이션 프로그램 등에 참여한다. 지난 18일에는 싱가포르에서 열리는 아시아 최대 규모의 AI 행사 ‘슈퍼AI’에 참가해 상용화 단계에 있는 레니게이드를 홍보하기도 했다. 퓨리오사AI의 인지도 향상은 딥노이드의 아시아 시장 진출에 상당한 보탬이 될 전망이다.

“국내외 AI 기업들이 NPU를 찾는 환경 만들어야”

김태규 전무는 딥노이드의 NPU 도입 사례가 국내 AI 생태계의 마중물이 되기를 희망한다 / 출처=IT동아

딥노이드가 NPU를 활용하는 것은 단순한 비용 문제만은 아니다. 우리나라 AI 산업 생태계에 NPU 도입 사례가 늘어나길 바라는 마음이다. 현지훈 연구소장은 “AI 업계에서 NPU 도입은 아직 초기 단계다. AI 개발자들이 GPU에 익숙해져 있다보니 NPU로 전환하는 노력, 비용 등을 생각하면 쉽지않다. 하지만 레니게이드가 수치상으로는 GPU를 대체할 수 있으니 적극적으로 시도해 볼 필요가 있다”라고 말했다.

김태규 전무 역시 “우리도 2015년부터 GPU를 썼지만 그때는 100만 원이던 제품이 지금은 수천만 원 이상에 달한다. 엔비디아가 독점적인 환경이니 장기적으로는 더 가격이 오를 것이다. 국산이건 외산이건 NPU 양산이 확대되어야 시장에 자리 잡을 수 있다. 우리는 그 가능성을 퓨리오사AI에서 찾고 있으며, 그런 역할을 잘 하리라 본다”라는 뜻을 밝혔다.

IT동아 남시현 기자 (sh@itdong.com)