수쿠마 퀄컴 부사장 “분산형 온디바이스 모델로 맞춤형 AI 구현”

퀄컴이 개인 맞춤형 인공지능(AI)을 실현하기 위해 '분산형 온디바이스 AI' 모델을 구축한다.

비네쉬 수쿠마 퀄컴 부사장 겸 AI 제품 총괄은 미국 하와이주 마우이에서 열린 '스냅드래곤 서밋 2025'에서 국내 기자단과 만나 “분산형 온디바이스 AI는 사용자를 더 깊이 이해하기 위해 지식 그래프를 만드는 것”이라며 “여러 기기에서 그래프를 공유, 개인화를 보장할 수 있다”고 밝혔다.

분산형 온디바이스 AI는 스마트폰과 태블릿 PC 등 기기에서 AI 기능을 분산 실행하는 기술이다. 클라우드 서버 의존도를 낮춰 AI 운용 비용을 효율화하고, 여러 IT 기기의 AI 기능을 통합해 사용자에게 최적화된 맞춤형 AI 어시스턴스 기능을 제공할 수 있다는 장점이 있다.

수쿠마 부사장은 “업무용 휴대폰과 PC가 있는데, 만약 휴대폰 배터리가 다 닳아서 꺼지면 노트북을 켜자마자 AI 연동으로 같은 맥락을 이어받아 작업을 마칠 수 있다”며 “온디바이스 추론을 통해 기기 간 맥락 정보 공유를 지원하고 있다”고 설명했다.

퀄컴의 분산형 온디바이스 AI 모델을 현실화하고 있는 기업은 삼성전자다. 삼성전자는 갤럭시 스마트폰과 갤럭시북 태블릿 PC 등에 퀄컴의 스냅드래곤 칩셋을 탑재, 기기 간 AI 연동 성능을 극대화하고 있다.

최원준 삼성전자 모바일경험(MX)사업부 최고운영책임자(COO) 사장은 스냅드래곤 서밋 발표 무대에 올라 갤럭시 전체 생태계로 퀄컴과 협력 범위를 확장하겠다고 밝힌 바 있다.

수쿠마 부사장은 “지난해 7월 삼성전자 갤럭시 테크 포럼에 참석했는데, '앰비언트 AI'를 통한 개인화가 핵심 주제였다”며 “스마트픈·PC·웨어러블 기기·스마트 글래스 등에 정보를 안전하게 저장, 개별 이용자에게 적용하는 방향을 강조했다”고 말했다.

이어 “삼성도 같은 방향성을 갖고 있으며 차세대 갤럭시 AI는 더 '개인적이 되는 것'을 목표로 (개발을) 공동 추진 중”이라고 덧붙였다.

퀄컴 분산형 온디바이스 AI 기능의 핵심 요소는 스냅드래곤 칩의 신경망처리장치(NPU) 기술이다. NPU는 AI와 머신러닝 연산에 특화된 반도체로, 중앙처리장치(CPU)와 그래픽처리장치(GPU) 부담을 낮추고 전력 소모를 줄일 수 있다. 퀄컴은 NPU '헥사곤'을 자체 개발했다.

수쿠마 부사장은 “헥사곤 아키텍처를 설계할 때 가장 중요한 기준은 전력 효율성으로, 이를 최우선으로 고려하고 있다”며 “컨텍스트 길이를 늘리고 레이턴시를 낮추는 것도 중요하다”고 전했다.

마우이(미국)=

이호길 기자 eagles@etnews.com