현대오토에버, 프라이빗 LLM 개발한다…보안·효율성 '두 마리 토끼'

1 month ago 10
현대오토에버가 내부 서버에 구축하는 프라이빗 거대언어모델(LLM)을 개발한다. [사진=AI로 생성]현대오토에버가 내부 서버에 구축하는 프라이빗 거대언어모델(LLM)을 개발한다. [사진=AI로 생성]

현대오토에버가 내부 서버에 구축하는 프라이빗 거대언어모델(LLM)을 개발한다.

GPT 등 누구나 사용할 수 있는 퍼블릭 LLM이 아닌, 기업에서 자체 운영하는 프라이빗 LLM을 활용해 보안과 효율성을 잡으려는 의도로 풀이된다.

1일 업계에 따르면, 현대오토에버는 최근 이 같은 계획을 마련하고 관련 인재 채용에 나섰다.

현대오토에버가 프라이빗 LLM 개발을 본격화한 것은 이번이 처음이다. 지난해 개발한 임직원용 대화형 서비스 'H 챗'에는 퍼블릭 LLM인 오픈AI GPT를 활용했다. 향후 서비스 확장성을 높이기 위한 멀티 LLM 연계 계획에도 구글 '젬마', 앤스로픽 '클로드' 등 퍼블릭 LLM을 고려했다.

퍼블릭 LLM은 글로벌 최신 모델을 응용프로그래밍 인터페이스(API) 방식으로 비교적 쉽게 도입할 수 있는 게 장점이다. 그러나 데이터 유출 등 보안과 사용량 증가에 따른 API 비용 등 문제가 있어 기업은 프라이빗 LLM을 선호한다.

현대오토에버는 퍼블릭 LLM 활용 중 데이터 유출을 막기 위해 기업 내부 네트워크와 LLM 간 통신에 보안 장치를 갖췄지만, 프라이빗 LLM과 비교해 보안이 뛰어나다고 보긴 어렵다.

이번에 개발할 프라이빗 LLM은 이러한 문제를 해결할 수 있다. 데이터가 외부로 전송되지 않고 내부 서버에서 운영되기 때문에 보안성이 뛰어나다. 내부 서버 구축용(온프레미스) 모델 개발을 위한 AI 컴퓨팅 서버 등 초기 비용이 들지만, 장기적인 관점에서 비용 절감 효과를 기대할 수 있다.

내부 데이터를 학습시킨 특화 모델을 개발할 수 있다. 행정 데이터와 사내 규정뿐만 아니라, 차량 소프트웨어(SW) 개발 전문 지식 등을 통해 다양한 현대오토에버 전용 서비스가 만들어질 전망이다. 제조·건설 등 분야로 확장해 그룹사 맞춤형 서비스 개발도 가능하다.

한 AI 기업 대표는 “현대오토에버가 LLM을 그룹사 전체로 확장하는 것을 고려할 때 보안과 효율성을 갖춘 프라이빗 LLM을 개발하기로 했을 것”이라며 “방대한 사내 데이터로 자동차를 비롯한 그룹사 특화 AI 서비스들이 나올 것으로 보인다”고 말했다.

현대인 기자 modernman@etnews.com

Read Entire Article