AI 춘추전국시대, ‘안전’이 승부수… ‘Good AI Awards’ 수상 기업 분석

19 hours ago 1

기자명 김동원 기자
입력 2025.08.01 17:37

LG AI연구원·아마존웹서비스(AWS)·세일즈포스·포티투마루 등
Good AI Awards 수상기업이 제시하는 AI 발전 패러다임

인공지능(AI) 기술의 급속한 발전과 함께 AI 안전성에 대한 우려도 함께 커지고 있다. 생성형 AI의 환각 현상, 개인정보 유출, 알고리즘 편향 등의 문제가 현실화되면서 단순한 기술력 경쟁을 넘어 ‘신뢰할 수 있는 AI’ 개발이 기업의 생존 조건이 됐다. 특히 기업용 AI 시장에서는 기술적 우수성과 동시에 윤리적 책임감을 갖춘 기업만이 지속가능한 성장을 할 수 있다는 인식이 확산되고 있다.

이러한 배경에서 AI 기술과 안전성을 모두 평가하는 Good AI Awards가 주목받고 있다. 2022년부터 시작된 이 상은 단순한 기술력을 넘어 AI의 안전성과 윤리성을 종합적으로 심사하는 국내 유일의 AI 평가 시상식이다. LG AI연구원, AWS·세일즈포스, 포티투마루 등이 차례로 대상을 받으며 ‘AI 기술과 윤리의 양립’이라는 새로운 AI 발전 모델을 제시해왔다. 2025년 11월 5일 개최 예정인 TAS 2025와 함께하는 올해 시상식을 앞두고, 역대 수상기업들의 성공 사례를 통해 AI 산업의 미래 방향을 조망해본다.

◇ 한국 AI 안전 선구자, LG AI연구원(2022년 대상)

2022년 첫 회 Good AI Awards에서 대상을 차지한 LG AI연구원은 AI 기술력과 윤리성을 동시에 구현한 대표적 성공 사례로 평가받는다.

LG AI연구원의 핵심 성과는 세계 최초로 양방향 소통이 가능한 초거대 멀티모달 AI ‘엑사원’의 개발이다. 기존 GPT-3나 하이퍼클로바가 언어에만 특화된 것과 달리, 엑사원은 텍스트를 이미지로, 이미지를 텍스트로 상호 변환할 수 있는 양방향 기능을 구현했다. 해당 기술을 녹여내 최근엔 ‘엑사원 4.0’과 함께 비전 모델 등을 선보였다. 더욱 중요한 것은 이러한 기술 개발과 동시에 AI 윤리 확보를 위한 체계적 접근을 시도했다는 점이다.

LG AI연구원은 AI 연구개발 과정에서 발생할 수 있는 잠재적 위험을 사전에 파악하고 개선하기 위해 연구원에서 진행하고 있는 모든 연구 과제를 대상으로 AI 윤리 영향 평가를 의무화했다. 또 총 70개 과제에서 229건의 잠재적 위험을 식별해 개선 작업을 진행했다.

특히 주목할 만한 것은 ‘데이터 컴플라이언스 에이전트’를 개발해 AI 모델이 학습하는 데이터의 위험을 자동으로 분석하고 위험 등급을 평가하는 시스템을 구축한 점이다. 2025년 2월 공개된 ‘NEXUS(넥서스)’라는 구체적인 도구를 통해 이 기술의 성능이 입증됐다. 허깅페이스에서 1000번 이상 다운로드된 데이터셋 중 216개를 평가한 결과, 종속성 식별은 81%, 라이선스 식별은 95.8%의 정확도를 기록했다. 또한 인간 전문가 대비 45배 이상 빠른 속도로 작업을 처리하면서 비용은 700분의 1 수준으로 절감할 수 있음을 확인했다.

LG AI연구원은 국제 표준화 기구 IEEE-SA(국제전기전자 표준협회)와 계약을 맺고 국내 첫 AI 윤리 평가·인증 기관으로 선정되기도 했다. ‘IEEE CertifAIEd’ 인증 프로그램을 운영하며 기업이 투명성, 알고리즘 편향, 프라이버시, 책임성 등 윤리·안전 분야에서 국제 표준에 부합하고 신뢰할 수 있는 AI 기술을 개발하도록 지원하고 있다.

LG AI연구원은 2022년 8월 인간존중, 공정성, 안전성, 책임성, 투명성 등 5대 핵심 가치를 담은 ‘AI 윤리원칙’을 발표하고, 이를 실제 업무에 적용하기 위한 ‘AI 윤리 점검 태스크포스’를 신설했다. 2024년에는 한 발 더 나아가 ‘LG AI 윤리 책무성 보고서’를 국문·영문으로 공개하며 AI 윤리 활동의 투명성까지 확보했다.

특히 엑사원의 산업 현장 적용 과정에서 보여준 성과가 주목할 만하다. LG전자는 주 단위 제품 판매 수요 예측에, LG이노텍은 카메라 렌즈 최적화 공정에 AI를 도입해 50% 이상의 효율성 개선을 달성했다. 이는 AI 기술의 실질적 비즈니스 가치 창출과 동시에 안전한 AI 적용의 모범 사례를 보여준다.

◇ 글로벌 AI 플랫폼의 책임감 있는 혁신, AWS·세일즈포스 (2023년 공동 대상)

2023년에는 두 글로벌 기업이 공동으로 대상을 수상하며 AI 기술의 안전한 대중화에 대한 새로운 접근법을 제시했다.

AWS는 AI 인프라와 환경 문제 해결의 선도자로 평가받았다. 완전 관리형 생성형 AI 서비스 ‘아마존 베드록’을 통해 기업들이 쉽고 안전하게 AI를 활용할 수 있는 환경을 구축했다. 메타, 앤트로픽, 코히어 등 다양한 AI 기업의 파운데이션 모델을 지원하면서도 개인정보 보호와 보안을 철저히 보장한다는 점이 높게 평가됐다.

AWS의 핵심 안전성 확보 기술은 ‘아마존 베드록 가드레일’이다. 이 시스템은 생성형 AI 애플리케이션에 맞게 조정되고 책임 있는 AI 정책에 부합하는 보호 기능을 구현한다. 고객이 단일 솔루션 내에서 안전성, 개인정보 보호 및 진실성 보장을 사용자 정의하고 적용할 수 있도록 지원한다. 특히 컨텍스트 그라운딩 검사를 통해 참조 소스와 사용자 쿼리를 기반으로 모델 응답에서 환각 현상을 탐지할 수 있다.

특히 AWS의 환경 친화적 AI 기술 개발은 주목할 만하다. ‘AWS 인퍼런시아’와 ‘AWS 트레이니엄’ 기술을 통해 AI 학습과 추론에 필요한 에너지를 최대 50%까지 절감하면서도 성능을 40% 향상시켰다. AI가 '전기먹는 하마'라는 오명을 벗기 위한 구체적 해결책을 제시한 것이다.

세일즈포스는 비즈니스 현장에서의 AI 윤리 실천으로 주목받았다. 2014년 AI 연구소 설립 후 2016년 자체 AI 기술 ‘아인슈타인’을 CRM에 접목하며 고객 접점에서 AI 활용을 선도했다. 2018년 ‘신뢰할 수 있는 AI 원칙’을 수립하고 전사적으로 AI 윤리를 구현한 점이 특히 높게 평가됐다.

세일즈포스의 생성형 AI 안전성 확보의 핵심은 ‘아이슈타인 GPT 트러스트 레이어’다. 이 시스템은 생성형 AI 도입과 관련된 리스크에 대한 우려를 해소함으로써 고객이 기업용 데이터 보안 및 규정 요구 사항을 충족하면서 생성형 AI의 혜택을 누릴 수 있도록 돕는다. 또한 데이터 개인 정보 보호, 보안, 거주지 정보 및 규정 준수 목표를 유지하면서 관련된 LLM에 대한 배포 기능을 제공한다.

세일즈포스는 생성형 AI의 책임 있는 개발을 위한 5가지 지침을 제시했다. △안전성(편향, 유해한 결과물 및 유독성 완화를 위한 레드팀 테스트 수행) △정직성(데이터 출처 존중과 AI 콘텐츠 투명성 확보) △권한 부여(인간의 판단이 필요한 영역에서의 인간-AI 협업) △지속가능성(환경적 영향 최소화) △포용성(다양한 사용자를 위한 접근성 확보) 등이다.

세일즈포스의 독특한 점은 고객사가 별도의 AI 윤리 원칙을 고민하지 않아도 시스템 사용만으로 AI 신뢰도를 높일 수 있도록 설계했다는 것이다. 또한 ‘1% 약속’(자본, 임직원 시간, 제품의 1%를 사회에 환원)을 통해 전 세계 1만 8000개 기업과 함께 사회적 책임을 실천하고 있다.

◇ 신뢰성과 안전성의 집약체, 포티투마루 (2024년 대상)

2024년 대상을 차지한 포티투마루는 AI 기술의 신뢰성 문제를 정면 돌파한 기업으로 평가받는다. 특히 Good AI Awards 첫 해부터 꾸준히 수상자 명단에 이름을 올리며(2022년 우수상, 2023년 최우수상, 2024년 대상) 지속적인 기술 발전과 윤리성 강화의 모범을 보여줬다.

포티투마루의 주목할 만한 성과는 국내 유일하게 공공(TTA)과 민간(AIIA) 양대 AI 신뢰성 인증을 모두 ‘1호’로 보유한 기업이 된 점이다. 2024년 11월 과학기술정보통신부와 한국정보통신기술협회(TTA)의 ‘AI 신뢰성 인증(CAT)’을 국내 LLM 최초로 획득했고, 이어 한국인공지능산업협회(AIIA)의 ‘AI-MASTER’ 신뢰성 인증도 최초로 획득했다.

LLM42는 AI 신뢰성 확보를 위한 위험기준 시험평가 기준인 △책임성 △안전성 △투명성 △다양성 존중 등을 바탕으로 11가지 세부 신뢰성 요구사항에 대한 평가와 검증을 거쳤다. 특히 AI 시스템에 대한 위험관리, 신뢰성 및 추적가능성, 거버넌스 체계, 데이터 활용 정보, 견고성 확보 및 데이터의 편향 제거, 라이브러리 보안성 및 호환성, AI 모델의 편향 제거, 공격에 대한 방어 대책 수립 및 추론 결과에 대한 설명 제공 등 다양하고 촘촘한 세부 항목들을 통과했다.

포티투마루의 핵심 기술력은 생성형 AI의 최대 약점인 할루시네이션(환각) 현상을 해결하는 데 있다. 검색증강생성 기술 ‘RAG42’와 AI 독해 기술 ‘MRC42’의 엔지니어링을 통해 이 문제를 완화하고, 전문 산업 분야에 특화된 경량화 모델 ‘LLM42’를 개발했다.

또 기업용 프라이빗(Private) 모드 지원을 통해 기업 내부 데이터와 민감한 고객 정보 유출 걱정 없이 AI를 활용할 수 있도록 했다. AI 도입을 망설이는 기업들의 핵심 우려사항을 해결했다. 프라이빗 모드를 통해 민감한 데이터를 안전하게 처리할 수 있어 기업 고객에게 특히 유용하다는 평가를 받고 있다.

포티투마루는 기술적 성과뿐만 아니라 사회적 기여에도 앞장섰다. 코로나19, 연말정산, 종합소득세 등 무료 대민 QA 챗봇 서비스를 구축하며 AI 기반 사회 기여를 실천했다. 또한 사내 AI 안전 거버넌스를 확립하여 AI 안전성 분야 발전에도 기여하고 있다.

김동환 포티투마루 대표는 “언어 처리 분야 사업을 하면서 윤리와 신뢰성 문제를 상당히 중요하게 봤고, 처음 사업을 시작할 때부터 AI 안전 시스템과 프로세스를 구축하는 등 여러 노력을 해왔다”면서 창업 초기부터 AI 윤리를 핵심 가치로 설정한 배경을 설명했다.

◇ 2025년, AI 윤리의 새로운 도약을 위한 전진

Good AI Awards 역대 수상기업들의 공통점은 ‘기술 혁신과 윤리적 책임감의 조화’다. LG AI연구원의 체계적 윤리 프레임워크, AWS·세일즈포스의 글로벌 스케일 안전 기술, 포티투마루의 실용적 신뢰성 솔루션은 각각 다른 접근법을 보여주지만, 모두 ‘AI 기술 발전 = 사회적 책임 강화’라는 등식을 실천하고 있다.

오는 2025년 11월 5일 킨텍스에서 개최될 Good AI Awards 2025는 TAS(THE AI SHOW) 2025 전시회와 함께 열린다. 올해 심사위원장은 이지형 성균관대 인공지능대학원장이 맡았다. 심사위원은 △박인규 인하대 인공지능융합연구센터장 △김봉제 서울교대 AI디자인가치판단센터장 △송길태 부산대 AI대학원장 △최영준 아주대 AI대학원 단장 △이경환 전남대 융합바이오시스템기계공학과 교수(농업생산무인자동화연구센터장)로 구성됐다.

Good AI Awards 2025 신청페이지는 곧 열릴 예정이다. 문의는 어워즈 공식 메일(ai@chosun.com)로 할 수 있다.