AWS, 생성형 AI 답변 검증 서비스 도입…신뢰도↑

아마존웹서비스(AWS)가 생성형 인공지능(AI)의 답변 신뢰도를 높이기 위해 아마존 베드록 가드레일에 '자동 추론 검사' 서비스를 정식 도입했다.

이 서비스는 수학적 검증 방식으로 생성형 AI 답변의 정확성을 최대 99%까지 검증한다는 게 회사 측 설명이다.

이 서비스는 △대용량 문서 처리(최대 8만 토큰, 약 100페이지 분량 문서) △사용자가 생성한 검증 테스트 저장 및 반복 실행 △사용자 정의 기반 테스트 시나리오 자동 생성 등의 기능을 제공한다.

통계적 샘플링이나 사람의 검토에 의존하는 기존 접근법과 달리, 자동 추론 검사는 형식 검증 기법을 활용한다. 이는 10여년간 AWS 클라우드 인프라를 보호해 온 것과 동일한 수학적 방법으로, 정의된 비즈니스 규칙과 도메인 지식에 따라 AI 출력 결과가 적합한지 검증한다.

이 서비스는 현재 미국 동·서부, 유럽 등의 AWS 리전에서 제공된다.

AWS 관계자는 “이 서비스는 에이전트형 AI 워크플로우와 원활하게 통합되며, 각 행동이 실행되기 전에 이를 검증하고, 포괄적인 감사 추적을 유지한다”며 “이는 인간의 지속적인 감독 없이 결정을 내리는 자율 시스템에 필수적인 기능”이라고 설명했다.

현대인 기자 modernman@etnews.com