Mecatl - 자체 인프라에서 AI 에이전트를 실행하는 클라우드 네이티브 런타임

1 hour ago 2

AI 에이전트를 로컬과 원격 서버, Kubernetes에서 같은 실행 구조로 운영하려는 개발자를 위한 도구
에이전트 실행 루프와 모델, 저장소, 파일 시스템, UI를 분리해 각 구성요소를 교체 가능
도구 호출과 권한 승인, 훅, 대화 압축, 하위 에이전트와 팀 작업 지원
세션과 이벤트 이력을 외부 저장소에 보관해 프로세스가 교체된 뒤에도 저장된 작업 복구 가능
Kubernetes용 런타임은 Redis와 세션 임대를 사용해 여러 복제본이 같은 세션을 동시에 쓰는 것을 조정
터미널 클라이언트와 gRPC, HTTP/SSE, TypeScript SDK를 제공하고, Go 엔진을 앱에 직접 포함 가능
선택적으로 Linux amd64의 microVM 안에서 파일 도구와 Bash 실행, 모델 인증 정보는 호스트에 유지
실제 모델 호출에는 선택한 모델 제공자의 인증과 사용 비용이 필요하며, 오프라인 데모는 API 키 없이 실행 가능
기본 서버는 인증 없는 단일 사용자용이므로 외부 접속을 허용하기 전에 인증과 TLS 설정 필요
Apache 2.0 라이선스

Read Entire Article