Codemode란 무엇인가

1 hour ago 3

Codemode는 LLM이 코드로 도구 호출을 조합하고 복잡한 작업을 조율하는 방식으로, bash가 실행되는 환경이 아니라 하네스 내부에서 동작함 Pi는 JavaScript를 실행하는 별도 샌드박스를 통해 병렬 호출, 반복 처리, 호출 간 상태 보존을 지원하며, 중간 결과를 모두 LLM 컨텍스트에 넣지 않고 처리할 수 있음 CLI와 bash는 실행 가능한 프로그램을 조합하는 데 적합하지만, 이미지 페이로드 전달이나 하위 에이전트 제어처럼 하네스가 직접 관여해야 하는 작업까지 대체하기는 어려움 MCP 도구의 점진적 탐색과 코드 기반 호출이 가능하지만, 서버 내부에도 Codemode가 있으면 코드가 중첩되고 작은 모델이 혼동하기 쉬워짐 Codemode와 MCP의 원활한 결합에는 구조화되고 일관된 결과, 대용량 바이너리 지원, 여러 서버에 걸친 도구 검색이 필요하며, 실행 내구성과 작은 모델의 활용 능력도 미해결 과제임 CLI 중심 접근과 Codemode의 관계 기존의 Code Is All You Need와 MCP needs code는 사용자 정의 도구나 MCP 서버의 도구를 컨텍스트에 넣기보다 스크립트 활용을 권장했으며, Pi 1.0은 Codemode를 통한 MCP 지원을 추가함 이는 CLI 권장의 철회가 아님. MCP 생태계도 코드 활용으로 이동하고 있으며, Codemode는 MCP를 넘어 하네스 안에서 에이전트가 더 자유롭게 작업을 조합하는 수단임 bash만으로 하네스 도구를 대체하기 어려운 이유 Pi 같은 하네스(harness) 는 모델에 도구 정의를 제공하고, 서버 측에서는 이를 토큰 구조로 변환함 모델이 도구를 호출하도록 유도되는 방식은 강화학습의 결과이며, 관련 논의는 모델과 도구에 관한 이전 글에서 확인할 수 있음 CLI와 bash는 호출을 쉽게 조합할 수 있고, 모델은 훈련 과정에서 파일 시스템의 동작도 학습함 echo foo > /tmp/test.txt를 실행하면 /tmp에 test.txt가 생긴다는 관계를 이해함 bash는 실행 가능한 프로그램만 조합할 수 있으므로, 일부 기능은 LLM용 네이티브 도구로 남아야 함 read나 view_image로 이미지를 읽을 때는 하네스가 실제 이미지 페이로드를 LLM 프로토콜에 주입해야 하므로 cat으로 대체할 수 없음 하위 에이전트 생성과 조율도 하네스 도구 없이 처리하기 까다로움 환경 변수와 Unix 소켓으로 외부 하네스와 통신하는 CLI를 만들 수는...

Read Entire Article