Astra, 가중치를 읽고 수정해 Qwen을 개선할 수 있음

GPT-6 Astra가 학습 루프나 경사하강법 없이 신경망 가중치를 직접 해석하고 수정하는 초기 실험에서, 모델의 동작 식별과 오류 수정, 새 신경망 작성 능력을 보임 Qwen3.5-0.8B의 가중치 0.016%를 수정해 반복 추론을 줄였으며, 같은 샘플링 설정에서 MATH-500은 7.9%에서 48.1%, IFEval은 21.0%에서 62.3%로 높아짐 작은 신경망에서는 실행 없이 가중치만 읽고 학습한 게임과 언어를 식별했으며, 입출력층을 제거한 언어 모델에서도 텍스트 복사를 담당하는 어텐션 헤드를 정확히 찾아냄 환경 피드백 없이 한 번에 작성한 MinAtar 게임 신경망은 세 게임 모두에서 PPO로 1억 스텝 학습한 모델을 앞섰고, 바둑에서는 제한된 실행 피드백을 활용해 더 큰 모델의 가중치도 작성함 다만 가중치만으로 아첨 성향을 구분하지 못했고, 반복 추론이 드문 Gemma 3 270M의 수학 능력도 유의미하게 개선하지 못함 가중치 공간 프로그래밍의 접근법 가중치 공간 프로그래밍(Weight-Space Programming) 은 범용 LLM이 자연어 명세에 맞춰 신경망의 가중치를 직접 읽고 쓰는 방식임 옵티마이저나 경사하강법을 거치지 않고, 각 부분이 어떤 계산을 수행하거나 수행해야 하는지 추론해 가중치를 변경함 일부 실험에서는 도구와 환경 피드백도 제공하지 않으며, 규모가 큰 실험에서는 Python과 제한된 순전파(forward pass)를 허용함 기존 LLM 기반 최적화가 프롬프트, 프로그램, 하네스, 학습 코드와 하이퍼파라미터를 다뤘다면, 이번 실험은 추론 기반 최적화를 미분 가능한 신경망 자체로 확장함 기존 가중치 작성 방식에는 최적화, 가중치 생성용으로 학습한 신경망, 형식적 프로그램을 변환하는 컴파일러가 있음 기계적 해석 가능성 연구는 회로와 특징을 추적하고 가중치를 편집하며, LLM도 활성값이나 가중치 해석 전용 모델 또는 개별 뉴런의 설명 도구로 활용돼 왔음 경사 정보가 없는 최적화도 대체로 시행착오로 가중치를 찾으며, AdderBoard에는 코딩 에이전트가 아주 작은 트랜스포머의 가중치를 직접 설정하는 사례가 있음 이번 접근의 차별점은 별도 학습하지 않은 범용 프런티어 모델이 가중치 자체를 읽고 쓴다는 점임 실험 1~3: 실행하지 않고 신경망의 동작 읽기 게임 식별 실험에서는 Breakout, Pong, Pac-Man, Freeway의 자체 10×10 격자 버전을 PPO로 학습하고, Ast...