OpenAI에 대한 회고

1 day ago 2

저자는 2024년 5월 입사 후 1년 남짓 OpenAI에서 일하고 퇴사, 사내 문화와 실제 일하는 분위기에 대해 솔직하게 서술함
초고속 성장(1,000명→3,000명) 속에서 내부 프로세스·조직·문화·일 방식이 빠르게 변하고 있음
바텀업/실력주의 문화, 독특한 슬랙 중심 협업, 높은 실행력, 리더십의 가시성과 신속한 방향 전환, 그리고 '** 코드가 답**'이라는 태도가 조직 곳곳에 녹아 있음
세부 팀 문화·업무 속도·조직 유연성이 강하며, 연구자 개인의 '미니 경영자'적 자율성, 중복 프로젝트 및 사내 아이디어 실험이 빈번함
OpenAI는 외부 시선과 언론의 집중 감시, 실질적인 보안/비밀주의, 그리고 AGI/소비자 서비스라는 사명감과 긴장감을 동시에 가진, 야심차고 진지한 조직이라고 설명

서론 및 개인적 배경

2024년 5월에 입사하여 최근 OpenAI를 퇴사하게 되었음
이 글을 통해 OpenAI에서 느꼈던 실제 문화와 개인적인 시각을 공유하고자 함
내부 비밀은 없으며, 역사적으로 흥미로운 조직의 현재 모습과 직원의 작은 창구로서 경험을 담고 있음
퇴사 결정에는 개인적 갈등이 있었으나, 스타트업 창업자에서 대규모 조직 직원으로 전환함에 따른 신선함에 대한 갈망이 있었음
AGI 구축에 참여한 경험과 Codex 출시에서 직접 기여한 점은 대단히 의미 있었음

조직 문화

입사 시점 1,000명, 1년 뒤 3,000명 돌파 등 비정상적으로 빠른 성장 경험
빠른 확장으로 인해 커뮤니케이션, 보고 체계, 제품 출시, 조직 관리 등에서 다양한 문제가 발생함
모든 의사소통·업무가 Slack 중심, 이메일 거의 사용하지 않음
팀마다 문화/페이스 차이가 큼, 연구, 적용, GTM(Go-To-Market) 등 시간 흐름도 다름
실질적인 바텀업·실력주의가 강하며, 연구자·개발자 개인이 주도적으로 실험·의사결정함
성과 기반, 실력 우선의 조직 문화로, 정치적 능력보다는 실행력과 아이디어가 중요함
공식 로드맵 없이, 좋은 아이디어를 중심으로 팀이 자연스럽게 모이고, 빠르게 방향 전환하는 경향
리더십은 실행력(doing the right thing), 변화에의 민첩성을 중요시
내부적으로 중복 개발/병렬 실험 많고, 여러 프로토타입이 자생적으로 만들어지며, '코드가 움직이는 조직'임
리더들은 정치적 역량보다 실제 아이디어 실행 능력에 더 비중을 둠
연구자들은 "미니 경영진"처럼 각자 주도적으로 문제 해결에 몰두함
유능한 연구 관리자와 PM의 영향력이 매우 큼
ChatGPT EM들은 매우 신뢰할 만하며, 좋은 인재를 고용해 자율성을 부여함
방향 전환의 속도가 매우 빠르며, 결정 후 즉시 실천함

업무 방식과 분위기

Slack 채널·권한 구조가 복잡하고, 모든 소통이 Slack에서 이루어짐
연구팀/PM/EM(엔지니어링 매니저) 등 역할별로 각기 다른 방식, 팀 간 이동과 협업 유연성이 매우 높음
외부 보안·언론 노출에 매우 민감하여, 실적/매출 등 내부 정보는 철저히 관리됨
실제 구성원들은 '옳은 일'을 하려는 동기가 강함, 외부에서 생각하는 것만큼 냉소적이지 않음
OpenAI는 여러 하위 문화가 혼재한 '로스앨러모스(핵 연구소)+초대형 소비자 서비스' 혼합형 조직으로 비유
AI 혜택의 폭넓은 배포를 중시, 최첨단 모델도 엔터프라이즈에만 한정하지 않고, 누구나 API/ChatGPT로 사용 가능하게 공개함

안전 및 내부 정책

AI 안전 이슈는 실제로 내부에 많은 인력·자원이 투입되어 있음
실질적으로는 혐오발언, 오남용, 정치적 편향, 프롬프트 인젝션, 자기해 손해 등 실제 위험을 더 많이 다룸
이론적 위험(지능 폭주, 파워시킹)은 일부 인력이 전담하지만 주류는 아님
안전 관련 연구나 시스템의 상당 부분은 외부에 공개되지 않고 있음

개발 환경과 기술

거대한 모노레포(mono-repo) 와 Python 중심, Rust/Golang 일부 도입, 스타일 가이드 강제 거의 없음
- Google 출신 고참이 설계한 대규모 시스템과, 신규 박사가 작성한 Jupyter notebook이 혼재되어 있음
- FastAPI 중심 API, Pydantic 데이터 검증 사용이 두드러짐
모든 인프라는 Azure 위에서 구동
- 신뢰할 만한 서비스는 Azure Kubernetes Service, CosmosDB, BlobStore 정도로 한정적임
- IAM 수준 및 일부 서비스는 AWS에 비해 미흡하며, 사내 자체 개발 지향
Meta(구 Facebook) 출신 엔지니어 대거 유입
- 인프라 감성과 코드베이스가 Meta/Instagram 초기와 유사함
- 예: TAO 재구현, 인증 체계 통합 등 자체 시스템 개발 흔함
중복 코드·도구/큐 관리 라이브러리·대규모 백엔드(monolith) 관리 등 급성장 조직의 고질적 문제를 실감, CI 속도/안정성 이슈 존재
Chat 메시지·대화 구조가 코드 곳곳에 깊이 내재, 제품마다 반복적으로 활용
'코드가 이긴다(Code wins)': 중앙 기획위원회 없이 실제로 일하는 팀의 코드가 표준이 됨
- 결정 권한은 해당 작업을 직접하는 팀에 있음, 코드에 의한 실력과 실행 우위 체계

소비자 브랜드와 비즈니스 관점

Consumer 브랜드의 거대함: 핵심 지표는 팀 단위가 아닌 개인 사용자 구독 기준으로 운영함
- 프로덕트 성장·트래픽은 '프로 구독자 수' 등 소비자 단위로 측정, B2B 조직 출신인 저자에게 신선한 충격
모델 학습·실험은 소규모에서 시작해, 성공시 대규모 분산 시스템 엔지니어링으로 확장되는 구조
GPU 비용이 압도적 비중을 차지, 사소한 기능조차 방대한 GPU 리소스가 필요
- GPU 사용량 산정과 벤치마킹: 요구되는 지연시간/토큰 수 등 사용자 경험 기준에서 역산함
대규모 Python 코드베이스 운용 노하우: 개발자 수가 증가함에 따라 기본 작동, 테스트, 오용 방지 등 다양한 가드레일 필요

팀 운영과 리더십

리더십은 매우 가시적이고 직접 참여하며, 모든 임원이 Slack에서 수시로 논의 참여
팀 이동·협업 매우 빠름, 타 팀 요청에도 즉시 응원군 투입, 대기나 절차 없음
사내 스왝(swag)도 드물고, 내부적으로 한정 판매 형식으로만 제공

Codex 런칭 경험

최근 3개월, Codex 출시가 커리어 하이라이트였음
2024년 11월 2025년 내 코딩 에이전트 출시 목표 수립, 2025년 2월 경 내부 도구 완성 및 시장 경쟁 속도에 대한 압박을 느낌
Codex 런칭을 위해 팀이 합쳐져 7주 만에 완제품(코딩 에이전트) 완성 및 출시, 짧은 개발 기간 내 영향력 있는 제품을 빠르게 구현함
- 실제로 밤샘, 주말 근무, 신생아 육아를 병행하며 YC 당시 느낌을 재현함
- 컨테이너 런타임, repo 최적화, 커스텀 모델 파인튜닝, git 연동, 인터넷 접근 등 다양한 기능을 신속하게 구현함
- 팀 구성은 시니어 8명 엔지니어, 4명 연구원, 2명 디자이너, 2명 GTM, 1명 PM 등 고참 위주의 소수 정예 팀
런칭 전날, 직접 배포 등 마무리 작업에 집중
런칭 당일 트래픽 폭주, ChatGPT 사이드바에 등장한 것만으로도 즉시 대규모 유입 발생
Codex는 비동기 에이전트 방식(사용자-에이전트 메시지→작업→PR 결과 반환) 채택
- 독립 실행 환경에서 사용자 요청을 처리하여 협업자처럼 PR 결과를 반환하는 구조
- 아직 모델 성능의 신뢰와 한계가 혼재되어 있음
- 다중 태스크 실행, 대형 코드베이스 이해 능력 등에서 Codex의 차별성이 존재함
출시 53일 만에 630,000 개의 PR 생성, 엔지니어 1인당 78,000개 이상의 PR을 기록하며 압도적인 임팩트 창출

마무리 및 교훈

큰 조직에서 일하는 것에 대한 두려움이 있었으나, 돌아보면 최고의 결정 중 하나로 학습과 성장의 기회였음
목표했던 모델 훈련에 대한 직관, 우수한 동료와 협업, 임팩트 있는 제품 출시 모두 달성함
대규모 파이썬 코드베이스 관리 노하우 습득, 실전 GPU 벤치마킹/용량 산정 등을 실제 경험함
스타트업 창업자거나 진로 고민이 있다면 더 적극적으로 도전하거나, 거대 연구소 합류를 고려할 만한 시점임
AGI를 향한 경쟁은 3마리의 말, 즉 OpenAI, Anthropic, Google이 각각 다른 방식을 추구 중이며, 이 중 한곳에서 일하는 경험은 지평을 넓혀줄 것임
OpenAI 경험은 창업가이자 엔지니어로서 최고의 선택 중 하나로 평가함