메타의 하이퍼스케일 인프라 개요 및 통찰

Meta의 하이퍼스케일 인프라: 개요 및 통찰

주요 통찰

• Meta의 엔지니어링 문화는 빠른 실행, 기술 개방성, 생산 환경에서의 연구, 그리고 공유 인프라를 강조함.
• 개발자 생산성을 높이기 위해 Meta는 지속적 배포를 채택하고, 더 많은 개발자가 전통적인 서비스 코드 대신 서버리스 함수를 작성할 수 있도록 함.
• 하드웨어 비용 절감을 위해 Meta는 데이터센터 규모에서 하드웨어-소프트웨어 공동 설계를 활용하고, 개별 클러스터에 제한하지 않고 전 세계 데이터센터 간의 자원 할당을 자동으로 최적화함.
• Meta의 AI 전략은 PyTorch에서 AI 가속기, 네트워크, Llama와 같은 ML 모델까지 전체 스택을 공동 설계함.

엔지니어링 문화

• 빠른 실행: Facebook은 초기부터 빠른 실행 문화를 강조하며, 지속적인 소프트웨어 배포에 강한 의지를 보임.
• 기술 개방성: Meta는 내부적으로 모노레포 접근 방식을 채택하여 코드 발견과 재사용을 촉진하고, 팀 간 기여를 장려함.
• 생산 환경에서의 연구: Meta는 전용 시스템 연구실 없이 생산 시스템을 개발하는 팀이 연구 논문을 작성함.
• 공통 인프라: Meta는 표준화와 글로벌 최적화를 우선시하며, 서버와 소프트웨어 측면에서 공통 인프라를 구축함.

사용자 요청 흐름

• 요청 라우팅: Meta의 DNS 서버는 사용자 요청을 가까운 PoP로 동적으로 매핑하여 TCP 연결을 최적화함.
• 정적 콘텐츠 캐싱: PoP와 CDN 사이트에서 정적 콘텐츠를 캐싱하여 사용자 요청을 처리함.
• 동적 콘텐츠 요청 라우팅: PoP는 데이터센터 지역으로 요청을 전달하며, 트래픽 엔지니어링 도구가 최적의 트래픽 분배를 계산함.

개발자 생산성 향상

• 지속적 배포: Meta는 코드와 구성의 지속적 배포를 통해 빠른 피드백과 신속한 반복을 가능하게 함.
• 서버리스 함수: Meta의 개발자들은 주로 서버리스 함수를 사용하여 인프라 관리 부담을 덜고, 제품 로직에 집중할 수 있음.

하드웨어 비용 절감

• 글로벌 데이터센터를 하나의 컴퓨터로: Meta는 글로벌 데이터센터를 하나의 컴퓨터로 간주하여 자원 할당을 자동으로 최적화함.
• 하드웨어 및 소프트웨어 공동 설계: Meta는 저비용 하드웨어의 한계를 극복하기 위해 소프트웨어 솔루션을 활용함.
• 인하우스 하드웨어 설계: Meta는 자체 데이터센터와 하드웨어를 설계하여 비용과 전력 효율성을 개선함.