구글 클라우드, 에이전트 시대 인프라 확장…TPU·SW 동시 강화

지난 6일 진행된 구글 클라우드 'AI 인프라 미디어 라운드테이블'에서 마크 로메이어 구글 클라우드 사장이 발표하고 있다. 〈사진=미디어 브리핑 갈무리〉 구글 클라우드가 인공지능(AI) 에이전트 확산에 맞춰 자체 가속기 텐서처리장치(TPU)와 소프트웨어 지원을 확대한다. 보안과 대규모 정보 처리에 특화한 시스템을 늘리고, 기존 개발 환경과의 호환성을 높여 기업 고객 저변을 넓힌다는 전략이다. 마크 로메이어 구글 클라우드 사장 겸 AI 및 컴퓨팅 인프라 부문 부회장(VP)은 최근 온라인으로 진행된 'AI 인프라 미디어 라운드테이블'에서 에이전트 시대에 필요한 AI 인프라 전략을 설명했다. 로메이어 사장은 “칩만 보고 인프라를 최적화할 수 없다”며 “메모리와 네트워크, 작업을 관리하는 소프트웨어 중 어느 하나라도 병목이 되면 전체 시스템의 성능을 제한할 수 있다”고 말했다. 에이전트가 기업 업무를 맡으려면 내부 문서와 데이터에 접근하면서 여러 모델과 도구를 호출해야 한다. 한번의 요청이 수많은 연산으로 이어지고, 작업에 필요한 정보를 오래 유지해야 하는 만큼 데이터 보호와 처리량, 메모리 활용 효율이 중요해지고 있다고 강조한 것이다. 구글은 칩부터 네트워크·저장장치·소프트웨어까지 함께 설계하는 'AI 하이퍼컴퓨터' 전략으로 대응한다는 계획이다. 구글 내부의 AI 연구와 서비스 운영 경험을 인프라 개발에 반영해 변화하는 수요에 저극 대응할 방침이다. 로메이어 사장은 “인프라 엔지니어가 딥마인드 연구진, 검색·유튜브 같은 서비스 조직과 긴밀하게 협력한다”며 “차세대 에이전트에 필요한 인프라 수요를 먼저 파악하고 개발에 반영할 수 있다”고 설명했다. 구글은 이러한 수요에 맞춰 'TPU 8tx'와 'TPU 8i Max'를 추가해 8세대 제품군을 네 종류로 확대한다. 지난 4월 '구글 클라우드 넥스트'에서 선보인 대규모 학습용 'TPU 8t'와 저지연 추론용 'TPU 8i'를 바탕으로 시스템 구성을 다양화한 것이다. 8tx는 8t에 추론 중 데이터·모델 보호 기능과 저지연 네트워크를 더해 민감한 정보를 다루는 기업을 겨냥했다. 8i Max는 8i 칩 두 개를 결합해 연산 성능과 메모리 처리 능력을 높여 여러 에이전트가 방대한 정보를 동시에 처리하도록 설계했다. 기업의 실제 도입으로 연결하려면 개발 환경을 바꾸는 부담도 낮춰야 한다. 구글은 메타 등과 협력한 '토치TPU'를 통해 기존 파이토치 모델과 코드·도구를 유지한 채 ...