길길인사이트
시리즈B 3억 달러 유치, 몸값 30억 달러 인정받은 짐렛랩스
AI 인프라 스타트업 짐렛랩스(Gimlet Labs)가 시리즈B 라운드에서 3억 달러(약 4,038억 원)를 조달하며 기업가치 30억 달러를 인정받았습니다.
이번 투자는 앤드리슨호로위츠(a16z)가 주도했으며 ARM홀딩스, 마이크로소프트 벤처캐피털 M12, 삼성벤처스 등이 참여했습니다. 시드와 시리즈A를 포함한 누적 투자액은 3억 9,200만 달러에 달합니다.
짐렛랩스는 2023년 스탠퍼드대 연구 프로젝트에서 출발한 기업입니다. 쿠버네티스 옵저버빌리티 기업 '픽시'를 창업해 뉴렐릭에 매각했던 자인 아스 CEO와 핵심 인력들이 다시 모여 설립했습니다.
빅테크와 칩 제조사들이 앞다퉈 지분을 확보한 점을 보면, 시장의 관심이 AI 모델 학습을 넘어 실제 서비스 운영 비용을 결정하는 '추론 인프라'로 옮겨갔음을 명확히 보여줍니다.
GPU 몰아주기 대신 작업별로 칩을 나누는 '멀티 실리콘'
짐렛랩스는 새로운 AI 칩을 직접 만들지 않습니다. 대신 GPU, CPU, 전용 가속기(NPU 등)처럼 서로 다른 반도체를 소프트웨어로 묶는 '멀티 실리콘 추론 클라우드'를 제공합니다.
AI 추론은 단계마다 요구하는 하드웨어 자원이 완전히 다릅니다.
- 프리필(Prefill) 단계: 입력된 프롬프트 데이터를 한 번에 처리하므로 대규모 연산 성능이 필요합니다.
- 디코드(Decode) 단계: 답변 토큰을 하나씩 순차 생성하므로 연산력보다 메모리 대역폭이 훨씬 중요합니다.
기존 방식처럼 고가의 최신 GPU 하나에 이 모든 과정을 몰아넣으면 특정 단계에서 자원 낭비가 발생합니다. 짐렛랩스는 자체 컴파일러와 런타임 소프트웨어로 각 단계에 가장 효율적인 칩을 배분합니다.
회사 측은 이 방식으로 이기종 반도체를 운용할 경우 동일한 전력과 비용 조건에서 처리량과 상호작용 성능을 3배에서 최대 10배까지 개선할 수 있다고 설명합니다.
소프트웨어를 넘어 수백MW급 데이터센터 인프라로 확장
짐렛랩스는 소프트웨어 공급에 그치지 않고 데이터센터 인프라 영역으로 사업을 확장하고 있습니다.
서로 다른 종류의 칩을 한 랙에 꽂아 운용하려면 반도체마다 다른 전력 밀도, 발열량, 네트워크 대역폭, 냉각 방식을 물리적으로 맞춰야 하기 때문입니다.
자인 아스 CEO 역시 기존 데이터센터 설계가 이기종 하드웨어 운용에 최적화되어 있지 않아 직접 인프라 구축 지원과 자체 인프라 확보에 나섰다고 밝혔습니다. 회사는 지난 3월 이후 수십억 달러 규모의 계약을 따냈으며 관리 용량도 수백MW 수준으로 늘렸습니다.
저는 엔비디아 단일 생태계에 갇힌 데이터센터의 비용 한계를 뚫기 위해 이 같은 이기종 오케스트레이션 기술이 앞으로 클라우드 업계의 필수 계층으로 자리 잡을 가능성이 크다고 봅니다.
