엔비디아 이후의 AI #3 — Groq, 생각의 속도를 바꾸다
작성일: 2025년 10월 7일
AI 반도체 시장이 엔비디아 중심으로 폭발하던 2024년, 조용히 세상을 뒤흔든 이름이 하나 있다.
그 이름은 Groq. GPU의 시대를 넘어, AI가 ‘얼마나 빨리 판단할 수 있는가’를 경쟁하는 새로운 시대를 연 기업이다.
1. Groq란 어떤 기업인가
Groq는 2016년 미국 캘리포니아 마운틴뷰에서 탄생한 인공지능 반도체 스타트업이다.
이 회사의 핵심 제품은 LPU(Language Processing Unit)라는 전용 칩으로,
AI가 학습된 모델을 실행할 때 ‘추론(inference)’ 속도를 비약적으로 높이는 역할을 한다.
우리가 ChatGPT 같은 AI에게 질문을 던졌을 때, 그 답변이 몇 초 만에 나오는가가 바로 추론 속도다.
Groq는 이 ‘AI의 반사신경’을 바꾸는 기술을 만들고 있다.
그래서 이 회사의 기술은 GPU와 완전히 다르다.
GPU가 AI의 몸을 움직이는 근육이라면, Groq의 LPU는 AI의 반사신경이다.
현재 Groq는 비상장 기업으로, 2025년 기준 기업가치가 약 69억 달러(한화 약 9조 원)에 달한다.
사우디아라비아로부터 15억 달러 규모의 투자를 약속받았으며, 향후 2026년 전후로 IPO(기업공개)를 추진할 가능성이 높다고 평가된다.
2. 창업자 Jonathan Ross — “AI의 속도를 바꾸겠다”
Groq의 창업자이자 CEO인 Jonathan Ross는 원래 구글의 TPU(Tensor Processing Unit) 개발 핵심 엔지니어였다.
그는 구글에서 ‘학습이 아니라 추론 속도’에 집중해야 한다는 결론에 도달했고,
그 신념으로 직접 Groq를 설립했다.
Ross의 철학은 명확하다.
“AI가 세상을 바꾸려면, 더 빠르고 예측 가능한 두뇌가 필요하다.”
그는 Groq의 모토를 이렇게 표현한다 — “Every. Word. Matters.”
즉, AI가 문장을 처리할 때 단어 하나하나의 순서와 속도, 그 정확도를 통제할 수 있어야 진짜 ‘생각하는 기계’가 된다는 뜻이다.
이 철학은 곧 Groq의 하드웨어 구조에 그대로 반영되었다.
GPU처럼 복잡한 병렬 연산 대신, 예측 가능한 경로로 데이터를 흐르게 하는 결정론적(deterministic) 설계를 채택한 것이다.
이 단순하지만 강력한 철학은 Groq의 모든 기술의 중심이 된다.
AI가 더 많은 데이터를 배우는 것보다, 얼마나 빠르게 반응하느냐가 앞으로의 경쟁력이라는 판단이다.
3. Groq의 기술, 인간형 로봇의 두뇌로 확장되다
이제 많은 전문가들이 Groq의 칩이 향후 휴먼로봇(Humanoid Robot)의 두뇌로 쓰일 가능성을 주목하고 있다.
그 이유는 단순히 “빠른 AI 칩이니까”가 아니다.
Groq의 구조 자체가 ‘인간의 신경 체계’와 유사하기 때문이다.
① 반사신경 수준의 반응 속도
로봇은 사람처럼 행동하려면, 눈으로 본 정보를 해석하고 즉시 판단해 움직여야 한다.
Groq의 초저지연 구조는 이 과정을 거의 지연 없이 처리한다.
GPU가 ‘생각하는 두뇌’라면, Groq는 ‘반사적으로 움직이는 신경’이다.
이 덕분에 로봇이 “계단을 오르거나 손을 뻗는 순간”의 미세한 타이밍을 정교하게 제어할 수 있다.
② 예측 가능한 움직임
Groq의 LPU는 ‘입력과 출력의 시간이 항상 일정한’ 결정론적 구조를 갖고 있다.
로봇이 계단을 오를 때 0.05초라도 판단이 늦어지면 균형을 잃는다.
Groq 칩은 이런 변수를 없애기 때문에, 로봇 동작의 일관성과 안정성을 보장한다.
③ 낮은 전력과 발열 — 로봇 몸에 직접 탑재 가능
GPU는 크고 전력 소모가 커서 대부분 데이터센터 안에서만 작동하지만,
Groq 칩은 발열이 적고 전력 효율이 높다.
즉, 로봇의 몸속에 직접 장착할 수 있다.
이건 단순한 효율이 아니라, “AI를 물리적으로 인간화”하는 기술적 전제다.
④ 실제 산업 적용 움직임
2025년 Groq는 Robotics Edge 팀을 신설하며, 자율주행·로봇·엣지 추론 전용 기술 개발에 착수했다.
사우디아라비아의 Neom Robotics 프로젝트에서도 Groq 칩을 테스트 중이며,
미국 DARPA 역시 로봇 제어용 AI 하드웨어 실험에 Groq를 벤치마크로 채택했다.
4. Groq의 비전 — “AI가 반응하는 세상”
엔비디아가 AI의 ‘몸’을 만들었다면, Groq는 AI의 ‘반사신경’을 만든다.
이 회사가 추구하는 건 단순히 빠른 칩이 아니라,
세상이 AI와 상호작용하는 방식 자체를 바꾸는 것이다.
Ross는 이를 “실시간 사고(Real-time Intelligence)”라고 부른다.
AI가 생각하는 존재에서, ‘즉시 반응하는 존재’로 바뀌는 순간 —
Groq의 시대가 열린다.
5. 다음 편 예고
다음 포스팅에서는 AI 인프라 플랫폼 기업 C3.ai의 성장 전략과 산업 구조를 분석한다.
이 시리즈는 ‘AI 반도체 전쟁’의 흐름 속에서,
엔비디아 이후의 시장 주도 기업들을 연속적으로 다루는 프로젝트입니다.
시리즈 내비게이션
alt="Groq AI Processor Illustration" style="width:100%; border-radius:8px; margin-top:16px;"/>
댓글
댓글 쓰기