티스토리 뷰
로봇이 똑똑해질수록 필요한 건 더 강한 AI 칩일까요? 제가 퀀트 자동매매 시스템을 수년간 직접 돌려보면서 깨달은 건 달랐습니다. 알고리즘이 아무리 정교해도 데이터를 제때 공급하지 못하면 그 순간 다 무너진다는 것. 피지컬 AI 시대의 메모리 반도체 이야기가 저한테 남다르게 들리는 이유입니다.
1. 단순 반복 로봇과 피지컬 AI의 결정적 차이: 추론
기존 산업용 로봇이 왜 메모리를 거의 쓰지 않았는지 생각해보면 답은 단순합니다. 사람이 이미 정답을 입력해뒀으니까요. A 지점에서 B 지점으로 부품을 옮기는 동선이 고정된 로봇은, 매 순간 스스로 판단할 필요가 없습니다. 그냥 정해진 스크립트를 반복 실행할 뿐입니다.
피지컬 AI(Physical AI)는 완전히 다른 이야기입니다. 여기서 피지컬 AI란? 카메라와 센서로 현실 세계를 실시간 인식하고, 그 정보를 바탕으로 스스로 판단하고 행동하는 실물 구현 AI를 의미합니다. 부품을 집으려면 카메라로 형태를 파악하고, 불량 여부를 확인하고, 어느 각도로 손가락을 구부려야 할지 순간 추론하고, 행동하고, 다시 관찰하는 사이클이 쉬지 않고 돌아갑니다.
"컵을 싱크대로 옮겨라"를 텍스트로 처리하면 몇 줄이면 됩니다. 하지만 실제 로봇이 컵을 집으려면 영상 데이터, 거리 계산, 공간 좌표, 손가락 관절 상태, 장애물 위치까지 동시에 처리해야 합니다. 글 한 줄이 실물에서는 수천 배의 데이터로 폭발하는 거죠. 이 과정이 작업 내내 반복되기 때문에 메모리 사용량이 기하급수적으로 늘어날 수밖에 없다는 논리는, 제 경험상 충분히 설득력이 있습니다.
에이전틱 AI(Agentic AI) 개념도 여기서 연결됩니다. 에이전틱 AI란? 사람의 지시 없이도 스스로 계획을 세우고 여러 작업을 연속 실행하는 AI를 말합니다. AI 에이전트 10개, 100개를 동시에 돌리면서 24시간 쉬지 않고 일하는 구조가 되면, 단순히 한 번의 추론이 아니라 추론의 누적 총량이 폭발적으로 증가합니다. 매년 메모리 필요량이 2배씩 늘어난다면 10년이면 1,000배가 되는 계산이 나오는 게 이 맥락입니다.
📌 피지컬 AI 메모리 폭증 핵심 요약
- 기존 산업 로봇: 정해진 답을 실행 → 추론 최소 → 메모리 부담 거의 없음
- 피지컬 AI 로봇: 관찰 → 기억 → 판단 → 행동 사이클 무한 반복 → 메모리 폭증
- 에이전틱 AI: 병렬 작업 + 24시간 운용 → 누적 추론량 기하급수적 증가
- 결론: 피지컬 AI는 매 순간 스스로 추론하는 구조이기 때문에 메모리 사용량이 작업 내내 폭발적으로 쌓임
2. 숙련공 로봇을 가르는 건 HBM 대역폭이었다
공장에 처음 투입된 신입 로봇은 실수를 합니다. 당연한 일입니다. 그런데 작업 성공과 실패 경험이 쌓이고, 재학습 과정을 거치면서 점점 숙련공 로봇으로 발전합니다. 운전면허를 막 딴 사람이 20년 경력 택시 기사와 같을 수 없는 것처럼요.
이 숙련의 격차를 만드는 핵심이 바로 메모리의 두 가지 특성입니다. 하나는 용량(얼마나 많은 경험 데이터를 축적하고 보유할 수 있는가), 다른 하나는 대역폭(Bandwidth)입니다. 여기서 대역폭이란 축적된 데이터를 GPU나 NPU 같은 연산 장치에 얼마나 빠르게 전달할 수 있는가를 의미합니다. 창고에 아무리 많은 자료가 있어도 필요한 순간 10분 만에 찾아오면 소용이 없는 것과 같습니다.
테슬라의 FSD(Full Self-Driving) 사례가 이걸 가장 잘 보여줍니다. HW3 버전이 HW4보다 판단 반응이 미세하게 늦다는 이야기가 실제 사용자들 사이에서 나왔는데, 일론 머스크가 직접 언급한 원인 중 하나는 HW3의 실효 메모리 대역폭이 HW4의 약 15% 수준, 즉 약 6.7배 차이가 난다는 점이었습니다. 같은 FSD 지능을 넣어도 데이터를 공급하는 속도가 다르니 판단 속도도 달라질 수밖에 없었던 겁니다.
솔직히 이건 제가 엣지퀀트 트레이딩 시스템을 운용하면서 몸으로 겪은 것과 정확히 같은 상황입니다. 아무리 정교하게 짜놓은 매매 로직도 변동성이 극심한 장세에서 데이터 수집과 전송에 병목 현상이 생겨 주문 처리가 몇 초만 밀리면, 기대했던 수익률은 그냥 날아갑니다. 알고리즘의 문제가 아니라 하드웨어의 문제인데, 처음엔 그걸 몰라서 로직만 계속 뜯어고쳤습니다. 결국 인프라를 바꾸고 나서야 해결이 됐죠. 피지컬 AI도 똑같은 구조라는 확신이 드는 이유입니다.
HBM(High Bandwidth Memory)은 이름 그대로 고대역폭 메모리를 뜻합니다. 기존 DRAM을 수직으로 여러 층 쌓아 한 번에 전달할 수 있는 데이터 폭을 획기적으로 넓힌 구조입니다. 현재 AI 서버와 고성능 그래픽 카드에 탑재되는 핵심 부품이 바로 이 HBM입니다.
📌 숙련공 로봇과 HBM 대역폭 핵심 요약
- 숙련 격차의 원인: 경험 축적 용량 + 축적된 데이터를 연산 장치로 빠르게 보내는 대역폭
- 테슬라 FSD 사례: HW3 대비 HW4의 대역폭이 6.7배 높아 실제 반응 속도 차이 발생
- 퀀트 트레이딩 경험과의 일치: 로직이 아무리 좋아도 인프라(대역폭) 병목이 생기면 성능 저하 발생
- 결론: 숙련공 로봇을 만드는 핵심은 단순 알고리즘 품질이 아닌 필요한 순간 데이터를 순식간에 꺼내주는 HBM 대역폭
3. HBM을 넘어: 휴머노이드 전망과 현실적 걸림돌
HBM이 휴머노이드 안으로 들어오는 미래를 상상하는 분들도 있는데, 저는 그 방향성 자체는 맞다고 보면서도, 속도에 대해서는 조금 다르게 봅니다.
현재 초기 단계 휴머노이드들은 스마트폰에 들어가는 LPDDR 계열 메모리를 주로 씁니다. LPDDR이란? 저전력 더블 데이터 레이트 메모리로, 전력 소모를 줄이는 데 최적화된 모바일용 메모리를 말합니다. 이동형 배터리로 구동해야 하는 로봇에겐 현실적인 선택입니다. 지금 단계에서는 이 정도로도 충분하다는 시각도 있습니다.
그런데 역할이 달라지면 이야기가 바뀝니다. 단순 조립 작업이 아니라, 10년 치 의사결정 경험을 0.1초 안에 꺼내 현재 상황과 결합해 판단해야 하는 고성능 휴머노이드라면 LPDDR로는 감당이 안 됩니다. 이런 온보드(On-board) 환경, 즉 클라우드 서버가 아닌 로봇 내부에서 직접 연산하는 구조에서는 HBM, 또는 DRAM 대신 낸드플래시를 적층해 만드는 HBF(High Bandwidth Flash)처럼 더 진화된 메모리가 들어올 가능성이 있습니다.
다만 저는 여기서 한 가지 현실적인 반론도 짚고 싶습니다. HBM은 발열과 전력 소모가 만만치 않습니다. 배터리로 움직이는 로봇에 탑재하면 작동 시간이 급격히 줄고 단가가 크게 오릅니다. 초저지연 5G·6G 통신망을 활용한 엣지 클라우드 분산 처리 기술이 먼저 대중화될 가능성도 충분히 있습니다. 온보드 HBM이냐, 클라우드 분산이냐, 이 두 경로 중 어느 쪽이 먼저 상용화의 문을 열지는 좀 더 지켜봐야 한다고 생각합니다.
HBM의 아버지라 불리는 김정호 교수가 "AI는 메모리"라고 정의한 배경에는 이런 구조적 이유가 있습니다. 연산 칩이 아무리 빨라도 데이터를 제때 공급받지 못하면 기다려야 합니다. 결국 피지컬 AI의 한계는 AI의 지능이 아니라 그 지능에 먹이를 주는 메모리의 속도와 용량이 결정한다는 관점은, 제가 트레이딩 인프라를 바꿔본 경험에 비춰봐도 과장이 아니라고 느낍니다.
📌 휴머노이드 메모리 전망과 한계 핵심 요약
- 현재 수준: 전력 효율성을 고려하여 모바일용 LPDDR 메모리 위주 탑재
- 고성능 요구: 복잡한 온보드 연산이 필요해질수록 HBM 및 HBF(낸드플래시 적층) 요구 증대
- 상용화 장벽: 고비용, 높은 발열, 배터리 소모 한계 존재
- 대안: 초저지연 통신을 통한 엣지 클라우드 분산 처리 가능성 상존
자주 묻는 질문 (FAQ)
Q. 피지컬 AI랑 그냥 AI 로봇이랑 뭐가 다른 건가요?
A. 기존 산업 로봇은 사람이 미리 입력한 동작을 반복하는 구조입니다. 피지컬 AI는 카메라와 센서로 현실을 실시간 인식하고, 스스로 판단해 행동하는 로봇을 의미합니다. 매 순간 추론이 일어난다는 점이 결정적인 차이입니다. 그래서 요구하는 메모리 용량과 처리 속도의 차원이 다릅니다.
Q. HBM이 비싼데, 지금 당장 휴머노이드에 들어갈 수 있나요?
A. 현재 단계에서는 어렵다는 시각이 현실적입니다. 발열과 전력 소모 문제로 배터리 구동 로봇에 탑재하기엔 제약이 크고 단가 부담도 만만치 않습니다. 단순 조립 수준의 로봇에는 LPDDR 계열로도 충분하다는 의견도 있지만, 복잡한 판단이 요구되는 고성능 휴머노이드로 갈수록 HBM 탑재의 필요성은 점점 높아질 것으로 보입니다.
Q. 테슬라 FSD HW3이 HW4보다 느린 게 메모리 때문이라고요?
A. 가장 큰 요인 중 하나가 메모리 대역폭 차이입니다. HW3의 실효 메모리 대역폭은 HW4의 약 15% 수준으로, 6.7배 차이가 납니다. 같은 FSD 지능을 이식해도 데이터를 연산 칩에 공급하는 속도 자체가 다르니 판단 반응이 느려질 수밖에 없습니다. 지능이 아니라 하드웨어 인프라가 병목이 된 사례입니다.
Q. HBF라는 것도 있던데 HBM이랑 뭐가 다른가요?
A. HBM은 DRAM을 수직으로 쌓아 대역폭을 높인 고성능 메모리입니다. HBF(High Bandwidth Flash)는 DRAM 대신 낸드플래시를 쌓는 방식으로, 용량을 극대화하는 데 초점을 맞춥니다. 속도는 HBM보다 느릴 수 있지만 훨씬 많은 데이터를 담을 수 있어, 장기 경험 데이터를 대량 보유해야 하는 미래 휴머노이드 시장에서 보완재 역할을 할 가능성이 있다는 의견도 있습니다.
5. 결론
피지컬 AI 시대가 오면 메모리 반도체 수요가 1,000배 늘어난다는 전망, 방향성은 맞다고 봅니다. 추론이 많아질수록 메모리 용량과 대역폭이 성능을 결정한다는 구조적 논리는 제가 퀀트 시스템을 직접 운용하면서 체감한 것과 정확히 맞아떨어집니다. 알고리즘보다 인프라가 병목이 되는 순간, 결과가 완전히 달라진다는 건 로봇이든 트레이딩이든 다르지 않습니다.
다만 HBM이 휴머노이드 안으로 들어오는 시점은 생각보다 천천히 올 수 있습니다. 전력·발열·단가의 현실적 장벽과 클라우드 분산 처리 기술의 발전 속도를 함께 보면서, 어떤 형태의 메모리 구조가 어떤 용도의 로봇에 먼저 들어오는지를 지켜보는 것이 지금 단계에서 가장 현명한 접근이라고 생각합니다. HBM 관련 반도체 기업들의 행보나 테슬라·엔비디아의 차세대 하드웨어 스펙 발표를 꼼꼼히 추적해보시길 권합니다.
참고 : 유튜브 채널 <지니어TV> - 피지컬AI 시대 메모리 1,000배 필요…삼성전자가 로봇을 키우는 진짜 이유