트렌드 경제노트

AI 서버 한 대 구축하는 데 전기세가 장비값보다 더 나온다는 말, 믿어지십니까? 저는 실제로 그 견적서를 손에 들고 한참을 멍하니 있었던 기억이 있습니다. 엔비디아 GPU 중심의 AI 인프라가 고비용·고전력 문제로 한계에 부딪히는 지금, 신경망처리장치(NPU)를 앞세운 국내 팹리스 스타트업 퓨리오사AI의 행보가 조용히 주목받고 있습니다. 과연 NPU는 GPU의 독점 구조를 흔들 수 있을까요?AI 반도체 시장, 지금 왜 흔들리고 있나?혹시 AI 서버 구축 비용을 직접 알아보신 적 있으십니까? 저는 몇 해 전 데이터 처리 자동화 시스템을 현장에 도입하려고 엔비디아의 최신 GPU 서버 견적을 뽑아봤다가 그 자리에서 프로젝트를 접을 뻔했습니다. 장비 가격은 물론이고, 쿨링 시스템과 전력 설비 비용이 장비값의 ..

연매출 29억 원짜리 스타트업이 메타로부터 1조 2,000억 원 규모의 인수 제안을 받았습니다. 그리고 거절했습니다. 처음 이 소식을 접했을 때 솔직히 믿기지 않았습니다. 제가 기획 업무를 하면서 수없이 목격한 건, 아무리 좋은 기술을 가진 팀도 결국 '돈 앞에서 방향을 튼다'는 현실이었거든요. 그런데 퓨리오사AI는 달랐습니다. 그 배경을 파고들수록 이 회사가 단순히 운이 좋은 게 아니라는 걸 확신하게 됐습니다.전력효율로 판을 뒤집은 추론칩의 진짜 계산엔비디아의 최상위 AI 가속기인 H100은 단일 칩 기준으로 700W 수준의 전력을 소비합니다. 반면 퓨리오사AI의 2세대 칩 레니게이드(Reno)는 180W로 설계되었습니다. 단순 비교로도 4분의 1 수준인데, 이게 왜 이렇게 큰 차이를 만드는 걸까요? ..

미국의 데이터센터 회사가 변압기 하나를 주문했더니 납품 예정일이 5년 후라는 답이 돌아왔습니다. 처음 이 얘기를 접했을 때 솔직히 '설마'라는 생각부터 들었습니다. 그런데 따져보면 따져볼수록, 이게 단순한 공급망 문제가 아니라는 게 보입니다. AI 시대의 몸통을 실제로 만들어내는 나라가 어딘지, 그 현실이 숫자로 드러나고 있습니다.HBM — '돈 먹는 하마' 팀이 AI 시대의 심장을 쥔 이야기2015년 무렵 SK 하이닉스 내부에서 HBM(High Bandwidth Memory) 개발팀은 사내 조롱의 대상이었습니다. 여기서 HBM이란? 반도체 칩을 수평으로 넓게 까는 대신 수직으로 여러 층 쌓아 올린 뒤, 층과 층 사이에 수천 개의 초고속 통로를 뚫어 데이터를 번개처럼 오가게 만든 고대역폭 메모리입니다. ..

2026년 5월, 한국 전체 수출에서 반도체가 차지한 비중이 42.3%를 넘어섰습니다. 수출 100달러 중 42달러가 반도체에서 나온다는 뜻입니다. 이 숫자를 처음 봤을 때 저는 자랑스러움보다 묘한 아찔함을 먼저 느꼈습니다. 이 글은 지금 AI 반도체 시장에서 실제로 벌어지고 있는 일들을 짚고, 투자자로서 제가 직접 겪은 실수와 그 과정에서 배운 것들을 솔직하게 풀어낸 기록입니다.HBM 패권 전쟁, 삼성이 뒤처진 이유AI 반도체 시장에서 가장 뜨거운 키워드는 단연 HBM입니다. HBM(High Bandwidth Memory)이란 여러 개의 D램 칩을 수직으로 쌓아 GPU와 초고속으로 연결하는 특수 메모리입니다. 쉽게 말해, AI가 계산을 아무리 빠르게 해도 데이터를 제때 공급받지 못하면 성능이 막히는데,..

매장 에스프레소 머신이 갑자기 멈춘 날, 저는 생각보다 빨리 냉정해졌습니다. 콜드브루를 꺼내 손님께 드리면서 속으로는 "구조 자체가 문제였구나"를 되뇌었는데, 나중에 AI 반도체 이야기를 접하고 그 느낌이 묘하게 겹쳤습니다. 기존 컴퓨터 구조의 병목 현상을 뿌리째 바꾸려는 시도가, 그날 제가 배운 교훈과 꼭 닮아 있었기 때문입니다.폰 노이만 구조, 왜 한계에 부딪혔나일반적으로 컴퓨터는 빠를수록 좋다고만 알려져 있지만, 제 경험상 속도만큼 중요한 건 구조 자체의 효율입니다. 현재 대부분의 컴퓨터와 서버는 폰 노이만(Von Neumann) 아키텍처 위에서 작동합니다. 여기서 폰 노이만 구조란? 연산을 담당하는 장치(CPU·GPU)와 데이터를 보관하는 메모리가 물리적으로 분리된 설계 방식입니다. 사무실과 서류..

솔직히 처음엔 저도 "이번엔 다르다"는 말을 믿었습니다. AI가 바꿔놓는 세상을 눈앞에서 보면서, 반도체 사이클 같은 오래된 법칙은 이제 옛말이 됐다고 생각했으니까요. 그런데 직접 업무에 AI를 도입해보고, 비용 구조를 들여다보기 시작하면서 뭔가 어긋나고 있다는 느낌이 왔습니다. GPU와 HBM에 천문학적인 돈이 쏟아지는 동안, 정작 그 돈이 이익으로 돌아오는 경로는 생각보다 훨씬 좁고 느렸기 때문입니다.AI 수익화(Monetization)의 벽 — 투자는 폭발적인데 이익은 어디에제가 직접 써봤는데, AI 툴의 성능 자체는 정말 놀랍습니다. 문서 요약, 이미지 생성, 데이터 분류까지 초반 도입 효율은 의심할 여지가 없었습니다. 문제는 그 다음이었습니다. API 호출 비용, 서버 유지비, 최신 인프라 구독..