저는 AI 서비스를 쓸 때마다 "왜 이렇게 빠르지?"라는 감탄만 했지, 그 뒤에서 무슨 일이 벌어지는지 전혀 몰랐습니다. 그런데 얼마 전 AI 데이터센터의 전력 수급 실태를 다룬 전문가 분석을 접하고 나서 생각이 완전히 바뀌었습니다. 빅테크가 한국에 데이터센터를 짓고 싶어 안달인 이유, 그리고 그 핵심에 전력 부족 문제가 있다는 사실을 지금부터 풀어보겠습니다.전력 부족이 AI 패권을 가른다제가 직접 AI 서비스를 업무에 써보면서 느낀 건, 이 편리함 뒤에 상상 이상의 전기가 소모된다는 사실이었습니다. 텍스트 한 줄을 생성하는 데도 데이터센터 내부에서는 수백 개의 GPU가 동시에 돌아갑니다. 그 규모가 국가 단위로 커지면 이야기가 완전히 달라집니다.미국 내 AI 데이터센터의 전력 소비량은 2030년까지 약..
AI 반도체 혁신 (폰 노이만, PIM, 뉴로모픽)
매장 에스프레소 머신이 갑자기 멈춘 날, 저는 생각보다 빨리 냉정해졌습니다. 콜드브루를 꺼내 손님께 드리면서 속으로는 "구조 자체가 문제였구나"를 되뇌었는데, 나중에 AI 반도체 이야기를 접하고 그 느낌이 묘하게 겹쳤습니다. 기존 컴퓨터 구조의 병목 현상을 뿌리째 바꾸려는 시도가, 그날 제가 배운 교훈과 꼭 닮아 있었기 때문입니다.폰 노이만 구조, 왜 한계에 부딪혔나일반적으로 컴퓨터는 빠를수록 좋다고만 알려져 있지만, 제 경험상 속도만큼 중요한 건 구조 자체의 효율입니다. 현재 대부분의 컴퓨터와 서버는 폰 노이만(Von Neumann) 아키텍처 위에서 작동합니다. 여기서 폰 노이만 구조란? 연산을 담당하는 장치(CPU·GPU)와 데이터를 보관하는 메모리가 물리적으로 분리된 설계 방식입니다. 사무실과 서류..
HBM 다음은 HBF와 HBS? (AI 패권의 핵심, 데이터와 메모리의 무게,3D 반도체 최강론 리스크)
AI 시대의 주인공은 단순히 엔비디아(NVIDIA)에 그치지 않습니다. 최근 반도체 업계와 주식 시장을 뜨겁게 달구고 있는 핵심 화두는 바로 HBM(고대역폭 메모리)을 넘어설 HBF(High Bandwidth Flash)와 HBS(High Bandwidth SRAM)입니다.KAIST 김정호 교수의 최신 인터뷰를 바탕으로, AI 컴퓨터 구조가 어떻게 3D 적층 반도체 형태로 진화하고 있으며 국내 반도체 거두인 삼성전자와 SK하이닉스가 왜 절대적인 우위를 점할 수밖에 없는지 깊이 있게 분석해 보겠습니다.1. AI 패권의 핵심은 "GPU"가 아닌 "메모리"다지금까지 AI 학습 시대의 주인공은 엔비디아의 GPU였습니다. 하지만 본격적인 추론(Inference) 및 에이전틱 AI(Agentic AI) 시대로 접어..
AI 반도체 호황 100년 설: 동양철학으로 풀어낸 HBM과 메모리의 본질
최근 카이스트 김정호 교수와 동양철학자 구법모 소장이 나눈 대담은 단순히 '어떤 주식이 오를 것인가'를 넘어, AI 기술과 반도체의 본질을 인문학적 시각으로 재해석한 매우 깊이 있는 통찰을 보여주었습니다. 기술의 한계선에 다다른 현대 과학이 왜 동양철학의 '비움'과 '자유'라는 개념에서 해답을 찾고 있는지, 그리고 이것이 왜 메모리 반도체의 100년 호황론으로 이어지는지 정리해 봅니다. 1. 바람은 그물에 걸리지 않는다: HBM 설계와 동양철학HBM(고대역폭 메모리)의 핵심은 GPU와 메모리 사이에서 데이터를 얼마나 빠르고 저항 없이 주고받느냐에 있습니다. 김정호 교수는 이를 동양철학의 '바람'에 비유합니다. ● 데이터 전송의 본질: 구리선의 저항을 줄이고 가볍게 데이터가 흘러가도록 만드는 기술적 과제는..
AI 반도체 슈퍼사이클 경고 : 수익화 한계와 피크아웃 정말 버블일까?
솔직히 처음엔 저도 "이번엔 다르다"는 말을 믿었습니다. AI가 바꿔놓는 세상을 눈앞에서 보면서, 반도체 사이클 같은 오래된 법칙은 이제 옛말이 됐다고 생각했으니까요. 그런데 직접 업무에 AI를 도입해보고, 비용 구조를 들여다보기 시작하면서 뭔가 어긋나고 있다는 느낌이 왔습니다. GPU와 HBM에 천문학적인 돈이 쏟아지는 동안, 정작 그 돈이 이익으로 돌아오는 경로는 생각보다 훨씬 좁고 느렸기 때문입니다.AI 수익화(Monetization)의 벽 — 투자는 폭발적인데 이익은 어디에제가 직접 써봤는데, AI 툴의 성능 자체는 정말 놀랍습니다. 문서 요약, 이미지 생성, 데이터 분류까지 초반 도입 효율은 의심할 여지가 없었습니다. 문제는 그 다음이었습니다. API 호출 비용, 서버 유지비, 최신 인프라 구독..
AI·반도체 인재 (의대쏠림, 인센티브, 협력생태계)
한국이 반도체와 AI에서 진짜 승부를 걸려면 기술보다 먼저 풀어야 할 숙제가 있습니다.최고 인재들이 의대로만 몰리는 현실입니다. 중국은 명문대 전자공학과 대학원생이 학교 한 곳당 약 1,000명에 달하는데,우리는 KAIST 전체를 합쳐도 그 수준입니다. 저도 이 수치를 처음 접했을 때 솔직히 좀 아찔했습니다.퍼스트 무버(First Mover) 시대에 사람이 없으면 전략도 예산도 의미가 없기 때문입니다.의대 쏠림이 반도체·AI 경쟁력을 갉아먹는 이유한국의 이공계 위기를 숫자로 보면 상황이 더 선명해집니다.미국·중국과 비교했을 때 고급 반도체·AI 엔지니어 수가 약 10분의 1 수준에 불과하다는 분석이 있습니다.단순히 연구 속도가 느려진다는 문제가 아닙니다. 반도체 팹(Fab), 즉 실제 칩을 찍어내는 대규..