티스토리 뷰
엔비디아 CEO 젠슨 황이 G20 연설에서 던진 한 마디가 한동안 머릿속을 떠나지 않았습니다. "우리는 사실상 이미 AGI(인공일반지능) 시대에 도달해 있다." 저도 오프라인 현장에서 AI 툴을 직접 도입해 본 사람으로서, 이 말이 단순한 과장이 아님을 몸으로 느끼고 있습니다. 문제는 이 거대한 파도 앞에서 개인이 무엇을 준비해야 하는가입니다.
1. AI 인프라 격차: 5단계 레이어가 말해주는 불편한 진실
견적서를 뽑을 때, 유통 단가를 맞출 때, 거래처와 계약 조건을 조율할 때, 이 모든 과정에서 AI를 써본 사람이라면 알 것입니다. 분명히 빨라졌습니다. 솔직히 이건 예상 밖이었습니다. 과거엔 이틀 걸리던 데이터 정리가 두 시간 만에 끝나는 경험을 처음 했을 때, 잠깐 멍했습니다.
그런데 이 편리함이 어디서 오는지 생각해보면 이야기가 달라집니다. 젠슨 황은 AI를 '5단계 케이크(Five-Layer Stack)'로 설명했습니다. 에너지 → 반도체 칩 → 인프라·데이터센터 → AI 모델 → 데이터 및 애플리케이션 순서입니다. 여기서 AI 모델(LLM, 거대 언어 모델)이란, 수천억 개의 텍스트 데이터를 학습해 언어를 이해하고 생성하는 핵심 엔진을 말합니다.
문제는 이 케이크의 하단 세 층, 그러니까 에너지·칩·인프라는 개인이나 중소기업이 절대 손댈 수 없는 영역이라는 점입니다. 젠슨 황 스스로 밝혔듯, 1기가와트(GW) 규모의 AI 데이터센터 구축 비용은 약 500억~600억 달러(한화 약 70조 원 이상)에 달합니다. 이것은 단순한 IT 투자가 아니라 국가 단위의 인프라 사업입니다. 실제로 미국은 2025년 한 해만 AI 인프라에 1조 달러에 가까운 투자를 집행할 예정입니다(출처: 미국 백악관 공식 발표).
그렇다면 일반 사업자나 중소기업은 어떤 위치에 있을까요? 저 같은 현장 사람들은 이 5단계 구조에서 사실상 최상단, 즉 '데이터 및 애플리케이션' 레이어의 소비자입니다. 빅테크가 구축한 인프라 위에서 구독료와 API(Application Programming Interface) 사용료를 지불하며 서비스를 쓰는 구조인 것입니다. 여기서 API란, 다른 서비스나 데이터에 접근할 수 있게 해주는 일종의 '디지털 연결 통로'입니다.
"AI가 기회를 평등하게 만든다"는 말은 분명 일면 사실입니다. 누구나 자연어로 컴퓨터를 다룰 수 있게 된 것은 맞습니다. 하지만 그 언어를 누가, 어떤 인프라 위에서, 어떤 비용으로 처리하느냐는 전혀 평등하지 않습니다. 자본이 있는 기업은 자체 AI 모델을 파인튜닝(Fine-tuning)할 수 있습니다. 파인튜닝이란? 기존 대형 언어 모델을 자사의 특화된 데이터로 추가 학습시켜 성능을 극대화하는 방식입니다. 반면 그렇지 못한 곳은 범용 서비스를 그대로 쓸 수밖에 없습니다. 이 격차는 시간이 갈수록 벌어질 가능성이 높습니다.
- 에너지·칩·인프라 레이어: 국가·빅테크 자본만 진입 가능한 영역
- AI 모델 레이어: OpenAI·Google·Anthropic 등 소수 기업이 주도
- 데이터·애플리케이션 레이어: 개인·중소기업이 실질적으로 개입할 수 있는 유일한 층
- 파인튜닝 가능 여부: 자본력에 따라 AI 활용 수준이 결정되는 핵심 변수
📌 AI 5단계 레이어 핵심 요약
- 개입 한계: 개인과 중소기업이 현실적으로 활용 가능한 층은 최상단(데이터·애플리케이션)뿐임
- 거대 자본의 벽: 하부 인프라 구축에는 수십조 원 단위 자본이 소요되어 빅테크 독점 가속화
- 구조적 불평등: AI 사용 평등성 뒤에 숨겨진 인프라 접근성 격차는 기술 낙관론의 은폐된 이면임
2. 맥락 설계: 현장 경험이 AI를 무기로 만드는 순간
젠슨 황이 AGI 시대에도 일자리가 사라지지 않는다고 말한 이유는 흥미롭습니다. 그는 명문대 박사 출신 신입을 뽑아도 온보딩(Onboarding) 과정에 엄청난 에너지를 쏟아야 한다고 했습니다. 온보딩이란? 신규 구성원이 조직의 맥락·목적·업무 방식을 습득하는 적응 과정을 말합니다. AI도 마찬가지라는 것입니다.
제가 직접 써봤는데, 이 말이 정확히 맞았습니다. 처음에 AI 툴을 도입했을 때 아무 맥락 없이 질문을 던졌더니 결과물이 영 쓸모가 없었습니다. 교과서 같은 답변만 나왔습니다. 그런데 "우리 업종 특성상 고객 단가가 이 범위이고, 주요 거래처의 발주 패턴이 이러하며, 이번 견적의 목적은 경쟁사 대비 5% 마진 확보"라는 식으로 현장 맥락을 먼저 입력하고 나서야 비로소 쓸 만한 결과물이 나왔습니다. 작업 시간이 과거 대비 10분의 1 수준으로 줄어드는 건 그때부터였습니다.
이것이 바로 에이전트(Agent) 개념의 핵심입니다. 에이전트란? LLM을 단순 질문·응답 엔진으로 쓰는 것을 넘어, 기억·도구 사용·계획 수립·협업 기능을 갖춘 자율 실행 시스템으로 확장한 구조를 말합니다. 젠슨 황은 이것을 "두뇌에 외골격을 입히는 것"이라고 표현했습니다. 에이전트가 스프레드시트나 웹 브라우저 같은 디지털 도구 대신 물리적 기계를 다루게 되면 그것이 로봇이 되고, 자율주행차가 되고, 수술 로봇이 됩니다.
제 경험상 이건 좀 다릅니다. "AI를 쓰면 누구나 생산성이 오른다"는 말은 반만 사실입니다. AI를 쓰되 현장의 맥락을 설계할 줄 아는 사람만 생산성이 오릅니다. 반대로 그 설계 없이 AI에 의존하는 사람은 오히려 잘못된 결과를 믿다가 더 큰 손해를 볼 수 있습니다. 실제로 제조업 현장의 지인 한 분은 AI가 뽑아준 원자재 수급 예측을 그대로 믿었다가 재고 과잉으로 낭패를 봤다는 이야기를 전해줬습니다.
맥킨지 글로벌 연구소(McKinsey Global Institute)의 분석에 따르면, AI 도입으로 생산성이 실질적으로 향상되는 기업과 그렇지 않은 기업의 차이는 기술 자체의 수준이 아니라, 조직 내 데이터 정비와 업무 맥락 구조화 수준에 달려 있다고 보고하고 있습니다(출처: McKinsey Global Institute, Generative AI Report). 기술보다 맥락 설계 능력이 먼저라는 것은 수치가 뒷받침하는 사실입니다.
📌 AI 맥락 설계 핵심 요약
- 온보딩의 필요성: AI 도구도 명문대 신입처럼 현장 맥락과 정확한 목적을 학습시켜야 성능 발휘
- 생산성 격차: 단순히 AI를 사용하는 것을 넘어 '현장 맥락 설계 능력'을 갖춘 자만 실질적 효율 극대화
- 핵심 경쟁력: 맥킨지 보고서 입증 — 기술 수준보다 조직 내 업무 맥락의 구조화 수준이 성패를 좌우
3. 자주 묻는 질문
Q. AGI가 실현되면 제 직업이 없어지는 건 아닌가요?
A. 직업 자체보다는 직업 안의 반복적 업무가 자동화되는 방향으로 보는 것이 더 정확합니다. 타이핑, 데이터 정리, 단순 보고서 작성 같은 기술적 작업은 AI가 대체하겠지만, 그 일을 왜 하는지, 어떤 목적으로 해야 하는지를 정의하는 역할은 여전히 사람의 몫입니다. 다만 AI를 전혀 활용하지 않는 사람은 활용하는 사람에게 경쟁에서 밀릴 가능성이 높아지고 있는 것은 사실입니다.
Q. AI 5단계 레이어에서 중소기업이 실질적으로 투자해야 할 곳은 어디인가요?
A. 현실적으로는 최상단인 '데이터 및 애플리케이션' 레이어입니다. 자사 업무에 특화된 데이터를 정비하고, 기존 AI 서비스를 자사 맥락에 맞게 활용하는 운영 역량을 키우는 것이 가장 빠른 투자 대비 효과를 낼 수 있는 구간입니다. 인프라 레이어에 직접 투자하는 것은 현 단계에서 중소기업이 감당할 수 있는 영역이 아닙니다.
Q. LLM과 에이전트는 어떻게 다른 건가요?
A. LLM(대형 언어 모델)은 질문을 받아 답변을 생성하는 핵심 두뇌 역할을 합니다. 에이전트는 이 두뇌에 기억, 도구 사용, 순차적 작업 실행 능력을 덧붙인 확장된 시스템입니다. 쉽게 말해 LLM이 '생각하는 엔진'이라면, 에이전트는 그 엔진이 실제로 일을 처리하도록 행동하는 구조입니다.
Q. AI를 처음 도입할 때 어디서부터 시작하면 좋을까요?
A. 제가 직접 써봤을 때 효과가 가장 빨리 나온 구간은 반복되는 문서 작업과 데이터 요약이었습니다. 거창한 시스템 도입보다, 현재 업무 중 시간이 가장 많이 들고 패턴이 반복되는 한 가지를 골라 AI에게 맡기는 실험을 먼저 해보시길 권합니다.
4. 결론
거대한 AI 인프라 레이어의 숫자들, 수십 조 원의 데이터센터, 100기가와트 구축 계획 같은 이야기에 압도되다 보면 "나 같은 사람이 뭘 할 수 있을까"라는 무력감이 올 수 있습니다. 저도 처음엔 그랬습니다. 그런데 현장에서 몇 년을 써보고 나서 내린 결론은 이렇습니다. 5단계 케이크의 아랫층은 우리가 건드릴 수 없어도, 맨 위 층에서 승부를 낼 여지는 충분히 있다는 것입니다.
AI는 현장 맥락을 모릅니다. 우리 업종의 거래 관행을, 고객의 구매 패턴을, 납기 협상의 미묘한 뉘앙스를 AI는 알 수 없습니다. 그것을 아는 건 오직 현장에 있었던 사람입니다. 그 경험을 AI에게 정확히 전달하는 능력, 즉 맥락 설계 역량이 결국 대체 불가능한 경쟁력이 됩니다. 지금 당장 시작할 수 있는 것은 내 업무에서 가장 반복적인 한 가지를 AI와 함께 처리해보는 실험입니다. 거기서부터 변화가 시작됩니다.
참고: 유튜브 채널 <DRM News> - 전체 인터뷰: 엔비디아 CEO 젠슨 황, G20 연설에서 세계는 "사실상" 이미 AGI 단계에 도달했다고 밝혀 | AI1G