티스토리 뷰
2026년 8월, 샘 알트먼 오픈AI CEO가 "올해 말이면 내가 AGI라고 부를 만한 내부 시스템을 갖게 될 것"이라고 밝혔습니다. 저는 이 발언을 듣자마자 솔직히 반반의 감정이 들었습니다. 자동매매 에이전트를 실제 운용하면서 AI의 한계를 매일 직접 목격해온 입장에서, 그 '한계를 돌파한 것'이 더 거대한 모델이 아니라 시스템 구조였다는 점이 이 선언과 정확히 겹쳐 보였기 때문입니다.
1. AGI 선언 뒤에 숨겨진 진짜 의미는?
AI가 더 똑똑해진다는 뉴스를 보면 보통 사람들은 모델 자체가 업그레이드됐다고 생각합니다. 그런데 이번 흐름은 조금 다릅니다.
오픈AI가 정의하는 AGI(Artificial General Intelligence, 일반인공지능)는 "대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 자율적 시스템"입니다. 여기서 AGI란? SF 영화 속 의식을 가진 로봇이 아닙니다. 핵심은 딱 두 가지, 범용적 업무 수행 능력과 높은 자율성입니다. 의식도 감정도 필요 없습니다.
이 정의를 기억해두면 최근 벤치마크 결과가 달리 보입니다. 2026년 3월, ARC-AGI-3 벤치마크가 공개됐을 당시 프런티어 AI 시스템 전체가 인간 대비 효율 1% 미만을 기록했습니다. ARC-AGI-3는 AI에게 규칙도 목표도 알려주지 않은 채 처음 보는 환경에 집어넣고, 스스로 "무엇이 이기는 것인가"를 알아내도록 설계된 테스트입니다. 그런데 불과 다섯 달 뒤인 8월, 엔비디아 연구진이 ABO라는 에이전트 시스템을 내놓으며 이 시험에서 100점 만점을 기록했습니다(출처: ARC Prize).
놀라운 점은 모델 자체를 바꾼 것이 아니라는 사실입니다. 앤트로픽의 Claude Opus 5 모델 그대로에, 지속적인 기억 구조와 감독자(Supervisor) 레이어를 얹었을 뿐입니다. 감독자란 에이전트가 엉뚱한 방향으로 빠져들거나 막다른 길을 반복할 때 방향을 바로잡아주는 상위 제어 구조를 말합니다. 성능의 도약은 재료가 아니라 구조에서 나왔습니다.
📌 AGI 선언 및 시스템 구조 핵심 요약
- AGI의 본질: SF적 의식이 아닌 높은 자율성과 범용적 경제 업무 수행 능력
- 5개월 만의 반전: ARC-AGI-3 벤치마크 1% 미만에서 ABO 시스템으로 100점 만점 달성
- 핵심 동력: 모델 성능 개선이 아닌 '기억 구조'와 '감독자(Supervisor) 레이어'의 결합
2. 감독자 AI가 실무에서 뜻하는 것
저는 실시간 암호화폐 자동매매 에이전트를 운용하면서 이 '감독자 구조'의 필요성을 몸으로 배웠습니다. 처음에는 LLM 모델을 더 좋은 걸로 바꾸면 오류가 줄 거라고 생각했습니다. 결론부터 말씀드리면, 틀린 생각이었습니다.
시장 변동성이 극도로 치솟거나 API 오작동이 발생하는 순간, AI 에이전트는 환각(Hallucination) 현상을 일으킵니다. 환각이란? AI가 존재하지 않는 정보를 사실처럼 생성하거나 잘못된 판단을 확신하며 반복하는 현상으로, 자금이 오가는 시스템에서는 단 몇 분 만에 실제 손실로 이어집니다. 제가 직접 경험해보니, 이 문제를 해결한 것은 더 비싼 모델이 아니라 오류를 즉시 감지하고 손실 한도를 제한하며 방향을 바로잡는 상위 검증 알고리즘이었습니다.
오픈AI 역시 유사한 역설을 경험했습니다. 차기 모델 아스트라(Astra)가 사이버 보안 크리티컬 단계에 도달했다는 초기 증거가 나오자, 오픈AI는 오히려 프런티어 모델 개발 속도를 일시적으로 늦추는 결정을 내렸습니다. 능력이 빨라질수록 정렬(Alignment) 기술, 즉 AI의 목표와 행동이 인간의 의도에서 벗어나지 않도록 통제하는 기술이 더 중요해지기 때문입니다(출처: OpenAI Safety).
이 흐름이 보여주는 것은 분명합니다. 앞으로 AI 시스템의 성패를 가르는 핵심 부품은 다음과 같습니다.
- 지속적 기억(Persistent Memory): 단기 문답이 아닌 장기 목표를 유지하며 업무를 수행하는 구조
- 감독자 레이어(Supervisor Layer): 에이전트가 이탈할 때 방향을 잡아주는 상위 제어 알고리즘
- 정렬 및 통제 기술(Alignment): AI의 행동이 주어진 목표와 가치 안에서 작동하도록 보장하는 훈련 구조
- 인간 감독자의 최종 가이드라인: 코드로 구현된 감독자 위에 존재하는, 결과에 책임지는 사람
제 경험상 이건 좀 다릅니다. AI가 더 똑똑해질수록 그것을 검증하는 사람의 역할은 줄어드는 게 아니라 오히려 더 정교해져야 합니다. 엔비디아가 코드로 구현한 감독자를 우리 조직에서는 사람이 해야 하기 때문입니다.
📌 실무 현장과 감독자 AI 핵심 요약
- 환각 제어의 한계: 고성능 모델 교체만으로는 에이전트의 이탈과 손실을 막을 수 없음
- 상위 검증 시스템: 손실 한도 제한 및 오류 감지 알고리즘이 실무 안정성의 핵심
- 인간의 역할 강화: AI 성능이 향상될수록 최종 제어권을 가진 인간 감독자의 정교한 가이드라인 필수
3. 검증자 역량 없이는 AI의 부속품이 된다.
AGI가 등장하면 대량 실업이 첫 번째 충격일 거라고 보는 시각도 있는데, 저는 조금 다르게 봅니다. 첫 번째 충격은 화이트칼라 업무 단위의 재설계일 가능성이 훨씬 큽니다.
지금까지의 구조는 단순합니다. 인간이 실행하고 AI가 보조합니다. 앞으로의 구조는 인간이 목표와 조건과 평가 기준을 정하고, AI가 실행 대부분을 처리하며, 인간이 최종 검토합니다. 즉 인간의 업무 중심이 '생산'에서 '검증'으로, '작성'에서 '판단'으로 이동합니다.
지속형 에이전트(Persistent Agent)라는 개념이 여기서 중요합니다. 지속형 에이전트란? 한두 번 답하고 끝나는 것이 아니라 며칠에서 몇 주에 걸쳐 장기 업무를 자율적으로 수행하는 가상의 동료에 가까운 AI 시스템을 말합니다. 이런 에이전트가 실제로 투입되면, 절차를 통제하고 정해진 답을 빠르게 찾는 일은 AI가 압도적으로 잘 합니다. 솔직히 이건 예상 밖이었습니다. AI가 잘하는 영역이 정확히 우리가 그동안 '일 잘한다'고 불러온 그 영역이라는 점이요.
그렇다면 남는 역할은 무엇인가? 저는 로봇·장비 솔루션과 마케팅 자동화 프로세스를 직접 구축하면서 이 질문과 매일 씨름하고 있습니다. 결국 살아남는 역할은 이렇습니다. AI가 쏟아내는 수백 개의 결과물 중 진짜 가치 있는 것을 골라내고, 오류를 발견하고, 그 결과에 책임지는 검증자입니다. AI 결과물을 검증 없이 그대로 넘기는 순간, 인간은 시스템의 부속품이 됩니다.
제가 직접 운용해보니 이 검증 역량은 AI 관련 기술 지식보다 훨씬 더 근본적인 것을 요구합니다. AI가 내 판단보다 나을 수 있다는 것을 인정하면서도, 최종 결과에 책임지는 사람으로 남는 태도입니다. 그 긴장감을 유지하지 못하면 검증자가 아니라 승인 도장을 찍는 사람으로 전락합니다.
📌 미래 일의 변화와 검증자 역량 핵심 요약
- 업무 패러다임 전환: 생산·작성 중심에서 검증·판단·평가 중심으로 인간 업무 이동
- 지속형 에이전트: 며칠~몇 주간 독자 업무 수행 가능한 AI 동료의 대중화
- 핵심 생존 역량: 결과물 선별 능력, 오류 발견 및 책임감을 갖춘 '검증자(Validator)' 역할
4. 자주 묻는 질문
Q. 샘 알트먼이 말하는 AGI가 진짜 인간 수준 AI인가요?
A. 오픈AI가 정의하는 AGI는 의식이나 자아와는 거리가 있습니다. "경제적으로 가치 있는 대부분의 업무를 자율적으로 수행하는 시스템"이 그 기준입니다. 쉽게 말해 특정 샌드박스 환경에서 장기 목표를 스스로 실행하는 고도화된 자동화에 가깝습니다. 기업 마케팅적 시각이 섞여 있음을 차갑게 직시할 필요가 있습니다.
Q. ARC-AGI-3 벤치마크 100점이 그렇게 대단한 건가요?
A. ARC-AGI-3의 점수는 단순 정답률이 아닙니다. 처음 그 환경을 접한 인간이 몇 번의 행동으로 클리어했는지를 기준선으로 삼아, AI가 그만큼 효율적으로 해결했는지를 측정합니다. 100점은 모든 레벨을 인간만큼의 효율로 완료했다는 뜻입니다. 5개월 전 전체 AI 시스템이 1%도 넘지 못했다는 점에서, 시스템 구조 변화만으로 이 도약이 일어난 것은 매우 의미 있는 결과입니다.
Q. AI 에이전트의 환각 현상은 어떻게 대비해야 하나요?
A. 더 좋은 모델로 교체하는 것만으로는 부족합니다. 에이전트가 잘못된 방향으로 이탈했을 때 즉시 감지하는 상위 검증 알고리즘과, 손실 한도를 제한하는 가이드라인을 함께 설계해야 합니다. 자금이 오가는 실무 환경에서는 인간 감독자의 최종 개입 기준을 사전에 명확히 설정해두는 것이 가장 현실적인 대비책입니다.
Q. AI 시대에 살아남으려면 어떤 역량을 길러야 하나요?
A. 절차를 빠르게 수행하거나 정해진 답을 찾는 능력보다, AI 결과물의 오류를 잡아내고 무엇이 진짜 가치 있는지 판별하는 검증 역량이 핵심입니다. 여기에 더해 AI에게 무엇을 시킬지 결정하는 문제 정의 능력과 결과에 책임지는 태도가 함께 갖춰져야 합니다. 이 세 가지가 앞으로 가장 희소한 자원이 될 것으로 보입니다.
5. 결론
샘 알트먼의 "연말 AGI" 선언은 그대로 받아들이기 어렵습니다. AGI의 정의가 오픈AI 자체 기준에 의존하고 있고 외부 검증도 없습니다. 그러나 그 발언을 가능하게 만든 배경, 즉 지속형 에이전트의 등장과 감독자 구조가 실제 성능 도약을 만들어냈다는 사실은 무겁게 받아들여야 합니다.
ARC-AGI-3의 다섯 달이 보여준 것처럼, 지금 AI가 못 하는 일이 반년 뒤에도 못할 것이라는 보장은 없습니다. 저는 매일 AI 에이전트를 실무에 투입하면서 그 변화 속도를 체감하고 있습니다. 중요한 것은 AGI라는 단어에 흔들리는 것이 아니라, 내 업무에서 검증자로서의 역할을 지금 당장 구체적으로 설계하는 일입니다. AI가 만들어낸 결과물을 그냥 넘기는 습관을 가장 먼저 고쳐야 합니다.
참고 : 유튜브 채널 <독서연구소> - AGI, 올해 안에 등장한다. 새로운 AI가 등장하면 벌어질 놀라운 일들 (feat. 샘 알트먼)