본 논문은 AGI(범용 인공지능)가 현재의 기술 경로 하에서 구조적으로 불가능한 허위 명제임을 논증한다. 논증은 일곱 가지 차원에서 전개된다: 진화적 선택의 확률성, 인간 지혜의 비언어적 본질, 텍스트화된 정보의 차원 편향, 물리적 세계 대항 경험의 부재, LLM 통계 원리의 구조적 한계, AGI 평가 체계의 부재, 그리고 RLHF가 실제로 정렬하는 것에 대한 재검토. 핵심 결론: LLM은 인간 사고 총량의 0.05% 미만에 해당하는 텍스트 잔여물을 통계적으로 최적화하는 시스템이다. 이 잔여물은 물리적 세계 대항 경험이 구조적으로 결여된 편향된 표본이다. 금융시장은 이미 이 구조적 결함을 가격에 반영하기 시작했다.
물리적 세계 대항 경험
통계적 환각
심정형 지식인
텍사스 명사수 오류
RLHF 한계
SaaS 붕괴
인간 사고 총량의 비율
2025.9 – 2026.2
같은 기간
2026년 1~2월
창조자의 선택과 행운의 비중생존은 설계된 것이 아니라 선택된 것이다
인류가 현재 지구의 지배종 위치에 있는 것은 물리적 세계의 ‘창조자’에 의한 선택의 결과다. 이 선택에서 행운의 비중이 지혜의 비중을 결정적으로 초과했다. 호모 사피엔스가 네안데르탈인과 공존했을 때, 사피엔스는 개체로서 열등했다. 네안데르탈인은 더 큰 두개골 용량과 더 건장한 체격을 갖추고 있었다. 그러나 진화의 결과는 사피엔스의 집단적 공격성이 네안데르탈인을 멸종시킨 것이었다.
동시에, 고도로 발달한 고대 문명들은 자연의 힘에 의해 수동적으로 소멸되었다: 쓰나미, 홍수, 화산 폭발, 지진, 빙하기. 인류가 지구 역사의 다양한 대멸종 위기에서 살아남은 것은 지혜의 함수가 아니라 행운의 함수였다.
물리적 세계는 문명에 대한 거부권을 갖는다.
인류의 생존은 설계된 것이 아니라 선택된 것이다.
1.2 언어: 환경적 압력의 산물
사피엔스가 네안데르탈인을 이기게 한 결정적 무기는 정보 교환 시스템으로서의 언어였다. 이 언어적 체계는 소집단 협력을 기하급수적으로 향상시켰다. 그러나 언어 자체가 환경적 압력의 산물이었지, 의도적으로 설계된 인공물이 아니었다는 점을 간과해서는 안 된다.
1.3 단점 돌연변이와 집단 지혜
인류 문명의 발전 궤적은 단점 돌연변이 모델을 따른다. 소수의 고인지 돌연변이가 산발적으로 인류의 전체 수준을 끌어올렸고, 그들의 지식은 다양한 정보 매체를 통해 확산되었다. 인간 지혜의 핵심적 특성은 그것이 집단 지혜라는 것이며, 그 발전 경로는 저확률 변수에 의존하는 확률적 과정이라는 것이다. 이 지혜는 천문학적 개인의 생명, 깊은 DNA 진화적 선택, 물리적 세계의 변덕에 대한 대규모 시행착오의 비용으로 획득되었다.
지혜는 제조할 수 있는 제품이 아니다.
그것은 물리적 세계의 압력 하에서, 막대한 비용을 치르고 출현하는 동적 변수다.
사고에서 텍스트로: 연쇄적 축소LLM이 인간 인지의 0.05% 미만으로 학습하는 이유
2.1 연쇄적 축소
인간의 사고는 직관, 신체 감각, 감정, 공간 지각, 꿈, 그리고 갑작스러운 통찰의 순간을 포괄하는 광대한 영역이다. 이 사고의 약 5%만이 언어로 변환된다. 언어적으로 인코딩된 부분 중 1% 미만이 문자 기록으로 남겨진다. 결과적으로, LLM 학습 데이터는 인간 사고 총량의 0.05% 미만에 해당한다.
LLM이 섭취하는 것은 인간의 사고가 서너 번의 연쇄적 축소를 거친 후 남은 잔여물이다. 그것은 언어 자체도 아니다. 언어는 살아 있고, 신체화되어 있으며, 맥락적이다. LLM이 처리하는 것은 화자, 신체, 구체적 상황으로부터 절단된 기호의 나열이다.
2.2 차원 편향: 공학 지식의 부재
0.05% 미만의 잔여물 내에서도 심각한 구조적 편향이 존재한다. 인간 지식의 텍스트화된 기록은 철학적 사변, 문학적 서사, 정치적 담론, 종교 경전, 소셜 미디어 감정 출력으로 넘쳐난다 — 모두 인간이 다른 인간에게 하는 말로, 인간 사회의 내부 정보 순환을 구성한다.
반면, 물리적 세계와의 진정한 대항적 교전을 통해 생산된 공학 지식은 극심하게 과소 대표된다. 특정 지질 조건에서 교량이 어떻게 붕괴를 피하는지, 용접점이 반복되는 열팽창에 어떻게 견디는지, 엔진이 극한 조건에서 어떻게 안정성을 유지하는지. 마이클 폴라니가 “암묵지(tacit knowledge)”라 명명한 이 지식은 LLM 학습 데이터에서 구조적으로 부재한다.
LLM 학습 데이터에는 거대한 차원적 블랙홀이 존재한다. 물리적 세계와의 진정한 전투에서 얻은 인류의 경험은 사실상 데이터셋에서 부재한다. LLM이 학습한 것은 인류가 세계를 “논의하는” 방식이지, 세계를 “변혁하는” 방식이 아니다.
회색 코뿔소와 블랙 스완분포 외 예측의 수학적 교착
3.1 텍스트 영역 내의 압도적 성능
LLM은 통계적 의미에서 강력하다. 수천 년에 걸친 인류의 문자 기록 전체를 압축함으로써, 텍스트 영역에 국한된 과제—시험, 글쓰기, 지식 검색, 논리적 추론—에서 어떤 개인도 압도한다. 이것은 사실이며 부인할 수 없다.
그러나 이 성능은 위험한 환각을 생성한다. 관찰자들은 LLM이 텍스트 영역에서 인간을 지배하는 것을 목격하고 이를 범용 지능으로의 접근으로 착각한다. 실제로는, 모델이 0.05%의 극히 좁은 영역 내에서 극값에 도달한 것이며, 인류는 이 영역 내의 성능을 지능의 전체 차원으로 잘못 외삽하고 있다.
3.2 블랙 스완 앞의 무력함
블랙 스완 — 학습 데이터에 등장한 적 없는 사건, 기존 패턴을 위반하는 사건, 통계 분포의 꼬리에서 갑자기 분출하는 사건 — 에 대해, LLM은 원리적으로 무력하다. LLM의 전체 작동 메커니즘은 기존 데이터의 통계 분포 내에서 최대 확률 출력을 검색하는 것으로 구성된다. 그 분포 밖의 대상에 대해서는 수학적 앵커 포인트가 존재하지 않는다.
물리적 세계가 블랙 스완을 생성하는 비용은 제로에 수렴한다.
AI가 블랙 스완에 대응하는 비용은 무한대에 수렴한다.
이것은 연산 능력으로 해결 가능한 문제가 아니다.
역사적 분포로부터 분포 외 사건을 예측하는 것은 수학적 교착이다.
간단한 예가 이를 보여준다: 빠르고 지속적으로 변경되는 단일 웹페이지가 모든 AI 크롤러를 무한 루프에 가둘 수 있다. 물리적 세계로부터의 거의 제로 비용의 교란이 전체 AI 시스템을 붕괴시킨다. 인간이라면 한 번 흘끗 보고 악의적 의도를 인식한 후 떠날 것이다.
AGI 추진자들의 인지적 사각지대자기 우물의 깊이를 모든 지능의 높이로 착각할 때
4.1 심정형 지식인의 프로필
AGI를 제안하고 추구하는 이들의 전형적 프로필: 엘리트 컴퓨터 과학 프로그램 졸업자, 어린 시절부터 스크린 앞에서 성장, 수학과 프로그래밍에 능숙, 기호의 세계 안에서 유창하게 활동. 그들의 생활 경험은 디지털 영역에 고도로 집중되어 있다. 그들 중 압도적 다수는 건설 현장에서 철골을 나른 적도, 공장에서 공작기계 공차를 조정한 적도, 밭에서 토양 수분을 평가한 적도 없다.
이것이 “심정형 지식인”이다. 우물은 놀라운 깊이까지 뚫을 수 있지만, 우물의 입구는 좁다. 심정형 지식인의 더 치명적인 특성은, 더 깊이 파면 팔수록 우물 입구 너머의 하늘을 덜 볼 수 있다는 것이다.
AGI 명제는 심정형 지식인이 세계에 투사한 투영이다. 그 추진자들은 자기 우물의 깊이를 모든 지능의 높이로 착각한다.
4.2 텍사스 명사수 오류
텍사스 명사수는 먼저 총을 쏜 다음, 탄환 구멍 주위에 과녁을 그린다. LLM이 텍스트 통계에서 화려한 성능을 보여준 것이 먼저 쏜 총알이었다. 소프트웨어 엔지니어들은 그 구멍 주위에 “AGI”라는 과녁을 그린 후, 과녁의 중심에 수렴하고 있다고 선언했다. LLM이 할 수 있는 것은 무엇이든 “지능의 핵심”으로 정의되고, 할 수 없는 것은 축소되거나, 무시되거나, “다음 버전에서 해결 가능”하다고 주장된다.
반도체의 무어의 법칙 vs. AI의 공백검수 기준 없는 과녁이 수조 달러의 밸류에이션을 지탱한다
반도체 산업에는 무어의 법칙이 있다. 18~24개월마다 트랜지스터 밀도가 두 배가 되고, 성능 향상, 전력 소비 감소, 공정 미세화가 모두 정량적으로 측정 가능하다. 투자자는 28nm에서 7nm, 3nm로의 각 단계가 물리적 세계에서의 실질적 성취임을 확인할 수 있다.
AI 시스템에는 비교할 만한 것이 없다. 모델 파라미터 수의 증가와 지능 사이의 관계는 입증된 적이 없다. 벤치마크 점수 개선은 과적합과 데이터 오염에 의해 반복적으로 훼손된다. AGI에 대한 근접도를 측정할 자(ruler)가 존재하지 않는다.
| 차원 | 반도체 산업 | AI 산업 |
|---|---|---|
| 잣대 | 무어의 법칙 — 18~24개월마다 트랜지스터 밀도 2배 | 없음; 벤치마크 지속적 무효화 |
| 품질 지표 | 수율, 공정 노드, 전력 효율 | Perplexity, MMLU — 실제 유용성과 매핑 불가 |
| 검수 기준 | 칩 성능 벤치마크 → 테이프아웃 | AGI 검수 기준 없음; 전문가 합의 없음 |
| 밸류에이션 근거 | 정량화 가능한 물리적 진보 | 내러티브와 기대 |
잣대가 있는 산업은 견고하고 추적 가능한 밸류에이션을 생산한다.
잣대가 없는 산업은 내러티브에만 의존하는 밸류에이션을 생산한다.
내러티브가 흔들리면, 재가격 결정은 눈사태처럼 밀려온다.
RLHF가 정렬한 것은 지혜가 아니라 감성이었다2023년의 충격에서 AI Slop까지: 정렬 실패의 궤적
6.1 2023년의 충격: 그 본질
ChatGPT가 2023년 세계를 경악시킨 이유로 제시되는 것은 “튜링 테스트 통과”다. 그러나 이것은 RLHF 정렬의 성공이었지, 지능의 출현이 아니었다. RLHF가 최적화한 것은 인간 평가자의 선호에 맞는 출력이었다: 친근한 톤, 표면적으로 매끄러운 논리, 겸손한 불확실성 인정, 공감적 표현. 이것들 하나하나가 감성 수준의 지표다. RLHF가 훈련한 것은 최고 수준의 사교가이지, 사상가가 아니었다.
RLHF가 정렬한 것은 인간의 지혜가 아니라 인간의 감성이었다.
튜링 테스트가 측정하는 것은 “인간의 감정적 판단을 속일 수 있는가”이며,
RLHF는 바로 그 시험을 위해 특별히 최적화된 훈련 방법이다.
6.2 AI Slop: 2년 반 후의 성적표
2023년 10월부터 2026년 3월까지, 조 달러 규모의 투자가 집행되었다. 전체 인터넷이 그 출력에 부여한 이름은 “AI Slop”이었다 — AI가 생성한 쓰레기 콘텐츠로 오염된 검색 결과, 저품질 생산물로 범람하는 소셜 미디어, AI 저술의 조악한 책으로 넘치는 온라인 서점, AI가 생성한 사기 논문이 발견되는 학술지.
조 달러 투자의 출력이 사용자 경험에 의해 슬롭으로 정의되었다. 이것은 산업적 규모의 배치 후에, LLM의 본질이 기존 텍스트 정보의 통계적 재조합임이 드러난 것이다.
6.3 RLVR: 올바른 방향, 동일한 한계
RLVR(검증 가능한 보상을 통한 강화학습)은 객관적으로 검증 가능한 결과를 보상 신호로 사용하여 RLHF의 인간 감성 의존에서 탈출하려 한다. 방향은 옳다. 그러나 치명적 문제가 등장한다: 검증 가능한 영역은 얼마나 넓은가? 물리적 세계의 공학적 결정, 의학적 판단, 생태계 개입의 장기적 결과, 극한 조건에서의 재료 거동은 검증 기준이 부재하거나, 검증 비용이 천문학적이거나, 수십 년의 검증 주기가 필요하다. RLVR이 커버할 수 있는 것은 이미 형식화된 문제의 좁은 영역이다.
SaaS의 죽음과 반도체의 부상조 달러 규모의 자본 흐름이 선언할 때: 가치는 물리적 레이어에 있다
2025년 9월 이후, 금융시장에서 극적인 괴리가 발생했다. 소프트웨어 ETF(IGV)는 고점에서 30% 하락한 반면, 반도체 ETF(SMH)는 같은 기간 30% 상승했다. 2026년 1월 중순에서 2월 중순까지의 단 한 달간, 소프트웨어 주식에서 약 1조 달러가 증발했다.
2025.9 고점 대비
같은 기간
vs S&P 500 +17.6%
금융시장, 인류 최대의 집단 지혜 가격 결정 시스템이
조 달러 규모의 자본 흐름을 통해 판단을 표현하고 있다:
가치는 물리적 레이어에 있다. 정보 레이어에 있지 않다.
7.2 내러티브 주도 순환의 붕괴
AGI 내러티브의 완전한 순환 구조: 공포가 내러티브를 추동하고, 내러티브가 밸류에이션을 추동하고, 밸류에이션이 투자를 추동하고, 투자가 AI Slop을 생산한다. 이 순환의 기원은 인지적 불일치다. 인류가 두려워한 것은 AI의 정보 통합 능력이었지만, 정보 통합은 지혜가 아니다.
역사적으로 인류는 예외적으로 고차원적 인지를 가진 개인에 대해 배제 메커니즘을 사용해왔다: 격리, 추방, 제거. 그러나 AI는 편재하고, 무한 복제 가능하며, 파괴할 수 있는 물리적 신체가 없다. 배제 메커니즘이 역사상 처음으로 완전히 실패했다. 이 실패가 생성한 공포가 내러티브의 연료였고, 내러티브의 연료가 밸류에이션의 기반이었다. 그러나 금융시장은 이미 재가격 결정을 시작했다.
수동적 지능의 한계총은 스스로 조준점을 결정하지 않는다
LLM은 수동적으로 촉발되는 지능이다. 입력이 출력을 결정한다. LLM의 모든 경이로운 성과 뒤에는 고품질의 인간 입력이 있다. 관찰자들은 출력의 빛남을 목격하고 지능이 모델 안에 있다고 가정한다. 그러나 지능은 단 한 번도 모델 안에 있지 않았다. 지능은 무엇을 물어야 하는지, 어떻게 물어야 하는지, 언제 물어야 하는지를 아는 인간의 뇌에 있다.
모델은 총이고, 입력은 탄환이며,
방아쇠를 당기는 사람이 무엇이 맞는지를 결정한다.
사수 없는 총은 스스로 발사하지 않는다.
AGI 내러티브의 본질은 총이 스스로 조준점을 결정할 수 있다는 선언이다.
본 논문의 논증을 종합하면, AGI는 기술적 도전이 아니라 경로 수준의 불가능이다. 이 불가능은 일곱 가지 구조적 결함에서 도출된다: (1) 인류의 진정한 지혜는 물리적 세계의 선택 압력 하에서 막대한 비용을 치르고 출현한 동적 변수다; (2) 이 지혜의 95% 이상은 비언어적이며, 신체, 직관, DNA 진화에 내장되어 있다; (3) LLM은 0.05% 미만의 파편만을 확보했으며, 이는 물리적 세계 대항 경험이 결여된 편향된 표본이다; (4) LLM의 통계 원리는 블랙 스완에 대해 수학적으로 무력하다; (5) AGI는 심정형 지식인이 텍사스 명사수 오류를 통해 정의했다; (6) AGI에는 무어의 법칙에 비견할 평가 체계가 없다; (7) RLHF가 정렬한 것은 감성이었지 지혜가 아니었으며, RLVR의 검증 가능 영역은 극히 좁다.
“깊은 우물 바닥에서 위를 올려다보며
그 작은 원이 하늘의 전부라고 믿는 자들이
우물물 한 방울로 대양을 재구성하겠다고 선언했다.
이것이 AGI 시대의 시대정신이다.”
참고문헌 · References
- Polanyi, M. (1966). The Tacit Dimension. University of Chicago Press.
- Harari, Y. N. (2015). Sapiens: A Brief History of Humankind. Harper.
- Taleb, N. N. (2007). The Black Swan: The Impact of the Highly Improbable. Random House.
- Moore, G. E. (1965). “Cramming More Components onto Integrated Circuits.” Electronics, 38(8), 114–117.
- Christiano, P. et al. (2017). “Deep Reinforcement Learning from Human Feedback.” NeurIPS 2017.
- Morningstar Research (2026). “Which Stocks Drove the Market’s Gains in 2025.”
- Bain & Company (2026). “Why SaaS Stocks Have Dropped—and What It Signals.”
- Calcalist Tech (2026). “SaaS Is Dying as a Business Category.”
- Advisor Perspectives (2026). “Software Stocks: Navigating the SaaSpocalypse.”
- Turing, A. M. (1950). “Computing Machinery and Intelligence.” Mind, 59(236), 433–460.