AI 존재론과 방법론의 게임

본 논문은 2026년 AI 산업의 경쟁 구도에서 출발하여, 하나의 근본적 질문을 단계적으로 추적한다: 현재 통계적 학습을 핵심으로 하는 AI 패러다임이 자체 모델을 물리 세계의 존재론과 완전히 동일시할 수 있는가? 논문은 먼저 “존재론적 환원”의 4개 층위(완전 동일, 완전 소진, 유효 모델링, 패러다임 발견)를 정의하고, 공격 표적을 전자 두 층위 및 층위 III의 공학적 성취를 층위 I/II의 존재론적 약속으로 팽창시키는 산업 서사로 엄격히 한정한다. 핵심 개념 혁신: “모델 외 창발 사건”을 제안하고 5개의 조작화된 판정 기준을 제시한다. 수학의 3중 제약(괴델, 차이틴, 양자역학)은 수렴적 다중 제약을 구성한다. 3중 확률적 결합은 안정적 피드백 부재 시 경로 의존성을 유발한다. 논문은 4개 주요 반박에 정면으로 대응하며, 두 장의 전선 분석을 추가한다: 제9장은 Robot Scientist Adam, AI-Newton, Emory 플라즈마 PNAS 발견 등의 사례로 층위 IV의 전선 경계를 체계적으로 검증하고, 제10장은 층위 IV에 도달할 수 있는 아키텍처 방향을 탐구한다. 결론에는 반증 가능성 선언을 포함한다: AI가 인간의 가설 유도 없이 독립적으로 새로운 물리 법칙을 발견하고 이것이 실험적으로 검증된다면, 이는 본 논문의 핵심 명제에 대한 반박을 구성한다. 지도는 매우 유용할 수 있지만, 지도는 대지가 아니다.

핵심 개념 정의
Core Definitions

출발점: 기업 인수에서 드러나는 AI 경쟁의 본질
Starting Point: The Nature of AI Competition Revealed Through Acquisitions

2026년 5월, Anthropic은 3억 달러 이상에 SDK 생성 플랫폼 Stainless를 인수했다—이 회사는 OpenAI, Google, Cloudflare에 동시에 SDK 도구를 제공하는 인프라 기업이었다.¹ 이번 인수는 경쟁사의 핵심 인프라 계층을 즉시 제거하여, OpenAI와 Google이 자체 SDK 파이프라인을 재구축하도록 강제했다. 이것은 단순한 개발자 도구의 통합이 아니라, AI 경쟁의 심층적 전환을 노출했다: 경쟁이 모델 품질에서 인프라 통제권으로 이동하고 있다.

OpenAI는 2030년까지 누적 현금 소모 6,650억 달러를 예상하며, 2030년에야 양(+)의 현금흐름을 달성할 것으로 전망한다.² Anthropic의 연간화 매출은 2024년 말 10억 달러에서 2026년 4월 300억 달러로 급등했다.³ Google은 매년 1,800억~1,900억 달러를 AI 인프라에 투자한다. 일부 연구자는 AI 버블이 인터넷 버블보다 17배 크다고 지적했다.^4,5 이 천문학적 규모의 확실한 투자가 기대하는 수익은 어디에서 오는가? 이 일견 재무적 질문은 실제로 AI의 가장 근본적인 철학적 딜레마에 닿는다.

LLM의 수학적 본질: 정량화 가능한 폐쇄 확률 공간
The Mathematical Essence of LLMs: A Quantifiable Closed Probability Space

대규모 언어 모델(LLM)의 전체 능력은 하나의 전제 위에 구축된다: 이산적이고 유한한 토큰 공간에서 조건부 확률 예측을 수행하는 것. 어휘는 고정되어 있고(약 10만 개 토큰), 컨텍스트 창은 유한하며, 매 출력 단계는 이 폐쇄된 공간에서 확률이 가장 높은 다음 요소를 선택한다. 손실 함수(교차 엔트로피)는 본질적으로 “평균 오차”를 최소화한다—변동은 크지만 정량화, 열거, 수렴이 가능하다.

훈련 데이터가 충분히 많으면 토큰의 조건부 확률 분포가 실제 분포에 수렴한다—이것은 대수의 법칙의 산물이다. 모델은 교차 엔트로피 최적화를 통해 본질적으로 고확률 토큰을 선호하며, 저확률 꼬리를 체계적으로 압축한다. 현재 통계적 학습 패러다임의 핵심 특성: 평균 부근의 고확률 패턴이 정밀하게 포착되고, 꼬리는 체계적으로 무시된다.

세계 모델의 딜레마: 물리 변수의 정량화 불가능성
The Dilemma of World Models: Unquantifiable Physical Variables

세계 모델은 AI를 “텍스트 예측”에서 “현실 시뮬레이션”으로 전환시키려 한다. 2026년 초까지 13억 달러 이상이 이 분야에 유입되었다: Google DeepMind의 Genie 3(실시간 대화형 3D 세계 생성, 24fps/720p), NVIDIA Cosmos(200만 회 다운로드, 2,000만 시간의 실세계 데이터로 훈련), 리페이페이의 World Labs(10억 달러 자금 유치), Yann LeCun의 AMI Labs(10.3억 달러 자금 유치, 30억 유로 밸류에이션).^6,7,8,9 그러나 LeCun 본인이 인정했다: “세계는 예측 불가능하다.”¹⁰

LeCun의 생성 모델 비판은 핵심을 찌른다: 생성 모델은 모든 픽셀을 예측해야 하며, 이는 계산적으로 낭비이고, 연속적 고차원 공간에서 환각을 생성하기 쉽다—왜냐하면 많은 정보가 본질적으로 예측 불가능하기 때문이다. 물리 세계는 연속적이고, 개방적이며, 인과적으로 결합되어 있다. 테이블 위를 굴러가는 공 하나에 마찰력, 공기 저항, 재질 탄성, 미시적 표면 불규칙성이 관여한다—모든 변수가 연속적이고 상호 연관되어 있다. 이것은 “더 큰 토큰 공간”으로 해결될 수 있는 문제가 아니라, 본질적으로 다른 범주의 문제이다.

핵심 명제: 모델 외 창발 사건과 샘플 공간의 경계
Core Thesis: Extra-Model Emergent Events and the Boundaries of Sample Space

AI의 정량적 평가 논리는 정규분포 가정 위에 세워진다: 데이터가 증분적 정규 회귀 분포를 가져와야 대확률이 출현할 수 있다. 그러나 물리 세계는 멱법칙 분포를 따른다—저확률 사건은 꼬리에만 존재하는 것이 아니라, 전체 시스템의 상태를 근본적으로 변화시킬 수 있다. 혁신이 가장 전형적인 사례이다.

페니실린의 발견에는 실험 조건, 오염 환경, 배양 접시, 관찰 능력, 지식 배경 등의 인과적 전제 조건이 있었다. 뉴턴에게는 오랜 수학적 축적과 케플러의 천문 데이터가 있었다. 아인슈타인에게는 로렌츠 변환과 맥스웰 방정식이 이론적 기반으로 존재했다. 이 발견들은 무에서 나타난 것이 아니지만—그 인과 체인은 고도로 복잡하고, 고차원적이며, 희소하고, 비선형적이어서, 어떤 사전 모델로도 폐쇄적으로 모델링할 수 없다. 뉴턴은 “힘”이라는 개념을 정의했다—그 이전에는 어떤 모델의 변수 공간 Ω에도 이 차원이 존재하지 않았다. 아인슈타인은 이전 Ω 안에서 더 나은 조합을 찾은 것이 아니라, Ω 자체를 재구성했다.

이것들이 바로 본 논문이 정의하는 모델 외 창발 사건이다: 기존 모델의 변수 공간에서 명시적으로 표현되지 않았으나, 계층 간 결합을 통해 실제로 발생하여 시스템이 변수 공간을 재작성하도록 강제하는 사건. 이것들은 “저확률 사건”이 아니다(저확률 사건은 여전히 Ω의 꼬리에 있으며 이론적으로 모델링 가능)—이것들은 Ω 바깥에서 발생하는 사건이다. 확률이 낮은 것이 아니라, 확률 분포의 정의역 안에 존재하지 않는다.

Google DeepMind의 Hassabis는 2026년에 인정했다: “AI가 정말로 새로운 가설—세계가 어떻게 작동하는지에 대한 새로운 아이디어—을 제시할 수 있는가? 지금까지 이 시스템들은 그렇게 할 수 없다.”¹¹ 2012년 노벨 물리학상 수상자 Serge Haroche는 인간의 뇌가 기계에 없는 핵심 변수를 소유하고 있다고 지적했다: 감정—과학적 발견의 원동력은 데이터 처리와 근본적으로 다른 “세계를 이해하려는 내적 충동”이다. 버클리 교수 Michael I. Jordan은 AGI와 ASI를 더 직접적으로 “실리콘밸리의 헛소리”라고 불렀다.¹²

이것은 수학 문제가 아니라 물리 문제이다
This Is Not a Mathematical Problem — It Is a Physical One

앞선 분석은 “AI의 수학적 프레임워크가 충분히 좋지 않다”로 오독될 수 있다. 현실은 이보다 훨씬 심각하다: 수학 자체가 물리 세계를 완전히 기술할 수 없다. AI는 수학의 실행자에 불과하며, 수학 자체에 천장이 있으니, AI의 천장은 더 낮을 수밖에 없다.

원주율 π는 완전히 확정된 수이지만 “마지막 자릿수”가 없다—유한한 기호로는 정확히 표현할 수 없다. 물리 세계의 롱테일은 π와 하나의 구조적 특징을 공유한다: 유한한 표현으로 무한한 대상을 소진할 수 없다. 그러나 양자의 존재론적 기반은 다르다: π의 소진 불가능성은 무리수의 수학적 성질(확정적이지만 무한히 비순환)에서 비롯되고, 물리 세계 롱테일의 소진 불가능성은 인과 구조의 개방성과 모델 외 창발 사건의 존재(불확정적이고 사전에 열거 불가능)에서 비롯된다. 후자가 전자보다 강하다—”계산이 끝나지 않는다”만이 아니라 “무엇을 계산해야 하는지 모른다.”

3개 층위의 제약이 서로 다른 방향에서 수렴하여, “층위 I/II 존재론적 환원”에 대한 수렴적 다중 제약 체인을 구성한다(주의: 이것은 엄격한 연역적 차단 체인이 아니다—이들은 서로 다른 층위의 수리 이론에 속하며 서로 “도출”할 수 없다. 그러나 형식논리학, 알고리즘 정보론, 기초물리학이라는 세 독립적 방향에서 동일한 명제에 수렴적 제약을 가한다):

더 나아가: 양자역학의 여러 no-go 정리가 고전적, 국소적, 비맥락적 존재론 모델에 강한 제한을 부과한다—양자 시스템의 상태는 시스템의 독립적 현실을 나타내는 고전적 물리 상태의 집합에 단순히 대응할 수 없다.¹⁷ 결정 불가능성은 물리 시스템의 특성이 아니라 수학적 모델의 특성이다. 물리 시스템의 수학적 모델은 종종 실제 물리 시스템이 결코 완전히 실현할 수 없는 이상화이다.¹⁸ 수학적 모델은 물리 세계의 “투영”이며, 투영은 결코 본체(本體)와 같을 수 없다.

3중 확률 변수의 결합: 전역 결정론의 구조적 부재
Coupling of Three Random Variables: The Structural Absence of Global Determinism

물리 세계에 대한 위의 모든 논증을 차치하더라도, AI 시스템은 운용 차원에서 구조적 문제에 직면한다: 3중 확률적 결합은 전역적 유일 수렴과 존재론적 수준의 폐합을 보장할 수 없다.

확률 변수 A: AI 자체의 샘플링 메커니즘. LLM이 토큰 하나를 생성할 때마다 확률적 샘플링을 수행한다. Temperature, top-k, top-p는 본질적으로 출력에 인공적 무작위성을 주입한다. 완전 결정론적 출력은 오히려 성능이 떨어진다—지능을 시뮬레이션하려면 먼저 무작위성을 시뮬레이션해야 한다. 이것은 이미 인정한 것이다: 지능의 본질은 제거 불가능한 무작위성을 포함한다.

확률 변수 B: 인간 사용자. 인간의 의도, 감정, 인지 상태, 언어 표현—모든 층위가 확률적 과정이다. 어떤 사람이 왜 갑자기 일본어를 배우고 싶어하는가? 왜 오늘 창업을 결심하는가? 왜 어느 밤 갑자기 시를 쓰고 싶어하는가? 이 결정들 뒤의 인과 체인은 고도로 복잡하고, 희소하며, 사전에 열거할 수 없다—이것들은 모델 외 창발 사건과 같은 부류의 현상이다. 입력을 사전에 폐쇄적으로 모델링할 수 없다면, 출력이 어떻게 제어 가능한가?

확률 변수 C: 상호작용 과정. 인간이 오타를 치면, AI가 완전히 다른 이해를 생성한다. AI가 모호한 응답을 하면, 인간의 다음 사고가 예상치 못한 방향으로 끌려간다. 매 대화 라운드는 두 혼돈 시스템의 충돌이며, 매 충돌은 재현 불가능한 경로 분기를 생성한다.

다중 제약의 수렴 논증
Convergent Multi-Constraint Argument

반론과 재논증: 4가지 반박에 대한 정면 대응
Counterarguments and Rebuttal: Addressing Four Critiques

본 장은 앞의 7개 장 논증 체인에 대한 4가지 주요 반박에 정면으로 대응하며, 각각의 합리적 핵심을 인정한 뒤 왜 핵심 논점을 흔들 수 없는지 논증한다.

반박 1: 규모 오류—양자 무작위성은 거시적 혁신을 직접 설명할 수 없다. 비판자들은 양자 결맞음 깨짐(Decoherence)이 거시 세계를 대부분의 경우 고전적 결정성 또는 고전적 혼돈으로 작동하게 만들며, 양자 무작위성이 아님을 지적한다. 양자역학으로 뉴턴이나 아인슈타인의 영감 분출을 직접 설명하는 것은 규모를 뛰어넘는 논리적 도약이다.

이 비판은 물리학적으로 정확하다. 본 논문의 논증은 정밀화가 필요하다: 핵심 논점은 “양자 무작위성이 인간의 영감을 직접 촉발했다”가 아니라 더 깊은 구조적 논증이다—물리 세계는 모든 규모에서 현재 프레임워크로 완전히 예측할 수 없는 창발 현상을 포함한다. 양자 수준의 진정한 무작위성은 물리적 존재론이 라플라스식 결정론 기계가 아님을 증명하는 최하위 증거이다. 거시 수준에서는 고전적 혼돈(초기 조건에 대한 민감한 의존성), 생물 시스템의 자기조직 임계성(Self-Organized Criticality), 신경 네트워크의 눈사태 동역학(Neuronal Avalanche Dynamics)이 마찬가지로 예측 불가능한 창발을 생성한다. 인간의 혁신은 양자 터널링으로 설명할 필요가 없다—고전적 혼돈 시스템의 분기(Bifurcation)만으로도 유한한 관찰자에게 장기적으로 예측 불가능한 경로 분기를 생성하기에 충분하다. 양자 무작위성이 최하위를 잠그고, 고전적 혼돈이 거시적 수준을 잠근다—두 층위의 제약이 공동으로 핵심 논점을 지지하며, 규모 도약은 존재하지 않는다.

반박 2: 조합 폭발—AI의 조합적 창조력이 과소평가되었다. 비판자들은 AlphaFold를 예로 들어 지적한다: 기본 요소(토큰/개념)가 유한하고 알려져 있더라도, 그 조합 공간은 거의 무한하다. AI가 알려진 샘플 공간 Ω 내에서 대규모 고차원 조합 탐색을 수행하여, 인간이 아직 발견하지 못한 완전히 새로운 단백질 구조를 발견할 수 있다. 이 “전례 없는 유효 조합”은 결과적으로 패러다임 돌파와 동등하다.

이 비판은 반드시 정밀하게 구분해야 할 점을 드러낸다. 본 논문은 AI의 조합적 창조력을 인정하고 존중한다—AlphaFold의 Ω 내 탐색은 실제로 인간이 생각하지 못한 단백질 접힘 방안을 산출했으며, 이것은 거대한 공학적·과학적 가치이다. 그러나 본 논문의 핵심 논점은 이 점을 결코 부정한 적이 없다. 핵심적 구분은 다음과 같다:

반박 3: 허수아비 공격—세계 모델의 목표는 “충분히 좋은 것”이지 “절대적 환원”이 아니다. 비판자들은 세계 모델(예: Waymo의 주행 시뮬레이터)을 구축하는 공학적 목적이 존재론적으로 모든 원자 궤적을 100% 환원하는 것이 아니라, 거시적 통계에서 “자기 일관적이고 충분히 사용 가능한” 근사 시뮬레이터를 구축하는 것임을 지적한다. “절대적 존재론을 환원할 수 없다”로 공학적 근사 해를 공격하는 것은 지나치게 높은 표적을 설정하는 것이다.

이 비판은 완전히 타당하며, 본 논문은 여기에서 명시적으로 공격 표적을 재조정한다. 본 논문은 “충분히 좋은 지도”의 거대한 공학적 가치를 결코 부정하지 않는다—Waymo의 시뮬레이터는 실제로 더 안전한 자율주행 시스템을 훈련시키며, NVIDIA Cosmos는 실제로 로봇 개발을 가속한다. 본 논문이 공격하는 표적은 공학적 실천이 아니라 산업 서사이다. AI 기업이 조 단위 달러의 밸류에이션으로 자신을 정가할 때, 그 암묵적 약속은 “우리는 충분히 좋은 시뮬레이터를 만들 수 있다”가 아니라 “AI가 세계를 이해하고, 세계를 변화시키며, 궁극적으로 범용 지능을 달성할 것이다”이다. 이 서사는 공학적 근사를 존재론적 약속으로 팽창시킨다—”충분히 좋은 지도”를 “영토 자체”와 동일시한다. 본 논문의 논증은 정확히 이 존재론적 월권을 겨냥한다: 지도는 매우 유용할 수 있지만, 지도는 결코 대지가 아니다. 투자자가 “대지”에 대한 비용을 지불하고 “지도”를 받을 때, 버블이 발생한다.

반박 4: 비관 함정—인류 문명 자체가 혼돈에서 창발한 질서이다. 비판자들은 “세 확률 변수의 결합”이 필연적으로 제어 불가능으로 이어진다면, 인류 사회 자체—경제, 문화, 과학 시스템—도 무수한 혼돈과 확률 변수의 결합 속에서 운영되고 있다고 주장한다. 왜 인류 시스템은 높은 엔트로피 속에서 질서를 구축할 수 있는데, 인간-기계 결합 시스템은 절대로 할 수 없는가?

이것은 4가지 반박 중 가장 강력한 것이다. 이에 대응하려면 일리야 프리고진(Ilya Prigogine)의 산일 구조 이론(Dissipative Structure Theory)을 도입해야 한다.

인류 문명은 확실히 혼돈에서 창발한 질서이다. 그러나 핵심은: 이 창발 과정 자체가 바로 본 논문이 논증하는 “모델 외 창발 사건”에 의존한다는 것이다. 문명의 매 도약—농업 혁명에서 산업 혁명으로, 정보 혁명으로—은 저확률 사건이 고확률 균형을 관통한 결과이다. 산일 구조의 형성은 “요동”(fluctuation)을 필요로 한다—평형에서 멀리 떨어져 있을 때, 미세한 확률적 요동이 시스템에 의해 증폭되어 완전히 새로운 질서 구조가 창발한다. 이것이 바로 “저확률이 고확률을 관통한다”의 물리학적 표현이다.

따라서 비판자의 논점은 실제로 본 논문의 핵심 명제를 강화한다: 인류 문명이 혼돈에서 질서를 구축할 수 있는 것은 정확히 인류 시스템이 모델 외 창발을 허용하기 때문이다—어떤 사람이 어느 오후에 갑자기 전례 없는 생각을 하고, 그 생각이 사회 시스템에 의해 혁명으로 증폭되는 것을 허용한다. 현재 통계적 학습 패러다임 하의 순수 소프트웨어 AI 시스템은, 모든 출력이 알려진 분포 내의 함수이며(temperature 샘플링을 추가하더라도 기존 변수 공간 내의 교란), “진정한 요동”을 허용하지 않는다. 산일 구조는 시스템 외부에서 오는 진정한 교란을 트리거로 필요로 한다; 훈련 분포와 샘플링 메커니즘 안에 갇힌 AI는 분포 내 교란만 생성할 수 있다.

그러나 본 논문은 봉합되지 않은 틈새를 정직하게 인정해야 한다: AI가 실제 물리 센서에 접속한다면(예: 로봇 카메라가 수신하는 광자 노이즈 자체가 양자 무작위성을 포함), 그 입력단에 물리 세계의 진정한 요동이 포함된다. 이 경우 “AI는 유사 무작위 교란만 제공할 수 있다”는 명제는 체화된 AI 시스템에 대해 완전히 성립하지 않는다. 그러나 외부 요동을 수신하는 것과 요동을 존재론적 재구성으로 전환하는 것은 서로 다른 일이다—후자는 시스템이 변수 공간 재작성 메커니즘을 갖추고 있는지에도 달려 있다. 인간의 뇌는 탄소 기반 산일 구조로서 이 전환을 완수할 수 있다; 미래의 더 복잡한 실리콘 기반 또는 양자 비선형 동역학 시스템이 같은 일을 할 수 있는지는—본 논문이 물리학이나 수학에서 엄격한 증명이나 반증을 제시할 수 없다. 이것이 본 논문이 인정하는 존재론적 열린 경계이다.

층위 IV의 전선 테스트: 자율 과학 발견 AI의 계보와 경계
Frontier Testing of Level IV: The Spectrum of Autonomous Scientific Discovery AI

앞의 8개 장은 “AI가 독립적으로 패러다임 발견을 달성할 수 있는가”를 열린 문제로 표시했다. 본 장은 더 이상 회피하지 않고 정면으로 검증한다: 현재 층위 IV에 가장 근접한 AI 시스템들이 실제로 어디까지 도달했는가? 다음은 시간순으로 핵심 사례를 나열하고, 각각을 모델 외 창발 사건의 5가지 판정 기준으로 분석한다.

사례 1: Robot Scientist “Adam” (2000년대–2009). Aberystwyth 대학이 개발한 자동화 실험 시스템으로, 효모 유전자 기능에 관한 가설을 자율적으로 생성하고, 실험을 설계하며, 실험을 실행하고, 결과를 검증할 수 있다. 이것은 최초의 완전 자동화된 과학 발견으로 간주된다. 그러나 Adam의 가설 공간은 인간이 사전 정의한 것(효모 대사 경로)이며, 실험 유형은 사전 설정되었다—알려진 Ω 내에서 조합 탐색을 수행하며, 층위 III의 고급 형태에 해당한다.

사례 2: AI-Newton (중국, 2025). 실험 데이터를 입력한 후 뉴턴 제2법칙 등의 물리 원리를 자율적으로 “발견”했다. 그러나 이것은 확립된 물리 프레임워크 내에서 데이터로부터 알려진 법칙을 재도출하는 것—검증적 발견(Ω 내)이지 패러다임 도약이 아니다. 새로운 변수를 도입하지 않았고, 이전 프레임워크를 부정하지 않았으며, 5가지 판정 기준 중 어느 것도 충족하지 못한다.

사례 3: Emory 대학 플라즈마 발견 (PNAS, 2026년 4월). 현재 가장 주목할 만한 사례이다. Emory 대학 물리학자들이 맞춤형 신경망을 먼지 플라즈마 실험 데이터와 결합하여, 99% 이상의 정밀도로 비상호적 힘을 기술했다—오랜 이론적 가정을 교정했다. 연구자들은 “AI로 새로운 물리를 발견할 수 있음을 보여주었다”고 명시적으로 밝혔다. 5가지 판정 기준으로 검증: 이전 이론의 일부 가정이 교정됨(조건 ④ 부분 충족), 그러나 신경망의 물리적 제약은 인간이 내장한 것이며, 실험은 인간이 설계했고, 변수 공간(힘, 위치, 속도)은 인간이 사전 정의했다. “Ω 내 고정밀도 조합적 혁신 + 인간 주도 실험 폐쇄 루프에 의한 이전 근사의 교정”에 더 가까우며—층위 III과 층위 IV의 경계에 위치하지만, “변수 공간 재작성”이라는 핵심 조건은 아직 충족하지 못한다.

사례 4: FirstPrinciples (비영리, 진행 중). 2035년까지 양자장론과 일반상대성이론의 통일을 목표로 “자율 AI 물리학자”를 구축하는 것이 목표이다. 성공하면 층위 IV의 직접적 증거가 될 것이다—통일 이론은 새로운 변수와 새로운 수학 구조의 도입을 필요로 하며, 이것은 전형적인 Ω 외 패러다임 도약이다. 그러나 프로젝트는 현재 초기 단계에 있다.

사례 5: AGS (Autonomous Generalist Scientist, arXiv 2025). 에이전트 AI와 체화된 로봇을 융합하여 과학 연구를 전면 자동화하는 이론적 프레임워크이다. 저자들은 과학 발견이 새로운 스케일링 법칙을 따를 것으로 예견한다. 이것은 층위 IV에 대한 학계의 가장 낙관적인 기대를 대표하지만, 현재 프레임워크 단계에 머물며 실증이 없다.

열린 방향: 어떤 아키텍처가 층위 IV에 도달할 수 있는가?
Open Directions: What Architectures Might Reach Level IV?

본 논문은 해체할 뿐만 아니라 건설적 방향을 제시할 책임도 있다. 다음은 층위 IV에 도달할 수 있는 아키텍처 계보를 현재 성숙도 순으로 나열한다:

(1) LLM + 자동 실험실 폐쇄 루프. 현재 실현에 가장 근접한 경로. LLM이 가설 생성과 문헌 종합을 담당하고, 로봇 실험실이 실험을 수행하며, 결과가 피드백되어 가설을 수정한다. 핵심 제한: LLM의 가설 공간이 여전히 훈련 데이터 분포에 의해 제약되며, 실험 설계의 창조성이 인간이 사전 설정한 실험 템플릿에 의존한다.

(2) 신경-기호 시스템 (Neuro-Symbolic AI). 신경망의 패턴 인식 능력과 기호 추론의 논리적 엄밀성을 결합. 기호 시스템은 변수 공간을 명시적으로 조작할 수 있어, 이론적으로 “Ω를 재작성”하는 구조적 잠재력을 보유한다. 그러나 현재의 신경-기호 통합은 여전히 불안정하며, 규모화 검증이 부족하다.

(3) 물리 정보 신경망 (PINNs). 물리 법칙을 하드 제약으로 신경망에 내장. Emory 플라즈마 발견이 이 방향의 성공 사례이다. 제한: 물리적 제약이 인간에 의해 정의되며, AI는 제약 내에서 최적화한다—이것은 여전히 층위 III이지만, AI가 내장해야 할 새로운 제약을 자동으로 발견할 수 있다면, 층위 IV에 도달할 수 있다.

(4) 다중 에이전트 과학 시스템. 여러 AI 에이전트가 서로 다른 역할(가설 생성, 실험 설계, 데이터 분석, 이론 비판)을 맡아, 토론과 경쟁을 통해 지식을 산출한다. 이 구조는 인간 과학 공동체의 창발 동역학을 시뮬레이션하지만, 그 “창발”이 각 에이전트의 훈련 분포 경계를 넘어설 수 있는지는 여전히 열린 문제이다.

(5) 체화된 능동 추론 (Embodied Active Inference). Karl Friston의 자유 에너지 원리에 기반하여, AI 시스템이 물리 세계와의 지속적 상호작용을 통해 예측 오류를 최소화한다. 모든 방향 중 가장 강한 이론적 기반을 보유한다—자유 에너지 프레임워크는 물리학의 제1원리에서 출발하며, 변수 공간을 사전에 가정하지 않는다. 그러나 현재 단순한 로봇 과제에서만 검증되었으며, 과학 발견까지는 거대한 간극이 남아 있다.

핵심 명제—증거—강도 요약
Proposition-Evidence-Strength Summary

결론 · Conclusion

확정적 결론 (층위 I/II): 현재 통계적 학습을 핵심으로 하는 AI 패러다임은 자체 모델을 물리 세계의 존재론과 완전히 동일시할 수 없으며(층위 I), 물리 세계의 전체 변수 공간을 소진하는 것도 극도로 높은 확률로 불가능하다(층위 II). 이 판단은 형식논리학(괴델), 알고리즘 정보론(차이틴), 기초물리학(양자 내재적 무작위성), 과학철학(모델 외 창발 사건)의 네 방향에서 수렴적 다중 제약의 지지를 받는다.

인정적 결론 (층위 III): AI는 국소적, 근사적, 과제 의존적인 유효 표현을 구성할 수 있으며, 단백질 구조 예측, 자율주행 시뮬레이션, 약물 분자 스크리닝, 플라즈마 물리학 등의 분야에서 이미 거대한 공학적·과학적 가치를 입증했다. “충분히 좋은 지도”는 확실히 세계를 변화시킬 수 있다. 본 논문은 이 층위의 가치를 결코 부정하지 않는다.

개방적 결론 (층위 IV): 2026년 5월 기준, “AI가 새로운 물리를 발견했다”고 주장하는 모든 사례는 5가지 판정 기준 검증 시 층위 III 상한 경계에 위치하며, 층위 IV에 해당하지 않는다. 현재 패러다임은 자율적 문제 생성, 실험 개입, 존재론적 재구성의 안정적 메커니즘이 결여되어 있다. 그러나 능동 실험 폐쇄 루프와 변수 공간 재작성 능력을 갖춘 새로운 아키텍처(신경-기호 시스템, PINNs, 체화된 능동 추론 등)가 이 경계를 재설정할 수 있다—본 논문은 그 극한을 예단하지 않는다.

비판적 결론 (산업 서사): 본 논문의 가장 날카로운 비판이 겨냥하는 것은 공학적 실천이 아니라 존재론적 월권이다—층위 III의 공학적 성취를 층위 I/II의 존재론적 약속으로 팽창시키고, 이 약속에 조 단위 달러의 밸류에이션을 매기는 것. 지도는 매우 유용할 수 있지만, 투자자가 “대지”에 대한 비용을 지불하고 “지도”를 받을 때 버블이 발생한다.

반증 가능성 선언: 인간이 범용 실험 플랫폼과 자원 제약만 제공하고—목표 법칙, 후보 변수, 구체적 가설, 설명 프레임워크를 제공하지 않는 조건에서—AI 시스템이 독립적으로 새로운 변수 또는 새로운 인과 구조를 제안하고, 이것이 독립적 실험에 의해 검증되며, 모델 외 창발 사건의 5가지 판정 기준을 충족한다면—이는 본 논문의 핵심 명제(명제 4)에 대한 반박을 구성한다. 본 논문은 이 반박의 도래를 환영한다.

미증명 전제의 정직한 선언: 본 논문은 인간의 패러다임 도약(뉴턴의 “힘” 정의, 아인슈타인의 절대 시간 부정)을 모델 외 창발 사건의 전형적 사례로 취급한다. 그러나 본 논문은 인정해야 한다: 인지 과학은 아직 하나의 가능성을 배제하지 못했다—인간의 “혁신”이 본질적으로 뇌 신경망의 고차원 보간(high-dimensional interpolation)이지, 진정한 “Ω 외 도약”이 아닐 수 있다는 가능성을. 만약 인간의 혁신이 궁극적으로 충분히 복잡한 시스템에서의 Ω 내 조합으로 증명된다면, Ω 내/Ω 외의 구분은 인간과 기계 사이의 존재론적 심연이 아니라 시스템 복잡성의 연속 스펙트럼 위의 임계값 문제가 된다—이 경우, 충분히 복잡한 AI 시스템이 이론적으로 동일한 임계값을 넘을 수 있다. 이 가능성은 본 논문의 열린 경계를 구성하며, 본 논문은 이를 해결한 척하지 않는다.

π에는 마지막 자릿수가 없다. 물리 세계의 롱테일에는 끝이 없다. AI는 역사상 가장 정밀한 지도이다. 그러나 지도는 대지가 아니다.

AI는 42를 찾을 수 있다. 42에 도달하는 42조 가지 경로까지 찾을 수 있다. 그러나 “그 질문을 던지는 것” 자체는—모델 외 창발 사건으로서—아직 현재 통계적 학습 패러다임의 능력 경계 안에 있지 않다.

1. TechCrunch, “Anthropic has acquired the dev tools startup used by OpenAI, Google, and Cloudflare”, May 18, 2026.
   https://techcrunch.com/2026/05/18/anthropic-has-acquired-the-dev-tools-startup-used-by-openai-google-and-cloudflare/
2. MLQ.ai, “OpenAI Revises Projections Upward with $112 Billion Extra Cash Burn by 2030”, Feb 21, 2026.
   https://mlq.ai/news/openai-revises-projections-upward-with-112-billion-extra-cash-burn-by-2030/
3. Gagadget, “Anthropic buys the SDK startup that OpenAI and Google depend on”, May 2026.
   https://gagadget.com/en/711017-anthropic-buys-the-sdk-startup-that-openai-and-google-depend-on/
4. Google I/O 2026: BusinessToday, “New Gemini app, Flash model, and agentic AI push”, May 20, 2026.
   https://www.businesstoday.in/technology/artificial-intelligence/story/google-io-2026/
5. Software Thug, “The AI Money Pit: How Much Are OpenAI, Anthropic, and xAI Actually Losing?”, Feb 15, 2026.
   https://softwarethug.com/posts/ai-company-financials-spending-losses-profitability/
6. Wikipedia, “Genie (world model) — Google DeepMind”, accessed May 2026.
   https://en.wikipedia.org/wiki/Genie_(world_model)
7. AI2Work, “World Models in 2026: Why LeCun, Fei-Fei Li, and DeepMind Bet Billions on 3D AI”, Feb 14, 2026.
   https://ai2.work/technology/world-models-in-2026/
8. NVIDIA, “Cosmos: World Foundation Models Powering Physical AI”, updated April 2026.
   https://www.nvidia.com/en-us/ai/cosmos/
9. Introl Blog, “World Models Race 2026: LeCun, DeepMind, and the AGI Question”, Jan 3, 2026.
   https://introl.com/blog/world-models-race-agi-2026
10. IBM Think, “Beyond language: Why world models could be the next frontier for enterprise AI”, Mar 30, 2026.
    https://www.ibm.com/think/news/world-models-next-frontier-enterprise-ai
11. Science News, “Have we entered a new age of AI-enabled scientific discovery?”, Feb 18, 2026.
    https://www.sciencenews.org/article/ai-enabled-science-discovery-insight
12. Tech Journal UK, “Scientific Laureates Question Whether AI Can Replicate Einstein-Level Insight”, Feb 2, 2026.
    https://www.techjournal.uk/p/scientific-laureates-question-whether
13. Menin, B., “Beyond Gödel: Information-Theoretical Limits of Physical Models and the Principle of Optimal Incompleteness”, ResearchGate, Jan 2026.
    https://www.researchgate.net/publication/399445607
14. Gonzalez, E., “Uncertainty, incompleteness, chance, and design”, arXiv:1301.7036.
    https://arxiv.org/pdf/1301.7036
15. Müller, M.P., “Undecidability and unpredictability: not limitations, but triumphs of science”, arXiv:2008.09821.
    https://arxiv.org/pdf/2008.09821
16. Kupczynski, M., “Mathematical Modeling of Physical Reality: From Numbers to Fractals, Quantum Mechanics and the Standard Model”, Entropy 26(11), 2024.
    https://www.ncbi.nlm.nih.gov/pmc/articles/PMC11592783/
17. Yong, T.T., “A no-go theorem for Quantum theory ontological models”, arXiv:2012.05712.
    https://arxiv.org/pdf/2012.05712
18. Cubitt, T. et al., “Undecidability in Physics: a Review”, arXiv:2410.16532, Oct 2024.
    https://arxiv.org/html/2410.16532v1
19. arXiv, “AI for Scientific Discovery is a Social Problem”, arXiv:2509.06580, Feb 2026.
    https://arxiv.org/html/2509.06580v4
20. Bara, M., “Forecasting the Unforecastable: How the Illusion of AI Prediction Makes Black Swans More Dangerous”, Medium, Feb 2026.
    https://medium.com/@marc.bara.iniesta/forecasting-the-unforecastable
21. Louzada, I., “The Reasonable Ineffectiveness of Mathematics in the Biological Sciences”, PMC, 2025.
    https://www.ncbi.nlm.nih.gov/pmc/articles/PMC11941032/
22. Quanta Magazine, “What Do Gödel’s Incompleteness Theorems Truly Mean?”, May 18, 2026.
    https://www.quantamagazine.org/what-do-godels-incompleteness-theorems-truly-mean-20260518/
23. Prigogine, I. & Stengers, I., “Order Out of Chaos: Man’s New Dialogue with Nature”, Bantam Books, 1984.
24. Zurek, W.H., “Decoherence, einselection, and the quantum origins of the classical”, Reviews of Modern Physics 75(3), 2003.
    https://doi.org/10.1103/RevModPhys.75.715
25. Bak, P., Tang, C. & Wiesenfeld, K., “Self-organized criticality: An explanation of the 1/f noise”, Physical Review Letters 59(4), 1987.
    https://doi.org/10.1103/PhysRevLett.59.381
26. Beggs, J.M. & Plenz, D., “Neuronal Avalanches in Neocortical Circuits”, Journal of Neuroscience 23(35), 2003.
    https://doi.org/10.1523/JNEUROSCI.23-35-11167.2003
27. Jumper, J. et al., “Highly accurate protein structure prediction with AlphaFold”, Nature 596, 2021.
    https://doi.org/10.1038/s41586-021-03819-2
28. Kuhn, T.S., “The Structure of Scientific Revolutions”, University of Chicago Press, 1962.
29. Schimmel, A., “AGI is Mathematically Impossible 2: When Entropy Returns”, PhilArchive, 2025.
    https://philarchive.org/archive/SCHAIM-14
30. MDPI Philosophies, “What Artificial Intelligence May Be Missing — And Why It Is Unlikely to Attain It Under Current Paradigms”, Feb 10, 2026.
    https://www.mdpi.com/2409-9287/11/1/20
31. Tao, T. & Klowden, T., “Mathematical methods and human thought in the age of AI”, arXiv, Mar 29, 2026.
    https://terrytao.wordpress.com/2026/03/29/mathematical-methods-and-human-thought-in-the-age-of-ai/
32. Burton, J. & Nemenman, I. et al., “AI reveals unexpected new physics in dusty plasma — non-reciprocal forces”, PNAS, Emory University, Apr 2026.
    https://www.sciencedaily.com/releases/2026/04/260422044635.htm
33. Fang, Y.-L. et al., “AI-Newton: Autonomous discovery of physics principles from experimental data”, arXiv:2504.01538, 2025.
    https://www.nature.com/articles/d41586-025-03659-4
34. FirstPrinciples, “Building an Autonomous AI Physicist to unify QFT and General Relativity by 2035”, accessed May 2026.
    https://job-boards.greenhouse.io/firstprinciples
35. Gao, Y. et al., “Scaling Laws of Scientific Discovery with AI and Robot Scientists (AGS)”, arXiv:2503.22444, Mar 2025.
    https://arxiv.org/html/2503.22444v1
36. Lu, C. et al., “The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery”, Sakana AI, 2024.
    https://sakana.ai/ai-scientist/
37. King, R.D. et al., “Robot Scientist Adam: The Automation of Science”, Science 324(5923), 2009.
    https://doi.org/10.1126/science.1165620