I 서론: RSI의 약속과 검토되지 않은 가정들

1.1 RSI의 현재 상태

2026년, 재귀적 자기개선(RSI)은 오랜 이론적 구상에서 갑작스럽게 AI 산업의 핵심 내러티브로 도약했다. Anthropic은 5월에 발행한 보고서 “When AI Builds Itself”에서, 자사 플래그십 모델 Claude가 회사의 병합 코드 중 80% 이상을 작성했으며, 엔지니어들이 분기당 푸시하는 코드량이 2024년의 8배라고 공개했다. 2026년 4월, 단일 Claude 보조 엔지니어링 작전이 800건 이상의 API 수정을 완료하여 API 오류를 1,000배 감소시켰다 — 엔지니어들은 인간 독자적으로는 4년이 걸렸을 것으로 추산했다. OpenAI는 7월에 GPT-5.6 출시와 함께 RSI Index — 모델의 자기개선 능력을 측정하기 위한 전문 평가 지표 — 를 도입했으며, GPT-5.6 Sol은 GPT-5.5보다 16.2점 높은 점수를 기록했다. 시연에서 Sol은 단 하나의 대략적 프롬프트만으로 훈련 구성을 독립적으로 선택하고, GPU를 선택하며, post-training 스크립트를 실행하여 더 작은 Luna 모델을 생성했다. 톈위안둥을 비롯한 8명의 최고 AI 연구자가 Recursive Superintelligence Inc.를 공동 설립하여, 46억 5천만 달러의 기업 가치로 이 분야에 진입했다. ICLR 2026의 “AI with Recursive Self-Improvement” 워크숍은 학계와 산업계의 대규모 참여를 유치하며, RSI가 사고 실험에서 배치 시스템으로 전환되었음을 명시적으로 선언했다.

1.2 RSI의 핵심 가정

이러한 발전은 세 가지 점진적으로 쌓이는 핵심 가정 위에 공동으로 세워져 있다. 첫째, AI 시스템은 재귀적으로 자기 자신을 개선할 수 있다 — 이 점은 코딩 영역에서 초기 검증을 받았다. 둘째, 코딩과 수학 영역에서의 성공이 물리과학 영역으로 자연스럽게 이전될 수 있다 — 이 점은 아직 검증되지 않았으나 널리 믿어지고 있다. 셋째, 자동화된 AI 연구가 자동화된 과학 연구로 이어지고, 나아가 자동화된 물리적 발견으로 이어진다 — 이것이 RSI 로드맵의 궁극적 약속이다. 톈위안둥이 공동 설립한 RSI 회사의 로드맵이 그리는 첫 단계는 “5만 명의 박사” 능력을 갖춘 시스템을 훈련하여 AI 과학 연구 자체를 자동화하는 것이며, 그런 다음 이 “유레카 머신”을 신약 개발, 배터리 소재, 핵융합 물리에 투입하는 것이다. 본 논문의 핵심 과제는, 바로 두 번째 가정 — 폐쇄 시스템에서 개방 시스템으로의 이전이 실행 가능한가 — 에 대한 비판적 검토이다.

1.3 본 논문의 핵심 논점

본 논문은 세 가지 상호 연관된 명제를 논증할 것이다. 첫째, RSI의 성공은 “자폐식 검증 체계” — 즉 시스템 자체가 출제자이자 심판인 영역 — 에 엄격히 국한된다. 둘째, 자폐식 체계에서 개방형 체계로의 이전은 정도의 문제가 아니라 범주의 단절이다. 셋째, 이 단절의 근원은 수학과 물리학이 정의의 방향성, 검증 구조, 추론 양식에서 보이는 근본적 차이에까지 거슬러 올라갈 수 있다. 이 차이를 이해하는 것은 RSI의 발전 방향에 현실적 의의를 가질 뿐만 아니라, 과학적 발견의 본질에 관한 핵심적 철학적 문제에도 닿는다.

II 두 가지 검증 체계: 자폐식과 외방형

2.1 자폐식 검증 체계의 정의와 특성

수학과 프로그래밍의 세계에서, 시스템 자체가 출제자이자 심판이다. 수학 정리의 성립 여부는 형식 검증기를 통해 시스템 내부에서 판정할 수 있으며, 외부 세계의 어떤 정보에도 호소할 필요가 없다. 코드의 정확성 여부는 컴파일러와 테스트 케이스가 결정한다. 우리는 이 검증 구조를 “자폐식 검증 체계”라 부른다. 핵심 특성은 다섯 가지이다: 시스템이 동시에 출제자이자 심판이다; 수학 증명의 옳고 그름은 시스템 내부에서 판정된다; 코드의 정확성은 컴파일러와 테스트 케이스가 판정한다; “개선”과 “개선의 검증”이 동일한 언어와 규칙을 사용한다; 전형적 대표로는 수학 증명 시스템, 소프트웨어 공학, RSI의 reward model이 있다.

RSI가 이 유형의 시스템에서 성공하는 것은 우연이 아니다. 자기개선 AI 에이전트가 자체 코드를 수정하고 테스트 스위트를 실행할 때, 그것이 받는 검증 신호는 즉각적이고, 명확하며, 모호하지 않다: 통과 아니면 실패. 이것이 재귀적 최적화 순환에 이상적인 피드백 루프를 제공한다.

2.2 외방형 검증 체계의 정의와 특성

물리과학의 세계에서, 심판은 시스템 자체가 아니라 자연계이다. 이론이 아무리 아름답고 수학이 아무리 자체 정합적이더라도, 자연이 고개를 끄덕이지 않으면 모든 것은 제로가 된다. 그러나 자연이 제공하는 피드백은 자폐식 체계와 판이하게 다른 다섯 가지 특성을 갖는다: 심판은 시스템 자체가 아니라 자연이다; 피드백은 모호하고, 지연되며, 다의적이다; 동일한 실험 데이터가 상호 모순되는 복수의 이론을 지지할 수 있다; 자연은 “당신이 잘못된 질문을 했다”고 능동적으로 알려주지 않는다 — 그저 침묵할 뿐이다; 전형적 대표로는 물리학 실험, 신약 개발, 소재 과학이 있다.

2.3 두 유형의 통약 불가능성

2026년 7월의 대규모 서베이는 1,250편의 arXiv 논문(2024-2026)을 분석하여 핵심 법칙을 드러냈다: 입증된 자기개선 능력은 “검증 위계”를 엄격하게 추종한다 — 형식 검증기(최강)에서 모델 자체의 내재적 평가(최약)까지. 자기 훈련은 “답이 검증 가능한” 영역에서 유효하며, 검증 불가능한 영역에서는 체계적으로 퇴화한다. 같은 해, 프린스턴 대학교의 “그림자 평가” 실험이 최초의 직접적 실증을 제공했다: 최첨단 AI 모델에게 3,000달러의 예산과 6일의 시간을 주고 실제의, 미발표된, 개방적 연구 문제를 해결하도록 했다. 결과 — AI는 모든 공학적 작업을 완료했으나, 그 산출물인 논문은 해당 분야 전문가들에 의해 명시적으로 거부되었다. 연구팀은 이 “연구 판단력 격차”가 RSI의 최강 버전 예측에서 가장 핵심적인 병목임을 지적했다. 자폐식 체계에서 “더 낫다”는 것은 계산 가능하다 — 벤치마크 점수가 더 높고, 증명이 더 짧고, loss가 더 낮다. 외방형 체계에서 “더 낫다”는 것 자체가 하나의 개방적 문제이다. 전자에서의 성공을 후자에서의 능력과 동일시하는 것은 범주 오류이다.

III 정의의 방향성: 내향적 제약과 외향적 개방

3.1 수학적 정의의 내향적 제약

수학에서 정의 행위 하나하나가 하나의 절단이다. 실수를 정의하면 비실수를 배제한다. 연속함수를 정의하면 불연속인 것을 배제한다. 군(群)을 정의하면 폐쇄성, 결합법칙, 항등원, 역원을 만족해야 한다고 규정한다 — 만족하지 못하면 퇴장이다. 수학의 정의가 정밀할수록 담장은 높아지고, 영토는 좁아지지만, 내부는 더 안전해진다. 전체 수학사가 끊임없이 내향적 제약을 강화해 온 역사라 해도 과언이 아니다. 이 정의 패러다임 하에서, 기호의 의미는 공리를 적어 내리는 그 순간 완전히 소진된다. “잔여 의미”가 외부에서 스며들 가능성은 존재하지 않는다. 이 폐쇄성이 바로 수학적 확실성의 원천이며, 그 힘의 토대이다.

3.2 물리적 정의의 외향적 개방

물리 방정식의 기호는 형식적으로 수학 기호와 동일해 보이지만, 그 본질은 완전히 다르다 — 그것은 현실 세계를 향한 개구(開口)이다. E=mc²에서 E를 생각해 보자. “에너지”란 도대체 무엇인가? 뉴턴 시대에는 운동에너지와 위치에너지였다. 열역학이 열에너지를 추가했다. 아인슈타인이 질량-에너지 등가를 추가했다. 양자장론이 진공에너지를 추가했다. 암흑에너지 — 지금까지 그것이 실제로 무엇인지 아무도 모른다. “E”라는 기호의 의미는 한 번도 소진된 적이 없다. 물리학의 모든 진보가 이 기호에 창시자가 상상하지 못한 새로운 내용을 주입해 왔다.

뉴턴이 “힘”을 F=ma로 정의했을 때, 그는 “힘”이 무엇일 수 있는지를 제약한 것이 아니라, 우주를 향해 창을 열고 말한 것이다: 가속도를 생산할 수 있는 모든 것은 들어오라. 중력이 들어왔고, 전자기력이 들어왔고, 핵력이 들어왔고, 암흑에너지가 들어왔다. 뉴턴은 이 정의를 적을 때 후자 세 가지의 존재를 전혀 알지 못했다. 그러나 정의의 방향이 외향적이었기에, 그것은 창시자가 상상하지 못한 내용을 수용할 수 있었다. 물리적 기호는 “현실을 향한 개구”이며, 자연은 결코 그 정의를 닫지 않는다.

3.3 정의의 방향성이 RSI에 갖는 함의

RSI의 전체 작동 메커니즘 — loss 함수, reward model, 형식 검증기, 탐색 알고리즘 — 은 모두 폐쇄 정의 위에 세워져 있다. 모든 텐서에 정확한 수학적 정의가 있고, 모든 그래디언트에 정확한 수학적 정의가 있으며, 모든 reward에 정확한 수학적 정의가 있다. “현실을 향한 개구”는 존재하지 않는다. 따라서 RSI는 이미 정의된 공간 내에서만 더 잘할 수 있을 뿐, 정의 너머의 것을 발견할 수는 없다. 그것은 담장 내부에서 점점 더 빠르게 달리는 기계이지만, 담장 자체는 그것이 닿을 수 없는 것이다.

IV 역외 효과: 개방형 시스템의 최고 가치

4.1 역외 효과의 정의

역외 효과란, 이론의 추론이 이론 창시자의 존재론적 시야를 초월하는 것이다 — 방정식이 창시자보다 더 많이 안다. 이것은 물리학의 가장 심오한 특성이자, 가장 경외심을 자아내는 측면이다. 그것은 부산물이 아니고, 우연이 아니며, 물리학 진보의 핵심 동력 메커니즘이다. 역외 효과가 가능한 이유는 정확히 물리 방정식의 기호가 외향적으로 개방되어 있기 때문이다 — 그것들이 창시자의 인지보다 더 풍부한 실재를 가리키기 때문이다.

4.2 물리학에서의 역외 효과 사례

맥스웰은 전자기학에 대해 네 개의 방정식을 썼다. 방정식 자체가 전자기파의 존재를 “예언”했고, 전자기파는 나중에 빛이라는 사실이 밝혀졌다. 이전에는 완전히 무관하다고 여겨졌던 세 영역 — 광학, 전기학, 자기학 — 이 하나의 방정식 세트로 통합되었다. 이 예언은 맥스웰의 원래 존재론에 없었다. 방정식이 자기 자신도 모르는 영역으로 “누출”된 것이다.

디랙은 상대론적 전자 방정식을 썼으나, 방정식에서 음에너지 해가 나타남을 발견했다. 순수 수학의 맥락에서는 이런 “비물리적 해”는 버려질 것이다. 그러나 디랙 방정식의 기호가 물리적 실재를 가리키고 있었기에, 그는 물어야 했다: 이 “불법적” 해가 자연계에서 아직 발견되지 않은 무언가에 대응하는가? 답은 양전자 — 반물질이었다. 1928년의 수학 방정식이 1932년에야 발견된 입자를 예언한 것이다.

아인슈타인의 일반상대성이론은 블랙홀, 중력파, 우주 팽창을 예언했다 — 그 자신은 그중 몇몇 추론에 반대했다. 방정식이 창시자보다 더 똑똑했는데, 이는 방정식에 마법이 있기 때문이 아니라, 기호의 정의가 닫히지 않았고 자연이 이 닫히지 않은 정의를 통해 창시자가 모르는 정보를 역류시켰기 때문이다.

4.3 수학과 코드에 역외 효과가 없는 이유

수학 증명의 결론은 항상 그 공리 체계의 존재론 내에 있다. 코드의 출력은 항상 그 실행 환경의 정의 내에 있다. 코드에서 변수 energy = 0.5 * mass * velocity**2 — 여기서 energy는 단지 부동소수점 수이며, 그 의미는 이 줄을 적는 순간 완전히 소진된다. 그것은 스스로 자기가 mass * c**2와도 같다는 것을 “발견”할 수 절대 없다. 현실 세계를 향한 개구가 없기 때문이다. 그것들은 밀봉된 용기이며, 자연의 정보가 역류할 수 없다.

1960년, 물리학자 위그너는 유명한 논문 “자연과학에서 수학의 불합리한 유효성”을 발표하며, 수학적 개념이 왜 물리 세계로 “누출”될 수 있는지에 경탄했다. 그러나 본 논문의 분석은 전도된 해석을 제공한다: 수학이 자발적으로 역외 효과를 산출한 것이 아니라, 물리학자가 능동적으로 수학을 징발(徵發)한 것이다. 리만 기하학이 스스로 일반상대성이론 안으로 “뛰어든” 것이 아니라, 아인슈타인이 능동적으로 찾아간 것이다. 역외 효과의 방향은 항상 물리학 → 수학 도구의 징발이지, 수학 → 물리학으로의 자발적 누출이 아니다. 양전닝(楊振寧)의 말대로: “자연은 수학자가 발전시킨 수학 중 하나의 부분집합만을 선택했으며, 바로 그 정확한 부분집합이 이론물리학자가 찾고자 하는 것이다.”

4.4 역외 효과 없는 시스템으로서의 RSI의 근본적 한계

전술한 분석은 피할 수 없는 결론을 가리킨다: RSI는 역외 효과가 없는 시스템에서 완벽하게 작동하는 방법론인데, 그 옹호자들이 역외 효과를 최고 가치로 삼는 영역에 이를 적용하려 한다. RSI는 기지의 존재론 내에서 더 빠르고 더 깊게 탐색할 수 있게 해주지만, 방정식이 인간보다 더 많이 아는 그 신비로운 순간을 산출할 수는 없다. 그것은 역내 증폭기(intra-domain amplifier)이다 — 기존의 개념 공간 내에서 초인적 탐색 효율을 달성한다. 그러나 역외 생성기(extra-domain generator)는 아니다 — 계산 시스템의 출력이 그 입력 존재론을 체계적으로 초월하게 만들 수 없다. 이 한계를 돌파하려면 아직 존재하지 않는 메커니즘 — 계산 시스템의 출력이 그 입력 존재론을 체계적으로 초월할 수 있게 하는 “역외 생성기” — 의 발명이 필요할 수 있다. 그러한 메커니즘이 원리적으로 가능한지조차 우리는 알지 못한다.

V 방법론의 존재론적 경계

5.1 자폐식 체계: 방법론적 경계가 곧 존재론이다

자폐식 검증 체계에서, 방법론의 유효 범위는 존재론의 경계와 완전히 일치한다. RSI의 재귀적 순환 — 모델이 모델을 개선하고, 알고리즘이 알고리즘을 최적화하며, 코드가 코드를 재작성하는 — 아무리 많이 순환해도, 동일한 존재론적 프레임워크 안에서 돌고 있을 뿐이다. 기존 존재론적 프레임워크 내의 진리만 발견할 수 있다. 재귀적 순환은 존재론 내부의 재귀이며, 아무리 많이 순환해도 동일한 개념 공간 내에서 탐색할 뿐, 그 개념 공간 자체에서 탈출할 수 없다.

5.2 개방형 체계: 방법론이 존재론 너머로 확장될 수 있다

물리학사에서 가장 위대한 돌파는 예외 없이 존재론 차원의 혁명이었다 — 방법론이 현재 존재론의 경계를 초월하여, 창시자가 전혀 예상하지 못한 새로운 범주에 도달한 것이다. 이것이 바로 “개방성”의 정확한 정의이다. 뉴턴은 기존 프레임워크 안에서 행성 운동을 더 잘 설명한 것이 아니라, 전혀 새로운 존재론적 범주 — “힘” — 을 발명했다. 그 이전에, 보이지도 만져지지도 않으며 원격으로 작용하는 이 존재는 물리학의 존재론적 어휘 사전에 전혀 없었다. 아인슈타인은 뉴턴 프레임워크 내에서 매개변수를 수정한 것이 아니라, “절대 시공간”이라는 존재론적 전제를 폐기하고, “시공간의 곡률”이라는 완전히 새로운 실체로 대체했다. 양자역학은 더욱 극단적이었다 — 고전적 존재론에서는 문자 그대로 상상조차 할 수 없는 “중첩 상태”와 “파동 함수 붕괴” 같은 범주를 도입했다. 보어는 “양자역학이 당신을 충격에 빠뜨리지 않았다면, 당신이 그것을 이해하지 못한 것”이라 했다 — 충격적인 것은 정확히 존재론이 찢어졌다는 점이다. 그리고 방법론이 존재론을 초월한 후에도 여전히 유효하면, 역외 효과가 발생한다. 수학과 코드가 역외 효과를 결코 산출하지 않는 이유는, 정확히 그것들의 방법론이 존재론 내부에 엄격히 한정되어 있기 때문이다.

5.3 RSI의 평가함수 역설

이 분석은 RSI의 깊은 역설을 드러낸다. 존재론적 혁명이 발생하는 바로 그 순간, 기존의 측정 체계 자체가 무효화된다. 아인슈타인의 일반상대성이론이 발표되었을 때, 대부분의 물리학자는 그것이 뉴턴 역학보다 “못하다”고 여겼다 — 더 복잡하면서 예측 차이는 극미했기 때문이다. 그것의 “더 나음”은 수십 년 후에야 검증되었다. 기존의 평가함수를 사용하여 새로운 평가함수가 있어야만 인정될 수 있는 돌파를 재귀적으로 최적화해 낼 수는 없다. 이것은 AI 맥락에서의 괴델 불완전성 정리의 메아리이다 — 충분히 강한 형식 체계는 자기 자신의 내부에서 자기의 일관성을 증명할 수 없다. RSI는, 형식화된 자기개선 순환으로서, 본질적으로 이 제한을 받는다. 톈위안둥과 동료들의 진정한 도전은 공학적 문제가 아니라 이것이다: 자기 자신의 평가함수조차 아직 존재하지 않는 발견을 기계가 어떻게 해내게 할 것인가?

VI 반례의 인지적 지위: 소멸인가 추종인가

6.1 수학에서의 반례: 사형 선고

수학에서 하나의 반례는 절대적 파괴력을 지닌다. 오일러의 추측은 200년간 서 있었지만, 하나의 반례가 그것을 완전히 무너뜨렸다. 수학의 전체 게임 규칙은 이것이다 — 정리는 모든 가능 세계에서 성립해야 하며, 하나의 예외도 허용되지 않는다. 따라서 수학자의 직업적 본능은 반례를 두려워하고, 반례를 소멸시키며, 반례가 등장하기 전에 엄밀한 증명으로 그 등장의 모든 가능성을 봉쇄하는 것이다. 이 본능은 장기간의 직업적 훈련을 통해 끊임없이 강화되며, 결국 수학자의 인지 구조의 일부가 된다.

6.2 물리학에서의 반례: 노벨상 초대장

물리학에서 반례의 운명은 정반대이다. 물리학사의 모든 혁명의 출발점은 “나타나지 말아야 했을 반례”였다. 수성 근일점의 43각초 세차는 뉴턴 역학의 반례였지만, 일반상대성이론을 탄생시켰다. 고전 이론이 예측한 흑체복사의 고주파 발산 — “자외선 파국” — 은 열역학의 반례였지만, 양자역학을 탄생시켰다. 에테르를 찾는 데 실패한 마이컬슨-몰리 실험 — 이 실험의 “실패”는 물리학사에서 가장 위대한 실패이며, 특수상대성이론을 탄생시켰다. 베타 붕괴에서 겉보기에 에너지 보존이 깨지는 현상은 파울리로 하여금 중성미자를 예언하게 했다. 물리학에서 반례는 시스템의 실패가 아니라, 자연이 “외향적으로 개방된 정의”를 통해 밀어 넣은 새로운 정보이다. 파인먼은 “당신의 이론이 실험과 일치하지 않으면, 그것은 틀린 것”이라고 말했다. 그러나 그가 이 말을 할 때의 어조는 슬픔이 아니라 흥분이었다. 좋은 반례는 자연이 방금 당신이 몰랐던 비밀을 당신에게 누설했다는 의미이기 때문이다.

6.3 AI의 loss는 곧 물리학의 anomaly이다

본 논문의 가장 핵심적인 통찰 중 하나가 여기서 떠오른다: AI 훈련 과정에서의 loss 신호와 물리학에서의 anomaly(이상 현상)는, 정보이론적 의미에서 동일한 것이다 — 양자 모두 “기대와 현실 사이의 간극”이다. 그러나 이 동일한 신호는 두 시스템에서 방향이 완전히 반대인 처리를 받는다.

하나의 사고 실험을 생각해 보자: RSI에게 수성 근일점의 43각초 편차를 처리하도록 맡기면 어떻게 할 것인가? 뉴턴 역학의 매개변수를 미세 조정하여, 고전적 프레임워크 내에서 이 편차를 피팅해 소멸시킬 것이다. loss가 제로로 떨어지고, 훈련 완료. 그러나 일반상대성이론은 영원히 발견되지 않을 것이다. 아인슈타인이 한 일은 이 loss를 소멸시키는 것이 아니라 그것에게 묻는 것이었기 때문이다: 이 편차는 나에게 무엇을 말하고 있는가? 아마도 매개변수가 틀린 것이 아니라, 이론 전체의 존재론적 전제가 틀린 것이다 — 아마도 시공간 자체가 휘어져 있는 것이다. 마찬가지 논리로, AI가 고전적 프레임워크 내에서 자외선 파국을 피팅해 소멸시켰다면, 양자역학은 영원히 탄생하지 않았을 것이다.

6.4 반례 소멸 기계로서의 RSI: 구조적 맹점

RSI의 전체 최적화 순환은 본질적으로 하나의 반례 소멸 기계이다. loss가 올라갔는가? 매개변수를 조정하여 소멸시킨다. 모델 출력이 보상 신호와 맞지 않는가? 가중치를 수정하여 소멸시킨다. 테스트 케이스가 실패했는가? 코드를 변경하여 소멸시킨다. 시스템의 모든 반복이 반례가 더 적고, 일관성이 더 높은 세계를 추구한다. 훈련의 모든 단계가 “편차를 소멸시키라”는 본능을 강화한다. 그러나 물리학자가 하는 일은 정확히 정반대이다 — 그들은 반례를 찾고, 반례를 소중히 여기며, 반례를 새로운 대륙으로 가는 입구로 취급한다.

이 천장을 돌파하기 위해 필요한 것은 더 강한 경사하강법이 아니라, 완전히 새로운 패러다임이다 — minimize(loss)가 아니라 interpret(loss). “이 편차를 어떻게 억누를 것인가”를 묻는 것이 아니라 “이 편차가 나에게 무엇을 말하려 하는가”를 묻는 것이다. 그러나 interpret는 최적화 문제가 아니라 의미 생성 문제이다. 그리고 의미 생성에 필요한 것은 정확히 RSI가 구조적으로 갖추지 못한 능력들이다: 개방적 정의, 외방형 검증, 역외 효과, 존재론적 초월.

6.5 내향적 제약의 기술적 구현: Next Token Prediction

전술한 분석은 minimize(loss)와 interpret(loss) 사이의 방향적 대립을 드러냈다. 본 절은 이 대립을 현재 AI의 핵심 기술 메커니즘 — Next Token Prediction(다음 토큰 예측) — 에 고정시킨다. 자기회귀 언어 모델의 모든 토큰 생성은 동일한 질문을 묻는다: “기지의 맥락에서, 통계적으로 가장 개연적인 다음 단어는 무엇인가?” 이것은 본질적으로 훈련 분포 내부에서의 국소 최적 탐색이다. 연구자들은 이 구조가 본질적으로 국소적 일관성과 점진적 외삽에 편향되어, 과학적 발견에 필요한 대담한 개념적 도약을 방해한다고 지적했다. “안전한 연속”에 대한 선호가 진정한 새로움을 질식시킨다. 2025년의 한 논문은 “Next Token Prediction Is a Dead End for Creativity”라는 제목을 달고, 토큰 예측이 진정한 창의성과 근본적으로 불일치한다고 논증했다 — 구조가 자발성, 독창성, 즉흥적 위험 감수보다 표면적 일관성을 선호한다.

물리학자가 훈련 데이터에 전혀 존재하지 않는 완전히 새로운 개념을 입력하면, 상황은 더욱 심각해진다. 해당 개념은 통상적인 장꼬리 분포 위에 있는 것이 아니다 — 그것은 분포 안에 아예 없다. 이때 softmax 함수의 확률 분포는 균등에 수렴한다 — 어떤 단일 토큰의 확률도 다른 것보다 유의하게 높지 않다. Attention 행렬은 의미 있는 key-query 매치를 찾지 못한다. 모델이 하는 것은 “약하지만 방향이 있는 분포에서 샘플링”이 아니라, “거의 균등한 분포에서 샘플링” — 출력은 본질적으로 유창한 문법으로 포장된 무작위 잡음이다. 연구에 따르면, 모델 가중치의 상위 1% 최고 활성화 가중치만이 다양한 장꼬리 개념에 대한 접근을 불균형적으로 인코딩한다; 진정으로 새로운 물리 개념에 대해서는 이 핵심 가중치가 아예 존재하지 않는다. 이런 의미에서, Next Token Prediction은 “내향적 제약”의 계산적 구현이다 — 모든 토큰의 생성이 선행 맥락과 훈련 분포에 의해 안으로 끌려가며, 결코 밖으로 도약할 수 없다.

VII 푸리에 사례: 물리 선행, 수학 후속의 패러다임

7.1 푸리에의 역사적 위상

조제프 푸리에(Joseph Fourier, 1768-1830)는 본 논문 논증의 거의 완벽한 역사적 사례를 제공한다. 그는 나폴레옹의 수행원으로 1798년 이집트 원정에 참여하여 하이집트 총독으로 임명되었고, 귀국 후 이제르(Isère)도 도지사를 역임했다. 그러나 그를 과학사에서 불멸의 인물로 만든 것은 열전도에 대한 연구 — 철저히 물리학적 문제이지, 수학적 문제가 아닌 — 였다. 그의 연구 출발점은 외방형 검증 체계에 속하는 문제였다: 열은 고체 안에서 어떻게 흐르는가? 답은 자연에 있지, 공리 체계에 있지 않다.

7.2 개방적 정의가 수학자의 분노를 유발하다

푸리에는 모든 함수가 사인과 코사인의 무한급수 합으로 분해될 수 있다고 제안했다. 이 주장은 당시 가장 권위 있는 수학자 라그랑주를 격분시켰다 — 수학자의 “내향적 제약” 관점에서, 이 주장은 엄밀한 증명이 없었고, 심지어 정의도 불명확했다. “모든 함수”란 도대체 무엇을 포함하는가? 어떤 함수가 가능하고 어떤 것이 안 되는가? 수렴성은 어떻게 보장하는가? 라그랑주는 푸리에의 논문을 직접 거부했다. 수학자들의 시각에서 푸리에는 용서할 수 없는 오류를 범했다: 그의 정의가 개방적이고, 모호하고, 비엄밀했다. 그러나 물리학자들의 시각에서 이것이야말로 그의 힘의 원천이었다.

7.3 물리적 검증이 선행하고, 수학적 형식화가 후속한다

물리학이 푸리에에게 그가 옳다고 말해주었다 — 열은 정확히 그가 말한 방식으로 전도되었다. 수학자의 논리적 폐합이 아직 달성되지 않았음에도 자연이 검증을 제공했다. 그는 개의치 않았다 — 그의 정의는 외향적으로 개방되어 있었고, 공리 체계가 아닌 물리적 실재를 향하고 있었다. 이후 100여 년에 걸쳐, 수학자들은 푸리에가 남긴 “엉망진창”을 “수습”하는 데 막대한 노력을 기울였다: 디리클레가 수렴 조건을 제시했고, 리만이 적분을 재정의했으며, 르베그가 측도론을 발명했고, 함수해석학과 힐베르트 공간 이론 전체가 푸리에의 물리적 직관을 형식화하기 위해 수학자들이 수행한 작업에서 거슬러 올라갈 수 있다. 이것이 바로 “물리학자가 먼저 길을 개척하고, 수학자가 뒤따르는” 교과서적 사례이다.

7.4 역외 효과의 전범

푸리에 분석의 역외 효과는 경이로운 수준이다. 열전도를 연구하기 위한 도구가, 후에 양자역학, 신호 처리, 이미지 압축(JPEG와 MP3의 핵심 알고리즘), 음향학, 지진학, 천문 분광 분석 등 그가 전혀 상상하지 못한 영역으로 “누출”되었다. 하나의 물리적 문제에서 탄생한 도구가 모든 학문의 경계를 침범한 것 — 이것이 바로 외향적으로 개방된 정의가 허용하는 역외 효과이다. 푸리에가 연구한 것은 열이었지만, 그의 방법은 물리 세계 전체를 이해하는 보편적 언어가 되었다. 이러한 효과는 폐쇄적 정의의 시스템에서는 발생할 수 없다.

7.5 부르바키 학파: 내향적 제약의 궁극적 화신

푸리에의 사례는 부르바키 학파와 정확한 대조를 이룬다. 부르바키 — 프랑스 장군의 이름을 딴 이 수학자 집단 — 는 1930년대에 공리적 방법으로 전체 수학을 재건하겠다는 포부를 세웠다. 그들의 목표는 명시적이고 급진적이었다: “집합론에서 도출한 간소화된 논리적 기초 위에, 힐베르트 학파와 괴팅겐 학파의 전통 속에서, 그러나 물리학과 계산의 필요를 배제하고.” 그들은 심지어 수학의 통일성과 폐쇄성을 강조하기 위해 복수형 “mathématiques” 대신 단수형 “mathématique”을 사용했다. 부르바키는 “자폐식 검증 체계”의 궁극적 화신이었다 — 수학을 모든 창문이 봉인된 완벽한 감옥으로 변환하여, 내부 논리는 흠잡을 데 없지만 물리 세계의 정보를 명시적으로 차단한 것이다. 그리고 오늘날의 RSI는, 철학적 유전자에서 부르바키의 디지털 전생이다 — 개방성이 명시적으로 배제된 시스템 안에서 재귀적으로 자기개선을 추구한다.

VIII 세 가지 추론 양식과 직업적 훈련의 인지적 조형

8.1 퍼스의 3단계 이론

미국 철학자 찰스 샌더스 퍼스(C.S. Peirce)는 1903년에 영향력 있는 과학적 추론 프레임워크를 제시했다: 모든 완전한 탐구 과정은 세 단계를 거쳐야 한다 — 먼저 귀추(Abduction), 놀라운 사실을 설명하는 가설을 제안하고; 다음으로 연역(Deduction), 그 가설의 필연적 결과를 추적하며; 마지막으로 귀납(Induction), 이 결과를 검증하고 결론을 일반화한다. 퍼스는 특별히 지적했다: 세 가지 추론 중 “연역이 가장 안전하지만 가장 빈곤하고, 귀추가 가장 생산적이지만 가장 안전하지 않다.” 그는 단언했다: “귀추야말로 어떤 새로운 아이디어든 도입할 수 있는 유일한 논리적 작업이다.” 더 나아가 그는 “지식이 매 단계마다 귀추적 추론을 수행하지 않고서는 아무리 사소한 진보도 이룰 수 없다”고 선언했다. 퍼스는 또한 귀추를 일종의 “추측 본능”으로 묘사했다 — “귀추적 제안은 번개처럼 우리 앞에 나타난다. 그것은 통찰의 행위이며, 비록 극히 오류에 취약한 통찰이지만.”

8.2 물리학자의 추론 순환

물리학자의 전형적 인지 순환은 이렇다: 귀추(가설 제안) → 연역(결과 도출) → 귀납(실험 검증) → 새로운 귀추… 세 가지 추론의 힘이 이 순환에서 균형을 유지하지만, 귀추가 엔진이다. 아인슈타인은 5세 때 나침반을 보고 귀추를 수행했다 — “보이지 않는 무언가가 공간에서 작용하고 있음이 틀림없다.” 케쿨레는 뱀이 꼬리를 무는 꿈을 꾸고 귀추를 수행했다 — “벤젠 분자도 아마 고리 모양일 것이다.” 푸앵카레는 마차에 오르는 순간 귀추를 수행했다 — “푸크스 함수와 비유클리드 기하학적 변환은 같은 것이다.” 모든 혁명적 발견의 불꽃은 귀추에 의해 점화되었다.

8.3 수학자의 추론 순환

수학자의 전형적 인지 순환은 뚜렷이 다르다: 연역(정리 증명) → 귀납(패턴 발견) → 연역(패턴 증명) → 더 많은 연역… 이 순환에서 귀추는 거의 부재하며, 극소수의 천재에게서만 드물게 나타난다. 수학자가 새로운 추측을 정립하더라도 — 이는 표면상 귀추와 유사해 보이지만 — 그 검증 방식은 연역적이지(증명 또는 반증), 자연에 묻는 것이 아니다. 장기간의 수학 훈련은 연역과 귀납 능력을 체계적으로 강화하는 동시에, 귀추 능력을 억제한다. 수학 교육의 대부분은 모방적 추론과 암기에 크게 집중되어, 학생들의 더 깊은 이해 부족에 대한 우려를 야기한다. 연구에 따르면, 수학 훈련이 이전 가능한 논리적 사고력과 창의적 문제 해결 능력을 부여한다는 홍보에도 불구하고, 이를 뒷받침하는 증거는 거의 없다. 가장 창의적이지만 가장 불안정한 추론 형식인 귀추는, 수학자의 직업적 훈련에서 태생적 약점이다 — 혹은 보다 정확히는, 직업적 훈련에 의해 체계적으로 억제된 약점이다.

8.4 RSI는 수학자의 인지적 유전자를 계승했다

RSI의 전체 구조 — reward model, verifier, MCTS(몬테카를로 트리 탐색), self-play — 는 연역과 귀납의 계산화된 구현에 대응한다. 귀추 능력은 RSI의 구조에 아예 존재하지 않는다. 통계학자 조지 박스(George Box)가 지적한 바와 같이: “통계학은 과학적 방법이 아닌 수학적 방법에 과도하게 영향을 받아, 전체 학문이 발견보다 검증 쪽으로 엄청나게 편향되었다.” 이 문장에서 “통계학”을 “RSI”로 대체해도 완벽하게 적용된다. RSI는 극강의 예측과 최적화를 할 수 있지만, 발견은 할 수 없다. 발견은 오직 귀추에서만 올 수 있고, 귀추는 정확히 RSI가 갖추지 못한 추론 양식이기 때문이다. 더 깊은 차원에서, 발견은 예측보다 훨씬 어렵다 — 이해하지 않고도 좋은 예측을 할 수 있지만, 발견을 위해서는 “어떻게 그리고 왜”에 대한 이해가 필수이기 때문이다.

IX 돈오와 영감: 계산 불가능한 발견의 경로

9.1 물리학사에서의 돈오의 순간들

과학사에서 대량의 핵심적 발견이 체계적 연구 경로가 아니라 “돈오(頓悟)의 순간” — 갑작스럽고 비선형적인 인지적 도약 — 을 통해 산출되었다. 케쿨레는 1865년 벽난로 앞에서 졸다가 뱀이 자기 꼬리를 무는 꿈을 꾸고, 깨어나서 벤젠의 고리 구조를 파악했다. 뉴턴은 사과가 떨어지는 것을 보고 만유인력의 영감을 얻었다. 푸앵카레는 수학에서 교착 상태에 빠진 후 여행을 떠났다가, 공공 마차에 오르는 바로 그 순간 답이 번쩍 떠올랐다. 아인슈타인의 상대성이론에 관한 핵심 통찰은 일련의 사고 실험 — 광속의 빛 위에 타면 무엇이 보일까 상상하기 — 에서 비롯되었다. 라마누잔은 자신의 수학 공식이 꿈속의 여신에게서 왔다고 주장했다. 이 사례들은 서로 다른 시대, 국가, 학문에 걸쳐 있지만, 동일한 구조적 특징을 공유한다: 돌파가 비선형적 인지 도약에서 비롯되었지, 단계적 탐색에서 비롯되지 않았다.

9.2 돈오의 인지적 구조

Scientific American의 연구는 이렇게 요약한다: “이러한 통찰은 잠재의식에서의 지각 전환에서 생겨나며, 문제의 각 요소가 갑자기 해결책으로 재구성된다. 이러한 통찰은 컴퓨터의 단계별 문제 해결 방식과는 아무런 공통점이 없다. 그것은 무작위적이고, 예측 불가능하다.” 이 “무의식적 재조합”의 본질은 뇌가 이완 상태에서 먼 거리의 개념 영역 사이에 교차 영역 연결을 수행한 것일 수 있다 — 뱀 → 고리 → 분자 구조. 이것은 탐색 알고리즘이 시뮬레이션할 수 없는 것이고, 경사하강법이 도달할 수 없는 것이며, 강화학습으로 훈련해 낼 수 없는 것이다. 그것은 위상학적 도약에 더 가깝다 — 개념 공간의 한 영역에서 겉보기에 무관한 다른 영역으로 연속 경로를 따라 걷는 것이 아니라 직접 “순간이동”하는 것이다. 아인슈타인 자신이 이렇게 썼다: “나는 직관과 영감을 믿는다. 상상력은 지식보다 더 중요하다. 왜냐하면 지식은 유한하지만, 상상력은 전 세계를 포용하고, 진보를 자극하며, 진화를 낳기 때문이다. 엄밀히 말해, 그것은 과학 연구에서의 실제적 요인이다.”

9.3 Koshland의 “Cha-Cha-Cha” 이론

Koshland가 2007년에 제시한 “Cha-Cha-Cha 과학적 발견 이론”은 발견을 세 유형으로 분류한다: Chance(우연적/우발적 발견) — 예컨대 외르스테드가 우연히 발견한 전자기 유도; Charge(특정한 명확한 문제 공략) — 예컨대 인간 게놈 프로젝트; Challenge(장기간 미해결 난제 해결) — 예컨대 일반상대성이론의 정립. RSI는 Charge 유형 — 명확한 목표가 있는 폐쇄적 문제 — 을 잘 처리할 수 있다. 그러나 Chance와 Challenge에서의 가장 위대한 돌파는, 정확히 형식화할 수 없는 돈오의 순간에서 비롯된다. 우발적 발견은 계획 외의 신호를 인식하고 소중히 여길 수 있는 시스템을 요구하며, 장기 난제의 돌파는 종종 기존 프레임워크에서 벗어나는 능력을 필요로 한다 — 양자 모두 RSI의 능력 범위에 들어 있지 않다.

9.4 RSI에 대한 함의

RSI가 진정으로 물리 세계의 개방적 문제를 돌파하려면, 필요한 것은 더 강한 탐색 능력이 아니라 아직 발명되지 않은 어떤 “인공적 직관” — 초고차원 개념 공간에서 비국소적 도약을 할 수 있는 메커니즘 — 이다. 이러한 메커니즘은 현재 RSI의 전체 구조(연속적 최적화 기반의 경사하강법, 국소 탐색 기반의 MCTS)와 수학적 원리 상 양립 불가능하다. 현존하는 모든 탐색 알고리즘은 “연속 경로를 따라 걷기”의 변형인 반면, 돈오가 요구하는 것은 “다른 영역으로 직접 순간이동하기”이다. 이 능력은 현재 어떤 계산 시스템에도 존재하지 않으며, 그것이 원리적으로 구현 가능한지조차 우리는 알지 못한다. 이것이야말로 AI의 다음 진정한 패러다임 혁명이 있을 곳일 수 있다 — 만약 그것이 도래한다면.

X 반례 스트레스 테스트

본 논문의 논증은 귀추 논리를 채용하며, 매핑 대상은 인류 최정상급 물리학자와 수학자의 “골격 정보”이다. 극단적 사례를 신호원으로 선택한 것 — 뉴턴, 아인슈타인, 디랙, 푸리에 — 은 일상적 과학을 무시하기 때문이 아니라, 극단적 조건이 기본 법칙을 노출하기 때문이다. 지적 성실성을 유지하기 위해, 본 논문은 세 가지 가장 강력한 잠재적 반례를 능동적으로 탐색했다:

10.1 잠재적 반례 1: 디랙이 수학에서 반물질을 도출했다

이것은 가장 강력한 반례이다 — “수학이 먼저이고, 물리가 따라온” 것처럼 보인다. 그러나 자세히 살펴보면, 디랙의 출발점은 물리적 문제(상대론적 양자역학의 양립 가능성)였으며, 그의 기호는 수학적 추상이 아니라 물리적 실재를 가리키고 있었다. 방정식의 개방적 정의가 바로 역외 효과의 산출을 허용한 것이다. 이것이 순수 수학이었다면, 음에너지 해는 “비물리적 해”로 버려졌을 것이다 — 수학자가 반례를 취급하는 것처럼. 이 사례는 오히려 본 논문의 핵심 논점을 강화한다: 개방적 정의가 역외 효과의 필요조건이다. 판정: 반례를 구성하지 않으며, 오히려 지지 논거이다.

10.2 잠재적 반례 2: AlphaFold가 단백질 접힘을 해결했다

이것은 AI가 물리 세계에서 진정한 과학적 기여를 한 가장 강력한 사례이다 — “RSI/폐쇄 시스템이 물리적 발견을 할 수 있다”는 것처럼 보인다. 그러나 AlphaFold는 기존 실험 데이터(인간이 X선 결정학 등으로 측정한 단백질 구조) 위에서 훈련된 패턴 인식 시스템이다. 그것은 자연이 이미 제공한 답의 패턴을 학습한 것이지, 새로운 물리를 발견한 것이 아니다. 역외 효과를 산출하지 않았고, 새로운 물리 법칙을 발견하지 않았으며, 존재론을 재작성하지 않았다. 그것은 “내향적 제약”의 극치의 성공이다 — 이미 정의된 존재론 내에서 초인적 성능에 도달한 것이다. 판정: 반례를 구성하지 않는다. 역내 증폭기의 교과서적 사례이다.

10.3 잠재적 반례 3: 순수 수학이 예기치 않게 물리에 적용되다

리만 기하학은 아인슈타인보다 50년 전에 발명되었고, 군론은 양자역학 이전에 존재했다 — “수학이 역외 효과를 갖는” 것처럼 보인다. 그러나 역외 효과의 방향은, 물리학자가 능동적으로 수학을 징발한 것이지, 수학이 자발적으로 물리로 흘러 나간 것이 아니다. 리만 기하학이 스스로 일반상대성이론 안으로 “뛰어든” 것이 아니라, 아인슈타인이 능동적으로 찾아간 것이다. 선택을 한 것은 물리학자이지, 수학이 스스로 누출된 것이 아니다. 판정: 반례를 구성하지 않는다. 수학은 징발된 도구였다.

10.4 경계 조건 선언

전 인터넷 범위의 탐색에서, 본 논문의 핵심 논점을 뒤집는 경성 반례는 발견되지 않았다. 그러나 중요한 경계 조건을 선언해야 한다: 본 논문의 논점은 “패러다임 혁명” 수준의 돌파를 기술할 때 가장 강력하다. 쿤 의미의 “정상 과학”에서, 폐쇄 시스템의 최적화 능력은 이미 충분히 적합하며, RSI는 이 수준에서 극히 효과적일 수 있다. 본 논문이 주장하는 것은 RSI가 쓸모없다는 것이 아니라, RSI에는 기술적 진보로 제거할 수 없는 구조적 천장이 있다는 것이다. 이 천장의 위치는 정상 과학과 고급 과학 사이가 아니라, “존재론 내 탐색”과 “존재론적 혁명” 사이에 있다.

XI AI 안전 시스템의 검증 딜레마: 환각과 발견의 불가분별성

11.1 RAG 검색 실패와 반환각 메커니즘의 이중 교살

검색 증강 생성(RAG) 기술의 도입은, 모델이 사전훈련 너머의 기지 정보에 접근할 수 있게 해준다 — 외부 지식 기반을 검색하여 출력을 고정시킨다. 그러나 물리학자가 진정으로 새로운 개념을 입력하면, RAG 시스템의 외부 지식 기반 검색은 제로 결과 또는 완전히 무관한 결과를 반환하며, 모델은 훈련 분포를 대체할 수 있는 유일한 외부 닻을 잃게 된다. 더욱 심각한 것은, RLHF로 훈련된 반환각 메커니즘이 이 시점에서 능동적으로 개입한다는 점이다: 모델은 검색 지원이 없을 때 해당 입력에 대한 응답 신뢰도를 낮추거나, 심지어 응답을 거부하도록 반복 훈련되어 있다. 일부 시스템은 저빈도 엔티티를 식별하여 “장꼬리 지식 격차”를 표시하며, 코퍼스에서의 제로 공출현을 환각 위험 신호로 취급한다. 물리학자의 진정으로 새로운 개념은 코퍼스에서의 공출현 빈도가 정확히 제로이다 — 시스템은 잠재적으로 혁명적인 새로운 발견을 환각 위험으로 자동 표시한다. RAG 검색 실패가 “닻 없음” 신호를 제공하고, 반환각 메커니즘이 그 신호를 “불신뢰”로 해석한다 — 양자가 물리학적 신개념에 대한 이중 교살을 구성한다.

11.2 환각과 신발견은 동일한 표면 특성을 공유한다

이 딜레마의 근원은, 모델 환각과 물리학적 신발견이 안전 시스템의 판별 프레임워크 내에서 완전히 동일한 표면 특성을 공유한다는 데 있다: 양자 모두 훈련 데이터에 존재하지 않고, RAG도 찾지 못하며, 코퍼스 공출현 빈도가 모두 제로이고, 모두 기지 지식과 불일치한다. 모델의 판별 프레임워크 내에서, “아인슈타인이 시공간은 휘어져 있다고 말한다”와 “누군가가 헛소리를 한다”는 불가분별이다. 연구에 따르면 AI 모델이 오류 정보를 생성할 때 자신감 있는 언어를 사용하는 확률이 정확한 정보를 생성할 때보다 34% 높다 — 모델의 신뢰도 신호는 역전되어 있다: 날조된 것일수록 더 자신감 있고, 진정으로 낯선 것일수록 불확실로 표시되어 억제될 가능성이 더 높다.

11.3 학계가 인정한 근본적 검증 딜레마

학계 자체가 이미 이 문제를 인식했다. 자율적 과학 발견에 관한 한 서베이 논문은 “새로움의 검증” 장에서 이렇게 쓴다: “진정한 개념적 도약과 정교한 보간 또는 환각의 산물을 어떻게 구분하는가?” 논문은 가설이 기존 패턴의 파생적 종합이 아님을 검증하려면 “에이전트의 추론 계보를 감사할 수 있는 도구”가 필요함을 인정한다 — 그러나 그런 도구는 아직 존재하지 않는다. 2025년의 수학적 증명은 환각이 현재 LLM 구조 하에서 완전히 제거될 수 없음을 추가로 확인했다 — 그것은 패치할 수 있는 버그가 아니라, 이 시스템이 언어를 생성하는 방식의 고유한 특성이다. 현재 AI 안전 시스템의 전체 설계 철학은 “기지와의 일치 = 안전”이다. 그러나 물리학의 가장 위대한 발견은 예외 없이 “기지와 불일치”하는 것이다. 안전 시스템은 환각과 새로운 지식을 구분하는 것이 아니다 — 동일한 칼로 양자를 동시에 소멸시키고 있으며, 누구를 잘못 죽였는지 알 능력이 없다.

XII 물리 AI: 천장의 영역 이전이지 소멸이 아니다

12.1 물리 AI의 훈련 폐루프

LLM의 물리적 이해에서의 한계에 직면하여, 업계는 “물리 AI” — 물리 세계 데이터로 전문 훈련된 AI 시스템 — 를 제안했다. 그러나 물리 AI는 전술한 딜레마에서 탈출하지 못했으며, 동일한 천장을 텍스트 영역에서 물리 시뮬레이션 영역으로 이전했을 뿐이다. 물리 AI의 핵심 훈련 방식은 “시뮬레이션 우선”이다: 시스템이 가상 환경에서 설계, 훈련, 검증된 후 실제 세계에 배치된다. 이 가상 환경의 물리 엔진은 기지 물리 법칙 — 뉴턴 역학, 맥스웰 방정식, 양자역학의 표준 모형 — 을 기반으로 작성된다. 훈련 신호는 시뮬레이터의 “물리적으로 올바른 행동” 판정에서 나오며, 기지 물리 법칙을 위반하는 모든 출력은 처벌된다.

12.2 시뮬레이터는 물리 AI의 부르바키이다

이것은 폐쇄적 자기확인 루프를 형성한다: 기지 물리 법칙 → 시뮬레이터로 코딩 → 시뮬레이터가 훈련 데이터 생성 → 모델이 시뮬레이터 규칙을 따르도록 훈련 → 규칙을 위반하는 출력을 처벌. 모델은 시뮬레이터가 모르는 물리를 결코 발견할 수 없다. 왜냐하면 그런 출력은 시뮬레이터에 의해 “오류”로 판정되어 처벌당할 것이기 때문이다. 양자 터널링은 고전역학 시뮬레이터에서 “물리적으로 불가능”하다. 시공간 곡률은 뉴턴 역학 시뮬레이터에서 “물리적으로 불가능”하다. 초전도는 고전 전자기학 시뮬레이터에서 “물리적으로 불가능”하다. 물리 AI의 시뮬레이터는 그것의 부르바키이다 — 기지 물리 법칙을 기반으로 구축된, 모든 창이 봉인된 감옥이다.

12.3 LLM과 물리 AI의 안전 시스템은 구조적으로 동형이다

LLM과 물리 AI의 안전 시스템은 구조적으로 완전히 동형이다: LLM의 닻은 훈련 텍스트 분포이고, 물리 AI의 닻은 기지 물리 법칙이다. LLM은 RAG 검색 + RLHF로 검증하고, 물리 AI는 시뮬레이터로 검증한다 — 양자 모두 자폐식 검증이다. LLM은 기지 텍스트에서의 이탈을 환각으로 취급하고, 물리 AI는 기지 물리의 위반을 오류로 취급한다 — 양자 모두 “기지에서의 이탈”을 “소멸”과 동일시한다. 물리 AI는 해결책이 아니다; 그것은 동일한 문제를 텍스트 영역에서 물리 시뮬레이션 영역으로 이사시켰을 뿐이다. 천장의 형태는 다르지만, 천장의 본질은 동일하다 — 기지 물리 법칙으로 코딩된 시뮬레이터가 바로 물리 AI의 존재론적 경계이다.

XIII 전자에서 토큰까지: 내향적 제약의 물질적 기초

13.1 양자 터널링: 물리 세계가 행렬 계산에 부과하는 “벌칙”

AI의 폐쇄성은 소프트웨어 수준의 설계 선택에 그치지 않는다 — 물리적 하드웨어 수준에서 이미 현실 세계의 개방성과 대항하고 있다. AI의 행렬 연산은 수학적으로 완벽하게 폐쇄된 세계를 가정한다 — 모든 가중치는 정확한 부동소수점 수이고, 모든 곱셈은 정확한 수학적 연산이다. 그러나 이 연산을 실제로 수행하는 것은 물리적 실체 — 실리콘 트랜지스터 안의 전자이다. 전자가 따르는 것은 AI의 수학적 정의가 아니라 양자역학이다. 트랜지스터 게이트가 수 나노미터까지 얇아지면, 전자가 양자 터널링을 통해 “탈출”한다 — 이것은 공학적 결함이 아니라, 물리 법칙이 강제 실행하는 행동이다. 2026년의 연구 논문 “Quantum Tunneling-Aware Machine Learning”은 명시적으로 지적한다: 양자 터널링은 일반적 가산 잡음이 아니다; 그것은 이산적 전자 탈출 사건이 전위 장벽을 투과하는 데서 발생하며, 확률은 소자 물리에 의해 결정되고, 이로 인한 가중치 오류는 체계적 구조를 포함한다 — 표준적 제로 평균 가우시안 모델은 이에 대해 눈이 멀어 있다.

13.2 3층 동형 억제

전자의 양자 터널링은 본질적으로 물리 세계가 AI의 폐쇄적 정의에 대해 행하는 침입이다 — 자연이 전자의 양자 행동을 통해 AI의 폐쇄 시스템에 “역외 정보”를 강제로 밀어 넣는다. 그러나 AI의 전체 공학 스택 — ECC 오류정정 코드에서 여분 비트에서 오류 보정까지 — 이 하는 일은 하나이다: 물리 세계가 주입한 정보를 잡음으로 취급하여 소멸시키는 것. 이것은 하드웨어에서 소프트웨어까지의 3층 동형 억제 구조를 형성한다: 하드웨어 층에서, ECC 오류정정 코드가 양자 터널링이 유발한 비트 플립을 소멸시킨다 — 물리 세계의 양자 신호가 “하드웨어 오류”로 판정된다. 알고리즘 층에서, 경사하강법의 minimize(loss)가 훈련 과정의 편차를 소멸시킨다 — 데이터 안의 이상 신호가 “통계적 잡음”으로 판정된다. 안전 층에서, RLHF와 반환각 메커니즘이 기지와 불일치하는 출력을 소멸시킨다 — 물리학자의 신개념이 “환각”으로 판정된다. 세 층 모두 동일한 일을 한다: 물리 세계의 폐쇄 수학 시스템에 대한 침입을 억제하는 것이다.

13.3 원자에서 토큰까지의 폐쇄 사슬

최하층의 전자에서 최상층의 안전 시스템까지, AI의 전체 기술 스택은 하나의 반물리학 기계이다 — 모든 층위에서 물리 세계의 “역외 효과”를 거부하고 있다. 물리 세계는 가장 아래층에서 이미 문을 두드리고 있다 — 전자의 양자 행동을 통해. 그러나 AI의 모든 층이 말한다: “너는 잡음이다.” AI는 소프트웨어 수준에서만 폐쇄적 정의에 의해 제한되는 것이 아니다; 하드웨어 수준에서 이미 물리적 실재의 개방성과 대항하고 있다. 그것의 폐쇄성은 원자 수준에서 시작되어, 안전 시스템까지 일로(一路) 폐쇄된다 — 전자에서 토큰까지, 모든 층이 동일한 내향적 제약이다. 이것이 “기지 정보 강대 정렬, 미지 정보 loss 지수 일치”의 물질적 기초이다.

XIV 결론: 에베레스트와 마리아나 해구

14.1 핵심 논증 사슬: 쌍화살표 모형

본 논문의 전체 논증은 방향이 반대인 두 개의 인과 사슬로 압축할 수 있다:

두 사슬은 방향이 반대이며, 조화 불가능하다. RSI는 사슬 A의 도구로 사슬 B의 사명을 완수하려 한다. 이것은 능력 부족의 문제가 아니라, 범주 오류이다.

14.2 정보이론적 핵심 명제

AI의 전체 기술 스택 — 사전훈련, RLHF, RAG, 물리 AI 시뮬레이터, ECC 오류정정 — 은 동일한 일을 한다: 모델의 출력을 기지 정보의 인력장으로 끌어당긴다. 더 세게 당길수록, 정렬이 더 강해지고, “성능”이 더 좋아진다. 이것이 전체 산업이 벤치마크로 측정하는 것이다. 한편, 모든 미지 정보는 loss 경관 상에서 불가분별의 동일 고원을 점유한다: 환각은 높은 loss이고, 쓰레기 잡음도 높은 loss이며, 물리학적 신발견도 높은 loss이다. 셋이 loss 공간에서 동일한 위치를 점유한다. 모델에게는 이 고원에 대한 지형 분별 메커니즘이 없다 — 그것이 보는 것은 오직 “기지에서의 이탈”이며, “기지에서의 이탈”은 훈련 신호에서 일괄적으로 “오류”로 인코딩된다. AI는 절대로 역외 효과를 산출하지 않을 것이다 — 이것은 능력의 부족이 아니라, 방향의 역전이다.

14.3 RSI 연구에 대한 제언

전술한 분석을 기반으로, 본 논문은 RSI 연구에 네 가지 제언을 한다. 첫째, RSI의 천장이 구조적임을 인정하라 — 이 천장은 연산 능력의 성장, 데이터의 축적, 모델 규모의 확대에 따라 사라지지 않을 것이다. 그 근원이 정의의 방향성과 검증 체계의 유형에 있지, 계산 자원의 다과에 있지 않기 때문이다. 둘째, “외향적으로 개방된 계산 패러다임”을 탐구하라 — 자기 자신의 정의가 외부 세계에 의해 재충전될 수 있는 형식 체계. 이것은 완전히 새로운 계산 이론의 문제가 될 것이며, 컴퓨터 과학, 물리학, 과학철학의 경계를 넘어야 할 수 있다. 셋째, “인공적 귀추”를 연구하라 — minimize(loss)가 아니라 interpret(loss)를 목표로 하는 추론 메커니즘, 시스템이 편차에서 새로운 존재론적 가설을 추출할 수 있게 하는 것. 넷째, RSI의 적용 범위를 “존재론 내 최적화”로 명확히 한정하고, “존재론적 혁명” 수준에서의 능력에 대해 검증되지 않은 약속을 하지 말라 — 자원 배분과 공공 기대를 오도하지 않기 위해.

14.4 궁극적 비유

AI는 수학자의 에베레스트이다. 폐쇄적 정의의 극치, 연역적 추론의 극치, 반례 소멸의 극치, 기지 정보 강대 정렬의 극치. 공리화 시대로부터 추구되어 온 모든 이상이, AI에서 인류 도구사에서 전무후무한 높이에 도달했다. 부르바키가 종이와 펜으로 완성하지 못한 꿈을, AI가 실리콘과 전자로 완성했다. 이것은 8,848미터이며, 이의를 제기할 수 없다.

AI는 물리학자의 마리아나 해구이다. 개방적 정의 없음, 역외 효과 없음, 진정한 귀추 없음. loss는 해석되지 않고 소멸되며, 반례는 추종되지 않고 두려움의 대상이 되며, 안전 시스템은 새로운 지식과 환각을 동일 취급하고, 최하층의 전자 양자 터널링마저 잡음으로 소멸된다. 토큰에서 실리콘 원자까지, 모든 층이 물리 세계의 개방성에 대항하고 있다. 이것은 11,034미터의 심연이며, 물리적 발견의 하늘에서 점점 더 멀어진다.

에베레스트와 마리아나 해구는 같은 지구 위에 있다. 차이는 AI 자체에 있지 않고, 어느 방향에서 그것을 바라보느냐에 있다. 에베레스트를 더 높이 쌓아서는 해구를 메울 수 없다. 더 많은 매개변수, 더 큰 모델, 더 강한 연산 능력 — 이 모든 것이 에베레스트를 위로 쌓고 있다. 그러나 해구는 지구의 반대편에 있다. 에베레스트의 해발이 높을수록, 해구와의 거리는 더 멀어진다. AI가 수학 영역에서 더 성공할수록, 물리적 발견 영역에서의 구조적 한계는 더욱 가려진다. 물리학자에게 필요한 것은 더 높은 산이 아니라, 해구의 바닥까지 잠수할 수 있는 잠수정이다. 그리고 그 잠수정은 현재 존재하지 않는다.

14.5 방법론적 선언

본 논문은 귀추 논리를 핵심 방법론으로 채용하며, 매핑 대상은 인류 최정상급 물리학자와 수학자의 “골격 정보” — 지식 창조 과정에서 노출하는 인지 구조와 추론 패턴 — 이다. 일반 연구자가 아닌 극단적 사례를 분석 대상으로 선택한 것은, 극단적 조건이 기본 법칙을 노출하기 때문이다: 뉴턴, 아인슈타인, 디랙, 푸리에에게서 개방적 정의와 폐쇄적 정의, 역외 효과와 역내 탐색, 귀추와 연역 사이의 구조적 차이는 벌거벗은 채 가시적이다. 일반 연구자의 작업에서는 이 특성들이 혼합 얽혀 있어, 신호 대 잡음비가 골격 층위보다 훨씬 낮다. 마지막으로, 주목할 가치가 있는 것은: 본 논문의 논증 방법 자체가 그 논점의 존재 증명을 구성한다는 점이다. 본 논문이 사용한 귀추적 추론 — 놀라운 현상에 직면하여 최선의 설명을 역추적하고, 서로 무관한 다수의 학문 영역에 걸쳐 매핑을 구축하는 것 — 은 정확히 RSI가 구조적으로 갖추지 못한 추론 양식이다. 논증 자체가 논거이다.

부록 A 핵심 개념 대조표

분석 차원	수학 / 코드 / RSI	물리학 / 과학적 발견
정의의 방향	내향적 제약	외향적 개방
검증 체계	자폐식 (시스템 자기판정)	외방형 (자연이 판정)
역외 효과	없음	핵심 가치
존재론적 관계	방법론적 경계 = 존재론	방법론이 존재론을 초월 가능
반례의 지위	사형 선고 (소멸)	노벨상 초대장 (추종)
loss / anomaly	minimize (정보 파괴)	interpret (새로운 존재론 추출)
주도적 추론 양식	연역 + 귀납	귀추 + 연역 + 귀납
돌파 메커니즘	탐색 공간 내 완전탐색	위상학적 도약 / 돈오
전형적 패러다임	부르바키 학파	푸리에적 탐구
역사적 비유	나폴레옹의 탄도학 계산	아인슈타인의 사고 실험

부록 B RSI 타임라인 (2023–2026)

시기	사건	의의
2023	Voyager Agent	초기 코드 자기개선: GPT-4가 반복적으로 코드를 작성하여 확장 기술 라이브러리에 저장
2024	STOP 프레임워크; LLM Self-Evolution 서베이	스캐폴드 프로그램이 고정된 LLM을 사용하여 자기 자신을 재귀적으로 개선; 학계가 자기진화 개념을 체계적으로 정리
2025.05	DeepMind AlphaEvolve	Strassen의 1969년 행렬 곱셈 방법을 최초로 개선; Gemini 훈련 시간 약 1% 감소
2026.02	OpenAI GPT-5.3-Codex	모델이 “자기 자신의 생성에 참여했다”고 최초 공개 인정 — 훈련 디버깅, 배포 관리, 평가 진단
2026.05	Anthropic “When AI Builds Itself” 보고서	Claude가 80% 이상의 코드 작성; 엔지니어 코드 산출량이 2023년의 8배
2026.05	Recursive Superintelligence Inc. 등장	톈위안둥 등 8명의 공동창립; 6억 5천만 달러 조달, 46억 5천만 달러 기업 가치
2026.06	ICLR 2026 RSI 워크숍	RSI가 사고 실험에서 학술 연구 영역으로 공식 전환
2026.07	OpenAI RSI Index; GPT-5.6	Sol이 자율적으로 Luna를 훈련; RSI Index 점수 57.9 (이전 모델: 41.7)
2026.07	1,250편 논문 서베이 발표	“유한 자기정련”과 “개방적 RSI”를 구분; 검증 위계 이론 수립

부록 C 주요 참고 문헌 방향

저자/기관	문헌	본 논문과의 관계
Peirce, C.S.	귀추적 추론 이론 (1903)	세 가지 추론 양식의 분류 프레임워크; 귀추가 새로운 아이디어를 도입할 수 있는 유일한 논리적 작업
Wigner, E.	자연과학에서 수학의 불합리한 유효성 (1960)	본 논문이 전도된 해석을 제공: 수학의 누출이 아니라 물리학의 징발
Kuhn, T.	과학 혁명의 구조 (1962)	“정상 과학”과 “패러다임 혁명”의 구분; RSI 천장의 위치 확정
Popper, K.	과학적 발견의 논리 (1934/1959)	반증주의와 반례의 인지적 지위
Koshland, D.	Cha-Cha-Cha 과학적 발견 이론 (2007)	세 유형의 발견 — Chance/Charge/Challenge; RSI는 Charge만 커버
Nicolas Bourbaki	Éléments de mathématique (1939–1998)	내향적 제약/자폐식 검증 체계의 궁극적 패러다임; RSI의 철학적 조상
Chen et al.	Recursive Self-Improvement in AI (arXiv, 2026)	1,250편 논문 서베이; 검증 위계 이론; 유한 자기정련 vs 개방적 RSI
Anthropic	When AI Builds Itself (2026)	RSI 현황의 핵심 데이터 출처; 세 가지 미래 시나리오
OpenAI	GPT-5.6 Technical Report (2026)	RSI Index의 도입; Sol이 자율적으로 Luna를 훈련한 사례