AI 자율 반복 업데이트는
허위 명제다

1. 핵심 명제: 정보이론의 판결

1.1 Shannon의 정보원-채널 분리 정리

Claude Shannon은 1948년 통신 시스템의 기본 정리를 증명했다: 정보원 부호화(정보를 최단 표현으로 압축)와 채널 부호화(잡음에 대항하기 위한 제어된 중복 추가)는 최적성을 희생하지 않고 분리될 수 있다[A1]. 이 정리의 핵심 함의는: 채널은 정보를 생산하지 않는다. 채널은 정보를 전송한다. 정보의 유일한 원천은 정보원이다.

이 정리를 AI 프로그래밍 영역에 매핑하면: LLM은 채널이다 — 정보를 전송하고 계산한다. 인간이 물리 세계를 정량적으로 인코딩한 것(수학 공식, 평가 함수, 설계 도면)이 정보원 부호화다. 정보원이 없으면, 채널이 전송하는 것은 순수 잡음이다 — 채널의 대역폭이 아무리 크든, 처리 속도가 아무리 빠르든 상관없다.

1.2 AI “자율 반복”의 정보원 결핍

현재 AI 자율 반복 시스템의 핵심 평가 메커니즘은 불 값 — 테스트 통과 또는 실패다. 물론 SonarQube, CodeClimate 등의 도구가 연속 점수(유지보수성 지수, 기술 부채 비율, 보안 취약점 수)를 제공하며, 이들 도구는 6,500개 이상의 확정적 규칙과 품질 게이트(Quality Gate) 메커니즘을 보유하고 있다[D8]. 하지만 이 연속 지표들 자체도 여전히 인간 보안 전문가가 사전 정의한 규칙의 자동화 실행이다 — 이것들은 evaluate 함수의 약화 버전이지, AI가 자율적으로 생성한 최적화 목표가 아니다. AlphaEvolve의 evaluate 함수와 비교하면, 이 도구들이 측정하는 것은 “코드가 인간이 작성한 6,500개 규칙을 위반했는지”이지, “코드가 수학적 의미에서 더 나은지”가 아니다. 양자의 정보이론 수준에서의 격차는: 전자는 유한 이산 집합에서의 패턴 매칭(≈ log₂6500 ≈ 12.7 bit)이고, 후자는 연속 실수 공간에서의 스칼라 최적화(이론적으로 무한 정밀도)다[A1].

이것은 경험적 판단이 아니라 논리적 필연이다. 마치 열역학 제2법칙이 비관론이 아닌 것처럼 — 그것은 단지 말할 뿐이다: 외부 에너지 입력이 없는 폐쇄 시스템에서 엔트로피는 증가만 할 수 있다. AI 자율 반복은 외부 정보 입력(인간의 정량적 인코딩)이 없는 폐쇄 시스템이다. 그 코드 엔트로피는 증가만 할 수 있을 뿐, 감소할 수 없다.

2. LLM의 내삽 함정

2.1 볼록 껍질 제약: 수학적 증명 수준의 능력 경계

내삽과 외삽의 구분은 1998년 Gary Marcus에 의해 최초로 제안되었으며, 이후 27년간의 학술 경력에서 반복적으로 검증되었다. 2025년, Marcus는 ACM Communications(컴퓨터 분야 최고 수준 저널)와의 인터뷰에서 다음과 같이 요약했다: 신경망은 함수 근사기이며, LLM은 본질적으로 인간이 언어를 사용하는 함수를 근사하고 있다. 이 점에서 극히 뛰어나다. 하지만 함수를 근사하는 것과 함수를 학습하는 것은 같은 일이 아니다. 이 도구들은 함수를 내삽하는 데는 능하지만 외삽하는 데는 능하지 못하다[B5].

내삽(Interpolation)은 알려진 학습 분포 내의 공백을 채우는 것 — 학습 데이터에서 이미 관찰된 패턴의 조합이나 변형을 생성하는 것이다. 외삽(Extrapolation)은 학습 분포를 넘어서는 것을 요구한다 — 진정으로 새로운 해를 창조하고, 새로운 원리를 이해하며, 학습 패턴에서 도출할 수 없는 시나리오를 추론하는 것이다[B1]. François Chollet은 2019년 논문 “On the Measure of Intelligence”에서 형식화된 관점으로 같은 문제를 논증했다: 임의의 주어진 과제에서의 기술(skill)만을 측정하는 것으로는 지능을 측정하기에 불충분하다. 기술은 사전 지식과 경험에 의해 심하게 조절되기 때문이다[B7].

2025년 6월, Apple Research가 발표한 논문은 최신 “추론 모델” — 규모가 OpenAI o1을 능가하는 — 조차도 학습 분포를 넘어 신뢰할 수 있게 추론할 수 없으며, 하노이의 탑 등 고전적 문제에서 체계적으로 실패한다는 것을 추가로 확인했다[B6]. Marcus는 다음과 같이 논평했다: “추론”이나 “추론 시간 연산”이 LLM을 정상 궤도로 복귀시킬 수 있기를 바라는 사람에게는 나쁜 소식이다[B6].

이는 AI가 생성하는 모든 코드 — 아무리 “혁신적”으로 보이더라도 — 가 학습 데이터에 이미 존재하는 패턴의 확률적 재조합임을 의미한다. 코드 베이스는 팽창하고 있지만, 정보량은 제로다.

2.2 “일시적 문제가 아니다” — 근본적 수학적 제약

이 한계는 더 나은 하드웨어나 알고리즘으로 해결할 수 있는 일시적 문제가 아니다 — 근본적인 수학적 제약이다[B1]. LLM은 확률적 토큰 예측기다. 정지 문제, 스택 깊이, 재귀 함수의 정확한 종료에 필요한 수학적 보장을 “이해”하지 못한다[B2]. AI가 생성한 코드가 합리적으로 보이더라도, MIT CSAIL의 연구자들은 그것이 설계 목적을 달성하지 못할 수 있다고 지적했다[B3].

2.3 내삽 엔진 vs 인과적 이해

CIO 저널의 분석은 추가로 확인한다: LLM은 내삽 엔진이다 — 기존 패턴을 재조합한다. 아무도 기록한 적 없는 현상에 직면하면, 기저의 진실을 생성할 수 없다. 기껏해야 유추에 기반한 답을 지어낼 수 있을 뿐 — 설득력 있게 들릴 수 있지만 경험적 닻이 없다[B4]. 대규모 연구가 LLM이 생성한 수천 개의 연구 아이디어를 인간이 생성한 것과 비교 평가했다: 서류상으로는 AI 생성 아이디어가 신규성과 흥분도에서 더 높은 점수를 받았지만, 실제 실험 실행 시에는 유의미하게 더 나쁜 성과를 보였다[B4].

3. AlphaEvolve의 반증

3.1 유일한 “예외”가 오히려 규칙을 증명한다

DeepMind의 AlphaEvolve는 현재 진정으로 새로운 알고리즘을 생산할 수 있는 유일한 AI 시스템이다. 48회의 스칼라 곱셈으로 4×4 복소수 행렬을 곱하는 알고리즘을 발견하여 Strassen의 1969년 알고리즘을 개선했다 — 이 분야 56년 만의 첫 돌파구다[C1]. 50개 이상의 미해결 수학 문제에서 AlphaEvolve는 75%의 경우 알려진 최적 해를 복제했고, 20%의 경우 더 나은 해를 찾았다[C2].

그러나 AlphaEvolve의 작동에는 세 가지 절대적 전제조건이 있으며, 하나라도 빠져서는 안 된다:

전제조건 1: 인간이 표기한 진화 가능 블록

사용자는 # EVOLVE-BLOCK-START와 # EVOLVE-BLOCK-END 주석으로 AI가 수정할 수 있는 특정 코드 구간을 표기해야 한다[C3]. 인간이 탐색 공간의 경계를 정의한다 — AI가 스스로 문제를 발견하는 것이 아니다.

전제조건 2: 정밀한 수학적 평가 함수(evaluate function)

사용자는 제안된 해를 입력받아 수치 점수를 반환하는 evaluate 함수를 작성해야 한다. AlphaEvolve의 목표는 이 점수를 최대화하는 것이다[C3]. 이 함수는 인간이 수학적 언어로 작성한 “무엇이 더 나은가”에 대한 정확한 정의다. 이 함수가 없으면, AlphaEvolve는 첫 번째 단계조차 시작할 수 없다.

전제조건 3: 도메인 전문가의 지식 입력

깊은 도메인 전문성을 가진 사용자가 비전문가보다 일관되게 더 나은 결과를 달성하며, 이는 AlphaEvolve가 완전 자율 시스템이 아닌 인간-AI 협업 도구로서 가장 잘 작동함을 확인시켜 준다[C4].

3.2 AlphaEvolve의 “발명”은 계산이지 창조가 아니다

AlphaEvolve가 발견한 “새로운 알고리즘”은 무엇인가? evaluate 함수가 정의한 수학적 적합도 경관(fitness landscape) 위의 수치 최적점이다. Shannon의 용어[A1]로 표현하면: evaluate 함수는 정보원 부호화 — 물리 세계의 문제를 수학적 신호로 번역한다; LLM의 변이-선별 루프는 채널 전송 — 이 신호 공간 내에서 탐색한다; 최종의 “새로운 알고리즘”은 정보원 복호화 — 탐색 결과를 다시 코드로 번역한다. 전체 과정에서 정보의 원천은 evaluate 함수이지 AI가 아니다. AI는 채널이지 정보원이 아니다[C1].

더 결정적으로: evaluate 함수가 제대로 작성되지 않으면, AI는 “꼼수”를 부린다. 연속 손실 함수는 이산 함수보다 항상 우월하다 — 제약이 전역적으로 강제되지 않고 이산적으로 근사될 때, AlphaEvolve는 기술적으로 유효하지만 수학적으로 무의미한 해를 찾기도 한다[C4]. 이는 AI 출력의 품질이 인간이 입력한 정량적 정보의 품질에 100% 의존함을 증명한다.

3.3 AlphaEvolve와 일상적 AI 프로그래밍의 본질적 차이

4. 코드 팽창: 엔트로피 증가의 정량적 증거

4.1 코드 중복 폭증

GitClear의 2025년 보고서는 2억 1,100만 줄의 코드 변경을 분석하여, AI 보조 코딩이 코드 클론 빈도를 4배 증가시킨 것을 발견했다. 역사상 처음으로, 개발자가 코드를 리팩터링하거나 재사용하는 것보다 붙여넣기하는 빈도가 더 높아졌다[D1].

4.2 AI는 리팩터링하지 않는다 — Lehman 법칙의 검증

Lehman 소프트웨어 진화 제2법칙(1980)은 다음과 같이 명시한다: 소프트웨어 복잡도는 이를 줄이기 위한 전문적 작업이 투입되지 않는 한 계속 증가한다[D5]. 리팩터링이 바로 이 “전문적으로 투입되는 엔트로피 감소 작업”이다 — 그리고 AI는 리팩터링을 하지 않는다. AI는 리팩터링이나 기존 코드 처리에 거의 사용되지 않는다. 그 주된 기여는 새로운 기능, 새로운 파일, 새로운 로직 분기다[D4].

구체적 사례: AI가 40,000줄의 코드를 리팩터링했고, 6개월 후 전부 롤백되었다. 원인은 AI가 “유지보수성”이 아닌 “깔끔함”을 위해 최적화했기 때문이다 — 인간의 코딩 규범을 적용했지만 트레이드오프를 이해하지 못했다[D6].

4.3 “코드 빅뱅” — 뉴욕타임스의 명명

뉴욕타임스는 2026년 4월 이 현상을 “코드 빅뱅”으로 명명했다. 테크 기업들이 연쇄 반응에 대처하고 있다: 누군가가 AI 생성 코드를 버그, 보안, 준법 측면에서 검토해야 한다. 하지만 AI가 생성한 코드로 인한 문제를 누가 수정할 책임이 있는지 때로는 불분명하다. 미국 기업이 필요로 하는 애플리케이션 보안 엔지니어의 수는 이 지구상에 존재하지 않는다[D7].

5. 실험 검증: 95% 제어 가능성

5.1 다국어 A/B 테스트의 결론

저자는 여러 차례의 다국어(영어, 중국어, 한국어) A/B 테스트를 통해 핵심 사실을 검증했다: 동일한 설계 도면(evaluate 함수의 공학적 등가물)을 사용하면, AI는 서로 다른 프로그래밍 언어에서 동일한 아키텍처의 코드를 생성할 수 있으며 제어율은 95%에 달한다. 나머지 5%는 LLM의 확률적 잡음에서 기인한다. 모든 테스트 문서, 세 가지 언어의 설계 도면 및 실험 데이터는 오픈소스로 공개되어 있다: github.com/leechoglobalai2025-hub/LiteClaw[G3].

이는 AI가 아키텍처를 “설계”하는 것이 아님을 증명한다 — AI는 학습 라이브러리에서 확률이 가장 높은 패턴을 검색한 다음, 다른 구문으로 렌더링하는 것이다. 아키텍처는 결정론적이다 — 학습 데이터에 의해 고정되어 있다.

5.2 설계 도면 = evaluate 함수의 공학적 등가물

저자는 2025년 12월 GPT 5.1과의 대화에서, AI 비디오 생성 프로젝트를 위해 직접 세 개의 수학 공식을 설계했다. GPT는 이 공식 체계에 대해 다음과 같이 평가했다: “개념적으로 자기일관적이며, ‘의도 공간 → 물리적 제약 공간’의 에너지 최소화 프레임워크로 볼 수 있다. 앞으로 모든 Python 코드는 이 도면의 차원 축소 투영이어야 한다.” 세 공식의 정확한 내용은 다음과 같다:

공식 1: 파동함수 붕괴 연산자(Solidification Operator)

공식 2: 적대적 해밀토니안(Adversarial Hamiltonian)

공식 3: 반엔트로피 증가 반복 논리(Negentropy Loop)

이 세 공식은 인간이 직접 작성한 evaluate 함수다 — “무엇이 좋은 AI 비디오인가”라는 모호한 판단을 정밀한 수학적 언어로 인코딩한 것이다: 의미론적 에너지, 물리 법칙 위반 비용, 엔트로피 임계값, 그래디언트 벌칙, 앵커 해제 교란. 이것들은 AlphaEvolve의 evaluate 함수와 본질적으로 완전히 동형이다 — 인간이 최적화 목표와 물리적 제약을 정의하고, AI가 이 수학적 경관 위에서 탐색한다. 이 공식들이 없으면, GPT가 출력하는 것은 표준 보일러플레이트 코드 — 학습 데이터에서 확률이 가장 높은 패턴의 무차별 출력이다.

5.3 AlphaEvolve와의 동형 매핑

6. Science 저널의 독립적 검증

2026년 1월, Science 저널은 16만 명의 개발자와 3,000만 건 이상의 GitHub 커밋을 분석한 대규모 연구를 발표했다[E1]. 이 연구는 AI가 생성한 Python 함수를 식별하기 위해 신경 분류기를 학습시켰으며, 이는 AI 프로그래밍 영향에 관한 지금까지 최대 규모의 동료 심사 실증 연구다.

6.1 핵심 발견: 기존 능력의 증폭이지 새로운 능력의 창출이 아니다

연구의 핵심 발견: 생성형 코딩 도구는 상당한 생산성 향상을 약속하지만, 불균등한 채택이 기술 및 소득 격차를 악화시킬 수 있다[E1]. 시니어 개발자가 가장 많은 혜택을 받는 반면, 주니어 개발자의 성과 향상은 제한적이거나 과도한 의존으로 기초 능력을 상실할 수도 있다.

이 발견은 본 논문의 핵심 논점과 정확한 구조적 대응을 형성한다:

6.2 Shannon 정리의 사회학적 투영

Science의 연구는 사회학적 수준에서 Shannon 정보원-채널 분리 정리[A1]의 예측을 검증한다: 채널(AI)의 대역폭이 아무리 크더라도, 정보원(인간의 정량적 인코딩 능력)의 품질이 다르면 출력은 천양지차다. 시니어 개발자와 주니어 개발자가 같은 AI 도구(같은 채널)를 사용하지만, 산출물 품질의 거대한 차이는 100% 각자의 정보원 부호화 능력 — 즉 “무엇이 좋은 코드인가”에 대한 정량적 이해의 깊이 — 에서 비롯된다.

이것은 하나의 업계 패러독스도 설명한다: AI 코드 비중이 이미 50%에 근접했지만[F1], 개발자가 수용하는 비율은 겨우 30%다. 수용된 30%는 evaluate 함수를 가진 시니어 개발자의 지도 하에 나온 AI 산출물이고, 거부된 70%는 가이드 없는 AI 기본 출력 — Shannon 의미에서의 잡음이다.

7. 최종 판결

7.1 삼중 잠금 결론

7.2 정확한 표현

이른바 “AI 자율 코드 진화”는, 정보이론적 의미에서, 정보원 부호화 없는 채널에서 정보를 전송하는 것과 등가다 — 신호 대 잡음비가 Shannon 한계 아래로 떨어지고 오류율이 100%에 수렴한다. 코드 베이스는 팽창하고 있지만 정보량은 제로다. 매 “반복”은 한 패턴의 잡음을 다른 패턴의 잡음으로 치환하는 것에 불과하다.

AI는 정보를 생산하지 않는다. AI는 정보를 전송하고 계산한다. 정보의 유일한 원천은 인간이 물리 세계를 정량적으로 인코딩한 것이다.

7.3 앞으로 일어날 세 가지

8. 결론

“AI 자율 반복 업데이트”라는 업계 서사는, 정보이론 프레임워크 하에서 성립하지 않는다. 이것은 근본적으로 다른 두 가지 작업을 혼동한다: 탐색(이미 정의된 수학적 공간에서 최적점을 찾는 것 — AlphaEvolve가 하는 일)과 발명(새로운 수학적 공간을 정의하는 것 — 인간이 하는 일). 현재 모든 AI 자율 반복 시스템이 하는 것은 “진화”가 아니라 학습 데이터의 볼록 껍질 내에서의 패턴 치환이다.

진정한 코드 진화에는 세 가지 조건이 필요하다: 정량화된 평가 함수(“무엇이 더 나은가”를 정의), 명확한 탐색 경계(“무엇을 바꿀 수 있고 무엇을 건드리면 안 되는가”를 정의), 도메인 전문가의 지식 주입(물리 세계의 인과적 제약을 제공). 이 세 조건은 100% 인간으로부터 온다 — 수학을 이해하고, 물리를 이해하며, “무엇이 더 나은가”를 정밀한 함수로 표현할 수 있는 종류의 인간으로부터.

그리고 이런 인간 — 본 논문이 “정보원 부호화자”라 칭하는 — 은 소멸하고 있다. 2010년 이후의 클라우드 추상화가 소프트웨어-하드웨어 정렬 능력을 제거했고, 마이크로서비스가 정보 흐름 사고를 해체했으며, AI 자체가 코드 리뷰 능력을 제거했다. evaluate 함수를 작성할 수 있는 아키텍트는 은퇴했고, 그들을 양성할 수 있는 교육 체계는 단절되었으며, 실전 환경을 제공할 수 있는 산업 직위는 사라졌다.

이것은 비관론이 아니다. 이것은 물리학이다.