생성형 AI가 초래한
동질화 문제와
인간 소비자 혐오 반응

The Homogenization Crisis of Generative AI

and the Emergence of Consumer Aversion

심리 메커니즘 · 인구통계학적 분화 · 정보 생태계에 대한 구조적 위협

I서론: 동질화 시대의 도래

다수의 독립적 모니터링 결과는 AI 생성 콘텐츠가 온라인 정보 공간을 빠르게 점유하고 있음을 보여주지만, 각 데이터 출처의 기준과 방법론에는 차이가 존재한다: Graphite의 65,000개 영문 URL 추적에 따르면 2025년 5월까지 AI 작성 기사 비율은 약 51.7%였으나, 이후 다중 탐지기 평균을 적용한 업데이트에서 약 3.3%포인트 하향 조정되었으므로 이 수치는 정확한 사실이 아닌 추세 증거로 취급해야 한다;^[1] Ahrefs는 2025년 4월 90만 개 신규 웹페이지를 분석한 결과 74.2%가 AI 생성 콘텐츠를 포함하고 있음을 발견했다;^[2] Originality.ai의 지속적 모니터링에 따르면 구글 검색 결과 내 AI 콘텐츠는 2025년 7월 19.56%로 역대 최고치를 기록한 후 약 17%로 하락했다;^[3] Reddit 게시물의 약 15%가 탐지기에 의해 “AI 생성 가능성이 높음(likely AI-generated)”으로 판정되었으나, 이 비율에는 오탐(false positive) 위험이 존재한다.^[4] 구체적 수치에 대한 논란은 있으나 추세 방향은 분명하다: AI 생성 콘텐츠는 이미 온라인 정보 흐름의 실질적 비중을 차지하고 있으며, 정보 생태계는 질적 구조 전환을 경험하고 있다.

이 전환의 핵심 문제는 동질화(homogenization)이다. 생성형 AI는 훈련 데이터의 통계적 중심 경향을 재생산하는 방식으로 작동하며, 이는 개별 출력의 품질과 무관하게 출력 분포 전체의 다양성이 체계적으로 압축됨을 의미한다. Doshi와 Hauser(2024)가 《Science Advances》에서 입증한 바와 같이, AI 보조를 받은 개인의 창작물은 더 창의적이라고 평가되었지만 AI 보조 창작물 간의 유사성은 유의하게 증가했다.^[5] 이는 ‘개인 향상–집단 붕괴’라는 사회적 딜레마를 구성한다.

본 논문의 핵심 명제는 이러한 동질화가 단순한 기술적 한계가 아니라 인간 인지 시스템과 생성형 AI 출력 특성 사이의 구조적 불일치(structural mismatch)라는 것이다. 인간의 정보 수용 시스템은 놀라움(surprise), 새로움(novelty), 예측 불가능성(unpredictability)을 통해 주의를 유지하고 감정적 참여를 형성한다. 반면 AIGC는 예측 가능성의 극대화를 목적 함수로 삼는다. 이러한 불일치는 시간이 경과함에 따라 수용에서 혐오로 향하는 체계적 심리 과정을 촉발한다.

이에 따라 본 논문은 검증 가능한 궁극적 판단을 제시한다: AIGC가 인간 미적 감각의 동적 변화와 다양성 요구에 정렬하지 못할 경우, 인간 소비 시장의 자연선택 메커니즘에 의해 강제 퇴출될 것이다. 이하 각 장은 이 명제를 중심으로 완전한 인과 사슬을 구축한다—”왜 인간은 새로움을 추구해야 하는가”(신경과학적 근거)에서, “왜 현재의 AI는 새로움을 제공할 수 없는가”(기술적·상업적 제약)로, “불일치 시 실제로 무엇이 발생하는가”(사례와 데이터)로, “누가 가장 먼저 퇴출 신호를 발동하는가”(인구 분화)로, “퇴출이 어떻게 진행되고 있는가”(플랫폼 조치와 소비자 행동)로, 그리고 최종적으로 “퇴출까지의 거리를 어떻게 측정할 것인가”(조작화 프레임워크)로 이어진다.

II이론적 기초: 수용에서 혐오로의 심리학적 경로

2.1단순 노출 효과와 그 포화 한계

Zajonc(1968)가 발견한 단순 노출 효과(mere exposure effect)는 특정 자극에 반복적으로 노출되면 그것에 대한 호감이 증가한다는 것을 보여준다. 그러나 이 효과에는 상한이 존재한다. Bornstein(1990)은 《Psychological Bulletin》에 게재된 메타분석을 통해 과도한 반복이 실제로 권태를 유발함을 입증하며, ‘이중 요인 학습–포화 모델’을 제안했다.^[6] 즉, 노출 빈도와 선호도 사이에는 역U자형 곡선 관계가 존재한다: 처음에는 노출이 증가할수록 호감이 높아지지만, 특정 임계점을 넘으면 권태와 반감이 나타나기 시작한다.

이 모델을 AIGC에 적용하면 문제는 더욱 두드러진다. AI 생성 콘텐츠의 문제는 단순한 ‘반복’이 아니라 ‘패턴 수준의 반복’이다—동일한 구조, 동일한 전환 기법, 동일한 감탄사, 동일한 리듬이 수천 개의 표면적으로 다른 콘텐츠에서 재현된다. 이로 인해 포화점은 단일 콘텐츠 내부의 반복보다 훨씬 빠르게 도달한다.

2.2이슈 피로의 3차원 모델

Gurr, Schumann, Metag(2022)는 《Studies in Communication Sciences》에서 이슈 피로(issue fatigue)를 세 가지 차원으로 개념화했다:^[7]

Gurr와 Metag(2022)는 종단적 혼합 방법 연구를 통해, 반복 노출이 증가함에 따라 뉴스 이용자가 이슈와 그 미디어 보도에 대해 순차적으로 잉여감, 짜증, 뉴스 회피 행동을 발달시킨다는 것을 발견했다.^[8] 더불어 이슈 피로는 이용자의 이슈 지식, 정치 행위자에 대한 평가, 뉴스 미디어에 대한 신뢰에도 추가적 영향을 미친다.

2.3이슈 주의력 주기

Downs(1972)의 이슈 주의력 주기 모델은 공중의 이슈에 대한 관심이 다섯 단계를 거친다고 기술한다: “문제 이전 단계 → 경각과 열정 → 비용 인식 → 관심의 점진적 쇠퇴 → 문제 이후 단계”.^[9] AIGC에 대한 공중의 반응은 이 주기를 고도로 압축된 형태로 재현하고 있다.

2.4예측 부호화와 자유 에너지 원리: 혐오의 신경과학적 기반

앞서 논의한 심리학적 모델은 동질화 혐오의 현상학을 기술했지만, 그 신경과학적 기초에는 아직 도달하지 못했다. Friston(2010)이 《Nature Reviews Neuroscience》에서 제안한 자유 에너지 원리(Free Energy Principle)는 더 깊은 층위의 근거를 제공한다: 뇌는 예측 오류(prediction error)를 최소화함으로써 작동하며, 외부 세계에 관한 생성 모델을 지속적으로 구축하고, 가장 높은 정보 이득을 산출하는 예상 외 감각 사건의 처리에 집중한다.^[46]

이 프레임워크는 인간이 왜 새로움을 추구해야 하는지를 직접적으로 설명한다—이는 문화적 선호가 아니라 신경계의 구조적 요구이다. 입력이 고도로 예측 가능할 때(템플릿화된 AIGC 콘텐츠와 같이), 예측 오류는 0에 수렴하고 주의 시스템은 정보 이득이 없어 자동으로 철수한다. Clark(2017)은 《Phenomenology and the Cognitive Sciences》에서 인간이 빈번하게 놀라운 사건을 능동적으로 탐색하며, 의도적으로 새롭고 자극적인 감각 입력 흐름을 수확한다고 추가 논증했다—이는 “뇌가 놀라움을 최소화한다”는 표면적 진술과 심층적으로 상호 보완적이다: 뇌가 최소화하는 것은 비효과적 놀라움(잡음)이지만, 능동적으로 추구하는 것은 효과적 놀라움(정보 이득)이다.^[47]

자유 에너지 원리를 AIGC 동질화 문제에 적용하면: AI 생성 콘텐츠의 패턴이 고도로 예측 가능할 때(동일한 “Deep Dive”, 동일한 “Exactly!”, 동일한 3단 전환), 뇌의 예측 모델은 해당 패턴의 모델링을 신속하게 완료하고, 이후 동종 콘텐츠는 더 이상 예측 오류를 생성하지 않으므로 주의 할당도 발생하지 않는다. 소비자가 보고하는 ‘지루함’, ‘짜증’, ‘생리적 거부감’은 신경과학적 관점에서 예측 부호화 시스템이 정보 이득 제로 입력에 대해 보이는 정상적 거부 반응이다. 이로써 본 논문 §8.1에서 제안한 ‘인지 면역 반응’ 은유는 이론적 기반을 획득한다—이는 단순한 은유가 아니라 예측 부호화 프레임워크에서 도출 가능한 결론이다.

III기술적 근거: 모델 붕괴와 동질화 나선

3.1모델 붕괴(Model Collapse)

Shumailov 등(2024)은 《Nature》에 이정표적 논문을 발표하여, AI가 자체 생성 데이터에 대해 재귀적으로 훈련될 때 다양하고 고품질의 출력을 생성하는 능력이 붕괴됨을 입증했다.^[10] 구체적으로, 원래 콘텐츠 분포의 꼬리 부분—즉 새롭고 소수적인 정보—이 소멸하며, 모델 출력은 통계적 중심으로 수렴한다.

Alemohammad 등(2024)은 ICLR에서 이를 ‘모델 자가포식 장애(Model Autophagy Disorder, MAD)’로 명명하며, 생성 모델이 자체 합성 데이터에 대해 훈련될 때 각 반복 라운드마다 데이터셋이 점점 더 동질화됨을 실험적으로 확인했다.^[11]

3.2동질화 죽음의 나선

2026년에 발표된 인간-AI 상호작용 베이지안 모델 분석은 이 과정을 추가로 기술했다. 주류 선호를 가진 사용자는 AI 기본 출력에 더 의존하는 반면, 독특한 선호를 가진 사용자는 더 많은 노력을 투입하거나 아예 이탈한다.^[12] 이는 AI 생성 콘텐츠의 다양성 저하를 초래한다. AI가 자체 출력에 대해 계속 훈련할 경우, ‘동질화 죽음의 나선(homogenization death spiral)’이 촉발되어 다양성이 지속적으로 위축된다.

여기서 하나의 분석적 구분을 명확히 할 필요가 있다: 모델 붕괴는 훈련 층위의 현상이고, 소비자 혐오는 체험 층위의 현상이며, 양자는 동일한 과정이 아니다. 양자를 연결하는 중간 메커니즘은 플랫폼의 대량 배포 논리이다: 저비용 AIGC가 플랫폼에 의해 대규모로 정보 피드에 투입될 때, 훈련 층위의 통계적 수렴(다양성 저하)은 소비자 측에서 ‘콘텐츠가 점점 더 비슷해진다’는 주관적 경험으로 인식되고, 이것이 본 논문 제2장에서 기술한 포화–혐오의 심리 경로를 촉발한다. 양자는 상호 강화될 수 있지만, 인과 사슬에는 반드시 이 플랫폼 배포라는 매개 고리가 삽입되어야 한다.

3.3개인 향상–집단 붕괴 역설

Doshi와 Hauser(2024)의 《Science Advances》 연구는 이 역설에 대한 가장 명확한 실증적 근거를 제공한다. 가장 많은 AI 보조를 받은 작가들은 작품의 새로움 점수가 8.1%, 유용성 점수가 9% 더 높았다. 창의성이 낮은 작가들은 더 큰 향상을 보였으며(새로움 10.7%, 유용성 11.5%, 글쓰기 품질 26.6% 상승), 사실상 창의성 격차를 해소했다.^[5]

그러나 이 격차 해소의 방향은 중심으로의 수렴이다. 모든 참여자가 동일한 프롬프트에서 생성된 고도로 유사한 AI 아이디어에 노출되면, 서로 다른 사람들이 유사한 개념 공간으로 끌려간다—이것이 수렴 효과(convergence effect)이다.^[5]

3.4기술적 반론과 그 구조적 한계: AI가 공학적으로 놀라움을 제조할 수 있는가?

‘분산 압축기’ 논단에 대한 중요한 반론은 현재의 최첨단 AI 기술이 무작위성을 도입하고 통계적 중앙값에서 이탈하는 다양한 수단을 보유하고 있다는 것이다. 온도 매개변수(Temperature Scaling)는 샘플링 온도를 높여 모델이 낮은 확률의 토큰을 선택하도록 유도하여 출력의 다양성과 예측 불가능성을 증가시킨다; 인간 피드백 기반 강화 학습(RLHF)은 모델을 순수 확률 극대화에서 벗어나 특정 인간 선호 방향으로 유도할 수 있다; 진화 알고리즘과 적대적 훈련은 의도적으로 분포 꼬리에서의 탐색 행동을 창출할 수 있다.^[42] 순수 기술적 관점에서 AI는 반드시 중위수만을 산출하도록 운명 지어진 것이 아니다.

그러나 이러한 수단은 상업적 배포에서 내재적 긴장: 통제 가능성과 놀라움의 화해 불가능성에 직면한다. 온도 매개변수를 높이면 출력 다양성은 증가하지만, 동시에 환각(hallucination), 논리 붕괴, 안전 위험의 확률이 급격히 증가한다. 수억 명의 사용자를 대상으로 하는 제품(NotebookLM, 더우바오, ChatGPT 등)에서 플랫폼의 제1차적 의무는 예측 가능한 안전 출력이지, 흥미롭지만 위험한 출력이 아니다. 이는 모델이 기술적으로 꼬리 분포의 새로운 콘텐츠를 생산할 수 있다 하더라도, 상업 제품의 안전 제약이 실제 배포를 체계적으로 통계적 중심으로 끌어당긴다는 것을 의미한다.

나아가, 개별 모델이 세밀한 매개변수 조정을 통해 더 높은 출력 다양성을 달성하더라도, 수십억 사용자가 동일한 API 엔드포인트에 동시에 접속할 때 창발적 집단 동질화는 여전히 불가피하다. 이는 §3.3에서 논의한 수렴 효과와 일치한다—문제는 단일 출력이 충분히 새로운가가 아니라, 수백만 건의 출력의 분포 특성이 충분히 분산되어 있는가이다. 현재의 기술적 수단은 전자에 대해 유효하지만 후자에 대해서는 해법이 없다. 따라서 AI를 ‘분산 압축기’로 규정하는 것은 기술 숙명론이 아니라, 현재 상업적 배포 아키텍처 하에서의 통계적 현실에 대한 정확한 기술이다.

여기서 추가적인 개념적 구분이 필요하다. 안전 정렬이 압축하는 것은 단일한 ‘꼬리’가 아니라 성질이 판이한 세 가지 분포 가장자리이다: 위험 꼬리(위험하거나 공격적이거나 불법적인 콘텐츠), 잡음 꼬리(환각, 논리 붕괴, 사실 오류), 창의성 꼬리(새롭고 놀랍고 관습을 깨는 표현). 안전 정렬의 일차적 목표는 앞의 두 가지를 압축하는 것이지만, 거친 입도의 심사 메커니즘 하에서 창의성 꼬리는 불가피하게 부수적 피해를 입는다—’지나치게 뜻밖의’ 출력은 자동화된 안전 시스템에서 ‘잠재적으로 위험할 수 있는’ 것으로 쉽게 오분류되기 때문이다. 세 가지 꼬리의 혼동이야말로 현재 안전 정렬 아키텍처가 창의성 압축을 초래하는 근본적 원인이다.

3.5건설적 동질화의 변증법: 분산 압축이 장점이 되는 경우

‘분산 압축기’ 비판을 전개하는 동시에, 본 논문은 중요한 변증법적 측면을 인정할 의무가 있다: 특정 영역에서 꼬리의 이상 변동을 제거하고 통계적 중앙값을 추구하는 것은 바로 인류가 오랫동안 열망해 온 효율의 비약이다. 의학 코딩 분야에서 AI 기반 시스템은 이미 코딩 시간을 40% 단축하고 정확도를 95% 이상으로 향상시켜 청구 거부율을 대폭 낮추었다.^[50] 법률 계약 기안, 기초 코드 작성, 산업 매뉴얼 등 실용형 매체에서 표준화와 일관성은 바로 품질의 핵심 지표이다.

따라서 ‘분산 압축’의 가치 판단은 매체 유형에 따라 달라진다:

본 논문의 ‘강제 퇴출’ 명제는 창의형 매체의 소비 시장에 엄격히 한정된다. 실용형 매체에서 분산 압축은 퇴출을 촉발하기는커녕 오히려 AI의 가장 강력한 가치 제안이다. 이 구분은 논문을 “AI 동질화는 반드시 유해하다”는 일차원적 비판에서 “동질화의 유해성은 매체 유형에 따라 결정된다”는 변증법적 분석으로 격상시킨다.

IV사례 연구: NotebookLM과 AI Slop의 해부

4.1경탄에서 혐오로: 12개월의 궤적

Google의 NotebookLM Audio Overview는 AIGC에 대한 공중 반응의 전체 주기를 관찰하기에 이상적인 사례이다. 2024년 9월 출시 시 “mindblowing”, “gave me chills” 등 대량의 경탄 반응을 얻었지만, 12개월이 채 되지 않아 사용자들은 다음과 같은 반복 패턴에 강렬한 혐오를 표현하기 시작했다:

Listen Notes 플랫폼은 전용 NotebookLM 팟캐스트 탐지기를 개발하여 플랫폼 내에서 확산 중인 1,781개의 해당 팟캐스트를 식별했다.^[14] Axios는 2024년 10월에 이미 이 궤적을 정확히 예언했다: “인간을 모방하는 기술은 항상 우리를 놀라게 한다—그러나 일시적일 뿐이다. 인간 미디어 소비자는 챗봇이 아니다. 우리는 신선함을 갈구하는 존재이며, 쉽게 지루해한다.”^[17]

4.2‘AI Slop’의 정량적 폭발

‘AI slop’이라는 용어의 사용량은 2025년(1~11월) 전년 동기 대비 9배 증가했으며, 2025년 3월 지브리 스타일 AI 이미지 사건 이후 부정적 감정이 약 20배 급증했다.^[18] 2025년, 메리엄-웹스터는 “slop”을 올해의 단어로 선정하여,^[19] 대중의 불만이 공식적으로 주류 문화에 진입했음을 표지했다.

4.3멀티모달 AI의 불쾌한 골짜기 효과: 또 다른 혐오 경로

본 논문이 지금까지 구축한 ‘포화–권태’ 모델(과도한 단순 노출 → 잉여감 → 짜증 → 회피)은 주로 텍스트와 오디오 같은 논리 지향적 매체 형태에 적용된다. 그러나 이미지와 비디오 생성 영역에서는 소비자 혐오의 촉발 메커니즘이 근본적으로 다른 구조를 보인다.

2025년 3월에 발생한 지브리 스타일 AI 이미지 사건이 전형적 사례이다. 사용자들이 AI를 사용하여 지브리 스타일 초상화를 대량으로 생성하면서 소셜 미디어가 단기간에 고도로 유사한 이미지로 범람했다. 그러나 공중 반응을 면밀히 살펴보면, 혐오의 원천은 단지 ‘같은 스타일에 질렸다’는 것이 아니라 이미지에서 빈번하게 나타나는 6개의 손가락, 녹아내리는 귀, 기괴한 치아 배열, 물리 법칙을 위반하는 광원 효과 등 시각적 결함이 유발하는 깊은 불편감이었다. 이러한 불편감은 Mori(1970)가 제안한 불쾌한 골짜기 효과(Uncanny Valley)에 더 가깝다—의인화된 대상이 진정한 인간에 접근하지만 도달하지 못할 때 관찰자가 강한 혐오와 불안을 경험하는 현상이다.^[43]

주목할 점은 멀티모달 AI의 불쾌한 골짜기 문제가 어떤 의미에서 정확히 ‘반동질화’적이라는 것이다—AI 이미지 생성기는 매개변수 환각으로 인해 극도로 황당하고 초현실적이며 심지어 크툴루 스타일의 콘텐츠를 빈번히 산출하는데, 이러한 콘텐츠는 불안을 자아내는 ‘놀라움’으로 가득하다. 그러나 이 놀라움은 인간의 정보 수용 시스템이 추구하는 긍정적 놀라움(positive surprise)이 아니라 부정적 놀라움(negative surprise)이다—이것이 위반하는 것은 예상되는 ‘패턴’이 아니라 더 심층적인 ‘물리 법칙’과 ‘생물학적 사실성’이다.

이는 AIGC가 직면하는 소비자 혐오가 단일 경로를 따르지 않음을 의미한다. ‘너무 비슷하면’ 권태를 유발하고, ‘너무 기괴하면’ 공포를 유발하며, 양자는 서로 다른 방향에서 AI 생성 콘텐츠가 인간에게 수용될 수 있는 창(窓)을 공동으로 압축한다. AIGC 소비자 반응에 관한 모든 완전한 이론은 이 두 가지 전혀 다른 혐오 메커니즘을 동시에 수용해야 한다.^[44]

V인간 창작자 vs. AI: 메타인지의 구조적 비대칭

5.1메타인지 루프와 그 부재

인간 창작자와 AI 사이의 가장 근본적인 차이는 메타인지(metacognition)의 질적 차이에 있다. 현재 AI 시스템은 성찰을 모방하고, 피드백 최적화를 실행하며, 스타일 조정을 수행할 수 있다—RLHF 자체가 일종의 외부 부착 ‘메타인지 루프’이다. 그러나 AI에 결핍된 것은 인간적 의미의 주체적 권태(자신의 반복 패턴에 대한 미적 피로), 미적 수치심(자신의 공식이 간파당했을 때의 불편감), 그리고 문화적 맥락 속 자기 갱신 동기(시대의 미적 감각 변화에 대응하여 자신의 스타일을 의도적으로 전복하려는 내적 동력)이다.^[20]

연구에 따르면 AI의 창의성은 여전히 정형화되어 있으며, 점진적(incremental) 및 조합적(combinational) 창의성에 국한된다. 놀라움, 새로움, 비알고리즘적 개방성을 요구하는 전문가급 또는 돌파적 창의성(Pro-c 또는 Big-C creativity)에는 AI가 아직 도달하지 못한다.^[21] 심리학자 Runco는 AI의 산출물을 ‘의사 창의성(pseudo-creativity)’으로 규정하며, 진정한 창의성의 정의에는 놀라움, 가치, 진정성(authenticity), 의도성(intentionality)이 포함되어야 하고, 특히 후자의 두 요소가 인간 창의성을 AI 창의성과 구별하는 데 유효하다고 주장했다.^[22]

5.2AI 사용자의 메타인지 퇴화

더욱 우려되는 점은 AI에 대한 과도한 의존이 사용자 자신의 메타인지 능력을 침식하고 있다는 것이다. 연구에 따르면 높은 AI 의존도는 참여자를 성찰적이고 지식 기반의 처리 양식에서 규칙 기반 또는 기능 기반의 처리 양식으로 전환시키며, 비판적 자기 평가를 감소시켜 자신감은 상승하지만 메타인지 정확도는 하락하는 결과를 초래한다.^[23]

VI인구통계학적 분화: 성별, 연령, 경제 수준

6.1성별 태도 분화

AI 태도와 사용 행동에서의 성별 차이는 일관되고 유의하다.

6.2선택성 모델과 동질화 민감도: 검증된 사실과 미검증 가설의 구분

성별과 동질화 인식의 관계를 논의할 때, 두 가지 층위를 엄격히 구분해야 한다:

제1층위(검증된 사실): AI 사용률과 태도에 성별 차이가 존재한다. §6.1의 표 데이터가 지지하는 것은 바로 이 층위이다—여성은 전반적으로 AI를 덜 자주, 더 신중하게 사용하며, 위험 인식이 더 강하다. 이는 다수의 독립적 조사에 의해 교차 검증된 경험적 사실이다.

제2층위(미검증 가설): 종합적 처리가 동질화에 대한 더 높은 민감도로 이어질 수 있다. Meyers-Levy(1989)의 선택성 가설에 따르면, 여성은 종합적 정보 처리자(comprehensive processors)로서 주관적·객관적 속성을 동시에 고려하고 미묘한 단서에 반응하며, 남성은 선택적 정보 처리자(selective processors)로서 현저한 단서와 노력 절감적 휴리스틱 전략에 의존하는 경향이 있다.^[28] 이로부터 다음의 연구 명제를 제안할 수 있다: 종합적 처리자는 더 많은 차원에서 동시에 반복을 인식할 수 있으므로, 동질화 콘텐츠에 대한 포화 임계값이 선택적 처리자보다 낮을 수 있다. Putrevu의 관계적 처리(relational processing) 모델은 나아가 여성이 다수의 정보 간 상호 관계를 탐색하는 데 더 기울어져 있으므로, 이론적으로 콘텐츠 간 패턴 유사성을 더 빠르게 감지할 능력을 갖추고 있음을 시사한다.^[29]

그러나 반드시 강조해야 할 점은 §6.1의 데이터는 제1층위만을 지지할 수 있으며 제2층위는 지지할 수 없다는 것이다. 제2층위의 가설은 별도로 설계된 실험을 통해 검증해야 한다—예를 들어, 서로 다른 성별의 참여자를 다양한 동질화 수준의 AI 콘텐츠 스트림에 노출시키고 인식 속도, 포화감 점수, 체류 시간, 회피 행동을 측정하는 것이다. 이러한 실험이 완료되기 전까지 이 메커니즘은 AIGC 맥락에서 ‘이론적 근거가 있는 추측’이지 입증된 사실이 아니다. 또한 이 효과는 연령, 교육 수준, 직업 배경, AI 리터러시, 구체적 사용 맥락에 의해 유의하게 조절될 수 있다.

6.3생활형 AI 사용의 성별 분화: 중국 시장의 증거

서구 조사의 ‘업무 vs. 개인’이라는 거친 이분법 프레임워크에서는 포착할 수 없는 패턴이 중국 시장 데이터에서 드러난다. 아이리서치(艾瑞咨询) 2024년 보고서에 따르면 중국 모바일 AI 앱 사용자 중 60% 이상이 생활 시나리오에서 AI를 사용하며, 이는 업무·학습 시나리오의 56%를 초과한다.^[31]

특히 주목할 점은 AI 감정 동반 분야의 성별 분포이다. AI 감정 동반 앱 사용자의 70~80%가 25세 미만 여성이며,^[32] 바이트댄스의 더우바오(豆包)는 코디 도우미, AI 남자친구/여자친구 설정, 자녀 교육 등 생활 밀착형 기능을 통해 소셜 미디어에서 빠르게 인기를 얻었다.^[33]

이 데이터는 조사 방법론의 중대한 맹점을 드러낸다. 기존 글로벌 AI 사용 조사가 ‘개인 사용(personal use)’을 단일 범주로 처리할 때, 남성의 개인 사용(코딩 사이드 프로젝트, 투자 리서치)과 여성의 개인 사용(식단 계획, 육아 보조, 코디 조언, 감정적 지원)이 무차별적으로 하나의 양동이에 담긴다. 여성의 생활형 AI 사용은 존재하지 않는 것이 아니라 측정된 적이 없을 뿐이다.

6.4연령 및 경제 수준의 분화

VIIAIGC와 인간 정보 수용 시스템의 구조적 불일치

7.1알고리즘 정렬 vs. 인간 정렬

AIGC의 핵심적 한계는 그것이 알고리즘에 정렬되어 있지(aligned with algorithm), 인간에 정렬되어 있지 않다(not aligned with human)는 점이다. 생성형 AI의 훈련 목적 함수는 주어진 입력에 대해 확률이 가장 높은 출력을 산출하는 것이며, 대규모 훈련 데이터에서 ‘확률이 가장 높은 것’의 의미는 바로 중위수 표현(median expression)이다.

그러나 인간의 정보 수용 시스템이 필요로 하는 것은 정확히 중위수가 아니다. 분포의 꼬리—예상 밖의 감정을 건드리는 콘텐츠—야말로 주의를 유지하고 감정적 참여를 형성하는 핵심이다. 210만 WeChat 사용자를 대상으로 한 무작위 현장 실험에 따르면, 알고리즘 추천은 특정 조건에서 동료 공유보다 사용자의 새로운 콘텐츠 참여도를 더 효과적으로 높일 수 있다.^[36] 그러나 플랫폼의 상업적 논리(체류 시간과 클릭률의 극대화)는 알고리즘을 이미 검증된 동일한 패턴을 반복 추천하는 방향으로 훈련시킨다.

7.2배포 동질화와 생산 동질화: 이중 원죄의 구분

여기서 핵심적인 분석적 구분이 필요하다. AIGC의 폭발 이전부터, 클릭률 중심의 추천 알고리즘은 이미 정보 고치(information cocoon)와 콘텐츠 동질화를 만들어 왔다. Sunstein은 이미 2001년에 이 추세를 경고했으며,^[45] Pariser의 ‘필터 버블’ 개념은 2011년에 이를 널리 알렸다. 동질화의 모든 책임을 AIGC의 ‘생성’ 단계에 귀속시키는 것은 귀인 오류이다.

정확히 말하면, 현재 정보 생태계가 직면한 것은 두 층위의 동질화가 중첩된 것이다:

AIGC가 가져온 진정으로 새로운 문제는 동질화 자체가 아니다—그것은 추천 알고리즘의 오래된 질병이다—동질화를 배포층에서 생산층으로 진전시킨 것이다. 추천 알고리즘 시대에 정보 풀 자체는 여전히 다양성을 유지하고 있었으며, 개별 사용자가 좁아진 추천 통로에 갇혔을 뿐이다; 이론적으로 사용자는 능동적 검색이나 플랫폼 전환을 통해 ‘돌파’할 수 있었다. 그러나 신규 콘텐츠의 절반 이상이 AI에 의해 생성될 때, 추천 알고리즘이 완전히 무작위화되더라도 사용자는 여전히 통계적 중앙값에 의해 포위될 것이다—정보 풀 자체의 다양성이 이미 원천에서 압축되었기 때문이다. 두 층위의 동질화 중첩은 곱셈 효과를 산출하여 소비자가 포화 임계값에 도달하는 속도를 극적으로 가속화한다.

7.3사용자 요구의 시간적 표류 vs. AI 템플릿의 정적 고정

Fei, Ke, Wang(2025)은 《Journal of Business Research》에서 5개 연구를 통해, 소셜 미디어 콘텐츠의 동질화 인식이 소비자의 교차 영역 조급함(cross-domain impatience)을 촉발한다는 것을 확인했다.^[37] 동질화를 인식한 소비자는 웹페이지 로딩에 대한 인내심이 감소하고, 특급 배송에 추가 비용을 지불할 의향이 증가하며, 지연된 보상보다 즉시 보상을 선호하는 경향을 보였다—그 매개 메커니즘은 ‘시간 낭비감(perceived time waste)’이다.

이 발견은 핵심적 통찰을 드러낸다: 알고리즘이 최적화하는 것은 ‘과거의 사용자’이고, AIGC가 훈련받는 것은 ‘과거의 데이터’이지만, 인간은 항상 ‘다음 순간의 기대’ 속에 산다. 이 시간 차원에서의 근본적 불일치야말로 AIGC가 인간의 정보 수용 시스템에 적합하게 작동할 수 없는 궁극적 이유이다.

7.4과학 연구에 대한 영향: 양의 폭발과 질의 수렴

동질화 위기는 과학 연구 분야에서도 마찬가지로 심각하다. 《Science》(2025)는 1980년부터 2025년까지 4,100만 편 이상의 논문을 분석한 연구를 보도하며, AI 도구가 과학을 ‘과학적 단일문화(scientific monocultures)’로 몰아갈 수 있다고 경고했다—특정 방법, 질문, 관점이 모든 것을 지배하고 대안은 주변화된다. “과학에서 AI 도구의 확산은 우리가 더 많이 생산하되 더 적게 이해하는 탐구의 시대를 열 수 있다.”^[38]

İlter(2026)는 AI 분야 종설 논문 50편의 5,514개 인용을 법의학적으로 감사한 결과, 그중 17%가 ‘유령 인용(phantom citations)’—어떠한 실재하는 디지털 객체로도 추적할 수 없는 인용—임을 발견했다.^[39] 이는 AIGC 동질화의 극단적 표현이다: 존재하지 않는 문헌의 조작은 통계적 중앙값의 환각적 재생산에 불과하다.

7.5플랫폼의 자기 수정: 강제 퇴출이 진행 중이다

본 논문의 ‘강제 퇴출’ 명제는 순수 이론적 추론이 아니다—플랫폼 수준의 퇴출 조치가 이미 실행되고 있다. 2026년 1월, YouTube는 AI를 활용하여 대량으로 콘텐츠를 생산한 16개 채널을 파트너 프로그램에서 제거했으며, 이들 채널은 누적 47억 회 조회수와 연간 약 1,000만 달러의 수익을 보유하고 있었다. YouTube CEO Neal Mohan은 명확히 밝혔다: “AI는 유용한 도구이지만, 핵심은 반드시 인간 창작으로 남아야 한다. 만약 영상이 기계가 기계를 위해 만든 것처럼 보인다면, 그것은 매장될 것이다.”^[48]

TikTok의 집행 강도도 급격히 강화되었다. 2025년 하반기에 TikTok은 51,618개의 합성 미디어 비디오를 삭제했으며, AI 콘텐츠 삭제율은 2024년 대비 340% 증가했다. 정적 AI 아바타를 사용하는 비디오는 실제 인물이 출연하는 콘텐츠보다 알고리즘 배포가 47% 낮았다. 플랫폼은 ‘교육과 시정’에서 ‘처벌과 억제’로 전환했다—표시하지 않은 AI 콘텐츠는 경고 대신 즉각 조치를 받으며, 3회 위반 시 수익화 금지, 5회 위반 시 계정 종료에 직면한다.^[49]

이러한 플랫폼 조치는 두 가지 핵심적 시사점을 제공한다. 첫째, 강제 퇴출은 소비자에 의한 상향식(bottom-up)뿐만 아니라 플랫폼에 의한 하향식(top-down)으로도 시작된다—플랫폼은 AI Slop이 사용자 체류 시간 하락을 초래함을 감지한 후, 상업적 생존의 자기 보존 본능에서 능동적으로 정화에 나선다. 둘째, 플랫폼 간의 동적 게임은 ‘소비자의 전면적 회피’ 이전에 부분적 생태 재균형을 달성할 수 있다. 그러나 이 재균형에는 한계가 있다: 플랫폼은 식별된 AI 저품질 콘텐츠를 강등하거나 삭제할 수 있지만, 분산 압축에 의해 이미 파괴된 정보 풀의 다양성을 복원할 수는 없다—§7.2에서 분석한 생산층 동질화 문제는 배포층 개입의 사정거리 밖에 있다.

VIII논의 및 시사점

8.1인간 면역 반응으로서의 혐오

본 논문이 종합적으로 검토한 증거에 따르면, AIGC에 대한 소비자 혐오는 비합리적 반응이 아니라 인간 인지 시스템의 정상적 면역 반응이다. Zajonc의 단순 노출 효과, Bornstein의 포화 한계, Downs의 주의력 주기, Gurr의 이슈 피로 모델 모두 동일한 방향을 가리킨다: 인간의 뇌는 정보 환경의 다양성 수준을 지속적으로 모니터링하며, 해당 수준이 임계값 이하로 떨어지면 회피 행동을 촉발한다.

이 관점에서, NotebookLM 팟캐스트 채널을 차단하고 AI 생성 콘텐츠를 능동적으로 회피하는 소비자 행동은 정보 생태계 다양성을 보호하는 자연선택 메커니즘의 작동이다. 문제는: 개별 소비자의 면역 반응이 AIGC의 생산 속도를 따라갈 수 있는가이다.

8.2조사 방법론적 시사점

현재의 AI 사용 조사에는 구조적 편향이 존재한다. ‘업무 vs. 개인’이라는 이분법 프레임워크는 생활형 AI 사용—식단 계획, 코디 조언, 육아, 감정적 지원, 건강 상담 등—을 체계적으로 비가시화한다. 중국 시장 데이터(더우바오의 생활 밀착형 기능, AI 감정 동반 앱의 70~80% 여성 사용자)는 이 맹점의 규모를 드러낸다.

향후 조사 설계에서는: (1) ‘개인 사용’을 구체적 생활 시나리오로 분해해야 하며; (2) 일상적 미디어 소비 중 AI 콘텐츠에 수동적으로 노출되는 경험을 포착해야 하며; (3) 동질화 인식에서 행동적 회피까지의 전체 과정을 성별, 연령, 경제 수준별로 추적해야 한다.

8.3생성형 AI에서 혁신형 AI로

기술적 측면에서, 일부 연구자들은 이미 생성형 AI(GenAI)에서 혁신형 AI(InAI)로의 전환 로드맵을 제안했다. 현재 생성 모델의 근본적 한계는 자율적 문제 해결과 혁신이 아닌 패턴 복제에 의존한다는 점에 있다.^[40] 또한, ‘다양한 AI 페르소나(diverse AI personas)’를 활용한 실험 증거에 따르면, 이러한 접근법이 집단 수준의 동질화를 일정 정도 완화할 수 있다.^[5] ‘AI 프리즘–역설 다리’ 프레임워크는 보다 낙관적인 가능성을 제시한다—초기의 분산 압축이 후속의 교차 영역 재조합적 혁신의 필요 전제일 수 있으며, U자형 시간적 역학을 보인다는 것이다.^[41]

8.4실증적 검증을 향하여: AI 콘텐츠 혐오 지수(ACAI) 조작화 프레임워크

본 논문의 이전 분석은 주로 이론적 종합과 현상 기술 수준에 머물러 있다. 핵심 명제를 실증적으로 검증 가능하게 하기 위해, 이 절에서는 ‘AI 콘텐츠 혐오 지수(AI Content Aversion Index, ACAI)’의 조작화 프레임워크를 제안하여, ‘소비자 혐오’를 모호한 기술적 개념에서 측정 가능한 다차원적 구성개념으로 전환한다.

ACAI 프레임워크의 설계 의도는 본 논문의 이론적 사슬(패턴 노출 → 포화 → 감정 → 행동 → 신뢰)의 각 고리를 정량화 가능한 지표에 대응시키는 것이다. 이 중 생리적 지표(피부 전도도, 심박 변이도)는 실험실 환경이 필요하므로 소규모 검증 실험에만 적합하며, 대규모 측정은 플랫폼 행동 로그(이탈률, 체류 시간, 차단율)와 온라인 설문을 주요 수단으로 해야 한다. 또한 ‘분산 압축’ 자체는 다음의 계산 지표로 조작화할 수 있다: 임베딩 코사인 유사도(의미 수준), 유형-토큰 비율 / 어휘 엔트로피(어휘 수준), 주제 분포 엔트로피(주제 수준), 감정 곡선 유사도(서사 수준). 향후 연구는 ACAI 프레임워크를 활용하여 서로 다른 인구 집단을 다양한 동질화 수준의 AI 콘텐츠 스트림에 노출시키고, 각 차원의 반응 임계값과 시간 역학을 체계적으로 측정함으로써 본 논문이 제안한 가설을 검증(또는 반증)할 수 있을 것이다.

8.5가장 강력한 반론과 대응

어떤 단방향 논증이든 확인 편향의 위험을 수반한다. 이 절에서는 세 가지 가장 강력한 반론에 강철인간화(steelmanning)를 적용하고, 본 논문 프레임워크 내에서 대응을 제시한다.

IX결론: 미적 다양성에 정렬하라, 그렇지 않으면 강제 퇴출된다

본 논문의 전체 논증은 하나의 궁극적 판단으로 수렴한다: AIGC가 인간 미적 감각의 동적 변화와 다양성 요구에 정렬하지 못할 경우, 인간 소비 시장의 자연선택 메커니즘에 의해 강제 퇴출될 것이다.

이 판단의 기저에 놓인 인과 사슬은 앞선 각 장에서 고리별로 구축되었다. 자유 에너지 원리는 새로움에 대한 인간의 추구가 선호가 아닌 신경계의 구조적 요구임을 밝혔다(§2.4). 모델 붕괴와 분산 압축은 현재의 AIGC 아키텍처가 통계적으로 이 요구를 충족할 수 없음을 입증했다(§3.1–3.4). 건설적 동질화의 변증법은 이 위기가 창의형 매체에 엄격히 한정됨을 보여주었다(§3.5). NotebookLM과 AI Slop 사례 연구는 불일치 시 실제로 발생하는 소비자 반응을 전시했다(§4). 메타인지의 구조적 비대칭은 인간 창작자는 자기 수정이 가능한 반면 AI는 불가능한 이유를 설명했다(§5). 인구통계학적 분석은 어떤 인구 집단이 퇴출 신호를 가장 먼저 발동하는지를 밝혔다(§6). 이중층 동질화의 곱셈 효과는 퇴출 압력이 왜 가속적으로 도래하는지를 설명했다(§7.1–7.4). 그리고 YouTube의 16개 AI 채널 퇴출과 TikTok의 AI 콘텐츠 삭제율 340% 증가는—강제 퇴출이 이론적 추론이 아니라 현재 진행 중인 시장 현실임을 증명한다(§7.5).

생성형 AI는 강력한 ‘평균 상승기(mean elevator)’이면서 동시에 ‘분산 압축기(variance compressor)’이다. 모든 출력을 중상 수준으로 끌어올리지만, 그 대가는 분포의 양 끝을 소멸시키는 것이다. 실용형 매체에서 이러한 압축은 효율의 비약이다; 창의형 매체에서 이러한 압축은 존재론적 위협이다. 온도 샘플링, RLHF 등의 기술적 수단은 이론적으로 개별 출력의 다양성을 증가시킬 수 있지만, 상업적 배포의 안전 제약과 수억 사용자 규모에서의 집합적 통계 효과는 분산 압축이 현행 아키텍처 하에서 여전히 불가피한 현실임을 의미한다.

소비자 혐오는 단일 경로를 따르지 않는다. ‘너무 비슷한 것’은 텍스트와 오디오 영역에서 포화–권태 메커니즘을 통해 점진적 거부를 촉발하고, ‘너무 기괴한 것’은 이미지와 비디오 영역에서 불쾌한 골짜기 효과를 통해 즉각적 혐오를 촉발한다. 두 경로는 서로 다른 방향에서 AIGC가 인간에게 수용될 수 있는 창을 공동으로 압축한다. 더 나아가, 추천 알고리즘의 배포층 동질화와 AIGC의 생산층 동질화가 중첩되어 곱셈 효과를 형성하며, 소비자가 포화 임계값에 도달하는 속도를 어떤 단일 요인으로도 설명할 수 없을 만큼 가속화한다.

본 논문이 제안한 AI 콘텐츠 혐오 지수(ACAI)와 분산 압축 조작화 지표는 ‘강제 퇴출까지의 거리’를 측정하기 위한 실증적으로 검증 가능한 도구를 제공한다. 반론의 강철인간화 분석(§8.5)은 ‘적응 주기론’, ‘시장 효율론’, ‘구분 소멸론’ 모두 핵심 명제를 근본적으로 흔들 수 없음을 보여준다—왜냐하면 이들 모두 하나의 단순한 사실을 과소평가하기 때문이다: 인간 뇌의 예측 부호화 시스템은 정보 이득이 제로인 입력에 ‘적응’하지 않는다. 마치 산소 결핍에 ‘적응’하지 않는 것과 같다. 새로움에 대한 요구는 문화적 구성물이 아니라 신경 아키텍처의 경성 제약이다.