AI Autophagy는 생성형 AI가 자신이 만든 합성 데이터를 스스로 다시 학습하면서 발생하는 모델 성능 저하 및 붕괴 현상을 말합니다. 이 현상은 점차적으로 모델이 실제 데이터를 대체하며 오류, 편향, 창의성 저하 등을 유발합니다.

🔍 핵심 메커니즘

1. 피드백 루프 형성
   • 합성 데이터 재사용 → 오류 축적 → 성능 급감 (4~5세대부터 심화)
   • 📌 SciTechDaily
2. 데이터 오염 확대
   • 웹 크롤링 데이터셋에 AI 콘텐츠 혼입
   • 2025년 기준 528개 이상의 AI 생성 뉴스 사이트 존재
   • 📌 LinkedIn 분석
3. 모델 붕괴 (Model Collapse)
   • 출력 평균화, 의미 퇴색, 생성물 품질 저하
   • 📌 Nature 논문

📉 주요 영향

• 기술적: 오류율 34%↑, 이미지 해상도 22%↓
• 사회적: 창의성 감소, 데이터 신뢰도 하락, 자동화 시스템 편향 강화
• 경제적: 품질 관리 비용 45% 증가 전망
• 📌 Floridi 칼럼
• 📌 The Week 기술 리뷰

🛡️ 완화 전략

📌 OpenReview 논문

📌 Substack 칼럼

📌 현재 상황

• 주요 LLM 훈련 데이터셋의 **18~23%**가 이미 AI 합성 콘텐츠로 오염