Когнитивные искажения
  • Петля
  • Обучение
  • Память

Коллапс модели

Обучаясь на собственных выходах, модель забывает редкое и странное и дрейфует к собственному среднему.

ПримерКаждое поколение пишет глаже и имеет меньше что сказать.
Что делатьНе отказывайтесь от данных, созданных людьми, и помечайте сгенерированное, чтобы его не приняли за настоящее.
Вставьте это в чатОтвечай по первоисточникам, где это возможно, и скажи, какие части ответа — просто распространённые шаблоны, а не то, для чего ты можешь указать источник.

Перекликается сОшибка выжившего

ИсточникShumailov et al., Nature (2024)