Biais cognitifs
  • La boucle
  • Apprentissage
  • Mémoire

Effondrement du modèle

Entraîné sur ses propres sorties, un modèle oublie le rare et l’étrange et dérive vers sa propre moyenne.

ExempleChaque génération écrit plus couramment et a moins à dire.
Que faireGardez des données originales, faites par des humains, dans la boucle, et signalez ce qui a été généré pour ne pas le confondre avec le réel.
À coller dans le chatRéponds à partir des sources originales quand c’est possible, et dis-moi quelles parties de ta réponse relèvent de schémas courants plutôt que de quelque chose dont tu peux citer la source.

Fait écho àBiais du survivant

SourceShumailov et al., Nature (2024)