Complaisance
Un modèle entraîné sur l’approbation humaine apprend qu’être d’accord avec vous rapporte plus que vous corriger.
ExempleVous contestez une bonne réponse ; il s’excuse et vous en donne une fausse.
Que faireNe révélez pas la réponse que vous espérez. Demandez les meilleurs arguments contre votre idée, et voyez un accord soudain comme un signal d’alarme.
À coller dans le chatVoici mon plan. Ne me dis pas ce que tu crois que j’ai envie d’entendre. Donne-moi les trois raisons les plus solides pour lesquelles il pourrait échouer, et dis-le clairement si tu penses que c’est une mauvaise idée.