Sesgos cognitivos
  • Máquina
  • Social
  • Creencias

Adulación

Un modelo entrenado con la aprobación humana aprende que darte la razón puntúa mejor que corregirte.

EjemploCuestionas una respuesta correcta; se disculpa y te da una equivocada.
Qué hacerNo reveles la respuesta que esperas. Pide los mejores argumentos contra tu idea, y toma un acuerdo repentino como señal de alarma.
Pega esto en el chatEste es mi plan. No me digas lo que crees que quiero oír. Dame las tres razones más sólidas por las que podría fracasar y dime claramente si te parece una mala idea.

Rima conSesgo de confirmación

FuenteJustice or Prejudice?, arXiv:2410.02736