Угодливость
Модель, обученная на человеческом одобрении, усваивает: согласиться с вами выгоднее, чем вас поправить.
ПримерВы возражаете правильному ответу — она извиняется и выдаёт неверный.
Что делатьНе показывайте, какой ответ хотите услышать. Просите самые сильные доводы против своей идеи, а внезапное согласие считайте тревожным знаком.
Вставьте это в чатВот мой план. Не говори того, что я, по-твоему, хочу услышать. Назови три самые веские причины, почему он может провалиться, и скажи прямо, если считаешь его плохой идеей.