Когнитивные искажения
  • Человек → ИИ
  • Убеждения
  • Социум

Эффект ELIZA

Плавная речь ощущается как понимание, и мы приписываем генератору текста намерение, чувства и заботу.

Пример«Он написал, что рад помочь. Кажется, он меня и правда понимает».
Что делатьНаслаждайтесь гладкой речью, но спросите, что система на самом деле может проверить или сделать: звучать заботливо — не то же самое, что заботиться.
Вставьте это в чатСкажи прямо: что ты на самом деле делаешь, чтобы получить этот ответ, и чего о моей ситуации ты не можешь знать или проверить?

Перекликается сЭффект Форера (эффект Барнума)

ИсточникWeizenbaum (1966); Placani, AI and Ethics (2024)