Biais cognitifs
  • Humain → IA
  • Croyances
  • Social

Effet ELIZA

Une langue fluide ressemble à de la compréhension, alors nous prêtons intention, émotion et attention à un générateur de texte.

Exemple« Il a dit qu’il était content d’aider. Je crois qu’il me comprend vraiment. »
Que faireProfitez de l’aisance, mais demandez-vous ce que le système peut réellement vérifier ou faire : paraître attentionné n’est pas se soucier de vous.
À coller dans le chatSois franc avec moi : qu’as-tu réellement fait pour produire cette réponse, et qu’est-ce que tu ne peux ni savoir ni vérifier sur ma situation ?

Fait écho àEffet Forer (ou effet Barnum)

SourceWeizenbaum (1966); Placani, AI and Ethics (2024)