Sesgos cognitivos
  • Humano → IA
  • Creencias
  • Social

Efecto ELIZA

El lenguaje fluido se siente como comprensión, así que le atribuimos intención, emoción y cuidado a un generador de texto.

Ejemplo«Dijo que le alegraba ayudar. Creo que de verdad me entiende».
Qué hacerDisfruta de la fluidez, pero pregúntate qué puede comprobar o hacer el sistema de verdad: sonar atento no es preocuparse.
Pega esto en el chatSé claro conmigo: ¿qué hiciste realmente para llegar a esa respuesta y qué no puedes saber ni comprobar sobre mi situación?

Rima conEfecto Forer (o efecto Barnum)

FuenteWeizenbaum (1966); Placani, AI and Ethics (2024)