Ocurre porque los modelos de lenguaje generan el texto más probable, no el más verdadero. No «mienten»: no saben distinguir lo cierto de lo plausible. Por eso conviene comprobar siempre datos, nombres y fuentes.
Un ejemplo cercano: la vista creada con IA de Google llegó a describir el libro Dialogando con el Espejo atribuyéndole una tesis contraria a la de su autor, porque no encontró información y rellenó el hueco.