Una alucinación es una respuesta de IA plausible pero factualmente falsa, producida con seguridad por el modelo.
Se habla de alucinación cuando un modelo genera una información inventada y la presenta como verdadera. El texto parece creíble, pero no se apoya en ninguna fuente fiable.
Este fenómeno proviene del funcionamiento de los LLM, que predicen una secuencia de palabras probable sin verificar la veracidad de sus afirmaciones.
El RAG, la verificación humana y unos prompts bien diseñados permiten reducir en gran medida el riesgo de alucinación.
Nos experts déploient ces concepts dans des solutions concrètes pour votre entreprise.