¿Qué está pasando con las alucinaciones de la IA?

Las alucinaciones de la inteligencia artificial se han convertido en uno de los principales desafíos del uso de modelos generativos. En este informativo de ¿Qué está pasando con…?, explicamos por qué estos sistemas no funcionan como bases de datos de hechos contrastados, sino como modelos entrenados para predecir la secuencia de texto más probable. Analizamos cómo esta lógica puede llevarlos a combinar información real de forma equivocada o directamente a inventar datos con apariencia de fiabilidad. También repasamos casos detectados en el ámbito jurídico, con citas y sentencias falsas, así como ejemplos en revistas científicas, mercados financieros y sistemas de ciberseguridad. Además, abordamos las medidas que proponen los expertos para reducir el riesgo: instrucciones precisas, datos más limpios, verificación humana y modelos capaces de reconocer cuándo no tienen suficiente información. Únete al informativo y descubre todos los detalles.