Ponente
Descripción
Esta investigación analiza el creciente uso de modelos de inteligencia artificial en ámbitos sensibles, como el patrimonio arquitectónico, destacando dos problemas clave: el alignment y las hallucinations. El primero se refiere al grado en que los modelos, optimizados mediante métricas estadísticas, se ajustan realmente a los criterios y valores de expertos humanos. El segundo alude a errores sistemáticos con alta confianza, como la atribución de rasgos inexistentes o clasificaciones incorrectas, que en el ámbito patrimonial pueden afectar decisiones críticas de catalogación, restauración o difusión. En arquitectura, se han desarrollado avances significativos: sistemas de clasificación automática de estilos mediante redes neuronales y Vision Transformers, reconocimiento de elementos arquitectónicos para generar gemelos digitales y uso de taxonomías en análisis urbano. Sin embargo, el estudio específico del alignment y las hallucinations en estas tareas sigue siendo limitado. Predomina el uso de métricas tradicionales sin analizar si los modelos siguen criterios expertos, no se diferencian errores comprensibles de errores graves, y la participación de especialistas suele ser superficial. La investigación propuesta aborda esta carencia mediante un marco metodológico que combina modelos interpretables y complejos, apoyado en una taxonomía experta de edificios históricos de Madrid. A partir de la experiencia previa en reconstrucción virtual con IA, el equipo identifica la necesidad de centrarse en los errores más que en los aciertos. El objetivo es doble: medir y caracterizar el alignment y las hallucinations, y desarrollar métricas y estrategias de mitigación aplicables a otros contextos patrimoniales.
| Institución | Universidad Francisco de Vitoria |
|---|