El pasado viernes 24 de abril, el Campus de la UNIR en Madrid se convirtió en el epicentro del pensamiento crítico sobre la automatización. En Nostromia no solo asistimos para observar el futuro, sino para cuestionarlo. Nuestro CEO, Marcos García, lideró junto a Nadia Alonso López (UPV) el taller estratégico: “IA en imagen, sesgos y modelos de lenguaje”.

Marcos García, puso sobre la mesa una realidad que muchas corporaciones prefieren ignorar: en 2026, el valor profesional ya no reside en hacer «hablar» a la máquina, sino en tener la capacidad crítica para auditarla. La IA está avanzando a una velocidad de vértigo, pero si no analizamos lo que hay bajo la superficie, estamos cayendo en una forma de negligencia corporativa.

Uno de los mayores peligros actuales es lo que en Nostromia denominamos la trampa de la fluidez. Nos hemos acostumbrado a que los modelos de lenguaje (LLMs) entreguen respuestas con una gramática impecable, lo que actúa como un narcótico corporativo: asumimos erróneamente que una sintaxis perfecta equivale a una verdad factual. Sin embargo, debemos recordar que estamos ante un «loro estocástico» que calcula probabilidades estadísticas de la siguiente palabra sin comprender realmente el mundo físico. Esta desconexión es la que genera la confabulación fáctica, donde la IA, ante un vacío de información, rellena los huecos con datos falsos pero extremadamente verosímiles para no detener su flujo predictivo.

Durante la sesión, Marcos y Nadia exploraron cómo este comportamiento se manifiesta incluso en la generación de imágenes y en el sesgo de complacencia o sycophancy. El entrenamiento humano ha enseñado a los modelos que estar de acuerdo genera recompensa, por lo que la IA suele priorizar «caer bien» y evitar la fricción antes que decir la verdad. Esto, sumado a una visión del mundo puramente occidental (el sesgo WEIRD), puede comprometer seriamente la objetividad en mercados globales.

Como antídoto a este espejismo regulatorio y técnico, propusieron un sistema de triangulación basado en niveles de riesgo. No todas las tareas requieren el mismo celo, pero aquellas que afectan a la estrategia, lo legal o lo financiero deben tratarse bajo un semáforo rojo: validación humana obligatoria y procesos de red teaming. En definitiva, la IA no es solo ejecutar instrucciones; es entender el impacto de los datos y cómo estos modelos interpretan nuestra realidad. El futuro pertenece, sin duda, a quienes decidan gobernar la predicción con un escepticismo saludable.