“El problema no será que la IA piense por nosotros. Será que dejemos de cuestionar sus respuestas.”

Álex Rayón reflexiona sobre datos, inteligencia artificial y criterio humano: por qué saber más no significa comprender mejor y por qué las mejores decisiones siguen empezando por formular mejores preguntas.

En Conversaciones sobre datos hablamos con profesionales que trabajan en la intersección entre datos, tecnología y negocio para entender qué sabemos gracias a los datos, qué seguimos sin poder conocer y qué papel debe conservar el criterio humano.

Primera parteDatos, decisiones y lo que todavía no sabemos

01

¿Qué papel juegan hoy los datos en tu trabajo y en las decisiones que ayudas a tomar?

Los datos son la materia prima de casi todo lo que hago, pero no de la forma en que suele entenderse. No soy analista de datos en el sentido clásico. Mi trabajo consiste en ayudar a organizaciones a formular mejores preguntas, a diseñar procesos de aprendizaje más eficaces y a tomar decisiones estratégicas más fundamentadas. En ese contexto, los datos me sirven para tres cosas: diagnosticar dónde está el problema real —que rara vez es donde el cliente cree que está—, validar hipótesis antes de actuar, y evaluar si lo que hemos hecho ha funcionado o no. Lo que más me ha enseñado trabajar con datos es la humildad: la mayor parte del tiempo confirman que la situación es más compleja de lo que pensábamos.

02

¿Qué sabemos hoy gracias a los datos y qué cosas importantes seguimos sin poder conocer?

Sabemos muchísimo sobre comportamiento y muy poco sobre motivación. Los datos nos dicen qué hacen las personas, cuándo lo hacen, con qué frecuencia y en qué contexto. Pero no nos dicen por qué lo hacen de verdad, qué les importa realmente ni qué estarían dispuestas a cambiar. Esta diferencia me parece crucial en mi trabajo: puedo saber que un equipo no adopta una herramienta de IA, pero los datos no me dicen si es por miedo, por falta de tiempo, por desconfianza en la dirección o simplemente porque nadie les ha explicado para qué sirve. Las causas profundas siguen requiriendo conversación, observación y juicio humano.

Sabemos muchísimo sobre comportamiento y muy poco sobre motivación.— Álex Rayón

03

¿Qué tipo de decisión crees que podría mejorar más si tuviéramos acceso a información diferente o más completa de la que utilizamos actualmente?

Las decisiones sobre talento y aprendizaje. Seguimos tomando decisiones sobre quién aprende qué, cómo y cuándo, con una cantidad de datos sorprendentemente limitada. En el contexto educativo y corporativo, evaluamos a las personas con herramientas diseñadas para otra época y en base a señales que a menudo miden lo que es fácil de medir, no lo que importa. Si tuviéramos acceso a información más rica sobre cómo aprenden realmente las personas, qué contextos les hacen crecer, qué tipo de retos activan su mejor versión, creo que los programas de desarrollo de talento serían radicalmente diferentes. Y mucho más efectivos.

04

¿Dónde crees que debería situarse el equilibrio entre extraer valor de los datos y mantener la privacidad, el control y la confianza de las personas?

En el consentimiento informado y real. No el consentimiento de “acepto los términos y condiciones que nadie lee”, sino el que se produce cuando alguien entiende genuinamente qué datos se recogen, para qué se usan, quién los ve y qué beneficio obtiene a cambio. Hoy el equilibrio está roto porque el intercambio es asimétrico: las organizaciones extraen un valor enorme y las personas reciben, en el mejor caso, comodidad. Creo que la regulación es necesaria pero insuficiente. Lo que realmente cambia el equilibrio es la educación y la cultura: personas que saben hacer preguntas, que entienden el modelo de negocio detrás de cada servicio gratuito y que exigen transparencia. Eso es exactamente lo que intento construir con Kriteria.

05

Si miramos cinco años hacia adelante, ¿qué crees que cambiará en la relación entre personas, empresas y datos?

Creo que veremos tres cambios importantes. Los modelos de IA personal se convertirán en intermediarios entre nosotros y el mundo: nuestros datos no irán directamente a las empresas, sino que pasarán por agentes que actúan en nuestro nombre, lo que cambiará completamente la dinámica de poder. Habrá también una reacción ciudadana significativa frente a la percepción de vigilancia y manipulación: ya la estamos viendo en algunos sectores y se va a intensificar. Y las organizaciones que hayan invertido en cultura de datos real —no en tecnología, sino en personas que saben interpretar y cuestionar— tendrán una ventaja competitiva enorme. Las que se hayan limitado a comprar herramientas, no.

Segunda parteIA, criterio humano y mejores preguntas

06

Con la llegada de la IA generativa, ¿corremos el riesgo de sustituir una dependencia de los datos por una dependencia de las respuestas de los modelos? ¿Dónde debería entrar el criterio humano?

Totalmente. Y es un riesgo más sutil y peligroso que el anterior. Con los datos, al menos podías ver la fuente, cuestionar la metodología, pedir el Excel. Con los modelos de lenguaje, la respuesta llega envuelta en un formato tan convincente, tan bien redactado y tan seguro de sí mismo que la mayoría de las personas no saben por dónde empezar a cuestionarla. El criterio humano debería entrar en el momento más incómodo: cuando la respuesta nos parece perfecta. Ahí es exactamente donde deberíamos preguntarnos qué asunciones está haciendo el modelo, qué perspectivas no está incluyendo y por qué nos resulta tan convincente. La comodidad de una buena respuesta es la señal de alerta, no la señal de seguridad.

El criterio humano debería entrar en el momento más incómodo: cuando la respuesta nos parece perfecta.— Álex Rayón

07

Tu trabajo en Kriteria pone el foco en desarrollar criterio ante la IA. ¿Qué significa realmente “tener criterio” cuando una máquina puede analizar más información y responder más rápido que nosotros?

Significa exactamente eso: saber qué hacer con una máquina que puede hacer más que tú. Tener criterio no es ser más rápido ni procesar más información. Es saber qué preguntar, saber cuándo la respuesta no es suficiente aunque parezca completa, y saber cuándo el problema que tienes no es el que creías que era. La IA es extraordinariamente buena optimizando dentro de los parámetros que le das. El criterio humano está en definir esos parámetros, en detectar cuándo son los equivocados y en cuestionar los resultados cuando algo no encaja con la realidad que conocemos de primera mano. En Kriteria trabajamos esto con jóvenes porque creemos que es una competencia fundamental, no una habilidad técnica. Y porque quien la desarrolle pronto tendrá una ventaja enorme el resto de su vida.

08

¿Crees que las organizaciones suelen fracasar más por falta de datos o por formular mal las preguntas que intentan responder con ellos?

Por formular mal las preguntas, sin ninguna duda. De hecho, la mayoría de las organizaciones con las que trabajo tienen más datos de los que pueden procesar. El problema no es la cantidad de información: es que no saben exactamente qué quieren saber. Y eso es un problema de pensamiento, no de tecnología. He visto empresas invertir cantidades enormes en infraestructura de datos para acabar respondiendo preguntas que nadie se había comprometido realmente a actuar sobre. El dato más valioso no es el más completo ni el más actualizado: es el que está conectado a una decisión concreta que alguien va a tomar de forma diferente si la respuesta cambia.

El dato más valioso no es el más completo ni el más actualizado: es el que está conectado a una decisión concreta.— Álex Rayón

09

¿Hay un punto en el que deberíamos dejar de inferir y empezar a preguntar directamente a las personas? ¿Qué cambia cuando deducimos algo frente a cuando alguien nos lo ha declarado conscientemente?

Sí, y creo que ese punto llega antes de lo que pensamos. La inferencia es seductora porque escala, porque no interrumpe y porque elimina el incómodo momento de tener que admitir que no sabes algo. Pero tiene un problema estructural: confunde correlación con comprensión. Puedes inferir que alguien probablemente quiera comprar un coche porque ha buscado concesionarios tres veces esta semana. Pero no sabes si lo compra para él, para un hijo que acaba de sacar el carnet o si simplemente está haciendo una comparativa para un artículo. La diferencia entre datos inferidos y datos declarados no es solo de precisión: es de naturaleza. Cuando alguien te dice algo conscientemente, hay intención, contexto y responsabilidad compartida en esa información. Eso cambia completamente cómo deberías usarla.

CierreLa pregunta que cierra todas nuestras conversaciones

10

Si pudieras hacer una sola pregunta a todas las personas relevantes para un negocio y obtener una respuesta completamente fiable, ¿qué preguntarías?

“¿Qué es lo que no te atreves a decir en voz alta sobre cómo funciona esto realmente?” Cada organización tiene una narrativa oficial y una narrativa real. La oficial aparece en las presentaciones, en los valores corporativos y en las reuniones de seguimiento. La real vive en los pasillos, en los mensajes de WhatsApp y en las conversaciones de después de las reuniones. La distancia entre ambas es el indicador más honesto de salud organizativa que conozco. Si tuvieras esa información de forma fiable y sin filtros, sabrías exactamente dónde están los problemas reales, quiénes son los verdaderos líderes informales y qué cambios tienen alguna posibilidad real de funcionar.

Las respuestas publicadas corresponden a Álex Rayón Jerez y se presentan respetando el contenido facilitado para esta conversación.