Modelo mental

Pruebas secuenciales y SPRT

Un método para tomar decisiones fiables analizando los datos a medida que llegan y deteniéndote en cuanto reúnes suficiente evidencia.

Descubre

Mito o realidad: para realizar una prueba A/B válida, debes decidir el número exacto de usuarios que vas a incluir *antes* de empezar a recopilar datos.

¿Siempre hay que fijar el tamaño de la muestra?

Veamos cómo cambia esto nuestra forma de reunir evidencia.

Comprende

Comprende

Para ciertos métodos estadísticos, es un mito que debas fijar de antemano el tamaño de la muestra. Las pruebas secuenciales te permiten analizar los resultados a medida que llegan los datos y detenerte en cuanto tienes una respuesta con suficiente confianza. En vez de comprometerte a encuestar a 1.000 personas, revisas cada respuesta para ver si la evidencia es lo bastante sólida como para favorecer una conclusión frente a otra. Es como probar la sopa mientras cocinas: añades sal, remueves, pruebas y repites hasta que queda perfecta, sin fijar de antemano cuántas veces vas a probarla.

Pregúntate: ¿Podría tomar esta decisión con menos información si fuera revisando mi progreso?

Explicación completa

Explicación completa

Las pruebas secuenciales te ofrecen un marco para tomar decisiones en condiciones de incertidumbre sin fijar de antemano el tamaño de la muestra. Esto resulta especialmente útil cuando recopilar datos es costoso o lleva mucho tiempo. El proceso empieza definiendo dos hipótesis contrapuestas (por ejemplo, «La nueva función aumenta la interacción» frente a «La nueva función no tiene ningún efecto») y las tasas de error aceptables para la decisión.

A partir de estos criterios, se establecen dos límites de decisión antes de empezar la prueba. Cada vez que se obtiene un nuevo dato, se actualiza una medida estadística que refleja la evidencia acumulada, normalmente una «razón de verosimilitud». Después, se compara esta medida con los límites fijados.

Si la medida cruza el límite superior, la prueba termina y se acepta la primera hipótesis. Si cruza el límite inferior, la prueba termina y se acepta la segunda. Si se mantiene entre ambos límites, se siguen recopilando datos. Este proceso metódico garantiza que cualquier decisión de detener la prueba antes de tiempo sea estadísticamente válida y no simplemente el resultado de haber consultado los datos demasiado pronto.

Este método permite llegar a una conclusión con el nivel de confianza deseado, a menudo mucho más rápido y con menos recursos que una prueba tradicional con una muestra de tamaño fijo. Por ejemplo, una fábrica puede comprobar sus productos uno por uno. Si los primeros cinco no tienen ningún defecto, la prueba podría indicar que ya se puede detener y aprobar el lote. Del mismo modo, un sitio de comercio electrónico puede probar un nuevo diseño y detener la prueba en cuanto la ventaja de una versión supera un umbral de evidencia definido de antemano, en lugar de esperar a reunir los datos de una semana completa.

Investigación

Investigación

La prueba secuencial de razón de verosimilitudes (SPRT), desarrollada por Abraham Wald durante la Segunda Guerra Mundial, es la prueba estadística más eficiente para decidir entre dos hipótesis, una propiedad que puede demostrarse: requiere el menor número de observaciones en promedio para un nivel de precisión dado. Su principio central, acumular evidencia hasta cruzar un umbral de decisión, ha demostrado ser fundamental en muchos campos.

  • Wald (1945) formuló por primera vez la SPRT para comprobar municiones y mostró que minimiza el número promedio de observaciones necesarias para tomar una decisión en comparación con cualquier prueba de muestra fija con las mismas probabilidades de error. [1]
  • Las empresas tecnológicas actuales usan métodos secuenciales para realizar pruebas A/B a gran escala. En lugar de consultar los resultados sin las precauciones estadísticas necesarias, estos métodos utilizan «valores p siempre válidos» o límites de detención definidos de antemano que permiten un seguimiento continuo y una detención anticipada válida. Esto acelera la innovación al reducir el tiempo necesario para obtener una respuesta fiable. [2] (2017)
  • La investigación en neurociencia sugiere que el cerebro toma decisiones perceptivas de forma similar. Las neuronas parecen acumular evidencia sensorial a lo largo del tiempo, y la decisión se desencadena cuando esta señal alcanza un umbral crítico, siguiendo la misma lógica que el análisis secuencial. [3] (2007)

Limitaciones

Limitaciones

Aunque son eficientes, las pruebas secuenciales tienen limitaciones. Primero, no conoces de antemano el tamaño final de la muestra, lo que puede complicar la planificación y el presupuesto de los experimentos. Segundo, la SPRT clásica está diseñada para elegir entre dos alternativas (A frente a B), y su aplicación se vuelve más compleja cuando hay más opciones. Por último, la duración de la prueba puede ser muy sensible a los primeros datos que llegan: una serie de datos iniciales ambiguos puede, en ocasiones, alargarla innecesariamente.

Fuentes

Fuentes

Pruébalo

Comprueba lo que has entendido

Un equipo está realizando una prueba A/B de una nueva función de una aplicación y quiere elegir una versión ganadora lo antes posible. ¿Qué enfoque es el más adecuado para este objetivo?

Ver la explicación de la guía

Respuesta: Pruebas secuenciales

Las pruebas secuenciales están diseñadas para llegar a una conclusión estadísticamente válida con la mínima cantidad de datos necesaria, por lo que son ideales cuando la rapidez es fundamental.

En una prueba secuencial, ¿qué debes hacer si la evidencia acumulada aún no es lo bastante sólida como para cruzar el límite de «aceptar A» o el de «aceptar B»?

Ver la explicación de la guía

Respuesta: Seguir recopilando más datos

El principio central del proceso es seguir obteniendo observaciones mientras la evidencia permanezca en la zona sin una conclusión clara, entre los dos límites de decisión definidos de antemano.

El consejo habitual de «no consultar nunca los datos antes de tiempo» durante una prueba A/B es una regla necesaria para las pruebas con muestras de tamaño fijo. ¿Por qué puedes saltarte esta regla con los métodos secuenciales?

Ver la explicación de la guía

Respuesta: Porque los métodos secuenciales están diseñados específicamente con reglas estadísticas para el seguimiento continuo y la detención anticipada

En las pruebas tradicionales, consultar los resultados antes de tiempo aumenta las tasas de error. Los métodos secuenciales, en cambio, usan reglas con fundamento matemático, como límites de detención definidos de antemano o valores p siempre válidos, diseñadas para el análisis continuo. Así, detener la prueba antes de tiempo es una característica válida del método, no un fallo.

Sigue explorando

Encuentra otra idea para la decisión que tienes por delante.

Toda la biblioteca de Reframo es de lectura gratuita. Explora otra guía cuando quieras.