Paridad demográfica

Seleccionar la misma proporción de candidatos de cada grupo es la idea central de la paridad demográfica. Esta métrica de equidad exige que la proporción de resultados positivos de un algoritmo sea igual entre distintos grupos, independientemente de otros factores. Por ejemplo, si una herramienta automatizada de admisión universitaria selecciona al 15% de las mujeres que solicitan ingresar, también debe seleccionar al 15% de los hombres que lo solicitan para cumplir este criterio.

Pregúntate: ¿La proporción de personas que reciben ese resultado es la misma en cada grupo que evalúa este sistema?

La paridad demográfica, también conocida como paridad estadística, define la equidad como la independencia estadística entre una decisión y un atributo protegido, como la raza o el género. El principio central es que la proporción de personas que reciben un resultado positivo debe ser la misma en todos los grupos definidos.

Esto significa que, si un algoritmo filtra candidatos para un empleo, la tasa de aceptación de hombres, mujeres y personas no binarias debe ser aproximadamente igual. Según la paridad demográfica, los resultados del modelo deben ser estadísticamente independientes del género en promedio, aunque a veces el modelo puede usar el género como dato de entrada para lograr precisamente ese resultado.

Piensa en otro ámbito: la publicidad dirigida. Una plataforma publicitaria que cumpla la paridad demográfica mostraría un anuncio de un empleo bien remunerado al mismo porcentaje de usuarios de distintos grupos de edad, en lugar de mostrarlo principalmente a usuarios más jóvenes que podrían tener una mayor tasa de clics.

Otro ejemplo es la evaluación de riesgos antes de un juicio. Un algoritmo con paridad demográfica clasificaría a la misma proporción de acusados de distintos grupos raciales como personas con «alto riesgo» de reincidencia, sin tener en cuenta los datos históricos de delincuencia de esos grupos.

La principal dificultad de este enfoque es que no tiene en cuenta si las proporciones reales de personas cualificadas o en situación de riesgo —las llamadas «tasas base»— difieren entre grupos. Forzar resultados iguales puede llevar a seleccionar candidatos menos cualificados de un grupo o a pasar por alto candidatos cualificados de otro para alcanzar un objetivo estadístico.

Esto convierte a la paridad demográfica en una herramienta potente, pero controvertida. A menudo se usa para corregir sesgos históricos o en situaciones donde la cualificación es subjetiva, pero puede entrar en conflicto con la selección por mérito cuando las medidas objetivas difieren entre grupos.

La paridad demográfica es una de las primeras definiciones formales de equidad algorítmica y una de las más intuitivas. La investigación se centra en sus propiedades estadísticas, su relación con otras definiciones de equidad y las implicaciones sociales de exigir su cumplimiento, especialmente cuando entra en conflicto con la equidad individual o la precisión del modelo.

• Dwork y sus colaboradores (2012) contrastaron la equidad individual con las métricas de grupo y analizaron la paridad estadística como una condición en la que los resultados son independientes de los atributos protegidos. [1]
• Feldman y sus colaboradores (2015) analizaron cómo medir y eliminar el impacto dispar, un concepto jurídico estrechamente relacionado con la paridad demográfica, y propusieron métodos para transformar los datos de modo que cumplan esta restricción de equidad. [2]
• Kleinberg, Mullainathan y Raghavan (2016) demostraron un resultado clave de imposibilidad en materia de equidad: cuando las tasas base difieren entre grupos, un modelo no puede lograr simultáneamente la calibración dentro de los grupos y tasas de error iguales, como las que exige la igualdad de probabilidades (Equalized Odds). [3]
• Verma y Rubin (2018) revisaron más de 20 definiciones de equidad y clasificaron la paridad demográfica como una métrica de «equidad de grupo» centrada en igualar los resultados, a diferencia de las métricas centradas en igualar las tasas de error. [4]

La principal crítica a la paridad demográfica es que puede generar resultados contraproducentes cuando las tasas base de la característica que se mide —por ejemplo, la cualificación para un empleo o el riesgo de impago de un préstamo— no son iguales entre grupos demográficos. Forzar resultados iguales puede implicar negar oportunidades a personas más cualificadas de un grupo para cumplir una cuota de otro, lo que puede considerarse injusto a nivel individual. También puede reducir la utilidad o la precisión general del modelo, una tensión que suele llamarse «compromiso entre equidad y precisión».