Equidad interseccional

La equidad interseccional significa que los sistemas de IA deben tratar a las personas de forma justa incluso cuando pertenecen a varios grupos marginados a la vez. Por ejemplo, una mujer que también es una persona de color, o una persona mayor con discapacidad. Comprueba esto: Cuando evalúes sistemas de IA, pregunta si se ha comprobado su equidad para distintas combinaciones de identidades, y no solo para una característica a la vez.

La equidad interseccional aborda un punto ciego importante de la equidad en la IA: tratar las categorías demográficas como independientes cuando las personas viven varias identidades a la vez. Las métricas habituales de equidad, como la paridad demográfica o la igualdad de probabilidades, suelen calcularse por separado para la raza, el género, la edad o la condición de discapacidad. Esto supone que la equidad para cada grupo por separado garantiza la equidad para sus combinaciones. Sin embargo, las investigaciones muestran que esto es matemáticamente falso. Los subgrupos donde se cruzan esas identidades pueden sufrir daños amplificados que pasan inadvertidos en las métricas globales.

Piensa en un sistema de reconocimiento facial cuya equidad se evalúa por separado entre grupos raciales (personas blancas, negras y asiáticas) y entre géneros (masculino y femenino). Ambos análisis podrían mostrar tasas de error aceptables. Sin embargo, las mujeres negras, que están en la intersección de esas categorías, suelen sufrir tasas de error muchísimo mayores porque el sistema no se entrenó con suficientes ejemplos de esa combinación concreta. El daño se acumula en lugar de compensarse. Este patrón se repite en distintos ámbitos: algoritmos de contratación que discriminan a mujeres con discapacidad, sistemas de puntuación crediticia que penalizan a inmigrantes de color e IA sanitaria que subestima el dolor de pacientes negros de edad avanzada.

El reto práctico es la explosión combinatoria: el número de combinaciones posibles crece rápidamente. La mayoría de las organizaciones no cuenta con datos representativos de todas esas combinaciones. Esto obliga a hacer concesiones: priorizar ciertas intersecciones según las evaluaciones de riesgo, usar datos sintéticos o técnicas de reponderación, o aceptar que algunos daños pasarán inadvertidos. La práctica recomendada que está surgiendo es la «auditoría interseccional»: evaluar de forma proactiva las intersecciones de mayor riesgo y diseñar sistemas que gestionen sus fallos de forma controlada cuando haya pocos datos, en lugar de perder rendimiento sin avisar.

La interseccionalidad, término acuñado por la jurista Kimberlé Crenshaw (1989), describe cómo las identidades sociales que se superponen crean sistemas combinados de discriminación. En la ética de la IA, este marco revela por qué las métricas de equidad centradas en una sola dimensión no protegen a los grupos que sufren múltiples formas de marginación. Las investigaciones demuestran que las garantías de equidad para subgrupos son matemáticamente independientes de la equidad a nivel de grupo: cumplir esta última no asegura la primera.

• Mitchell et al. (2019): Evaluar la equidad algorítmica solo para cada atributo protegido por separado puede ocultar graves desigualdades en las intersecciones de varios atributos. Presentan la «equidad interseccional» como el requisito de que ningún subgrupo interseccional obtenga resultados peores que el promedio de la población. [1]
• Kearns et al. (2018): Desarrollan técnicas de «multicalibración» para garantizar que las predicciones estén bien calibradas tanto en general como en un número exponencial de subgrupos que se cruzan entre sí. Esto ofrece un enfoque de la equidad interseccional viable desde el punto de vista computacional. [2]
• Buolamwini y Gebru (2018): Descubrieron que los sistemas comerciales de clasificación de género funcionaban casi a la perfección con hombres de piel más clara (tasa de error del 0,8 %), pero fallaban de forma drástica con mujeres de piel más oscura (tasa de error del 34,7 %). Esto demuestra cómo la identidad interseccional agrava el daño algorítmico. [3]

Concepto formal clave: la equidad para subgrupos exige que la tasa de error o la distribución de las predicciones de un modelo cumpla las condiciones de equidad tanto para los grandes grupos demográficos como para todas las combinaciones de atributos protegidos. Es más estricta que la equidad a nivel de grupo y requiere técnicas de auditoría especializadas.

La equidad interseccional se enfrenta a dificultades prácticas y teóricas fundamentales. La escasez de datos es la principal barrera: muchos grupos interseccionales tienen muestras pequeñas, lo que dificulta la validación estadística y puede llevar a incumplir las restricciones de privacidad. La explosión combinatoria de las posibles combinaciones de identidades hace imposible una evaluación exhaustiva. Quienes investigan deben priorizar qué intersecciones auditar, y esa decisión implica juicios de valor sobre qué daños importan más. Algunos académicos sostienen que la equidad interseccional, aunque necesaria, sigue siendo insuficiente si no se abordan las causas profundas del sesgo en los datos de entrenamiento y las estructuras institucionales. Otros señalan que centrarse en soluciones técnicas dentro de los sistemas de IA puede desviar la atención de las desigualdades sociales más amplias que estos sistemas suelen reflejar y amplificar.