Reponderación para la equidad

La reponderación es una técnica de equidad que asigna distintos pesos a los ejemplos de entrenamiento según el grupo al que pertenecen y su resultado. Si las mujeres con préstamos aprobados están poco representadas en tus datos, das más peso a esos ejemplos para que el modelo les preste más atención. Si los hombres con préstamos aprobados están sobrerrepresentados, das menos peso a esos ejemplos. Este ajuste se hace antes del entrenamiento, de modo que el modelo aprende de una versión «más justa» de los datos sin modificar los registros originales. Es como dar más peso a las respuestas de ciertos estudiantes al calificar sus tareas para compensar desventajas anteriores.

Fíjate en esto: la reponderación ajusta la influencia de los datos, no los datos en sí.

La reponderación calcula un peso para cada combinación de atributo protegido, como el género o la raza, y etiqueta de resultado, como aprobado o denegado, contratado o no contratado. Primero, calculas la probabilidad esperada de cada combinación si los datos no tuvieran ningún sesgo. Después, asignas pesos dividiendo la frecuencia esperada entre la observada: los ejemplos que aparecen con menos frecuencia de la que deberían reciben más peso, y los sobrerrepresentados reciben menos.

Durante el entrenamiento del modelo, estos pesos indican al algoritmo cuánto debe tener en cuenta cada ejemplo. Si las mujeres que cumplen los requisitos están poco representadas en tus datos de entrenamiento respecto a lo que cabría esperar en una distribución justa, sus ejemplos reciben un peso proporcionalmente mayor. Los grupos sobrerrepresentados reciben menos peso. El modelo se entrena con los mismos datos, pero aprende patrones de decisión diferentes porque ahora «escucha» con más atención a los grupos que antes estaban poco representados.

Este enfoque se aplica en muchos ámbitos. En la contratación, podrías ajustar el peso de los currículos de personas de grupos poco representados que tuvieron éxito en puestos anteriores para contrarrestar la exclusión histórica. En salud, podrías ajustar el peso de los resultados de los pacientes según su grupo demográfico para evitar que el acceso desigual a la atención sesgue las recomendaciones de tratamiento. En los préstamos, la reponderación puede abordar la discriminación heredada del pasado, por la que ciertos grupos recibían menos préstamos independientemente de su solvencia. La clave es que la reponderación actúa sobre los datos, lo que la hace compatible con casi cualquier algoritmo de aprendizaje automático.

Kamiran y Calders (2012) formalizaron la reponderación como técnica para mitigar el sesgo. Estudiaron técnicas de preprocesamiento de datos, incluida la reponderación, para una clasificación que tiene en cuenta la discriminación, y examinaron las tensiones teóricas entre la exactitud y la no discriminación [1]. El método calcula pesos que igualan entre grupos la distribución conjunta de los atributos protegidos y las etiquetas, lo que crea, en la práctica, un conjunto de entrenamiento «virtual» equilibrado.

• Kamiran y Calders (2012): Las técnicas de preprocesamiento de datos pueden reducir los resultados discriminatorios en tareas de clasificación y conservar la exactitud, en comparación con modelos de referencia sin medidas de mitigación [1].
• Bellamy et al. (2018): AI Fairness 360 incluye la reponderación como uno de sus algoritmos principales de preprocesamiento. Demuestra su eficacia en conjuntos de datos de evaluación crediticia, contratación y justicia penal, con un coste computacional adicional mínimo [2].
• Mehrabi et al. (2021): La reponderación se clasifica como un método de preprocesamiento que aborda el sesgo en los datos. Esto la hace compatible con cualquier clasificador posterior, pero limita su alcance a las disparidades de representación, sin abordar los sesgos de las características [3].

La reponderación tiene limitaciones importantes. Solo aborda el impacto dispar que surge de una representación desigual en los datos de entrenamiento, no el que procede del sesgo de las propias características o etiquetas. Si las etiquetas de resultado están contaminadas por la discriminación humana, como ocurre con evaluaciones de desempeño sesgadas, la reponderación redistribuirá esa injusticia en lugar de eliminarla. El método supone que los atributos sensibles están disponibles y registrados correctamente, lo que plantea problemas de privacidad en algunas aplicaciones. Un punto fundamental es que la reponderación busca optimizar la paridad demográfica, que puede entrar en conflicto con otras definiciones de equidad, como la igualdad de probabilidades o la calibración. También hay una tensión entre equidad y exactitud: la reponderación implica compromisos que pueden afectar al rendimiento del modelo, y los pesos pueden volverse inestables cuando ciertas combinaciones de grupo y resultado son poco frecuentes. Por último, la reponderación es una solución técnica que no aborda las causas profundas de la discriminación en la recopilación de datos o el diseño del sistema.