Conocimiento Bóveda 6 /79 - ICML 2022
Concepciones Causales de Equidad y sus Consecuencias
Hamed Nilforoshan · Johann Gaebler · Ravi Shroff · Sharad Goel
< Imagen del Resumen >

Gráfico de Conceptos & Resumen usando Claude 3.5 Sonnet | Chat GPT4o | Llama 3:

graph LR classDef fairness fill:#d4f9d4, font-weight:bold, font-size:14px classDef utility fill:#f9d4d4, font-weight:bold, font-size:14px classDef counterfactual fill:#d4d4f9, font-weight:bold, font-size:14px classDef mathematical fill:#f9f9d4, font-weight:bold, font-size:14px A["Concepciones Causales de
Equidad y sus
Consecuencias"] --> B["Equidad causal:
equidad a través de
razonamiento causal. 1"] A --> C["Igualdad de oportunidades
contrafactual:
tasas iguales en
escenarios contrafactuales. 2"] A --> D["Equidad principal
condicional:
independencia dada
resultados, covariables. 3"] A --> E["Equidad específica de camino:
limita efectos
a lo largo de
caminos causales. 4"] A --> F["Paridad predictiva
contrafactual:
tasas de éxito iguales
si se acepta. 5"] A --> G["Políticas de maximización de utilidad:
maximizar utilidad
dentro de restricciones. 6"] B --> H["Dominancia de Pareto:
preferido por
todos los tomadores
de decisiones. 7"] H --> I["Prevalencia:
generaliza conjuntos
a dimensiones
infinitas. 8"] I --> J["Distribuciones U-finas:
utilidades con
una densidad. 9"] J --> K["Políticas de umbral:
aceptar por encima
de un umbral
de utilidad. 10"] H --> L["Políticas de múltiples umbrales:
umbrales específicos de grupo
de utilidad. 11"] C --> M["Políticas de agotamiento de presupuesto:
usar todo el
presupuesto disponible. 12"] M --> N["Utilidades consistentes:
acuerdo sobre signo,
orden dentro de
grupos. 13"] N --> O["Utilidades superpuestas:
decisiones positivas
en cada
estrato. 14"] O --> P["División de utilidades:
todas las decisiones positivas o
negativas. 15"] D --> Q["Contrafactuales:
resultados potenciales
en escenarios
hipotéticos. 16"] Q --> R["Contrafactuales específicos de camino:
interviniendo a lo largo
de ciertos caminos. 17"] R --> S["Ecuaciones estructurales:
definen relaciones
causales
matemáticamente. 18"] A --> T["DAG causal:
gráfico de
relaciones
causales. 19"] T --> U["Norma de variación total:
métrica para
comparar medidas. 20"] U --> V["Medida de empuje:
medida inducida
por aplicación
de función. 21"] V --> W["Derivada de Radon-Nikodym:
densidad de una
medida con
otra. 22"] A --> X["Continuidad absoluta:
preservación de
asignación de medida
cero. 23"] X --> Y["Medibilidad universal:
conjuntos medibles
bajo todas las
medidas de Borel. 24"] Y --> Z["Conjuntos tímidos:
conjuntos de medida cero
en dimensiones
infinitas. 25"] Z --> AA["Sonda:
subespacio para
detectar conjuntos
tímidos. 26"] A --> AB["Cadenas de Markov:
sistemas que transicionan
entre
estados. 27"] AB --> AC["Clases recurrentes:
estados donde
los sistemas se
atrapan. 28"] AC --> AD["Distribución Beta:
distribución de probabilidad
en 0,1. 29"] AD --> AE["Infra-marginalidad:
persistencia de diferencias
de grupo a pesar
de la igualdad. 30] class B,C,D,E,F fairness class G,H,I,J,K,L utility class M,N,O,P,Q,R counterfactual class S,T,U,V,W,X,Y,Z,AA,AB,AC,AD,AE mathematical

Resumen:

1.- Equidad causal: Definiciones de equidad algorítmica basadas en el razonamiento causal sobre los efectos de los atributos protegidos y las decisiones en los resultados.

2.- Igualdad de oportunidades contrafactual: Requiere tasas iguales de verdaderos/falsos positivos entre grupos en escenarios contrafactuales donde las decisiones se alteran.

3.- Equidad principal condicional: Las decisiones deben ser independientes de los atributos protegidos dados los resultados potenciales y las covariables reducidas.

4.- Equidad específica de camino: Limita los efectos de los atributos protegidos en las decisiones a lo largo de ciertos caminos causales mientras permite efectos a lo largo de otros.

5.- Paridad predictiva contrafactual: Entre los solicitantes rechazados, la proporción que habría tenido éxito si se aceptara debe ser igual entre grupos.

6.- Políticas de maximización de utilidad: Políticas de decisión que maximizan una función de utilidad mientras satisfacen restricciones de equidad y limitaciones de presupuesto.

7.- Dominancia de Pareto: Una política domina en Pareto a otra si es preferida por todos los tomadores de decisiones con una cierta clase de funciones de utilidad.

8.- Prevalencia: Generaliza conjuntos de "medida completa" a espacios de dimensiones infinitas, utilizado para caracterizar propiedades genéricas de distribuciones de probabilidad.

9.- Distribuciones U-finas: Distribuciones de probabilidad donde las utilidades tienen una densidad, evitando problemas con átomos en la distribución de utilidad.

10.- Políticas de umbral: Reglas de decisión que aceptan individuos por encima de un valor umbral de utilidad.

11.- Políticas de múltiples umbrales: Reglas de decisión con umbrales específicos de grupo sobre la utilidad.

12.- Políticas de agotamiento de presupuesto: Reglas de decisión que utilizan todo el presupuesto disponible (por ejemplo, admitir el número máximo permitido de estudiantes).

13.- Utilidades consistentes: Un conjunto de funciones de utilidad que coinciden en el signo y el orden relativo de utilidades dentro de grupos.

14.- Utilidades superpuestas: Cuando una política de umbral no trivial resulta en algunas decisiones positivas dentro de cada estrato de covariables reducidas.

15.- División de utilidades: Cuando una política de umbral resulta en todas las decisiones positivas o todas las decisiones negativas dentro de cada estrato de covariables reducidas.

16.- Contrafactuales: Resultados potenciales bajo escenarios hipotéticos, como resultados si las decisiones o los atributos protegidos fueran diferentes.

17.- Contrafactuales específicos de camino: Resultados al intervenir en atributos protegidos solo a lo largo de ciertos caminos causales.

18.- Ecuaciones estructurales: Funciones matemáticas que definen relaciones causales entre variables en un modelo causal.

19.- DAG causal: Gráfico acíclico dirigido que representa relaciones causales entre variables.

20.- Norma de variación total: Métrica para comparar medidas de probabilidad, utilizada para definir la convergencia de medidas.

21.- Medida de empuje: Medida inducida en el espacio de salida al aplicar una función a una medida en el espacio de entrada.

22.- Derivada de Radon-Nikodym: Densidad de una medida con respecto a otra, utilizada para definir densidades de distribuciones de probabilidad.

23.- Continuidad absoluta: Propiedad donde una medida asigna cero a cualquier conjunto asignado cero por otra medida.

24.- Medibilidad universal: Conjuntos medibles bajo todas las medidas de Borel finitas, utilizados para definir conjuntos tímidos.

25.- Conjuntos tímidos: Generalización de conjuntos de medida cero a espacios de dimensiones infinitas.

26.- Sonda: Subespacio de dimensiones finitas utilizado para detectar conjuntos tímidos.

27.- Cadenas de Markov: Sistemas matemáticos que transicionan entre estados con probabilidades que dependen solo del estado actual.

28.- Clases recurrentes: Conjuntos de estados en una cadena de Markov en los que el sistema eventualmente se atrapa.

29.- Distribución Beta: Distribución de probabilidad continua definida en el intervalo [0,1], utilizada para modelar utilidades en ejemplos.

30.- Infra-marginalidad: Problema donde las diferencias de grupo persisten incluso después de igualar las tasas de decisión debido a la heterogeneidad dentro del grupo.

Bóveda del Conocimiento construida porDavid Vivancos 2024