El Fin del Conocimiento - Bóveda 2 - ICLR (2014-2023)

graph LR classDef main fill:#f9d4d4, stroke:#333, stroke-width:2px, font-weight:bold, font-size:14px; classDef framework fill:#d4f9d4, stroke:#333, stroke-width:2px, font-weight:bold, font-size:14px; classDef ml fill:#d4d4f9, stroke:#333, stroke-width:2px, font-weight:bold, font-size:14px; classDef design fill:#f9f9d4, stroke:#333, stroke-width:2px, font-weight:bold, font-size:14px; classDef analysis fill:#f9d4f9, stroke:#333, stroke-width:2px, font-weight:bold, font-size:14px; A[Jenny Davis
ICLR 2022] --> B[El marco analiza,
diseña sistemas de AA 28] B --> C[Modelo operativo
aclara conexiones 1] B --> D[El marco identifica,
observa, reimagina sistemas 2] B --> E[Herramienta para diseño
crítico e intencional 3] B --> F[El marco especifica características,
resultados de interacción 8] B --> G[El marco articula
mecanismos, condiciones 11] G --> H[Mecanismos: solicitar, demandar,
alentar, desalentar 12] B --> I[Enfoque pluriverso conecta
diseño, efectos 13] A --> J[AA incrustado socialmente
por defecto no inevitable 29] J --> K[Las tecnologías reflejan,
forman elecciones sociales 4] J --> L[Los sistemas de AA aprenden,
cambian, se acumulan 5] J --> M[AA amplifica desigualdades,
difícil de deshacer 6] J --> N[MPS reproduce perfilado racial
a través de AA 21] N --> O[MPS demanda supuestos
vínculos criminalidad-apariencia 22] N --> P[Algunos sistemas de AA
necesitan ser desmantelados 23] J --> Q[Amazon usa AA para gobernar trabajadores 15] Q --> R[Los sistemas permiten monitoreo,
demandan cumplimiento 16] Q --> S[Reimaginar podría apoyar
la dignidad del trabajador 17] S --> T[Cambios: despersonalizar seguimiento,
eliminar tasas 18] A --> U[Análisis, diseño vinculados
AA siempre inacabado 24] U --> V[Afordancias equilibran efectos
de formación, agencia 9] U --> W[Problemas: aplicación binaria,
sujeto universal 10] U --> X[Oportunidades de auditoría, poder
reimaginar equidad 14] X --> Y[Ideas centradas en el trabajador concretizan
movimientos laborales 19] U --> Z[El escrutinio permite intervenciones,
desafía los defectos 7] A --> AA[El punto de vista afecta el análisis
diversidad ausente 25] AA --> AB[Perspectivas marginadas
reconocen realidades nubladas 26] AB --> AC[Involucrar comunidades sistemas
reproducen inequidades 27] AB --> AD[Centrar voces marginadas
desmantelar algunas aplicaciones 30] class A main; class B,C,D,E,F,G,H,I framework; class J,K,L,M,N,O,P,Q,R,S,T ml; class U,V,W,X,Y,Z design; class AA,AB,AC,AD analysis;

Resumen:

1.-La charla discute cómo un modelo operativo de afordancias tecnológicas puede aclarar las conexiones entre las características técnicas y los efectos sociales de los sistemas de aprendizaje automático.

2.-El modelo de afordancia, llamado el Marco de Mecanismos y Condiciones, puede usarse para identificar, observar, reimaginar, reconstruir o desmantelar sistemas de AA según sea necesario.

3.-Tambien puede ser una herramienta para el diseño intencional desde cero de sistemas de AA desde un lugar de análisis crítico.

4.-Las tecnologías son sociales - reflejan y forman normas, valores, patrones y estructuras. Las elecciones de diseño en AA son elecciones sociales.

5.-Los sistemas de aprendizaje automático aprenden, se desarrollan y cambian con el tiempo. Sus efectos pueden acumularse, auto-reforzarse y codificar los mundos sociales en los que operan.

6.-Los sistemas de AA proyectan objetividad y son difíciles de identificar problemas y deshacer. Amplifican desigualdades al aprender de datos sociales desiguales.

7.-Los defectos de aprendizaje automático refuerzan el statu quo y los márgenes, pero los defectos no son inevitables. El escrutinio a través de marcos sistémicos puede permitir intervenciones.

8.-El Marco de Mecanismos y Condiciones de afordancia especifica cómo interactúan las características técnicas y los resultados sociales. Fue introducido en el libro del orador.

9.-Las afordancias son cómo las características de una tecnología afectan sus usos y funciones, tanto utilidades directas como efectos sociales. El término equilibra los efectos de formación de la tecnología y la agencia humana.

10.-Dos problemas limitan el valor analítico de las afordancias: 1) Aplicación binaria (aforda o no) 2) Presumir un sujeto universal (mismos efectos para todos).

11.-El marco corrige estos defectos articulando los mecanismos (cómo la tecnología aforda) y las condiciones (para quién, bajo qué circunstancias).

12.-Los mecanismos indican que las tecnologías solicitan, demandan, alientan, desalientan, rechazan y permiten la acción social. Las condiciones son percepción, destreza, legitimidad cultural/institucional.

13.-El marco asume que no es posible un diseño universal, reenfocándose en un "pluriverso". Hace que los sistemas sean observables y responsables al conectar el diseño y los efectos sociales.

14.-Los analistas pueden usarlo para auditar cómo los sistemas abren/cerran oportunidades y reflejan el poder. Los diseñadores pueden usarlo para reimaginar sistemas que fomenten la equidad, inclusividad, etc.

15.-Ejemplo 1: Los centros de cumplimiento de Amazon usan AA para gobernar a los trabajadores de una manera que descalifica y denigra. Un análisis de afordancia aclara cómo y para quién.

16.-Los sistemas solicitan la discretización de tareas, permitiendo un fácil monitoreo. La gestión y los trabajadores carecen de legitimidad para alterar los sistemas centrados en métricas que exigen cumplimiento corporal/temporal.

17.-Los trabajadores resisten de maneras pequeñas a un costo. Las afordancias todavía fomentan el cumplimiento y el control por defecto. Reimaginar podría apoyar la dignidad del trabajador en su lugar.

18.-Cambios específicos: Despersonalizar el seguimiento a artículos vs individuos. Eliminar/recalibrar tasas de tiempo exigentes. Requerir intervención para cambiar horarios. Recoger diferentes datos, usarlos más respetuosamente.

19.-Estas ideas centradas en el trabajador provienen de movimientos laborales, concretizadas a través de afordancias. Imaginar alternativas establece estándares para el debate y la resistencia que las corporaciones deben enfrentar.

20.-Ejemplo 2: La secuenciación masivamente paralela (MPS), una herramienta policial que infiere ascendencia, género, apariencia a partir del ADN de la escena del crimen. Construye grupos de sospechosos racializados.

21.-Australia no tiene regulaciones sobre el uso de estos datos biométricos; la policía abogó por evitar regulaciones. MPS reproduce el perfilado racial estadístico a través del aprendizaje automático.

22.-MPS demanda integrar carácter y fisiología, alentando vínculos asumidos de criminalidad-apariencia. Desalienta la participación comunitaria. Los acusados carecen de legitimidad para cuestionarlo.

23.-MPS necesita ser desmantelado, no reconfigurado. El análisis crítico de afordancia destaca cuando este es el caso - no todos los sistemas de AA deberían existir.

24.-Dos advertencias: 1) El análisis y el diseño están vinculados - el escrutinio debe apuntar a rehacer o desmantelar. Los objetos de AA son dinámicos, siempre inacabados.

25.-2) El punto de vista afecta los análisis de afordancia. La falta de diversidad en los campos computacionales es un "riesgo de privilegio" - los creadores no pueden anticipar daños a personas diferentes a ellos.

26.-Las perspectivas marginadas son únicamente valiosas para reconocer realidades nubladas. El análisis de afordancia extranjera necesita una lente crítica, mejor utilizada por personas diversas.

27.-El diseño y la auditoría deben involucrar a las comunidades afectadas, acercarse humildemente y estar listos para responder cuando los sistemas inevitablemente aprendan a reproducir inequidades sociales.

28.-La charla introduce el marco de Mecanismos y Condiciones de afordancias como una herramienta para analizar críticamente y diseñar intencionalmente sistemas de aprendizaje automático.

29.-Sostiene que el AA está incrustado socialmente y su diseño tiene grandes implicaciones. Los defectos importan pero no son inevitables. Los marcos sistemáticos pueden permitir intervenciones productivas.

30.-Usar afordancias para reimaginar sistemas requiere centrar las voces marginadas y aceptar la necesidad de a veces desmantelar aplicaciones irredimibles. El AA responsable necesita lentes críticas diversas.

Bóveda de Conocimiento construida por David Vivancos 2024