El Fin Del Conocimiento - Bóveda 2 - ICLR (2014-2023)

graph LR classDef king fill:#f9d4d4, font-weight:bold, font-size:14px; classDef power fill:#d4f9d4, font-weight:bold, font-size:14px; classDef race fill:#d4d4f9, font-weight:bold, font-size:14px; classDef tech fill:#f9f9d4, font-weight:bold, font-size:14px; classDef justice fill:#f9d4f9, font-weight:bold, font-size:14px; A[Ruha Benjamin
ICLR 2020] --> B[Rey: sobreinversión en tecnología,
subinversión moral. 1] A --> C[Visión binaria de la tecnología: salvador o destructor. 2] A --> D[El poder da forma al aprendizaje automático. 3] D --> E[La raza y la tecnología se moldean mutuamente. 4] A --> F[La imaginación es un campo de batalla disputado. 5] F --> G[Las alertas de delitos moldean percepciones de seguridad. 6] F --> H[Fintech explota a prestatarios mediante algoritmos. 7] F --> I[Las películas ilustran la duplicidad tecno-utópica. 8] F --> J[Historias de 'robots racistas' evolucionan. 9] F --> K[Algoritmo 'neutral en raza' reproduce disparidades. 10] A --> L[Nuevo Código Jim: racismo codificado como progreso. 11] L --> M[Marcos conceptuales: inequidad, discriminación,
exposición, benevolencia. 12] L --> N[Encuestas de reincidencia codifican racismo. 13] L --> O[La vigilancia hace que los grupos sean invisibles
o hipervisibles. 14] L --> P[La diversidad corporativa asegura
que la innovación contenga. 15] L --> Q[La contratación de IA refleja discriminación. 16] Q --> R[Los solicitantes de empleo se sienten deshumanizados,
desarrollan tácticas subversivas. 17] A --> S[La organización de trabajadores tecnológicos desafía
prácticas dañinas. 18] A --> T[Iniciativas de alfabetización racial en tecnología. 19] T --> U[Organizaciones comunitarias avanzan la justicia tecnológica. 20] U --> V[Coalición detiene la policía predictiva en St. Paul. 21] A --> W[Las artes y humanidades son vitales para examinar la tecnología. 22] W --> X[Parodia 'Alerta Temprana de Delitos de Cuello Blanco'
subvierte la vigilancia policial. 23] W --> Y[Proyectos creativos exponen
discriminación incrustada. 24] A --> Z[Cada giro tecnológico es una oportunidad
para tejer nuevos patrones. 25] Z --> AA[La vasta injusticia motiva
a convertirse en 'creadores de patrones'. 26] Z --> AB[Un enfoque histórico puede
codificar justicia. 27] Z --> AC[Tradiciones críticas desarrollan
estrategias de justicia. 28] A --> AD[Apoyar la justicia tecnológica,
incrustar equidad en la innovación. 29] A --> AE[La tecnología justa requiere luchar
con poder, contexto, imaginación. 30] class B king; class C,D,E power; class F,G,H,I,J,K,L,M,N,O,P,Q race; class R,S,T,U,V,W,X,Y tech; class Z,AA,AB,AC,AD,AE justice;

Resumen:

1.-El Dr. Martin Luther King advirtió sobre la sobreinversión en tecnología y la subinversión en desarrollo social y moral. Necesitamos desarrollar la tecnología de manera humana y justa.

2.-Tendemos a ver la tecnología en términos binarios: nos salvará o nos destruirá. Necesitamos reconocer la agencia humana en la configuración de la tecnología.

3.-Las dinámicas de poder, no solo la ética, dan forma al aprendizaje automático. El racismo es productivo, generando cosas de valor para algunos mientras perjudica a otros.

4.-La raza y la tecnología se moldean mutuamente. Las normas y valores sociales preceden e influyen en qué tecnologías se consideran deseables e inevitables.

5.-La imaginación es un campo de batalla disputado que influye en la tecnología y el orden social. Muchos viven dentro de las pesadillas que permiten las fantasías de la élite.

6.-Aplicaciones como Citizen transmiten alertas de delitos, moldeando percepciones de seguridad pública mientras ignoran problemas como la conducción imprudente. Las ansiedades sociales moldean las tecnologías adoptadas.

7.-Los prestamistas fintech en Kenia atraen y explotan a los prestatarios, recolectando datos digitales para inferir carácter. Los algoritmos que puntúan a los individuos moldean significativamente las perspectivas económicas.

8.-La película Sleep Dealer ilustra la duplicidad de las fantasías tecno-utópicas: el fácil acceso para algunos es una pesadilla para otros.

9.-Las noticias sobre "robots racistas" han evolucionado de la sorpresa a la falta de sorpresa a los intentos de superar los sesgos. Diferenciar tecnologías que nos diferencian es un desafío.

10.-Un estudio encontró un algoritmo de atención médica "neutral en raza" que reproduce disparidades raciales al usar costos para predecir necesidades. La indiferencia a la realidad social es perjudicial.

11.-El concepto de Nuevo Código Jim examina cómo el racismo se codifica en la tecnología bajo la apariencia de progreso. Conceptos relacionados incluyen sesgo codificado, algoritmos de opresión.

12.-Cuatro marcos conceptuales: inequidad diseñada (busca amplificar divisiones), discriminación predeterminada (ignora divisiones, reproduce predeterminados), exposición codificada (vigilancia vs inclusión), tecno-benevolencia (aborda el sesgo de manera limitada).

13.-Las encuestas de evaluación de riesgo de reincidencia codifican el racismo estructural sin mencionar la raza. Las entradas daltónicas aún producen salidas sesgadas.

14.-Las tecnologías de vigilancia hacen que los grupos racializados sean invisibles o hipervisibles de maneras que permiten la vulnerabilidad. Surge la resistencia creativa.

15.-El programa Better Off Ted satiriza cómo una ética superficial de diversidad corporativa y la blancura del desarrollo tecnológico aseguran que la innovación produzca contención.

16.-Las herramientas de contratación de IA buscan reducir el sesgo pero pueden reflejar patrones discriminatorios contra solicitantes negros y mujeres. Las soluciones técnicas parecen deseables pero perpetúan daños.

17.-Los solicitantes de empleo se sienten deshumanizados por entrevistas de IA sin transparencia. Algunos desarrollan tácticas subversivas como usar palabras clave invisibles para manipular las evaluaciones automatizadas.

18.-La organización laboral entre trabajadores tecnológicos ha desafiado la colaboración corporativa con prácticas estatales dañinas, conectándose a una historia activista más larga.

19.-Las iniciativas educativas desarrollan la alfabetización racial en tecnología, examinando cómo opera el racismo estructural en las tecnologías y construyendo capacidad para la intervención.

20.-Organizaciones comunitarias como Data for Black Lives y Detroit Community Tech Project avanzan enfoques proactivos hacia la justicia tecnológica a través de políticas y educación de base.

21.-En St. Paul, una coalición organizó con éxito contra un programa de vigilancia predictiva dirigido a jóvenes, disolviéndolo para un enfoque liderado por la comunidad.

22.-Las artes y humanidades son vitales para examinar críticamente las tecnologías. Imaginar realidades alternativas ayuda a ver las injusticias actuales.

23.-Una parodia "Sistema de Alerta Temprana de Delitos de Cuello Blanco" subvierte la vigilancia predictiva al señalar sitios probables de delitos financieros por ejecutivos corporativos.

24.-Los proyectos creativos alteran el statu quo para exponer la discriminación incrustada en las tecnologías al invertir los objetivos comunes.

25.-Si la inequidad está tejida a lo largo de la sociedad, cada giro y código de la tecnología es una oportunidad para tejer nuevos patrones y políticas.

26.-Aceptar la vastedad de la injusticia motiva a convertirse en "creadores de patrones" que crean activamente nuevas posibilidades a través de la tecnología.

27.-Un enfoque ahistórico del aprendizaje automático puede capturar y dañar; un enfoque históricamente y sociológicamente fundamentado puede codificar justicia y empoderamiento.

28.-Las tradiciones intelectuales críticas desarrollan continuamente ideas y estrategias para la justicia que pueden ser aprovechadas en el contexto de nuevas tecnologías.

29.-El orador llama a apoyar las iniciativas de justicia tecnológica y encontrar formas de construir sobre la tradición de incrustar la equidad en la innovación.

30.-Desarrollar tecnología de manera justa requiere luchar con las dinámicas de poder, el contexto social e histórico, y el terreno disputado de la imaginación.

Bóveda del Conocimiento construida porDavid Vivancos 2024