El Fin Del Conocimiento - Bóveda 2 - ICLR (2014-2023)

graph LR classDef social fill:#f9d4d4, font-weight:bold, font-size:14px; classDef platforms fill:#d4f9d4, font-weight:bold, font-size:14px; classDef groups fill:#d4d4f9, font-weight:bold, font-size:14px; classDef issues fill:#f9f9d4, font-weight:bold, font-size:14px; classDef solutions fill:#f9d4f9, font-weight:bold, font-size:14px; A[Timnit Gebru
ICLR 2021] --> B[Redes sociales: acceso desigual a datos,
desarrollo de visiones del mundo. 1] A --> C[Periodistas etíopes y eritreos migran
a Twitter. 2] C --> D[Moderación de Facebook ineficaz para
desinformación, propaganda. 2] A --> E[Twitter no suspende cuentas
con amenazas de muerte. 3] E --> F[Afecta a periodistas, grupos marginados. 3] A --> G[Google Ethical AI destaca
fallos de plataformas. 4] G --> H[Idiomas no ingleses, regiones descuidadas. 4] A --> I[Canal de YouTube marroquí acosa
a activistas sin consecuencias. 5] A --> J[Acción insuficiente de empresas tecnológicas
sobre desinformación, discurso de odio. 6] J --> K[Enfoque en inglés, descuido
de otros idiomas, regiones. 6] A --> L[Datos de plataformas entrenan modelos
de lenguaje, restringen participación. 7] A --> M[Análisis de riesgos de IA debe
centrarse en voces impactadas. 8] M --> N[Experiencia vivida proporciona perspectiva
crucial. 8] A --> O[Comunidad de ética de IA debe
reconocer racismo, sexismo. 9] O --> P[Desestimación de trabajos de
mujeres negras, grupos marginados. 9] A --> Q[Subtítulo de foto antropológica ejemplifica
mirada occidental problemática. 10] Q --> R[Académicos étnicos discutiendo sus
propias comunidades ofrecen mejores alternativas. 10] A --> S[Google desacreditó al equipo de
la Dra. Gebru tras revisión de artículo. 11] S --> T[Despido muestra dinámicas de poder. 11] A --> U[Estudiantes, movimientos estudiantiles exigen
rendición de cuentas. 12] U --> V[Académicos, instituciones demandan prácticas éticas
de socios tecnológicos. 12] A --> W[Artículos no deben ser
censurados por abogados de empresas. 13] W --> X[Conferencias deben rechazar trabajos
censurados como propaganda. 13] A --> Y[Academia carece de verdadera libertad
académica para la mayoría. 14] Y --> Z[Estudiantes, postdocs, profesores jóvenes
temen represalias por hablar. 14] A --> AA[Investigadores deben resistir influencia
corporativa no ética. 15] AA --> AB[Físicos lo hicieron respecto a
desarrollo de armas nucleares. 15] A --> AC[Modelos de lenguaje dañan activamente
a personas, especialmente en regiones impactadas. 16] AC --> AD[Perspectivas de comunidades impactadas
deben ser escuchadas. 16] A --> AE[Análisis de riesgos de IA: escuchar
primero a los más impactados. 17] AE --> AF[No los silencien. 17] A --> AG[La tecnología cambia dinámicas de poder. 18] AG --> AH[Los poderosos ignoran preocupaciones de
los menos poderosos. 18] AH --> AI[Amplificar voces marginadas es crucial
para la rendición de cuentas. 18] A --> AJ[Cambio institucional necesario para
permitir acciones éticas individuales. 19] AJ --> AK[Fortalecer el poder de los trabajadores
permite resistencia. 19] A --> AL[Academia debe cambiar incentivos
para valorar trabajo de datos. 20] AL --> AM[Nuevas pistas en conferencias son
pasos positivos. 20] A --> AN[Empresas carecen de incentivo sin
regulación, responsabilidad legal. 21] AN --> AO[Demandas masivas pueden ser
necesarias. 21] A --> AP[Antropología, historia, sociología ofrecen
marcos éticos de datos. 22] AP --> AQ[Pero inferiores en 'jerarquía
del conocimiento'. 22] A --> AR[Elevar académicos de estos
campos a posiciones de poder. 23] AR --> AS[La industria tecnológica debe
escuchar sus aportes. 23] A --> AT[Dra. Gebru emocionada por
instituto de investigación centrado en mujeres negras. 24] AT --> AU[Proporciona perspectiva alternativa. 24] A --> AV[Analizando evolución del apartheid con
imágenes satelitales, a pesar del largo proceso. 25] class A,B,C,D,E,F,G,H,I,J,K,L social; class M,N,O,P,Q,R,AP,AQ,AR,AS groups; class S,T,U,V,W,X,Y,Z,AA,AB,AC,AD issues; class AE,AF,AG,AH,AI,AJ,AK,AL,AM,AN,AO,AT,AU,AV solutions;

Resumen:

1.-Las plataformas de redes sociales permiten a algunos grupos agregar datos y desarrollar visiones del mundo fácilmente, mientras que otros grupos enfrentan acoso y amenazas de muerte.

2.-Muchos periodistas etíopes y eritreos han migrado de Facebook a Twitter debido a la moderación ineficaz de la desinformación, cuentas falsas y propaganda.

3.-Twitter no suspende cuentas que emiten amenazas de muerte, mientras que suspende cuentas de quienes reciben las amenazas. Esto impacta a periodistas y grupos marginados.

4.-El equipo de Ethical AI en Google buscó resaltar cómo las redes sociales fallan a los grupos marginados en idiomas no ingleses fuera de EE.UU.

5.-Se dieron ejemplos de un popular canal de YouTube marroquí que publica videos de chantaje y documentos privados para acosar a activistas, sin consecuencias por parte de las plataformas.

6.-Las empresas tecnológicas toman acciones insuficientes sobre desinformación y discurso de odio, enfocando esfuerzos en inglés mientras descuidan otros idiomas y regiones.

7.-Sus plataformas y datos se utilizan para entrenar grandes modelos de lenguaje, mientras que las personas en regiones impactadas no pueden participar libremente debido al acoso.

8.-El trabajo que analiza los riesgos y daños de la IA debe centrarse en las voces de las personas más impactadas, no solo en entidades poderosas. La experiencia vivida proporciona una perspectiva crucial.

9.-La comunidad de ética de IA debe reconocer cómo el racismo y el sexismo llevan a la desestimación del trabajo de mujeres negras y grupos marginados.

10.-Compartir un subtítulo de foto antropológica ejemplifica miradas blancas/occidentales problemáticas; los académicos étnicos que discuten sus propias comunidades ofrecen mejores alternativas.

11.-Google siguió un manual para intentar desacreditar al equipo de la Dra. Gebru después de que su artículo pasara la revisión por pares. Su despido muestra dinámicas de poder.

12.-Los estudiantes de pregrado y los movimientos estudiantiles exigen rendición de cuentas. Los académicos y las instituciones necesitan exigir prácticas éticas de las empresas tecnológicas con las que trabajan.

13.-Los artículos no deben ser editados por abogados de empresas para censurar preocupaciones. Las conferencias deben negarse a revisar dicho trabajo censurado como propaganda.

14.-La academia carece de verdadera libertad académica para la mayoría más allá de unos pocos privilegiados. Los estudiantes, postdocs y profesores jóvenes temen represalias por hablar.

15.-Los investigadores tienen la responsabilidad de resistir la influencia corporativa no ética, como lo hicieron los físicos respecto al desarrollo de armas nucleares.

16.-Construir grandes modelos de lenguaje daña activamente a las personas, especialmente en regiones que no se benefician de la tecnología. Las perspectivas de las comunidades impactadas deben ser escuchadas.

17.-Al analizar los riesgos de la IA, el primer paso es escuchar a las personas más impactadas por las consecuencias negativas, no silenciarlas.

18.-La tecnología cambia las dinámicas de poder. Las entidades actualmente poderosas ignoran las preocupaciones de las menos poderosas. Amplificar las voces marginadas es crucial para la rendición de cuentas.

19.-Se necesita un cambio institucional para que los individuos no tengan que sacrificar sus carreras para hacer lo correcto. Fortalecer el poder de los trabajadores permite resistencia.

20.-La academia necesita cambiar las estructuras de incentivos para valorar adecuadamente áreas vitales como el trabajo relacionado con datos. Las nuevas pistas en conferencias son pasos positivos.

21.-Las empresas carecen de incentivo para cambiar prácticas no éticas si no están suficientemente reguladas y responsabilizadas legalmente. Pueden ser necesarias demandas masivas.

22.-Disciplinas académicas como la antropología, la historia y la sociología tienen marcos útiles para analizar problemas de ética de datos, pero son inferiores en la "jerarquía del conocimiento".

23.-Elevar a académicos de estos campos a posiciones de poder, como en el gobierno, es importante para que la industria tecnológica deba escuchar sus aportes.

24.-La Dra. Gebru está emocionada con las propuestas para un instituto de investigación centrado en las necesidades de mujeres negras y comunidades, proporcionando una perspectiva alternativa.

25.-Otro proyecto que le entusiasma analiza la evolución del apartheid espacial en Sudáfrica usando imágenes satelitales, a pesar del largo proceso.

Bóveda del Conocimiento construida porDavid Vivancos 2024