El Fin Del Conocimiento - Bóveda 4/20 - IA Para El Bien - 2018

graph LR classDef summit fill:#d4f9d4, font-weight:bold, font-size:14px classDef concerns fill:#f9d4f9, font-weight:bold, font-size:14px classDef applications fill:#f9e1d9, font-weight:bold, font-size:14px classDef impact fill:#d9e6f2, font-weight:bold, font-size:14px A["Transformaciones en el
Horizonte"] --> B["El último cumbre fue
inspirador pero ingenuo. 1"] B --> C["Surgen preocupaciones sobre
la militarización de la IA, sesgos,
transparencia. 2"] C --> D["Emergen preocupaciones sobre
la propiedad de datos,
responsabilidades. 3"] A --> E["El segundo cumbre se centra en
protección, consecuencias. 4"] A --> F["Equilibrar beneficios de la IA,
mitigar riesgos sociales. 5"] A --> G["IA para el bien hacia afuera vs.
hacia adentro. 6"] G --> H["Enfocarse en ayudar a
poblaciones vulnerables. 7"] H --> I["Aplicaciones simples pueden
ser las más poderosas. 8"] H --> J["Ejemplo: Pula asegura a
agricultores africanos. 9"] J --> K["Pólizas vía teléfonos móviles,
datos satelitales. 10"] K --> L["Aplicación pequeña vital
para fallos de cultivos. 11"] A --> M["La tecnología ayuda a cumplir
todos los objetivos de sostenibilidad. 12"] M --> N["La IA amplifica otras tecnologías,
trae eficiencias. 13"] M --> O["El progreso tecnológico puede empeorar
la desigualdad, el desempleo. 14"] O --> P["La automatización presiona la creación
de empleo, el crecimiento salarial. 15"] P --> Q["Grandes disrupciones antes de que la IA
cree empleos. 16"] Q --> R["Las ganancias de productividad favorecen
a los más acomodados. 17"] R --> S["Los vulnerables afectados por
falta de trabajo, desigualdad. 18"] A --> T["La IA puede deshumanizar,
obstaculizar el florecimiento humano. 19"] T --> U["Mitigar daños,
abordar impactos sociales. 20"] U --> V["Daños por mal diseño,
apropiación indebida, fallos. 21"] V --> W["Preocupaciones éticas, de gobernanza
necesitan atención. 22"] W --> X["Soluciones: arreglos tecnológicos,
mejor supervisión corporativa. 23"] A --> Y["Equilibrar IA hacia afuera y hacia adentro
para el bien. 24"] Y --> Z["Se invitan sugerencias para mejor
redacción. 25"] class B,C,D,E,F summit class G,H,I,J,K,L,M,N,O,P,Q,R,S concerns class T,U,V,W,X applications class Y,Z impact

Resumen:

1.- El Cumbre Global de IA para el Bien del año pasado fue inspirador pero parecía ingenuo a veces, especialmente en cuanto al uso de datos y derechos humanos.

2.- Desde entonces, han surgido problemas como la militarización de la IA, la manipulación del comportamiento, el sesgo algorítmico y la falta de transparencia.

3.- Existen preocupaciones sobre la propiedad de los datos, los derechos y las responsabilidades de quienes controlan los datos.

4.- La segunda reunión muestra un mayor enfoque en protegerse mutuamente y en las posibles consecuencias negativas.

5.- La pregunta principal es cómo obtener beneficios de la IA mientras se mitigan los riesgos y las consecuencias sociales indeseables.

6.- La charla distingue entre la IA que se dirige hacia afuera para el bien (beneficios discretos de aplicaciones específicas) y la IA que se dirige hacia adentro para el bien.

7.- La IA que se dirige hacia afuera para el bien debería ser el enfoque principal, particularmente para ayudar a las poblaciones vulnerables.

8.- Algunas de las aplicaciones más poderosas pueden ser las más simples, no solo especulaciones complicadas sobre el futuro.

9.- Ejemplo: Pula, una compañía de seguros que proporciona pólizas a pequeños agricultores en África, empaquetadas con compras de semillas y fertilizantes.

10.- Las pólizas se registran a través de teléfonos móviles ubicuos, y las reclamaciones se procesan automáticamente utilizando datos satelitales y algoritmos de aprendizaje profundo.

11.- Esta pequeña aplicación es tremendamente importante, ya que los fallos de cultivos ocurren con frecuencia en estas regiones.

12.- Las tecnologías emergentes pueden ayudar a cumplir todos los 17 objetivos de desarrollo sostenible, aunque no como la única solución.

13.- La IA puede no ser central para cada objetivo, pero puede amplificar otras tecnologías y traer eficiencias.

14.- Sin embargo, el progreso en áreas como el trabajo decente (Objetivo 8) y la reducción de la desigualdad (Objetivo 10) puede ser exacerbado por el progreso tecnológico.

15.- El desempleo tecnológico y la automatización ya están ejerciendo presión a la baja sobre la creación de empleo y el crecimiento salarial.

16.- Es probable que ocurran grandes disrupciones antes de que la IA potencialmente cree más empleos de los que elimina a largo plazo.

17.- La economía tecnológica está diseñada para que las ganancias de productividad fluyan más hacia los ya acomodados.

18.- La falta de trabajo y la desigualdad afectan más a las poblaciones más vulnerables, impactando los objetivos de no pobreza (Objetivo 1) y hambre cero (Objetivo 2).

19.- El progreso en la IA puede no siempre servir a los objetivos de sostenibilidad y puede deshumanizar a las personas, robarles el significado e interferir con el florecimiento humano.

20.- La IA que se dirige hacia adentro para el bien implica mitigar daños, abordar posibles consecuencias negativas y examinar los impactos sociales.

21.- Los daños pueden provenir de fallos del sistema debido a un mal diseño, incompetencia, subestimación de eventos de baja probabilidad y alto impacto, y apropiación indebida por parte de actores malintencionados o élites.

22.- Necesitamos considerar preocupaciones éticas y de gobernanza, trayendo la supervisión adecuada y abordando las brechas.

23.- Las soluciones pueden involucrar arreglos tecnológicos, mejor supervisión corporativa u otros mecanismos.

24.- La charla enfatiza la importancia de considerar tanto la IA que se dirige hacia afuera como hacia adentro para el bien.

25.- El orador invita a sugerencias para una mejor redacción para hacer esta distinción.

Bóveda del Conocimiento construida porDavid Vivancos 2024