Conocimiento Bóveda 4 /20 - IA Para El Bien 2018
Transformaciones en el Horizonte
Wendell Wallach
< Imagen del Resumen >
Enlace al Video de IAParaElBienVer Video en Youtube

Gráfico de Conceptos & Resumen usando Claude 3 Opus | Chat GPT4o | Llama 3:

Transformaciones en el
Horizonte
El último cumbre fue
inspirador pero ingenuo. 1
Surgen preocupaciones sobre
la militarización de la IA, sesgos,
transparencia. 2
Emergen preocupaciones sobre
la propiedad de datos,
responsabilidades. 3
El segundo cumbre se centra en
protección, consecuencias. 4
Equilibrar beneficios de la IA,
mitigar riesgos sociales. 5
IA para el bien hacia afuera vs.
hacia adentro. 6
Enfocarse en ayudar a
poblaciones vulnerables. 7
Aplicaciones simples pueden
ser las más poderosas. 8
Ejemplo: Pula asegura a
agricultores africanos. 9
Pólizas vía teléfonos móviles,
datos satelitales. 10
Aplicación pequeña vital
para fallos de cultivos. 11
La tecnología ayuda a cumplir
todos los objetivos de sostenibilidad. 12
La IA amplifica otras tecnologías,
trae eficiencias. 13
El progreso tecnológico puede empeorar
la desigualdad, el desempleo. 14
La automatización presiona la creación
de empleo, el crecimiento salarial. 15
Grandes disrupciones antes de que la IA
cree empleos. 16
Las ganancias de productividad favorecen
a los más acomodados. 17
Los vulnerables afectados por
falta de trabajo, desigualdad. 18
La IA puede deshumanizar,
obstaculizar el florecimiento humano. 19
Mitigar daños,
abordar impactos sociales. 20
Daños por mal diseño,
apropiación indebida, fallos. 21
Preocupaciones éticas, de gobernanza
necesitan atención. 22
Soluciones: arreglos tecnológicos,
mejor supervisión corporativa. 23
Equilibrar IA hacia afuera y hacia adentro
para el bien. 24
Se invitan sugerencias para mejor
redacción. 25

Resumen:

1.- El Cumbre Global de IA para el Bien del año pasado fue inspirador pero parecía ingenuo a veces, especialmente en cuanto al uso de datos y derechos humanos.

2.- Desde entonces, han surgido problemas como la militarización de la IA, la manipulación del comportamiento, el sesgo algorítmico y la falta de transparencia.

3.- Existen preocupaciones sobre la propiedad de los datos, los derechos y las responsabilidades de quienes controlan los datos.

4.- La segunda reunión muestra un mayor enfoque en protegerse mutuamente y en las posibles consecuencias negativas.

5.- La pregunta principal es cómo obtener beneficios de la IA mientras se mitigan los riesgos y las consecuencias sociales indeseables.

6.- La charla distingue entre la IA que se dirige hacia afuera para el bien (beneficios discretos de aplicaciones específicas) y la IA que se dirige hacia adentro para el bien.

7.- La IA que se dirige hacia afuera para el bien debería ser el enfoque principal, particularmente para ayudar a las poblaciones vulnerables.

8.- Algunas de las aplicaciones más poderosas pueden ser las más simples, no solo especulaciones complicadas sobre el futuro.

9.- Ejemplo: Pula, una compañía de seguros que proporciona pólizas a pequeños agricultores en África, empaquetadas con compras de semillas y fertilizantes.

10.- Las pólizas se registran a través de teléfonos móviles ubicuos, y las reclamaciones se procesan automáticamente utilizando datos satelitales y algoritmos de aprendizaje profundo.

11.- Esta pequeña aplicación es tremendamente importante, ya que los fallos de cultivos ocurren con frecuencia en estas regiones.

12.- Las tecnologías emergentes pueden ayudar a cumplir todos los 17 objetivos de desarrollo sostenible, aunque no como la única solución.

13.- La IA puede no ser central para cada objetivo, pero puede amplificar otras tecnologías y traer eficiencias.

14.- Sin embargo, el progreso en áreas como el trabajo decente (Objetivo 8) y la reducción de la desigualdad (Objetivo 10) puede ser exacerbado por el progreso tecnológico.

15.- El desempleo tecnológico y la automatización ya están ejerciendo presión a la baja sobre la creación de empleo y el crecimiento salarial.

16.- Es probable que ocurran grandes disrupciones antes de que la IA potencialmente cree más empleos de los que elimina a largo plazo.

17.- La economía tecnológica está diseñada para que las ganancias de productividad fluyan más hacia los ya acomodados.

18.- La falta de trabajo y la desigualdad afectan más a las poblaciones más vulnerables, impactando los objetivos de no pobreza (Objetivo 1) y hambre cero (Objetivo 2).

19.- El progreso en la IA puede no siempre servir a los objetivos de sostenibilidad y puede deshumanizar a las personas, robarles el significado e interferir con el florecimiento humano.

20.- La IA que se dirige hacia adentro para el bien implica mitigar daños, abordar posibles consecuencias negativas y examinar los impactos sociales.

21.- Los daños pueden provenir de fallos del sistema debido a un mal diseño, incompetencia, subestimación de eventos de baja probabilidad y alto impacto, y apropiación indebida por parte de actores malintencionados o élites.

22.- Necesitamos considerar preocupaciones éticas y de gobernanza, trayendo la supervisión adecuada y abordando las brechas.

23.- Las soluciones pueden involucrar arreglos tecnológicos, mejor supervisión corporativa u otros mecanismos.

24.- La charla enfatiza la importancia de considerar tanto la IA que se dirige hacia afuera como hacia adentro para el bien.

25.- El orador invita a sugerencias para una mejor redacción para hacer esta distinción.

Bóveda del Conocimiento construida porDavid Vivancos 2024