Muchas gracias por plantear un tema tan interesante. Tengo muchas cosas que decir, pero intentaré ser breve.
Me gustaría compartir algunas cuestiones que me parecen muy interesantes. Espero que a ustedes también. No hay consenso entre los profesionales sobre la definición de inteligencia artificial (IA). Existen algunas definiciones genéricas y vagas, pero no hay una definición clara que utilice todo el mundo. Si nos atenemos a algunas de ellas, una calculadora podría ser IA, aunque la mayoría no la considere como tal.
Otra cuestión que me gustaría comentar es que la IA se basa en modelos de aprendizaje: en la capacidad de aprender y aplicar. Esto significa que debe haber una memoria de aprendizaje. En nuestro campo, esto resulta complicado, ya que la mayoría de datos que utilizamos se consideran altamente sensibles. Asimismo, no está claro/definido con quién(es) se pueden compartir, ni quien(es) es su(s) responsable(s). Esto es particularmente cierto en el caso de organizaciones o agencias que trabajan con gobiernos.
También me gustaría subrayar la ausencia de regulación para la IA, que entraña un riesgo considerable. Esto nos lleva a algunas consideraciones éticas sobre la introducción de la IA:
¿Puede la población afectada dar su consentimiento para la utilización de sus datos para alimentar la IA?
¿Cómo se puede introducir la IA de forma segura en las organizaciones?
¿Dónde ponemos el límite y cómo aseguramos que no es vigilancia?
¿Cuáles son los riesgos de introducir la IA y quién(es) los asumirá(n)?
¿Qué hemos aprendido de experiencias anteriores?
¿Cuáles son las limitaciones de la introducción de la IA?
Además, deberíamos preguntarnos qué esperamos obtener realmente de la IA y si ésta es absolutamente necesaria.
Hasta la fecha, diversas organizaciones han intentado adoptar con éxito algunas formas de IA de forma segura. Creo que también podemos aprender muchas cosas de estas experiencias. Algunos enlaces:
Además, incluyo a continuación algunos artículos que me han resultado útiles para apoyar el pensamiento crítico. Espero que también les resulten útiles a ustedes.
RE: Artificial intelligence in the context of evaluation
Estimada Muriel,
Muchas gracias por plantear un tema tan interesante. Tengo muchas cosas que decir, pero intentaré ser breve.
Me gustaría compartir algunas cuestiones que me parecen muy interesantes. Espero que a ustedes también. No hay consenso entre los profesionales sobre la definición de inteligencia artificial (IA). Existen algunas definiciones genéricas y vagas, pero no hay una definición clara que utilice todo el mundo. Si nos atenemos a algunas de ellas, una calculadora podría ser IA, aunque la mayoría no la considere como tal.
Otra cuestión que me gustaría comentar es que la IA se basa en modelos de aprendizaje: en la capacidad de aprender y aplicar. Esto significa que debe haber una memoria de aprendizaje. En nuestro campo, esto resulta complicado, ya que la mayoría de datos que utilizamos se consideran altamente sensibles. Asimismo, no está claro/definido con quién(es) se pueden compartir, ni quien(es) es su(s) responsable(s). Esto es particularmente cierto en el caso de organizaciones o agencias que trabajan con gobiernos.
También me gustaría subrayar la ausencia de regulación para la IA, que entraña un riesgo considerable. Esto nos lleva a algunas consideraciones éticas sobre la introducción de la IA:
Además, deberíamos preguntarnos qué esperamos obtener realmente de la IA y si ésta es absolutamente necesaria.
Hasta la fecha, diversas organizaciones han intentado adoptar con éxito algunas formas de IA de forma segura. Creo que también podemos aprender muchas cosas de estas experiencias. Algunos enlaces:
https://www.fao.org/agroinformatics/news/news-detail/fao--ai-and-digital-tools-for-climate-resilient-agri-food-systems--on-the-spotlight-at-the-science-and-innovation-forum-2023/en
https://www.fao.org/vietnam/news/detail-events/en/c/1187477/
https://dref.ifrc.org/fba/
https://jetson.unhcr.org
https://hungermap.wfp.org
Además, incluyo a continuación algunos artículos que me han resultado útiles para apoyar el pensamiento crítico. Espero que también les resulten útiles a ustedes.
https://www.humanitarianstudies.no/resource/data-sharing-between-humanitarian-organisations-and-donors/
https://gh.bmj.com/content/7/Suppl_8/e007249
https://onezero.medium.com/are-aid-agencies-abetting-surveillance-humanitarianism-5bc2b5a78ff6
https://journals.sagepub.com/doi/full/10.1177/2056305119863146
https://international-review.icrc.org/sites/default/files/reviews-pdf/2022-02/biometric-data-flows-and-unintended-consequences-of-counterterrorism-916.pdf
https://journals.sagepub.com/doi/full/10.1177/2056305119863146#fn1-2056305119863146
https://www.thenewhumanitarian.org/news/2019/02/05/un-palantir-deal-data-mining-protection-concerns-wfp
¡Les deseo todo lo mejor en sus intrépidos esfuerzos!