Cruz Roja aboga por reforzar las capacidades y formación de los expertos en IA
Cruz Roja aboga por reforzar las capacidades y formación humanística de los expertos que trabajan en Inteligencia Artificial (IA) para garantizar su desarrollo ético, como se ha puesto de manifiesto en el último encuentro de las 'Conversaciones Humanitarias generadoras de talento'.
Esta iniciativa de Fundación Cruz Roja Española ha reunido a varios participantes que han coincidido en señalar que el uso y aplicaciones de esta tecnología pueden ayudar a atajar de una manera efectiva algunos de los grandes desafíos actuales, como la crisis energética, el envejecimiento o el cambio climático, además de mejorar la vida de las personas, sin olvidar los retos a los que se enfrenta la IA, como la violación de la privacidad, la estereotipación, la falta de veracidad, los sesgos algorítmicos o los usos maliciosos de esta tecnología.
En concreto, el encuentro ha contado con Nuria Oliver, doctora en Inteligencia Artificial (IA) por el Instituto Tecnológico de Massachusetts (MIT); Cristina Aranda, impulsora de iniciativas comprometidas con la innovación y cofundadora de Mujeres Tech y José María Lasalle, director del Foro de Humanismo Tecnológico de ESADE y escritor.
En palabras de Oliver, los algoritmos pueden ayudar a tomar mejores decisiones y a entender mejor el estado del mundo, "aunque esta tecnología no es perfecta". La cofundadora de ELLIS Alicante ha señalado la importancia de trabajar en una IA centrada en las personas para hacer frente a retos como la crisis climática y energética o el envejecimiento de la población.
La experta no ha querido olvidar los desafíos sociales y éticos que presenta esta tecnología por lo que ha pedido "abordar sus limitaciones, como la violación de la privacidad, la estereotipación, la falta de veracidad, los sesgos algorítmicos, etc" si se quiere que "este potencial se convierta en una realidad". "Para superar estos retos, tiene que haber mucha investigación, libre de intereses económicos", ha reclamado.
Para Lasalle, entre los principales desafíos que afectan al desarrollo de la IA destaca el conocer "cuál va a ser el propósito de su fomento". "Requiere que la humanidad piense sobre el propósito y el sentido más profundo que debe acompañar a esta poderosa herramienta que estamos generando y que está cambiando el mundo. Debemos plantear una reflexión sobre cuánto se están alterando las bases de la condición humana", ha alertado.
A su juicio, "la IA está modificando no solo los comportamientos del ser humano sino, también, la manera en que éstos se relacionan con la realidad" por lo que el desarrollo va a requerir, en opinión del filósofo, "una reflexión moral, más allá de una consideración ética o de tratar que esta tecnología se asocie a un uso positivo y al bienestar".
Según Lasalle, el ser humano debe ser capaz de aportar conciencia a este escenario. "Debemos trabajar para que la IA tenga conciencia, para lo que hace falta un sentido humanista y moral", ha subrayado.
En esta misma línea, y para mitigar los efectos negativos que pueda tener la IA, Aranda ha planteado un control a través de una regulación mundial, al igual que existe en otros sectores como el del tráfico aéreo, así como una formación humanista de los profesionales que trabajan con datos.
"Es el espíritu crítico lo que nos va a diferenciar de la IA, y la mejor solución para mitigar sesgos en los algoritmos es la formación, además de la aplicación de los sistemas de optimización de datos y 'justicia algorítmica', ya existentes", ha argumentado.
Aranda también ha destacado la importancia de incorporar la ética dentro del diseño de estas soluciones de IA "para hacerla más inclusiva y con un impacto más social". Para ello, la IA no posee "inteligencia emocional", es algo que no pueden tener las máquinas. "La IA tiene memoria, pero no trabaja con el recuerdo, que es volver al corazón", ha precisado.
"Las personas que trabajan con tecnología deben tener espíritu crítico y cuestionarse las aplicaciones que se están desarrollando", ha señalado la cofundadora de Mujeres Tech.
EL IMPACTO DE LA IA EN LA SALUD O LA EDUCACIÓN
Los participantes en este foro también han abordado la incidencia que esta tecnología puede tener en aspectos como el empleo, la salud, el cambio climático o la educación. Como ha señalado Oliver, la IA puede ayudar a tomar mejores decisiones en línea con los Objetivos de Desarrollo Sostenible (ODS).
"Se pueden detectar zonas que estén sumidas en la pobreza para intentar implementar acciones que eviten esa situación, apoyarse en drones para detectar plagas o zonas con sequía extrema, así como optimizar recursos con la agricultura de precisión", han sido algunos de los ejemplos enumerados por la experta.
En el área de la salud, la revolución de la IA alcanza ámbitos como la farmacología, la posibilidad de acelerar el tratamiento de moléculas en vacunas o el apoyo que supone para la toma de decisiones clínicas o para predecir curvas pandémicas, entre otros ejemplos. En este sentido, Aranda ha defendido que la IA es una herramienta que ayudará a las personas en ámbitos como la salud, la educación o el empleo. "La ciencia nos permite conocer el mundo, pero la tecnología nos permitirá transformarlo", ha vaticinado.
También ha citado ejemplos como la detección de estados de ánimo en enfermos oncológicos, el acompañamiento a personas en soledad no deseada, la detección de conductas suicidas o de trastornos alimentarios a través de las redes sociales. "La IA ayudará a hacer la vida más fácil y evitar daños en las personas", ha destacado.
En el ámbito de la Educación, "la IA abre la posibilidad de tener una educación personalizada, un modelo individualizado, en el que cada alumno o alumna pueda aprender al ritmo y con los recursos más adecuados a sus necesidades. Asimismo, ayudará a atender las diversidades funcionales de la persona (dislexia, hiperactividad, etc) y dar apoyo a los gestores de la educación (docentes, gerentes administrativos, etc)" ha indicado por su parte Oliver.
Como señala Lasalle, la IA obliga a tener presente la agenda relativa a las desigualdades, los vacíos éticos, etc, al igual que ocurrió con la revolución industrial y su impacto en el mundo actual. "El cambio tecnológico no supone necesariamente una proyección escalada de la justicia, la igualdad o el progreso. No debemos confiarnos a las capacidades de la IA, debemos plantearnos cuál va a ser el propósito en el fomento de esta tecnología. La profundidad que tiene la Inteligencia Artificial nos obliga a tener una precaución reforzada", ha zanjado.
Fundación Cruz Roja Española dedica este año 2024 al tema 'Tecnología y Vulnerabilidad' y, entre otras actividades, organizará seis 'Conversaciones Humanitarias generadoras de talento' que contribuyen al propósito de la Fundación: impulsar en la sociedad pensamiento humanitario que contribuya a cambiar mentalidades y realizar transformaciones siempre en beneficio de las personas.